台湾人工智能实验室(Taiwan AI Labs)今日宣布推出代理型AI产品FedGPT AgentTeam平台,主打多专家小模型架构、多模态、可脱机执行且用语高度本地化等特色,还支持MCP协议,能集成企业内外部工具与数据,来更自动化完成作业流程。

代理AI平台3大功能:RAG、微调、自建工作流程

进一步来说,这款FedGPT AgentTeam平台由大型语言模型(LLM)驱动,集成了语音识别(ASR)、文本转语音(TTS)和形象与视觉问答(VLM)等多模态AI模型,能以低程序代码/无程序代码形式提供服务。

台湾人工智能实验室创办人杜奕瑾指出,这款产品的目的,是要将企业内部复杂流程自动化,而产品背后的模型则是以Llama等主流开源LLM为基础,再以收集到的数据来优化为各种基础模型。

比如他们有以1,000亿个Token训练出具备台湾知识的通用模型、以150亿Token优化的具备台湾医疗专业模型,以及用10亿Token训练的台湾金融专用模型等。

就整个FedGPT AgentTeam平台来说,主要有3大功能,包括可以理解企业专属知识的AgentTeam RAG、能让员工训练出符合专业需求大脑的AgentTeam Tuning,以及可用拖拉式创建代理工作流程的AgentTeam Flow。

台湾人工智能实验室核心平台产品总监杜长城解释,AgentTeam RAG可用于专业知识问答,他现场示范,给FedGPT AgentTeam平台一张特斯拉股票走势图,并询问特斯拉首席执行官马斯克与美国总统川普决裂的那天,特斯拉股价变化如何,AI除了根据图中描述给出说明,也会加上图表文本未说明的下跌百分比(如下图)。

又或是给一张自2018年至2024年的每年度可转债成交金额长条图,AI可以给出详细的趋势解读,包括一些年份小幅下降,但整体走势是上涨的(如下图)。

总的来说,AgentTeam RAG支持多格式、多来源、多模态的知识检索与生成,能处理图片、图表、视频、语音、文本等非结构化数据。台湾人工智能实验室补充,AgentTeam RAG也会判断问题难易度,选择最合适的解题方式。

再来,AgentTeam Tuning可支持企业内部专业语境,进行多模态模型微调(fine-tuning),如文本、图表、语音、图片等。杜长城在现场展示,一段背景音嘈杂的护理录音,若没有以专业数据微调,模型无法给出正确的语音转文本答案。而有了专业数据微调,就能识别出专业术语和药物名称(如下图)。这些数据也可依用户需求,导入到医疗资讯系统中。

另一方面,用户也能在后台查看,模型微调前后的差异,并测试、比较版本差异。

用AgentTeam Flow自建发文和查帐工作流程

而AgentTeam Flow是一款流程设计功能,提供低/无程序代码界面,就算没有专业背景的企业员工,也能快速上手,自动化加速跨部门作业。

台湾人工智能实验室产业方案总经理黄佳欣指出,他们自己就用这个功能,来用于公关发文作业。他现场示范,创建一套发稿工作流程(如下图),可细分为内容生成引擎和标题创意萌生想法两大类。在内容生成引擎中,又可分为负责社交媒体贴文的社交媒体小编角色,以及产出正式新闻稿的公关专员。

首先,他们将访谈内容输入在右侧的聊天栏,FedGPT会询问生成样式,如社交媒体贴文还是新闻稿,并根据需求产出相应的文章,接着也能产出候选标题。(如下图)

另一个例子是,台湾人工智能实验室打造的雅婷客服Agent工作流程。黄佳欣解释,早年他们推出雅婷逐字稿服务,随着客户数增加,不少人会打电话询问账单资讯。通常,团队需要手动查询系统,输入账号、查询账单,再告知客户。这个流程繁琐,因此团队决定打造Agent流程来自动化查询。(如下图)

他们将任务分流,包括账号验证、通报和转介真人服务。由于AgentTeam Flow支持MCP协议、作为MCP Client端,能与同样支持MCP的外部工具,比如企业协作工具Slack、Gmail等。在这个例子中,就能将通报结果串联Slack,来传递资讯。

台湾人工智能实验室还预告,未来将支持Agent to Agent(A2A)协议,来互通AI代理的资讯、更精准完成任务。未来,平台也会纳入对更多模型的支持。

产业应用范例:金融客服训练员

杜奕瑾指出,FedGPT模型本身具备强大的本土知识和用语。比如在台湾认知测试中,FedGPT分数高达81.4分(满分100分),远高于中国的千问模型(44.3分)和Deepseek(38.7分),显示模型对台湾语境的理解和使用上有极大优势。

FedGPT目前也已应用在不同领域,如医疗、金融、教育、公部门等,花莲慈济医院、辅大医院、东华大学、台新银行等皆已使用。

在发布会现场,也有一家专攻金融业客服服务的厂商华厚,现场展示一套金融客服训练员,可让金融专员更快上手。这套金融客服训练员背后串联不同LLM,FedGPT也在其中,能扮演顾客角色、分析专员的回答并给建议。(如下图)