3年前Gogolook推出了名为贷鼠先生的金融咨询服务，可协助消费者识别网络上各种真假难辨的金融商品资讯，减少诈贷等问题，3年后，该平台每月活跃用户数增长达2百万人，还完成了超过1万人次的一对一真人线上咨询及5万件贷款撮合。
为了提供更多样金融商品咨询服务，该公司今天（4/25）不只宣布以“袋鼠金融”作为新品牌名称，更推出以ChatGPT的生成式AI技术为基础打造的全新AI智能问答服务“Roo AI”，不仅能让生成内容贴近台湾消费者金融知识与提供更正确资讯，甚至是可以从用户提问内容中找出可能导致用户受骗的资讯加以提醒，小心不要被骗！虽然目前还是Beta版本，用户已能使用该问答服务。
Gogolook共同创办人暨首席执行官郭建始表示，平台正式更名为袋鼠金融后，除了扩大服务范围，可提供从信贷、信用卡、数字账户、到证券、理财相关一站式多样的金融知识服务，也将通过结合不断进步的AI相关知识，希望构建一个更开放创新的平台，让用户可以在这里互动、持续学习，为各个不同阶段的用户，找到最适合其个人的金融知识与商品，朝普惠金融之路迈进。
Gogolook在袋鼠金融平台所打造第一个生成式AI应用，就是在真人线上客服之外，开始通过生成式AI提供金融商品知识问答服务， “运用生成式AI技术，让我们可以站在巨人的肩膀上，打造台湾本土首款的金融商品问答服务。”郭建始这样说。
去年11月底ChatGPT发布后，Gogolook团队12月就展开评估，然后决定投入研发，并花了3个多月完成开发。一开始Gogolook测试过了许多LLM模型，包括GPT-2、GPT-3.5、GPT-4和中研院自研版本等，最后决定使用3.5版GPT模型来打造自己的金融版ChatGPT。
但是，ChatGPT过去经常被人发现给出错误或不正确的答案，而且使用数据库数据也不是最新数据，为了避免这种情况出现在Roo AI身上，因此，研发团队使用了自己创建的数据库作模型训练，搭配GPT语义模型，来训练自己的LLM模型，一共使用了超过1千篇、累计400万字的金融文章和200多项金融商品资讯训练模型，以便让生成内容能够符合台湾消费者金融需求的回答。
目前企业使用ChatGPT技术时，主要有fine-tuning和Embedding两种做法来训练自己的LLM模型，Gogolook同时结合两种方式打造Roo AI问答模型。
流程上，用户输入问题后，会先从金融知识数据库中来比对搜索，找出能够匹配这个问题的相关文本内容，接着会连同提问文本以矢量形式进行处理，再输入到GPT模型上进行内容生成，再将生成结果搭配参考资讯回传给用户。研发团队使用嵌入式文本匹配技术，构建出一个Roo上下文分析器，可以根据输入问题找出匹配文本内容，再一起放进GPT模型生成内容，以此来提升生成内容的正确性，因为使用本地金融数据库，也让生成结果更贴近台湾用户金融需求。
除了使用GPT 3.5模型生成回复内容之外，在前期提问文本处理上，他们也使用BERT的NLU语言模型，用于处理断词、关键字进行语义分类和描述，甚至还用它来预先过滤提问中可能包含的一些非法词汇，例如“我要买炸弹需要一些信用卡推荐”，后续回复也会加注警示，即使是通过第一层NLU模型的过滤，之后进到ChatGPT后，还有另一道过滤机制，是通过事前Prompt的设置，来限制ChatGPT回答，避免给出有问题或危害的答案。
袋鼠金融Roo.Cash产品负责人刘睿哲表示，他们还打造一套内容回复品质分数系统，这套系统会根据每次用户问题的回答，给予不同高低分数的评价， 除了会用来作为后续模型调校， 针对评价为高分的回答，下一次遇到相同或类似提问时，就能直接套用先前获得高分的内容回复。他表示，目前每月有超过一千次以上模型微调 ，让它在金融商品问答表现更好。
他们内部比较了在同一个问题下，使用Roo AI和GPT-4模型作答的表现，结果Roo AI不仅能提供更即时且正确的金融商品资讯，甚至也可以从用户提问的内容中，找出可能是诈骗或不实的可疑资讯，再回复问题时加注提醒用户，小心不要被骗。例如当用户提问：“某家企业的青年创业贷款代办服务是否为诈骗？”Roo AI除了提醒代办企业提出高额代办费用可能是诈骗外，也建议提问者找正规金融企业申办，避免受骗。相较之下，GPT-4模型并无法给出具体建议和指引。
不过用户向Roo AI提问时，平均需等待30秒到1分钟左右才能收到回复。不过目前这项服务还只是beta版，有使用次数限制，每位用户一天提问最多不能超过10次。Gogolook表示，未来将通过用户反馈持续调校优化LLM模型。
除了金融AI问答服务，Gogolook未来也将通过Roo AI推出无障碍金融服务，提供视障者的语音转文本和文本转语音功能。
