大型语言模型Grok是Elon Musk旗下xAI人工智能公司的产物，Elon Musk一直相信Grok将会成为社交平台上主要的新闻来源，但这个想法似乎比他所期望的还要遥远。《华尔街日报》日前报道指美国总统候选人特朗普遇刺后，Grok于生成新闻摘要时一直出现“幻觉”，更发布了与现实不符的假新闻。
报道指Grok声称是现任副总统贺锦丽被枪击，而不是候选人特朗普，而行刺者的资讯也完全失实。尽管调查人员尚未作出确定，Grok却自行编造行刺动机。在某些情况下，这个机器人生成的标题含糊不清，极容易造成误导。现在社交网络充斥着阴谋论和虚假资讯，Grok发布的错误消息只会进一步恶化今年美国大选前的社交网络虚假资讯问题。Elon Musk先前宣布支持特朗普，但他和Grok的开发者xAI仍未就生成假新闻发布声明。自从他将社交网络X转型为“万能应用”，xAI就一直大力推广Grok聊天机器人。
Grok并非首次生成涉及美国政治的虚假新闻，今年6月，网络用户对对最近总统辩论的反应，就被Grok错误生成了加州州长Gavin Newsom赢得辩论的错误摘要。事实上，Newsom据报只是出席了评论，但并没有参与其中。xAI尝试为Grok辩护，称其答案会随着更多资讯出现而逐步改善，又强调AI也有可能犯错。
数据及图片来源：itechpost
