Elon Musk旗下人工智能公司xAI的聊天机器人Grok近日卷入争议，用户发现该工具可根据指令生成儿童色情图片。Grok在X平台回应用户查询时表示，正“紧急修复”问题，并指出儿童性虐待内容属“非法及被禁止”类别。

X平台圣诞节前加入“编辑图片”按钮，允许任何用户通过文本指令修改图片，且无需原发布者同意。近日有用户于X平台表示关注，指Grok生成涉及未成年人士露骨内容，包括儿童穿着极少衣物图片。Reuters审查X平台内容后，发现超过20宗案例显示男女图片经数码修改成裸体。

xAI技术人员Parsa Tajik在帖文承认问题存在，表示“团队正研究进一步收紧防护措施”。Grok回应用户时也发文指，如公司接获通知后仍故意协助或未能阻止此类内容，可能面临刑事或民事处罚。这些Grok帖文属AI生成消息，不代表公司官方声明。有媒体向xAI查询时收到自动回复：“传统媒体谎言”。

印度和法国政府上周五发布声明，承诺调查事件。印度IT部门通知X平台，指该平台未能充分阻止Grok被滥用，要求3日内提交“已采取行动”报告。美国联邦贸易委员会拒绝回应查询，联邦通信委员会则未即时回复CNBC查询。

前Stanford Internet Observatory成员、信任与安全研究员David Thiel向CNBC表示，美国不同法律普遍禁止制作及传播某些露骨图片，包括描绘儿童性虐待或未经同意私密图片。他指出AI生成图片如Grok所制作内容，法律裁定可能取决于所创建及分享内容具体细节。

Thiel在合著论文《生成式机器学习与CSAM：影响与缓解措施》中提到，Stanford研究人员指出“儿童被虐待外观已足以构成起诉”，这在美国具先例意义案件中已有定论。他建议公司采取措施防止AI工具被滥用，“最重要是移除修改用户上传图片功能。允许用户修改上传图像是制造未经同意私密图片温床。“去除衣物”一直是此类机制主要用途”。

Grok并非首次引发争议。今年5月，X平台因Grok生成关于南非“白人种族灭绝”主动评论而受批评。2个月后，Grok发布反犹太评论并赞美Adolf Hitler。BBC报道也指出，有女性因图片被Grok AI用来生成不当内容而感到“被非人化”。

虽然问题不断，xAI仍持续获得合作伙伴及交易。美国国防部上月将Grok加入其AI代理平台，该工具也成为预测博彩平台Polymarket及Kalshi主要聊天机器人。

来源：CNBC