马斯克旗下X最近推出的Grok的聊天机器人生成器允许用户通过文本提示生成各种图像，并将其发布到X上。不少网络用户发现Grok可以生成暴力、仇恨或推广危险活动的图像，或引来欧洲委员会的关注。

Grok的聊天机器人生成图像奥巴马持刀威胁拜登（图片来源：The Verge）

订阅了X Premium服务的用户现在可以使用这个名为Grok的聊天机器人生成图像，并分享各种引人瞩目的内容，例如奥巴马持刀威胁拜登，马斯克与米奇老鼠持枪及比尔盖茨吸食毒品。

马斯克与米奇老鼠持枪及比尔盖茨吸食毒品（图片来源：The Verge）

根据Grok的描述，工具设有特定防护措施，例如避免生成色情、过度暴力、仇恨或推广危险活动的图像，并谨慎处理可能侵犯现有版权或商标的内容。网络用户经多次测试后，上述限制似乎只是随机生成的回答，并非真实存在的规则。即使该工具声称会拒绝生成某些敏感图像，用户仍然能够找到漏洞来绕过这些限制。

相比之下，其他AI工具如OpenAI的产品则更为严格，除了拒绝生成涉及真实人物或有争议性内容的图像，还在生成的图像中添加水印。Google也因为过度修正种族和性别刻板印象而暂停其Gemini图像生成功能。欧洲委员会正在调查X是否违反《数字安全法》。而在英国，Ofcom也准备开始执行《网络安全法》。

数据及图片来源：The Verge