在最近的佩利国际理事会高峰会（Paley International Council Summit）上，微软的人工智能部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）表示，微软不会开发色情聊天机器人，并警告这类技术的危险性。

马斯克今年在社交媒体上表示，xAI的AI机器人Grok可能会以年轻女性的形象出现，类似于动漫角色，预计于今年7月推出。上周，OpenAI的首席执行官山姆·奥特曼（Sam Altman）宣布，ChatGPT将很快能够为经过验证的成人用户生成色情内容。奥特曼解释说，这个决定需要年龄验证，并且是出于“将成人用户视为成人”的理念。

随着微软和OpenAI的关系逐渐疏远，对于生成AI聊天机器人色情内容的态度分歧愈发明显。自2019年以来，微软已向OpenAI投资超过130亿美元并提供运算能力，但上个月OpenAI却与微软的竞争对手Oracle签署了一项价值3,000亿美元的运算协议。微软也在开发自己的AI软件，包括计划于秋季推出的Copilot，这是一款为Windows操作系统和Edge浏览器设计的AI助手，承诺提供“以人为本”的AI工具，并添加“Mico”AI伴侣功能，强调互动体验。

苏莱曼曾经对机器意识的概念表示反对，并警告说，能够模仿人类语言和行为的AI系统使得监管变得更加困难，最终应该更好地服务于人类。他在本周的最新评论中重申了这一观点，指出“你可以看到一些虚拟形象和人们倾向于色情机器人的方向，这是非常危险的，我们应该做出有意识的决定来避免这些事情。”

在AI领域之外，许多人也批评OpenAI和xAI将更多色情内容集成到各自的聊天机器人中的决定。亿万富翁投资者马克·库班（Mark Cuban）警告说，如果家长认为孩子可以绕过年龄验证保护，可能会放弃使用ChatGPT，转而选择OpenAI的竞争对手。

乔治城大学安全与新兴技术中心的高级研究分析师杰西卡·吉（Jessica Ji）指出，OpenAI在想象ChatGPT未来能力的过程中处于一个微妙的境地──该公司已收到消费者对应用程序中色情内容的需求信号，但必须在市场利益和向投资者承诺的制造有益于人类的AI产品之间取得平衡。

（首图来源：pixabay）