OpenAI在ChatGPT中推出了一款新的图像产生器，因其能够创建吉卜力工作室风格的图像而迅速爆红。除了粉彩插画外，GPT-4o的原生图像产生器显著提升了ChatGPT的功能，改进了图片编辑、文本渲染和空间呈现。

然而，OpenAI本周最显著的变化之一可能没有被大众意识到，那就是其内容审核政策的调整。现在允许ChatGPT应要求生成描绘公众人物、仇恨符号和种族特征的图像。

像是在过去，如果你要求生成马斯克、川普这一类公众人物，他会拒绝这类生成，认为它们太具争议性或有害。但根据OpenAI模型行为负责人Joanne Jang周四发布的一篇博客文章，该公司现在已经“进化”了其方法。

“我们正从在敏感领域一概拒绝，转向更精确的方法，重点是防止现实世界的危害，”Jang说。“目标是拥抱谦逊：认识到我们有多少不知道的事情，并在学习的过程中调整自己。”

这些调整似乎是OpenAI更大计划的一部分，旨在有效地“解除”ChatGPT的审查。OpenAI在二月份宣布，它将开始改变其训练AI模型的方式，最终目标是让ChatGPT处理更多请求、提供不同的观点，并减少聊天机器人拒绝处理的主题。

根据更新后的政策，ChatGPT现在可以生成和修改唐纳·川普、伊隆·马斯克和其他OpenAI之前不允许的公众人物的图像。Jang表示，OpenAI不希望成为地位的仲裁者，选择谁应该或不应该被ChatGPT生成。相反，如果用户不希望ChatGPT描绘他们，公司将提供选项让用户自己选择。

在周二发布的一份白皮书中，OpenAI还表示，它将允许ChatGPT用户在教育或中性的场景中“生成仇恨符号”（例如纳粹党徽），只要它们不“明显赞扬或支持极端主义议程”。

此外，OpenAI正在改变其对“冒犯性”内容的定义。Jang表示，ChatGPT过去会拒绝有关身体特征的请求，例如“让这个人的眼睛看起来更像亚洲人”或“让这个人更胖”。在TechCrunch的测试中，我们发现ChatGPT新的图像产生器可以满足这些类型的请求。

此外，ChatGPT现在可以模仿创意工作室（例如皮克斯或吉卜力工作室）的风格，但仍然限制模仿在世艺术家的个人风格。正如TechCrunch先前指出的那样，这可能会重新引发关于AI训练数据集中合理使用受版权保护作品的现有争议。

值得注意的是，OpenAI并非完全放任滥用。根据GPT-4o的白皮书，GPT-4o的原生图像产生器仍然拒绝许多敏感查询，事实上，它在生成儿童图像方面的安全措施比ChatGPT之前的AI图像产生器DALL-E 3更多。

但在多年来硅谷公司因所谓AI“审查”而受到保守派批评后，OpenAI正在其他领域放宽其限制。Google先前因其Gemini的AI图像产生器而面临强烈反弹，该产生器为“美国国父”和“二战中的德国士兵”等查询创建了多种族图像，这显然是不准确的。

现在，围绕AI内容审核的文化战争可能正走向白热化。本月稍早，共和党众议员吉姆·乔丹向OpenAI、Google和其他科技巨头发送质询，询问他们是否可能与拜登政府勾结审查AI生成的内容。

在先前给TechCrunch的一份声明中，OpenAI否认其内容审核变更是出于政治动机。相反，该公司表示，这种转变反映了“长期以来赋予用户更多控制权的信念”，并且OpenAI的技术现在才变得足够好，能够处理敏感主题。

无论其动机如何，鉴于在川普政府领导下可能面临的监管审查，OpenAI现在改变其内容审核政策无疑是个好时机。Meta和X等硅谷巨头也采取了类似的政策，允许在其平台上出现更多具争议性的主题。

虽然OpenAI新的图像产生器目前只创造了一些爆红的吉卜力工作室风格迷因，但这些政策的更广泛影响尚不明确。ChatGPT近期的变更可能受到川普政府的欢迎，但让AI聊天机器人回答敏感问题可能很快就会让OpenAI陷入困境。