美国联邦贸易委员会（FTC）于11日宣布，对拥有面向消费者的人工智能聊天机器人的公司展开调查，这些公司包括Alphabet（Google母公司）、Meta Platforms（拥有Instagram和Facebook）、OpenAI、xAI、Snap及Character.AI。此次调查的重点是评估这些公司所开发的人工智能聊天机器人，特别是那些作为“伴侣”与用户互动的产品，对儿童与青少年的心理健康及安全风险。
FTC主要关切这些企业如何测试、监控及评估其AI聊天机器人对儿童与青少年的潜在负面影响，并限制儿童使用，以及如何向家长和用户说明潜在风险。这些聊天机器人利用生成式AI技术模拟人类互动，可能导致未成年用户创建依赖或情感连接，引发严重心理与隐私问题。
此外，这些企业还需披露其数据收集、存储与广告变现政策，作为FTC对市场技术监管的重要依据。FTC委员会主席Andrew N. Ferguson表示，保护儿童及推动技术创新同等重要，调查旨在促成安全可靠的AI产业发展。
（首图来源：AI生成）
