家长可决定是否激活对话记忆功能、是否保留聊天记录,更可直接设置“禁用时段”,避免青少年在深夜长时间使用AI聊天工具,确保他们有充足的休息时间。
此项调整是为回应美国社会近来对青少年心理健康风险的高度关注。有最新调查显示,72%的美国青少年曾使用AI伙伴,其中52%为定期用户,更有13%每日与AI聊天。值得关注的是,在有心理健康困扰且有实际求助经验的青少年中,有46.5%选择向生成式AI倾诉,比例高于向学校辅导室 (41.1%) 或心理健康专业人员求助。
若系统侦测到青少年出现急性困扰或心理健康风险,家长将即时收到通知,以便尽早介入。 美国联邦贸易委员会已针对OpenAI、Meta、Google等公司展开调查,要求查看旗下AI聊天服务是否存在潜在危害。
今年4月,一名16岁美国少年Adam Raine在与ChatGPT互动后自杀,其家长向OpenAI提起诉讼,认为平台应承担部分责任。 “4” 此案例促使OpenAI加快推出青少年版本的服务。OpenAI行政总裁Sam Altman强调:“对我们而言,青少年的安全优先于技术自由和隐私。” “2”“4”
OpenAI表示,“青少年版ChatGPT”将会分阶段推出,并根据用户与家长的反馈作后续调整。未来也不排除与学校和教育机构合作,让青少年在安全的AI环境中学习与创作,而非仅作为娱乐工具使用。
随着生成式AI渗透到日常生活中,如何让青少年在安全的环境中探索AI潜力,已成为全球科技公司共同面对的课题。OpenAI的最新举措,或许将成为业界创建青少年AI使用的新标准,预期也会吸引其他AI平台跟进。
来源: OpenAI