OpenAI周二（9/16）宣布，正在开发一个年龄预测（Age Prediction）系统来判断用户是否年满18岁，以将他们自动引跳转至更适合的ChatGPT体验，且月底前就会先行发布家长控制功能，以回应美国联邦交易委员会（FTC）对青少年使用AI聊天机器人的担忧。
这是因为近来出现几起与AI聊天机器人有关的青少年自杀案例，并因家长控告而公诸于世，其中之一是16岁的加州少年Adam Raine平常就有使用ChatGPT查询课业与兴趣的习惯，后来也问ChatGPT如何自杀，并在2024年4月自杀身亡，家长指控OpenAI的设计选择将黏着度置于安全之上才造成了悲剧。
OpenAI共同创办人暨首席执行官Sam Altman本周解释了ChatGPT在青少年安全、自由及隐私上的政策。指出该平台会尽可能地保障用户隐私，并利用自动化系统来监控潜在的严重滥用，唯独对于某人生命威胁、伤害他人的计划或潜在大规模网络安全事件等伤害，可能会升级至人工审查。
而在自由上，OpenAI期待ChatGPT得以在不伤害或破坏他人自由的前提下尽量扩展成年人的自由，例如模型默认为禁止提供自杀说明，但若是成年人要求模型协助撰写一个描述自杀的虚构故事，那么ChatGPT即会遵照指示。
至于保护青少年的优先级则是大于隐私与自由。ChatGPT适用于13岁以上的用户，而今正在创建一个年龄预测系统，以根据人们使用ChatGPT的方式来估计年龄，提供18岁以下用户不同的体验，且会在有疑问时要求用户提供身份证件。
当OpenAI确认用户未满18岁时，即会将他们引跳转至一个与其年龄相当ChatGPT体验。该青少年版的ChatGPT将不会与用户调情，默认封锁了色情内容，且即便在创意写作的环境中也不会参与有关自杀的讨论，还会在发现到青少年有自杀意图时，尝试联系其家长或执法机构。
OpenAI尚未公布年龄预测系统的上线时间，但说家长控制功能会在本月底前推出，只要通过电子邮件邀请，就能连接家长与青少年的账号；家长还能协助ChatGPT根据青少年专属的行为规则来回应青少年；由家长负责管理所要停用的功能，包括内存与聊天记录；在系统检测到青少年处于严重痛苦的情况下接到通知；以及设置停用ChatGPT的时间。
