OpenAI给ChatGPT上线青少年模式,可关闭拟人语音防止情感依赖
当地时间8月18日,OpenAI宣布为18岁以下的未成年用户推出一系列ChatGPT专属安全功能。在这套青少年模式中,最引人关注的变化是允许关闭拟人化语音交互,以此降低AI表现得像真人的程度;同时系统还会定期弹出休息提醒,明确告知青少年“ChatGPT只是AI,事情可以等等”,防止未成年人产生过度沉迷或认知偏差。
根据公开信息,这套青少年账户体系将成为未成年注册用户或被识别为18岁以下用户的默认配置(13岁以下仍被禁止使用)。除了弱化拟人属性,新功能还允许设定“学习模式”时段——在该模式下AI只会进行思路引导而不会直接给出作业答案;用户还可以开启“静默时段”锁定工具。此外,涉及进食障碍等危害身心健康的敏感提问将被纳入预警清单,平台承诺相关警报会由人工审核,并在一小时内通知绑定的家长账号。
近年来关于“AI是否会让人误以为有自我意识”的讨论越来越激烈,包括微软AI负责人穆斯塔法·苏莱曼此前也曾公开表示对拟人化过强的AI感到担忧。数据显示,绝大多数年轻群体使用AI主要是为了辅助学习,但随之而来的学业依赖与心理投射风险也越来越明显。
从社区角度来看,OpenAI这次主动给AI“降温”、剥离过于逼真的人性化外壳,算是一个比较及时的安全防线。毕竟现在的多模态语音和对话情绪已经越来越逼真,成年人有时都难免产生交流错觉,心智尚未成熟的未成年人更容易建立不切实际的情感依恋。不过在实际使用中,年龄识别机制能否有效防止未成年人虚报年龄绕过限制,各家学校和家长又该如何平衡AI辅助与独立思考,依然值得持续观察。