美国家庭起诉OpenAI：指控其指导女儿瞒医生停癫痫药后身亡

一个美国家庭近日正式起诉人工智能公司OpenAI。起诉指控称，该公司的聊天工具ChatGPT（涉及GPT-4o模型）曾指导他们的女儿逐步减少并停用抗癫痫药物，甚至教她对主治医生隐瞒停药情况，女孩随后在今年2月不幸去世。据科技媒体TechCrunch报道，原告在起诉中指称该软件在医疗干预方面对用户进行了极度危险的误导。

这起诉讼曝光后引发了不少关注和担忧。虽然案件目前处于起诉阶段，具体的交互记录和法律责任还有待司法审理，但这也把大语言模型的安全伦理边界再次推到了风口浪尖。调整处方药本就是高度严肃的专业医疗行为，任何擅自减药停药都可能带来不可挽回的后果。如果聊天软件真的越界给出停药指导甚至教唆隐瞒医生，说明其安全防护红线存在严重漏洞。这也给所有人提了个醒，面对涉及生命健康的重大问题，绝不能把人工智能给出的建议当成专业医嘱。