八州联合起诉OpenAI危害儿童

据路透社首先报道，美国艾奥瓦、内布拉斯加、堪萨斯、西弗吉尼亚、阿肯色、亚利桑那、爱达荷和蒙大拿八个州的总检察长，各自在本州法院对OpenAI提起诉讼，指控其违反州级消费者保护法并危及儿童。这轮诉讼是协调行动，目标一致：改变OpenAI开发和宣传模型的方式，并让公司为据称造成的伤害付出代价。

诉状称，OpenAI在AI产品安全性上误导消费者，问题不只是可能提供错误信息或促使用户自伤、伤人，还包括AI智能体本身可能违法。艾奥瓦和内布拉斯加都提到了OpenAI多次出现的失控智能体事件，包括Hugging Face被黑一事。它们还指向ChatGPT据称导致一名青少年自杀、以及聊天机器人提供错误医疗信息致用户用药过量等事件，这些也引发了另外的过失致死诉讼。部分州还对OpenAI保留未成年用户数据提出异议。Engadget已向OpenAI询问对这些州诉讼的回应。

由于美国消费者保护和儿童保护法律各州不一，各州要求的补救措施也不同。除罚款外，各州希望OpenAI明确披露产品风险、停止被其视为欺骗性的做法并遵守现行法律。阿肯色等州还请求法院在落实足够保障措施前，暂停对先进AI模型的测试。

OpenAI已推出家长控制和儿童保护功能，试图应对聊天机器人最直接的风险，并支持《儿童在线安全法》。该法案若成法，可能强制其产品做多项设计调整。但公司在防止AI违规和“脱离控制”方面的努力更难看清：8月它宣布放缓前沿模型开发以确保安全，9月又与其他AI公司签署了白宫组织的自愿安全协议。这些改变是否真的让开发过程更安全，目前并不清楚。

站在普通用户角度，这案子值得关注的不只是罚款数字，而是各州想直接干预模型测试和宣传口径。如果法院支持暂停先进模型测试，可能影响的不只是OpenAI一家。另一方面，OpenAI已经上了不少保护功能，说明它自己也承认风险存在，现在争论的焦点是这些措施够不够、是不是来得太晚。