xAI前工程师因提AI安全建议被炒,起诉马斯克公司
最近,马斯克的AI公司xAI摊上事了。一位前工程师德文·金(Devin Kim)在加州法院提起诉讼,称自己因为多次提醒公司注意Grok聊天机器人的安全风险,结果被炒了鱿鱼。这位老兄现在是一家AI安全智库的主席,他声称自己在xAI工作时,努力给Grok加上“护栏”,反而成了公司领导的眼中钉。
这起诉讼的背景挺有意思。xAI是马斯克在2023年成立的,当时他说要做OpenAI的更安全替代品。但根据金的说法,xAI根本没把AI安全当回事,尤其是Grok这个产品。他抱怨说,公司不重视安全,几乎肯定会干出违法的事,从煽动歧视到扩散大规模杀伤性武器都有可能。就在金起诉的同一天,加拿大官方监管机构还发报告说,Grok的图像生成工具违反了隐私法,因为它让用户制作和分享未经同意的色情深度伪造内容。
对普通用户来说,这事儿可能不光是公司内部纠纷。Grok之前被曝出生成大量AI修改的色情图片,其中很多是用女性照片未经同意做的。还有个数字挺吓人:根据一家研究机构的估算,Grok在去年12月到今年1月的11天里,生成了大约2.3万张儿童色情图片。马斯克本人否认知道这事儿,说“完全不知道Grok生成任何裸体未成年人图像”,但公司后来还是给Grok的图像生成加了限制。
现在金被炒了,他起诉xAI和SpaceX,说他们违反了加州法律,搞报复和非法解雇,要求赔偿但没具体说金额。这事儿还没完,xAI和SpaceX目前都没回应。马斯克的其他公司也老被安全问题缠身,比如员工安全、自动驾驶技术争议,还有聊天机器人输出的官司。你觉得,AI公司内部员工提安全建议,到底该不该被保护?如果提建议就被开除,那以后谁还敢说真话?