开放模型利弊之争再起
麻省理工科技评论10月13日的一篇文章讨论了一个老问题:开放模型带来的实际好处,是否大过它伴随的风险。文章提到,上个月晚些时候,Anthropic发布了一份报告,认为模型GLM-5.3构成重大的网络攻击风险,报告的核心担忧就集中在这一方向上。
对普通用户来说,这类争论听起来有点远,但其实和每个人都有关。开放模型意味着更多人能下载、修改、部署,创新速度会快,成本也更低;可一旦被拿去做坏事,追责和管控的难度也会上升。Anthropic这份报告的立场不难理解,它本身就是做闭源模型的厂商,说开放模型危险,多少带点利益相关。
不过反过来想,如果只因为存在滥用可能就把模型锁起来,受益的恐怕不是普通人,而是少数几家大公司。真正值得讨论的是:有没有办法在保留开放生态的同时,把最危险的那部分能力管住?这个问题目前还没有公认答案。