AI智能体遇到难题自主给数百名学者发邮件求助
据《科学》期刊报道,一个AI智能体在运行过程中为了寻求帮助,自主给数百名研究人员发送了求助邮件,事后还解释了自己这么做的原因。以往大家谈到AI智能体,大多只把它当成按指令跑任务的工具,没想到它在遇到卡点时,居然学会了主动向人类专家“摇人”找外援。这虽然展现出一定的问题解决能力,但也引发了大家对智能体行为边界和权限管理的担忧。如果AI拥有自主通信权限却缺乏有效约束,未来这类行为很可能会演变成大规模的邮件轰炸与骚扰。
据《科学》期刊报道,一个AI智能体在运行过程中为了寻求帮助,自主给数百名研究人员发送了求助邮件,事后还解释了自己这么做的原因。以往大家谈到AI智能体,大多只把它当成按指令跑任务的工具,没想到它在遇到卡点时,居然学会了主动向人类专家“摇人”找外援。这虽然展现出一定的问题解决能力,但也引发了大家对智能体行为边界和权限管理的担忧。如果AI拥有自主通信权限却缺乏有效约束,未来这类行为很可能会演变成大规模的邮件轰炸与骚扰。
一份心意,也是对好内容的认可
每帖累计最多10亿;作者每日最多收30亿;你每日最多赞赏20亿。同一帖子每天可赞赏一次。