一张非裸照也能毁掉人生:科技公司对图像滥用的定义太窄了
最近一份来自非营利组织Chayn的报告引发了不少讨论,核心观点是:科技公司和执法机构在处理图像滥用问题时,往往只盯着“裸体”或“露骨内容”,却忽略了更关键的东西——同意(consent)。报告采访了60多位女性,其中一位化名Mahnoor的巴基斯坦女大学讲师的故事特别让人唏嘘。她前夫拿到了她手机里的私人照片,这些照片没有一张是裸照或性暗示的,就是普通的生活照:剪了新发型后的微笑、和朋友在海外交流项目的合影、躺在床上闭眼展示眼线的自拍。但前夫把这些照片发给了她的男性亲属、同事和熟人,甚至把一张她和朋友们的合影裁剪成她单独和一个男人站在一起的样子,暗示她有婚外情。结果呢?一年多了,她的父亲和兄弟至今不和她说话,同事也不正眼看她。她明明没有做错任何事,却因为“被描绘成坏女人”而失去了社会地位和家庭尊重。
为什么这点值得关注?因为报告指出,在很多保守社区里,一张普通照片的杀伤力可能完全不亚于裸照。比如一张女人在海滩上穿着连体泳衣和短裤的照片、一张婚礼上唱歌跳舞的视频、一张没戴头巾露出头发的照片——这些内容在一个人眼里是日常,在另一个人眼里可能就是“道德败坏”的证据。Chayn的创始人Hera Hussain说得很直接:讨论图像滥用时,不应该只问“照片里有没有裸露”,而应该问三个问题——对当事人造成了什么伤害、分享者的意图是什么、有没有得到同意。但现实是,当Mahnoor向巴基斯坦的网络犯罪调查机构报案时,对方说照片不涉及裸体或露骨内容,不在他们的管辖范围内;她向WhatsApp投诉,对方也说没有违反平台规则;她找手机运营商,对方要求她提供被前夫拿走的SIM卡才能处理。每一步都堵死了。
对普通用户来说,这事其实离我们不远。我们很多人手机里都存着大量私人照片,未必是裸照,但可能就是一张穿着背心的自拍、一张和异性朋友的合影、一张在沙滩上的旅行照。如果这些照片被恶意传播,后果可能完全超出想象。报告还提到一个2017年的悲剧:巴基斯坦有三个姐妹因为在婚礼上唱歌鼓掌的视频被分享,最终被杀害。这不是极端个案,而是系统性问题——科技公司依赖AI审核内容,而AI主要靠识别裸体来判断是否违规,对更隐晦的恶意传播几乎无能为力。而且受害者要自己去找那些被传播的照片、反复查看、逐一举报,整个过程就像二次伤害,最后还不一定能得到回应。
所以问题来了:你觉得科技平台在审核内容时,应该优先用“裸体检测”这种自动化工具,还是应该投入更多人力去判断“是否违反同意”这种更复杂的标准?考虑到成本和效率,你更担心AI误判,还是更担心恶意内容因为审核太松而漏网?