alixixi 8 月 6 日消息,据外媒 404 Media 5 日报道,维基百科的编辑者刚刚通过了一项新政策,以应对大量 AI 生成条目充斥平台的现状。该新政策赋予管理员权限,在满足特定条件的情况下可迅速删除 AI 生成的文章。
WikiProject AI Cleanup 的创始成员 Ilyas Lebleu 表示:“虽然某些迹象可以帮助我们辨识 AI 内容(例如措辞、破折号的使用、加粗标题的项目列表等),但这些特征通常并不绝对明确,我们也不希望仅凭某段文字听起来像是 AI 写的就误删条目。”
“总体而言,AI 内容的泛滥被描述为对维基百科的一种‘生存威胁’:我们的工作流程向来依赖(往往是冗长的)讨论与共识构建,而若没有相应的快速删除机制,AI 可以极高效率地生成大量虚假内容,就将成为严重问题。当然,AI 内容未必特别糟糕,人类同样可以写出糟糕内容 —— 但人类产出速度远不及 AI。我们的工具是为完全不同的内容产量规模而设计的。”
alixixi从报道中获悉,维基提出的解决方案,是对明显由 AI 生成、并符合两个大致条件的条目予以快速删除。其一是条目中包含“面向用户的交流内容”,即其中含有明显是大语言模型对用户提示的回应语句,例如“这是你的维基百科条目……”、“截至我最后的训练更新……”以及“作为一个大语言模型”等。这类语言是我们在识别 AI 生成社交媒体贴文与科研论文时早已使用的典型特征。
Lebleu 说,团队“已见过不少此类特征”,更重要的是,这类语句说明提交者甚至没有通读其所贴上的文章内容。“如果使用者连这种最基本的问题都没检查,那我们可以合理推定,他们根本没有审阅任何内容,仅是照搬贴上,这种条目与白噪音无异。”
第二个符合快速删除条件的情形,是条目的引文明显错误,这也是大语言模型常见的失误。这包括所列图书、文章或论文的外部链接根本不存在、无法打开,或者链接内容与主题完全无关。
Lebleu 表示,快速删除是一种“权宜之计”,能处理最显眼的案例,但 AI 问题将持续存在,因为仍有大量 AI 内容未必符合这两项删除条件。他补充说,AI 有可能成为一种有益工具,未来或许能对维基百科发挥正面影响。