近期,“AI泔水”相关话题引发社会关注。据报道,“AI泔水”源自英文词汇“Slop”,该词被《韦氏词典》列为2025年度热词,用以指代“通常由人工智能(AI)批量生成的低质量数字内容”。有媒体调查发现,围绕AI造假牟利,已形成“教程售卖—工具推荐—内容生成—商业接单”的灰色链条。
尽管被称作“AI泔水”,其中混杂的并非全然陌生事物,而是虚假信息、无中生有、造谣传谣的技术升级版。与早年网络上批量复制的“水文”、东拼西凑的信息不同,当前“AI泔水”的隐蔽性和迷惑性显然更强。一方面,生成式AI技术快速发展,“自动生成”内容的门槛持续降低,传播“泔水”的速度和规模呈倍数级增长;另一方面,一些“AI泔水”借助新技术、新手段,实现了更具欺骗性的伪装。
例如,海外社交平台上曾出现一篇匿名帖子,自称揭露“国外某外卖平台算法黑幕”,声称平台通过所谓“绝望评分”等算法机制剥削骑手。尽管该内容很快被证实为AI生成的谣言,相关平台也已作出澄清,但部分信息仍被掐头去尾、移花接木,引入国内社交网络,再度点燃舆论情绪。在这一过程中,AI不仅精准模仿“爆料”口吻和专业术语,还借助过往真实事件进行拼接包装,使所谓细节看似可信、逻辑更显完整,并通过“揭秘黑幕”等煽动性表述,精准刺激公众对算法的不信任心理。部分“AI泔水”内容甚至叠加深度合成技术进行“精装修”,进一步加大了普通网民的辨识难度。
“AI泔水”的泛滥,本质上是流量逐利与技术滥用叠加的结果。由人工智能批量生产的低质内容之所以能够迅速形成舆论声浪,关键在于造假成本低、传播效率高,同时迎合了部分平台“流量至上”的推荐逻辑。在AI技术加持下,这类内容可以源源不断地产出,一些流量黑灰产嗅到利益空间,随即进行跨平台、跨语境传播,借机收割关注度。尽管不少内容平台已建立风险审核和处置机制,但在面对可能带来高互动、高热度的内容时,处置往往滞后,客观上助长了谣言扩散,放大了焦虑情绪。任由其蔓延,不仅会扭曲快递员、外卖骑手等新业态从业者的社会形象,也可能持续拉低数字内容整体质量,侵蚀网络生态与公众信任。
治理“AI泔水”乱象,已刻不容缓。作为信息传播的关键节点,互联网内容平台应主动摒弃“流量至上”的短视思维,切实压实主体责任:一是持续完善内容审核机制,明确AI生成内容的标识要求和违规处置标准;二是加强技术防控,通过引入多模态检测等手段,提高对深度伪造内容的识别准确度;三是对高风险内容提前干预、快速响应。监管部门也需加快健全相关配套制度,推动生成式AI内容从生产、传播到溯源的全链条治理。同时,公众亦应不断提升媒介素养,通过查验来源、核对细节、检验逻辑等方式增强辨识能力,共同维护良好的网络环境。
消解真实、侵蚀信任的“AI泔水”,绝不能乱倒,更不能任其乱流。治理“AI泔水”并非否定技术本身,而是通过法律法规的刚性约束、平台的主动担当和公众的理性参与,引导AI回归赋能社会的正道。唯有如此,才能守护清朗健康的网络生态,让技术真正造福于人。
来源:中国青年报客户端