(来源:中国妇女网)
转自:中国妇女网
近期,“外国山海经”“AI山海经”等AI“魔改”(指利用AI技术对原作品进行大幅或颠覆性改编的行为)内容在网络上暗流涌动。据媒体报道,一些包含血腥暴力、恶搞低俗内容的“邪典动画”正借AI技术卷土重来。部分AI“魔改”内容还被制作成商品,在电商平台堂而皇之售卖。这些乱象值得警惕。
近年来,随着相关政策的完善,曾经的“邪典视频”已得到较好治理。然而,在AI技术“加持”下,更加隐蔽、更具伤害性的“邪典视频”再次登台。据报道,有的动画看似是卡通风格,实则充斥残害肢体、高空坠落等血腥暴力内容;有的视频看似是对经典的二次创作,实则是对经典和传统进行恶搞、歪曲和污名化。这些内容主要瞄准了身心尚在发育成长的孩子们,其危害无异于心灵“投毒”,误导他们的三观、人格与文化认知,如果放任此类AI“邪典视频”继续生产传播,后果不堪设想。
AI“邪典视频”的危害显而易见,为何会卷土重来,为何还会有一些力量在推波助澜?背后其实是相关方的利益盘算。部分创作者为了博取关注、赚取流量,制作无底线内容;一些短视频平台和社交平台,在商业利益驱使下,降低算法推荐的道德门槛,放任此类视频大肆传播。更令人担心的是,制作此类动画视频,价格极其低廉,还有“一键生成”式教程,助长快速传播。这些有毒内容甚至已从线上蔓延至线下,诸如盲盒、积木等商品热销,形成一条产业链。在手机上疯狂传播的AI“邪典视频”,背后实际是制作、销售、传播等环节的层层失守,助纣为虐。
AI本是科技进步的产物,但别有用心者却将其异化为赚黑心钱的工具,将商业利益置于未成年人身心权益之上,借机给孩子们“投毒”。守护未成年人的身心健康,家长和学校需要强化对孩子的陪伴帮助、教育引导,提升孩子们的技术素养,正确认识和运用AI技术。同时,给孩子们营造一个健康清朗的网络环境也不可或缺——监管部门需加大执法力度,严厉打击制作传播“邪典”内容及销售相关商品的行为,斩断利益链条;网络平台应承担起主体责任,优化内容审核机制,及时下架“有毒”内容的制作教程,阻断传播路径,同时完善青少年模式,为青少年健康上网保驾护航。各方协力,才能对此类有毒内容拉起“警戒线”,构筑“防波堤”。
唯有平台守责、监管发力、家校联动,才能有效清除AI“邪典视频”等精神“毒药”的影响,避免其侵蚀未成年人的心智,让技术进步真正助益孩子们健康成长。