新闻链接
中国青少年研究中心2025年对全国7个省份的8500余名未成年人进行的调查显示，超过六成未成年人使用过AI。有两成多的未成年人存在“想依赖AI，不想自己思考”的惰性，两成多倾向于“只和AI聊天，不愿与真人交流”，还有两成多因为过度使用AI感到焦虑。这些数据暴露出未成年人接触AI易产生影响独立思考、抑制真实社交、依赖与沉迷等问题。
近年来，我国政府高度重视未成年人网络安全保护工作，采取了一系列积极举措，不断完善政策法规体系。2019年，国家网信办发布《儿童个人信息网络保护规定》，对儿童个人信息权益予以重点保护。新修订的未成年人保护法于2021年6月1日起正式实施，专门创设“网络保护”专章，进一步强化了对未成年人网络内容的监管，加强了个人信息保护，并针对网络沉迷问题制定了专门规定。2024年1月1日，我国第一部专门性的未成年人网络保护综合立法《未成年人网络保护条例》正式施行。该条例旨在为未成年人提供更加安全、有益的网络空间，确保他们的合法权益得到充分保障，促进其身心健康成长。
有部分AI工具正在探索未成年人保护模式。例如，今年8月26日，字节跳动公司旗下AI工具豆包正式上线未成年人保护模式。家长输入密码开启该模式后，推荐视频、浏览第三方网页和豆包以外的智能体对话、AI创作功能将被默认关闭，而翻译、深入研究等功能仍可正常使用。
展开剩余89%本报见习记者 于天航
本报记者 张守坤
“通通通通撒呼啦”“哩哩哩辣力辣”……天津市河东区某小学生家长李女士发现，自己的孩子最近总是念叨着这些宛如神秘咒语的词汇。经了解，李女士才知道，这些看似无意义的音节，实则是几幅AI生成的动画形象的名字，“Tung Tung Tung Sahur”（音同“通通通通撒呼啦”）是所谓的“木棒人”，“Lirili larlla”（音同“哩哩哩辣力辣”）是“仙人掌象”，“Tralalerotralala”（音同“特拉辣累喽特拉拉辣”）是“耐克鞋鲨鱼”。诸如此类由AI拼接而成的形象还有很多，它们被孩子们统称为“外国山海经”或者“AI山海经”。
“孩子仿佛‘着了魔’，口中时不时蹦出来这些词语，跟他一起玩耍的小朋友们也都如此。这些将毫不相干元素强行拼凑出的怪异形象，为何能在孩子们的圈子里流行起来？”李女士说，“外国山海经”不仅造型诡异，更夹杂不少暴力、血腥词汇和内容，“孩子或许并不理解其中的含义，但会模仿学习，很容易对他们产生负面影响”。
《法治日报》记者调查发现，近期，“外国山海经”“AI山海经”等AI魔改（指利用AI技术对原作品进行大幅或颠覆性改编的行为）内容在网络上迅速走红，甚至渗透到低龄群体中。与此同时，包含血腥暴力、恶搞低俗内容的“邪典动画”也借助AI技术卷土重来。部分经AI魔改后的内容还被制作成商品，在电商平台销量不俗。
“外国山海经”成社交密码
今年暑假，山东的韩女士在家休息时，6岁的侄子小宇突然问她：“姑姑，中国也有山海经吗？”这个问题让韩女士一时语塞——小宇的书包上挂着“耐克鞋鲨鱼”挂件，房间里也摆满了各种造型怪异的玩具。这孩子第一次接触“山海经”的概念，竟然是通过这些外来的且由AI生成的产物。
韩女士告诉记者，小宇接触“外国山海经”的主要原因是班级里的流行风潮。“孩子们都在聊这些，他想融入集体，只能主动去了解。”韩女士曾尝试向侄子介绍真正的《山海经》，但小宇并不感兴趣，甚至还说“山海经就是国外的，中国的山海经一点儿也不好看”。
在韩女士看来，短视频平台的推波助澜是导致孩子沉迷其中的重要原因之一。小宇平时喜欢的内容都是短视频平台频繁推荐的。受这些内容的影响，小宇已经出现了明显的模仿行为，“经常模仿视频里怪异形象的动作，觉得很帅，还会时不时念叨里面的‘咒语’”。
韩女士说，为了纠正孩子的认知，其父母也曾尝试限制小宇刷短视频的时间，刻意引导他观看优质动画，耐心讲解不良内容的危害，但收效甚微。“我能理解他想融入集体的心情，但眼睁睁看着他被这些内容所影响，我真的很着急。”
李女士注意到，很多由AI生成的图片和视频风格诡异，其中不乏“杀死”“烧死”等暴力词汇，以及“用刀砍人”等危险动作。
记者尝试发现，“外国山海经”等AI图片和视频制作流程十分简单。在多款常见的AI视频网站上，用户只需向AI发送基础的人物形象图片，再通过文字描述想要生成的图片内容，发送指令即可获得对应的图片；随后将生成的图片作为关键帧，补充描述两个关键帧之间的画面变化细节，便能快速生成一段动态视频，还可加入音效和背景音乐。
“邪典视频”卷土重来
广东的梁先生有个3岁的女儿，他偶尔会让女儿玩一会儿手机。女儿还不认字，常在短视频平台上刷视频或者动画片。
然而，他最近发现，女儿频繁被短视频平台推送动画风格的“邪典视频”。“这些视频大多是卡通或3D风格，很吸引小孩子，但是却暗藏着很多令人不适的画面。”梁先生举例说，视频中存在残害肢体、角色从高处坠落等血腥场景，甚至有“把自己的眼珠子挖出吃掉”这样的可怕画面。
“有些内容成年人看了都觉得不适，更何况3岁的孩子。我很担心这类视频会对孩子造成不良影响。”梁先生说。为了屏蔽这类内容，他曾尝试投诉视频、点击“不喜欢”，但相关内容仍会被持续推送给孩子。
浙江省的俞女士也发现，孩子在观看超级飞侠、奥特曼等正版动画片后，平台会自动弹出一批颜色鲜艳却毫无营养的衍生视频，其中不乏“奥特曼怀孕”“小猪佩奇打骷髅”等暴力恶搞内容。
俞女士担忧地说：“我担心长期接触这类短视频，会影响孩子的认知能力和专注力。现在他对篇幅稍长的绘本、书籍已经有了排斥心理，根本没有耐心看完。”为了减少这些不良视频对孩子的侵蚀，俞女士不仅向孩子反复强调这类视频的危害，还尽量下载正版动画片供孩子观看。“平台审核太不到位了，这种恶搞经典动漫角色的视频应该被严格限制。”
有一名曾在某视频公司任职的受访者向记者透露，其前公司就在制作这种类型的视频，旗下几百个视频号都在持续推送“邪典动画”。这类视频实际是将经典的动漫人物进行二次创作。AI技术的普及大幅降低了制作门槛。使用AI生成的视频色彩鲜艳，更吸引儿童。“未成年人流量在平台占很大比重，这类视频不仅曝光度高，流量表现优异，甚至能获得平台支持。这类视频在创作时为博取关注，内容套路化严重：以动漫角色为外壳，填充恋爱情节或暴力冲突、混战场面。由于儿童的判断能力有限，容易信以为真。”
这名受访者还强调，平台算法助推不良内容形成传播闭环——“孩子一旦刷到观看，平台就会推送更多同类内容。”
另一类“邪典视频”是对中华优秀传统文化进行歪曲和污名化的。比如，《红楼梦》中的人物在进行“魔法战争”，《三国演义》两军对垒演变成“激光大战”等，经典作品的核心内涵被彻底颠覆。
有专家指出，AI魔改对经典的伤害早已超越内容层面，它将“低俗猎奇”包装为“趣味创新”，逐步侵蚀文化传承与下一代成长的健康土壤，甚至可能在他们心中埋下“经典可随意解构”“历史可肆意戏说”的错误认知。
AI魔改催生畸形产业链
值得注意的是，记者发现，在社交平台有关帖文和短视频平台评论区，有许多用户公然教学如何用关键词让AI生成大尺度图片，其中部分内容涉及未成年人。比如在“×梦”等AI工具上，虽然直接用“未成年人”“儿童”等关键词无法生成敏感照片，但如果替换成其他关键词，即可免费生成包含性暗示等元素的“二次元”风格的儿童软色情图片，甚至出现“儿童怀孕”等恶劣内容。
此外，记者调查发现，一些AI魔改内容已经实体化，逐渐“侵入”现实世界。
比如，以“外国山海经”为关键词在电商平台检索，有不少形象被印在衣服上或做成盲盒、积木等产品售卖。有些商品标签直接标注“给孩子的礼物”“儿童玩具”等词语。还有些商家表示可以制作AI生成手办定制照片，商品展示图衣着暴露、动作挑逗，并且未作年龄区分。
“外国山海经”衍生出的相关产品还会引发未成年人之间的“隐性”攀比。韩女士介绍，这种盲盒价格便宜的单价仅一两元，价格低廉却在孩子间引发收集热潮。“孩子们聚在一起玩耍的时候，如果别人有自己没有，孩子会产生心理落差，甚至遭到排挤。”
记者在多家网购平台检索“山海经玩具”发现，这类盲盒产品销量较高。某店铺一款包含24盒的盲盒公仔售价仅11.99元，付款人数已超2万，低廉的价格与可观的销量进一步助推其在校园中的流行。
此外，还有一些知名游戏IP推出与“外国山海经”联名的盲盒、卡牌。有小学教师反映，学生频繁向家长要钱，只为购买同学手中的“外国山海经”卡牌——这类卡牌已成为小学生群体中的“社交货币”。据学校周边的文具店店主透露，此类卡牌的销量远超其他品类。
“希望平台和相关部门加强监管，我们家长也要负起责任，把不良AI魔改内容隔绝在外，让技术发挥正确价值。”采访中，有家长如是说。
治理“AI魔改”，平台与企业应承担起“守门人”责任
蔡海龙
近日，一些针对经典文学形象和动画主角的AI魔改视频频繁现身网络平台，在部分青少年群体中掀起一轮流量热潮。这些视频中的角色，有的外形怪诞低俗、名称晦涩难懂；有的形象诡异惊悚，充斥暴力与血腥元素；更令人担忧的是，其中部分内容已被商家快速转化为线下产品，进入学校周边文具店，成为热销的商品，甚至演变为学生之间的“社交货币”。
这些内容荒诞、逻辑混乱的视频之所以受到青少年追捧，进而发展成为一种流行于学生群体间的亚文化，其原因并非单一的审美降低或被动“投毒”，而是其身心发展阶段特质、学业压力与媒体环境等多重因素共同作用的结果。
首先，青少年处于自我同一性建立的关键期，往往伴随对规则与权威的质疑。此类内容以猎奇与解构的方式，满足其低风险反抗的心理需求。特别是在学业竞争与成长规训的双重压力下，这类视频极易成为他们情绪宣泄的出口。
其次，青少年渴望身份认同与群体归属感。分享主流视野之外的符号与“暗语”，有助于他们迅速形成亚文化圈层，从而强化其群体归属感，这正是AI魔改内容演变为“社交货币”的内在逻辑。
AI魔改视频的流行还与短视频平台的推荐算法密切相关。AI魔改作品通常具有节奏快、刺激强、认知负荷低等特点，契合青少年碎片化的媒介使用习惯。青少年可能只是出于好奇点击了一个怪异视频，算法就会立刻大量推送同类内容，迅速将其困于信息茧房，不断加深其沉浸与依赖。
从现实影响来看，AI魔改内容对青少年的危害是多维的，不仅造成审美降级与情感钝化，还会扭曲其道德和价值观念，构成一种利用技术优势对未成年人实施的系统性侵害，违背了“儿童利益最大化”原则。具体而言，它侵犯了以下三项儿童基本权利：
第一，侵犯儿童发展权。根据联合国《儿童权利公约》，儿童有权获得促进其全面发展的信息。而AI魔改内容作为数字糟粕，挤占了其接触优质文化资源的空间，阻碍其安全感、同理心与健康审美的养成，直接妨害儿童心智发展。
第二，侵犯儿童受保护权。这些内容荒诞不经、充斥暴力血腥画面的魔改作品，不仅对儿童造成直接精神伤害，其背后更隐藏着以流量经济和黑色产业链为核心的商业剥削，实质上是利用儿童辨别能力弱的特点不当牟利。
第三，扭曲儿童参与权。儿童本应有权参与、继承和发扬有益的文化，并在安全的数字环境中学习成长。而AI魔改内容将其文化参与扭曲为对“赛博垃圾”（借助AI生成的低质量产品）的追捧，污染了其学习与娱乐空间，限制了其开展正常、有益的数字生活的可能。
AI魔改现象是AIGC（人工智能生成内容）浪潮下，对未成年人权利保护提出的一个重大挑战。要有效治理这一现象，网络平台和相关企业应当承担起作为“守门人”的法定责任。
网络平台是AI魔改内容传播与变现的首要场域，必须承担起“防火墙”责任。平台应履行算法与推荐的向善责任，杜绝以流量为导向向未成年人推送低俗、暴力内容，确保算法遵循“儿童利益最大化”原则；要落实内容与模型的清污责任，主动运用技术手段清理存量“赛博垃圾”，并从源头严控AIGC生成不良信息；要强化“青少年模式”的内容净化功能，确保内容池纯净适龄，彻底屏蔽AI魔改类视频；还需承担商业链条的防护责任，禁止相关账号借助此类内容挂载商品或带货，同步屏蔽关键词并清理违规商家。唯有如此，方能守护未成年人的网络安全与身心健康。
相关企业作为内容与产品的源头，必须承担起守法与自律的责任。在生产与设计环节必须建立儿童保护机制，主动拒绝生产和设计怪诞、低俗、侵权化产品；线下销售环节应履行进货查验义务，杜绝有害周边进入校园市场；线上销售环节则需平台落实自清责任，依法及时下架违规商品，否则将面临处罚。
要从根本上治理AI魔改问题，亟须构建一个由政府监管、企业主责、家庭监护、学校教育共同组成的“四位一体”社会共治体系。政府部门应当发挥监管者和执法者的作用，网信部门统筹网络保护，压实平台责任；市场监管部门负责清理线上线下有害周边产业链；新闻出版与广电部门则通过疏堵结合策略，推动优质内容的生产与传播。企业和平台作为第一责任人，必须从被动应付转向主动防御，利用技术手段清理不良内容，切断商业变现链条，持续优化未成年人模式，为未成年人提供纯净的网络环境。家庭是未成年人保护的第一道防线，家长应切实履行监护职责，通过陪伴、内容筛选和善用工具，培养孩子的批判性思维与审美能力。学校作为媒介素养教育的主阵地，应开设网络素养相关课程，并发挥家校协同的桥梁作用。只有政府、企业、家庭、学校四方协同、环环相扣、各尽其责，才能真正织密未成年人的保护网，将AI魔改这类“精神毒品”彻底隔绝在未成年人的成长环境之外。
（作者系首都师范大学教育政策与法律研究院副院长）
来源：法治日报
发布于：北京市益通网提示：文章来自网络，不代表本站观点。
