■技术本身无善恶，但如果滥用技术，导致应用边界失守，就将带来网络生态失序，冲击网络安全环境
■要把平台的责任压得更实，强化内容审核机制，精准甄别隐性不良内容
《小猪佩奇》被AI魔改成“野猪佩奇”，复刻原版的角色与画风之下，充斥着戏谑死亡、扭曲亲情伦理等不良情节；披着早教启蒙外衣的AI衍生视频，内里却充斥着血腥暴力的场景……当下，大量被魔改的“毒动画”在各网络视频平台上广泛传播，引发社会关注。日前，中央网信办在全国范围内部署启动为期4个月的“清朗·未成年人网络保护”专项行动，将“编造毒动画，利用AI技术恶搞经典动画形象，刻意放大暴力恐怖元素”行为作为专项行动第一阶段重点整治对象。
这些利用AI技术编造的“毒动画”为害不浅。血腥、暴力等元素，不仅可能从价值观层面混淆未成年人的是非认知，扭曲其三观，还可能在行为层面诱发孩子模仿暴力、消极叛逆等不良行为。更令人担忧的是，相较于传统网络不良内容，AI生成的有害内容呈现出低成本、高产量、强隐蔽、快传播等特征。用户依托AI工具，短短数分钟即可完成画面篡改、剧情重构、元素拼接，批量生成各类邪典动画、暴力短剧，并以极低成本通过短视频平台和社交网络批量传播。再加上，推荐机制编织的“算法陷阱”，让孩子们即便没有主动搜索不良内容，也可能会被推送相关内容。这些特点对未成年人网络保护体系形成全方位冲击，也给防范“毒动画”侵害带来了更大、更复杂的挑战。
从今年年初国家广播电视总局部署开展“AI魔改”视频专项治理，到中央网信办部署启动专项行动，重点整治“毒动画”，可见“毒动画”已成为互联网空间的一害。不仅如此，此次专项行动，还提出要重点整治“批量炮制猎奇、审丑的AI短剧，误导未成年人认知”“部分AI软件创设不良人设角色，输出暧昧、低俗内容”。
这也进一步提醒我们，人工智能技术的发展在为内容生产提供便利的同时，也可能被滥用，成为毒化网络生态的工具和毒害未成年人精神世界的帮凶。再如，各类AI陪伴、虚拟互动产品的蔓延，也给未成年人健康成长带来了挑战。未成年人接触AI陪伴产品，不仅可能接触暧昧低俗、情绪诱导、价值扭曲的不良内容，还可能因为依赖AI虚拟角色，而疏离现实生活，损害共情能力、现实沟通能力、矛盾处理能力的培养，阻碍身心成长与社会化发展的进程。此外，AI换脸、AI修图、一键生成虚假影像等技术被滥用，不法分子利用未成年人肖像制作虚假低俗影像、网络欺凌素材，也在滋生新型网络暴力、隐私泄露、恶意造谣等乱象，让未成年人网络安全防护形势愈发复杂严峻。
技术本身无善恶，但如果滥用技术，导致应用边界失守，就将带来网络生态失序，冲击网络安全环境。人工智能技术发展背景下，涉未成年人网络乱象呈现出新的特点，如何净化未成年人上网环境，面临更大的挑战。当前涉未成年人网络乱象的一个症结，就在于平台内容审核滞后于技术迭代、算法推荐缺乏未成年人保护阈值。算法过度追逐流量效益，优先推送猎奇、冲突、博眼球内容，不断放大技术作恶的负面影响。治理乱象，首先是要把平台的责任压得更实，坚守技术向善底线，强化内容审核机制，精准甄别隐性不良内容。同时，优化未成年人专属算法推荐机制，关闭不良内容投喂通道，建立健全AI内容溯源、筛查、处置全流程机制，从源头遏制有害内容传播。
技术带来的网络安全挑战，也呼吁家长更多关注孩子的网络行为。把孩子隔绝于数字世界之外，既不现实也没有可行性。但是面对更为强大的技术、更为隐秘的有害内容、更加精准的算法推荐，为孩子们筑牢一道基本的防火墙，显得更为紧迫和重要。线上的风险，往往源于线下家庭教育缺位、陪伴缺失埋下的隐患。对此，家长不仅要带领孩子主动了解AI新型网络风险，帮助孩子提升媒介素养与信息辨别能力，更要通过更高质量的亲子陪伴、情感沟通，充实孩子的精神生活，对冲手机屏幕里的低俗快感与虚假愉悦，让孩子拥有抵御网络诱惑的内生力量。（杨三喜）
配查信提示：文章来自网络，不代表本站观点。
