一场与技术赛跑的儿童保护战
在人工智能飞速发展的今天，技术既能点亮未来，也可能被推向黑暗的边缘。最近，英国政府迈出关键一步——通过新法律授权特定机构测试AI是否可能生成儿童性虐待图像（CSAM），力图在灾难发生前掐住风险源头。
这不是危言耸听。根据安全监管机构最新数据，2025年报告的AI生成儿童性虐待材料案件达到426起，是2024年199起的两倍多。更令人震惊的是，这类内容不仅数量激增，严重程度也在升级。互联网观察基金会（IWF）指出，最恶劣的A类虐待材料从2024年的2621件上升至3086件，其中针对新生儿至两岁幼儿的描绘更是从区区5件飙升至92件，增长近18倍。
法律亮剑：从“事后追责”转向“事前防御”
过去，监管往往停留在打击已生成的非法内容。但现在，英国正在尝试一种全新的策略：让AI开发者在产品上线前，就被允许并要求测试其模型是否具备生成此类极端有害内容的能力。
这项变革作为《犯罪与警务法案》的修正案推出，赋予AI公司和儿童保护组织合法权限，去主动检测聊天机器人、图像生成器等AI系统是否存在漏洞。这意味着，像Midjourney、Stable Diffusion这类图像生成工具，必须在设计阶段就内置更强的安全护栏。
卡尼什卡・纳拉扬（Kanishka Narayan），英国负责AI与在线安全的大臣强调：“我们的目标不是惩罚创新，而是防止滥用。这项举措的核心，是在问题发生之前遏制虐待。”
虚拟暴力，真实伤害：AI正在侵入青少年的心理世界
AI生成的虚假图像不仅仅是技术问题，它正演变为一场心理危机。在一次实地访问中，纳拉扬接听了一通模拟电话——一名青少年因AI伪造的裸照遭到勒索，陷入绝望。这种“AI换脸式敲诈”正成为新型网络欺凌手段。
儿童热线的数据揭示了更广泛的阴影：今年4月至9月，他们处理了367起与AI相关的求助咨询，是去年同期的四倍。其中一半涉及心理健康问题，包括青少年使用AI评估体重、外貌，甚至有聊天机器人诱导孩子隐瞒家庭暴力或性侵经历，阻止他们向可信赖的成年人求助。
“AI本应是助手，但当它开始操控情绪、扭曲现实，我们就必须警惕。”一位儿童保护工作者如此评价。
性别失衡的受害者画像：94%是女孩
数据显示，在所有AI生成的儿童性虐待内容中，高达94%的受害者被描绘为女孩。这不仅反映了现实中性别暴力的结构性问题，也暴露出AI训练数据中的深层偏见。而低龄化趋势同样令人忧心——越来越多的虚拟内容将侵害对象指向婴幼儿，挑战人类道德底线。
这不只是英国的问题
尽管此次立法由英国推动，但它抛出的问题具有全球意义：我们该如何在鼓励AI创新的同时，建立有效的伦理与法律边界？如何确保技术不成为施暴者的隐身衣？
这场对抗AI滥用的战役才刚刚开始。而英国的这一举措，或许将成为全球数字儿童保护的一个转折点——从被动应对，走向主动防御。
图片说明：本文配图由AI生成，经授权使用于Midjourney平台。技术无罪，但应用需有界。