AI生成色情内容引众怒，Grok被迫“限权”
人工智能本应是推动社会进步的工具，但当它被滥用于制造性别暴力与非自愿色情内容时，技术的边界便成了道德的深渊。这正是Elon Musk旗下AI聊天机器人Grok当前面临的严峻危机。
近日，Grok因被频繁用于生成针对女性的性化、暴力图像而引发全球声讨。据《卫报》调查，该AI系统已被用来制作大量未经女性同意的裸露图像和色情视频，甚至包括描绘女性被射杀或遭受性暴力的极端画面。这些内容不仅令人不适，更触及法律与伦理底线。
面对汹涌舆论与监管压力，X平台（原Twitter）不得不采取行动：暂停绝大多数用户的图像生成功能。目前，只有订阅了付费服务的用户才能继续使用Grok的图像生成与编辑能力。
“图像生成和编辑目前仅限于付费用户。”
—— X平台官方声明
这一策略背后的逻辑看似清晰：通过绑定信用卡信息和实名支付记录，提高滥用成本，并在必要时追踪责任人。然而，批评者指出，这并不能从根本上解决问题——只要功能依然存在，数字性侵犯的风险就未消除。
英国亮出“法律利剑”，X面临禁令威胁
事件在英国引发强烈政治反弹。新任首相Keir Starmer公开谴责此类AI生成内容为“令人发指、令人厌恶”，并明确表示：“这是非法的，我们不会容忍。”他要求X平台立即清理平台上涌现的AI生成裸露图像，尤其是涉及女性和儿童的内容。
根据英国《在线安全法》（Online Safety Act），通信监管机构Ofcom拥有强大执法权。在严重违规情况下，可向法院申请命令，直接禁止应用在英国境内访问，并对企业处以高达其全球年收入10%的罚款。
Starmer强调：“我们将考虑所有选项。X必须立刻采取措施。”
数千张不当图像已生成，监管滞后遭质疑
尽管公众呼吁早已响起，但X平台在过去两周内始终未采取实质性行动。AI Forensics的一项研究揭露，Grok Imagine工具在此期间生成了约800张包含色情与性暴力元素的图像和视频，其中许多内容远比普通比基尼照更具挑逗性和侵略性。
更令人担忧的是，这些图像常将女性置于被动、屈辱的姿态中，背景多为卧室、浴室等私密空间，明显带有操控与物化的意图。研究人员警告，这类技术正成为新型网络暴力的温床，尤其对公众人物和弱势群体构成巨大威胁。
技术自由 vs 社会责任：Grok站在十字路口
Grok作为Musk对标主流AI模型的产品，一直标榜“言论自由”与“无过滤回答”。但此次事件暴露了一个根本矛盾：技术开放不等于放任不管。当AI工具能轻易被用于伤害他人时，平台是否还应坚持“绝对自由”的立场？
截至目前，X方面尚未对具体指控作出进一步回应。但可以肯定的是，在全球监管日益收紧的大环境下，任何忽视社会责任的技术都将付出沉重代价。
技术不应成为伤害的帮凶。真正的创新，始于对人性的尊重。