Anthropic硬刚五角大楼：美国军备AI的“人类决策权”之争

当一家人工智能公司对美国军方说“不”，代价会是什么？AI新锐Anthropic与五角大楼的合作破裂，不仅罕见地让后者被贴上“供应链风险”标签，更在华盛顿掀起了一场关于战争机器该如何驾驭算法的激烈博弈。

导火索：一道不愿撤下的安全护栏

这场风波的起点是一笔最终搁浅的合作。据知情人士透露，双方谈判破裂的核心在于Anthropic拒绝为军方“开后门”——该公司坚持保留AI系统的安全护栏，坚决反对技术被用于大规模国内监控，或是成为无需人类介入的自主杀人机器。

这种强硬态度的直接后果，便是Anthropic被美国政府列入供应链风险名单。在硅谷与五角大楼关系日益紧密的当下，如此公开的“切割”实属罕见，也暴露出AI军事化进程中难以调和的价值冲突。

转身投向科技巨头

与Anthropic分手后，五角大楼迅速找到了“下家”。OpenAI、谷歌、英伟达、微软及亚马逊等行业巨擘相继与军方达成协议，填补了合作空白。

但巨头的集体入局并未打消外界疑虑，反而让舆论场的担忧愈发强烈。当最尖端的生成式AI和大模型技术被引入国防链条，人们不得不问：在算法与炮火之间，是否还横亘着足够的人类判断力？

《HALO法案》：为战争算法“踩刹车”

面对军事AI的加速部署，以加州参议员亚当·希夫为首的多位民主党议员正试图通过立法夺回主动权。最新提出的《HALO法案》直指要害：任何自主武器系统在采取致命行动前，人类指挥官必须拥有不可推卸的最终决定权。

法案的约束不止于此。它要求军方对每一次由AI辅助或主导的决策、每一个目标锁定的过程，进行详尽的记录与存档，以便事后追溯审查。同时，法案明确划下红线，严禁在核武器部署及大规模监控等敏感领域滥用人工智能技术。

议员们在声明中强调，无论技术如何迭代，美军对AI的运用都必须服务于国家安全与公民隐私的大原则，确保战争的“扳机”始终掌握在人类手中。

比技术更危险的是“自动化偏见”

然而，法律条文能否真正约束战场上的技术黑箱，仍要打个问号。专家普遍担忧一种名为“自动化偏见”的心理陷阱——当AI以极高的效率和自信给出决策建议时，人类操作者极易产生路径依赖，放弃独立思考和质疑。

更棘手的是，现代先进AI模型往往是不透明的“黑箱”，其推理过程难以被完全解释。这意味着，即便表面上保留了人类监督的环节，操作者也可能只是机械地按下确认键，而真正的决策权已在事实上让渡给了算法。在这种模式下，致命的误判随时可能发生。

结语

Anthropic与军方的决裂，或许只是AI时代权力重构的一个缩影。当算法越来越深地介入战争的核心地带，人类需要的不仅是写在纸上的法律，更是面对技术诱惑时保持清醒和质疑的能力。毕竟，在关乎生死的问题上，没有任何代码应该拥有最终的发言权。