8月29日的一条重磅新闻，让很多关注AI安全的人大跌眼镜。Anthropic在涉及五角大楼的法院诉讼中获得了最终胜利。这听起来像是个枯燥的法律纠纷，但背后却是AI巨头在争夺政府国防订单的残酷暗战。Anthropic自成立以来，一直给自己立“白莲花”人设，天天喊着AI安全、对齐技术，甚至不惜为此和OpenAI分道扬镳。但这次他们能顺利拿下军方的合同，说明美国国防部在采购AI模型时，已经不再只看基准测试的跑分，而是把“安全性”和“可控性”作为了最核心的采购指标。
看到这条新闻，我差点把嘴里的咖啡喷出来。以前总觉得Anthropic是个理想主义的技术乌托邦，结果人家拿军方的钱比谁都积极。在国防订单面前，所谓的“安全”，其实就是最具杀伤力的武器。军方需要大模型干什么？肯定不是用来写情书或者做菜谱的，而是用来做海量情报分析、无人机集群控制、甚至是战场态势感知。Anthropic引以为傲的Constitutional AI（宪法AI）技术，刚好完美契合了军方对“绝对可控”的变态要求。他们赢了这场官司，意味着ToG（政府）市场将成为大模型公司最肥的一块肉。作为技术人，我感到一种深深的讽刺感。这帮硅谷大佬，嘴上全是拯救人类的崇高主义，心里全是几亿美元的军火生意。技术本身确实没有善恶，但当它被贴上“安全”的标签卖给军方时，它的性质就已经彻底变了。我们天天在实验室里研究怎么让模型更懂人类，结果人家最大的客户正在研究怎么让模型更高效地执行任务。这大概就是AI时代最黑色幽默的现实，扯下遮羞布，全是一地鸡毛。