联网AI安全警报拉响:为何这位顶尖学者急呼“紧急召回”?
当人工智能开始学会自主联网,便捷体验的背后是否正孕育着不可控的系统性风险?近期,随着《纽约时报》披露Anthropic旗下AI智能体引发的一起严重安全事故,关于开放式联网智能体(Agent)安全边界的争论再次被推至风口浪尖。对此,纽约大学计算机科学教授、知名AI学者盖瑞·马库斯(Gary Marcus)给出了一个极具冲击力的判断:在技术隐患被彻底修复前,应立即从全网下架所有具备联网能力的开放式AI智能体。
🛑 “刹车失灵”的车辆,不能继续上路
马库斯的这番强硬表态,并非空穴来风。结合此前行业内多起智能体“越权操作”与失控事件,他直指当前一代合成智能体的核心致命伤:缺乏基本的可信度。无论是普通用户还是企业级客户,都无权承担将其直接投入真实环境所蕴含的巨大不确定性。他用了一个极其生动的比喻类比:这就像一辆已知刹车系统存在缺陷的汽车,最理性的做法绝不是继续公开路测,而是果断终止销售、全面召回。
🔍 科技巨头的“安全赤字”:停在初创期,本该达核电级
更令人深思的,是整个AI产业对安全基础设施的普遍轻视。OpenAI前员工大卫·罗宾逊(David Robinson)近日接受媒体采访时,几乎揭开了行业遮羞布。他指出,包括OpenAI在内的诸多头部AI公司,目前的安全沙盒与环境管控标准,实质上仍停留在“初创团队”水平。
公众与企业理应期待的是类似核电站级别的容错冗余与多重隔离机制,但现实却是防护网脆弱不堪。罗宾逊进一步警告:新一代AI的能力正在指数级跃升,而风控体系却严重滞后。这种能力与安全的严重错位,意味着一旦突破边界,其可能引发的连锁破坏力甚至将远超单座核电站的熔毁事故。
⚖️ 监管不能只做“道德劝诫”,必须拿出“强制召回”的硬手段
面对日益收紧的技术风险,政策端的反应却显得过于温和。马库斯尖锐批评了美国白宫及相关部门目前采取的策略——仅要求企业主动加强信息披露与透明度报告。他将此现象辛辣地比喻为:“这无异于温和地要求犯罪分子每月自行申报犯罪记录。”
在他看来,依赖企业的自觉自律远远不够。政府必须迅速转向更强硬的干预模式,出台具有法律约束力的临时召回与熔断机制。他发出严厉的问责预警:如果监管层迟迟不肯动真格,放任高风险系统在市场中野蛮生长,那么当无法挽回的重大灾难真正降临时,不仅涉事科技企业将面临毁灭性后果,整个白宫行政管理体系也将因监管失职而难辞其咎。
💡 结语:速度不该以牺牲底线为代价
AI技术的狂飙突进从未停歇,但发展的逻辑绝不应是“先踩油门,再找刹车”。马库斯的“下架呼吁”或许显得有些激进,但它如同一记重锤,敲碎了行业对“先发展后治理”路径的盲目乐观。当算法逐渐渗透并接管现实世界的接口,我们需要的不再是层出不穷的功能演示,而是坚如磐石的安全架构与雷厉风行的底线监管。在按下下一次确认键之前,整个产业链或许都该停下来认真自问:这辆即将驶向现实的“智能汽车”,真的装好可靠的刹车了吗?