11月3日，360集团创始人周鸿祎在对话中抛出了一个极其犀利且反常识的观点：当前大模型的能力已经超过了每一个人，因此试图让大模型与单个人类对齐，实属伪命题。
这句话直接击中了当前AI安全治理领域的软肋。长期以来，业界一直在耗费巨大精力做人类反馈强化学习（Reinforcement Learning from Human Feedback, RLHF），试图让AI的输出符合人类的道德规范和安全标准。但周鸿祎点出了一个残酷的现实：当模型的参数量和知识广度呈指数级增长，其涌现出的推理能力和知识储备，早已碾压了任何一个参与标注或审核的普通人类。
用一个认知水平有限的个体，去规范和约束一个全知全能的数字大脑，这就像是让小学生去批改博士生的论文，不仅荒谬，而且危险。我们亟需建立一套系统级的安全护栏（Safety Guardrails）和可解释性（Explainability）机制。
我完全赞同这种视角的转换。AI的发展不可能因为害怕失控就踩死刹车。我们需要的是一套能够监控AI决策逻辑、在关键节点进行人工干预的治理框架。承认大模型在特定维度上已经超越人类，是制定有效安全策略的前提。只有放下“掌控一切”的傲慢，转而寻求与超级智能（Superintelligence）共存和制衡的机制，我们才能在享受技术红利的同时，守住安全的底线。