为什么资深程序员总觉得 AI 安全讨论像是一场黑色喜剧

在 Hacker News 的讨论区里，经常能看到一种奇妙的对立：一边是焦虑地讨论 AI 对齐（Alignment）和生存风险的安全专家，另一边则是对此嗤之以鼻的资深开发者和 CS 教授。很多老牌程序员认为，现在的 AI Safety 讨论其实是一种基于傲慢的臆测。

这种认知偏差的根源，在于两拨人对“能力曲线”的记忆完全不同。

对于经历过 AI 冬天的人来说，他们见过太多次“即将颠覆世界”的预言。在 70 年代的专家系统（Expert Systems）时代，人们认为只要把足够多的逻辑规则写进 Lisp 程序里，机器就能拥有智慧。结果呢？由于面对复杂现实时的“组合爆炸”问题，那些系统在处理稍微灵活一点的场景时就彻底崩溃了。之后神经网络又起起伏伏，每一次被吹捧到神坛上，最后都因为算力不足或梯度消失等技术瓶颈摔得稀碎。

在这些“老油条”看来，现在的安全专家在谈论“如何约束一个超级智能”时，逻辑漏洞之大简直像在核弹还没造出来之前就开始讨论核不扩散条约。他们眼里的 AI 安全，本质上是把一个尚未实现的工程目标（AGI）直接当成了既定事实，然后在这个虚构的事实上构建一套防御体系。

但如果我们把视角拉回到当前的工程实践，这种“经验主义”的傲慢可能也成了某种盲点。在 GPT-4 出现之前，绝大多数程序员都认为 LLM 只是一个高级的概率预测词典，最多是个会写代码的 autocomplete。但现在的现实是，当你尝试用 Python 3.12 编写一个复杂的异步并发框架，而 ChatGPT 能在几秒钟内帮你指出 asyncio.gather 在特定异常处理下的潜在死锁问题时，你很难再用“这只是个统计模型”来轻描淡写。

这种能力的阶跃让安全讨论从“科幻”变成了“工程需求”。当模型能够通过简单的 Prompt 注入（Prompt Injection）绕过系统指令，或者在代码生成中潜伏一个极难察觉的逻辑漏洞时，安全就不再是形而上学的哲学讨论，而是实打实的 Bug 修复。

目前的局面其实是三种认知维度的激烈对撞：安全专家在预言未来，老程序员在反思过去，而 AI 公司则在通过资本和算力强行定义现在。安全专家的话语体系里充满了“未证先判”的预测，因为危险本身就是不可证伪的；而老程序员的逻辑则是“既然之前都错了，这次大概率也错了”。

这种冲突最讽刺的地方在于，双方其实在追求同一个目标，只是时间尺度不同。老程序员在乎的是当前的鲁棒性（Robustness），而安全专家在乎的是长期的可控性。如果有一天真的发生了严重的 AI 事故，结果大概率是：安全专家会说“看，我早警告过你们”，而老程序员会说“看，我早说过这玩意儿不可靠”。在这种循环中，真正的技术突破往往被掩盖在争论之中。