老一辈程序员眼里，AI安全就是一部黑色喜剧？

底下评论区的画风基本分两派。一派是"我活了六十年，看 AI 死过三次了"，另一派是"你们这些年轻人根本不知道自己在搞什么"。但这两派其实有一个共同点——都见过 AI 在性能拉胯的年代被吹上天，然后又摔得稀碎。

这就有意思了。安全专家的潜台词是"AI 强到需要约束"，而在老油条听来，这句话等于"我还没造出核弹就开始谈核不扩散了"。从 AI 冬天走过来的人，见过专家系统、专家规则、神经网络的一波波兴衰，他们的记忆里 AI 永远在"差一步就颠覆世界"，然后差了几十年。

但我觉得这事儿不能只怪安全专家太乐观，老程序员们对"能力曲线"的判断也可能停在过去。GPT-4 出来之前，我也觉得 alignment 是科幻小说里的词。现在再看，ChatGPT 都能写长篇代码了，谁还敢说这是过度自信？问题是，安全的话语体系确实有"未证先判"的味道——你没法证明危险即将到来，危险这件事本身就是一种预测。

所以这其实是三种傲慢的对撞：安全专家的"我们懂未来"，老程序员的"我见过太多未来"，还有 AI 公司"这次真的不一样"。谁也别觉得谁蠢。唯一能确定的是，如果哪天真出了大事故，两边都会说：你看，我早说了。