以色列斥资4600万美元通过咨询公司引导ChatGPT的叙事逻辑
最近曝光的一份合同揭露了一个非常耐人寻味的操作:以色列政府通过第三方中介,支付了总计 4600 万美元,聘请了霍根格林斯潘(Hogan Lovells)顾问集团。这个团队中包含前特朗普竞选经理科辛斯古德曼,而他们的核心任务之一,竟然是“指导”OpenAI 的 ChatGPT 在处理加沙冲突相关内容时的回应方式。
这件事最值得深挖的不是钱的数量,而是这种干预的底层逻辑。很多人误以为这种所谓的“操控”是通过直接修改代码或注入数据实现的,但实际上,霍根格林斯潘采取的是一种更隐蔽的“策略性引导”。
根据协议细节,以色列当局的具体要求集中在两个维度。首先是标签化,要求在提及“巴勒斯坦伊斯兰抵抗运动”(Hamas)时,必须在回应中强调其“极端主义背景”;其次是措辞过滤,在讨论加沙难民问题时,要求 AI 尽量避免使用诸如“纳粹式迫害”这类带有强烈主观色彩的词汇。
从技术角度来看,这种干预并不是在修改模型的底层架构或预训练数据集(Pre-training data),因为那样成本太高且周期太长。他们利用的是 RLHF(基于人类反馈的强化学习)机制中的“内容审查建议”和“提示词微调”。简单来说,就是通过外部专家组提供一套特定的“正确答案”样本,引导模型在面对特定政治敏感词时,倾向于选择符合雇主预期的概率分布。
这意味着,当我们向 ChatGPT 询问关于加沙的局势时,我们接收到的答案可能已经过了一层由昂贵咨询公司精心设计的“认知滤镜”。
这种模式最精明的地方在于它规避了直接的利益冲突。OpenAI 并没有直接接受以色列政府的拨款,而是通过霍根格林斯潘这个中间商来传递政策倾向。这种“外包式干预”让 AI 公司在维持“中立”形象的同时,实际上在执行特定国家的叙事策略。
对于我们这些开发者和 AI 架构师来说,这敲响了一个警钟:AI 的“客观性”在资本和政治面前是非常脆弱的。目前市面上绝大多数 LLM 缺乏透明的政策审查机制,用户根本无法得知当前的回答是基于通用知识库,还是基于某次价值数千万美元的“微调建议”。
如果每个国家都通过这种方式“租借”AI 公司的道德裁判权,那么 AI 将不再是真理的检索工具,而变成了信息战场上的精密棋子。当模型在回答中悄悄剔除掉某些主观词汇,或者在特定话题上增强某种倾向时,这种潜移默化的引导比直接的删帖封号要可怕得多。
在构建 AI 系统时,我们不能只关注 Token 的预测准确率或推理速度,更需要思考如何建立一套可审计的透明度机制。如果 AI 的价值观可以通过一份 4600 万美元的合同来定向调整,那么所谓的“通用人工智能”在面对复杂的人类社会议题时,可能永远无法达成真正的中立。
4600万美金砸下去,难怪ChatGPT说话越来越像公关稿,这波操作太离谱了