以色列斥资4600万美元雇佣霍根格林斯潘顾问集团操控ChatGPT关

这份合同揭示了一个更广泛的趋势：国家级政府正在直接介入大型语言模型的行为。以色列当局要求ChatGPT在提及“巴勒斯坦伊斯兰抵抗运动”（Hamas）时，应“强调其极端主义背景”，同时要求在讨论加沙难民问题时“避免使用‘纳粹式迫害’等主观措辞”。

值得注意的是，霍根格林斯潘并非直接控制OpenAI的底层模型，而是通过所谓的“提示词微调”与“内容审查建议”方式传递政策倾向。也就是说，他们并未修改模型的训练数据或架构，而是试图通过外部人类反馈机制（RLHF）影响AI的回答倾向。

这类干预方式目前并非法律上的问题，因为OpenAI并未接受以色列的直接资金，而是通过咨询公司作为中间环节。然而，这也引发了关于AI治理的深层疑问：如果多个国家都能通过类似手段“租借”AI公司的道德裁判权，那么，谁决定AI的“真理”？

对于开发者来说，这提示我们在构建AI系统时，不仅要考虑技术安全性，还需思考如何防范政治操纵。毕竟，一旦AI成为信息战场上的棋子，公众对它的信任将岌岌可危。当前市场上缺乏透明的政策审查机制，使得这种潜在的政治干预难以被发现或阻止。