以色列搞了个假想智库来操控 AI 搜索结果这事儿有点细思极恐
现在的 AI 搜索结果真的一点都不能完全信了。最近看到一个挺硬核的爆料,说以色列那边正在运作一个所谓的“合成智库”(Synthetic Think Tank),目的非常直接:通过大规模生成特定立场的内容,去“喂”给大模型的训练集或者干预 AI 搜索的检索增强过程。
说实话,这让我对现在的 AI 信息流环境感到挺焦虑的。如果说以前的 SEO 是为了骗搜索引擎的点击,那现在的这种“合成内容”就是为了直接接管大模型的“大脑”。当信息的源头本身就是被高度工业化制造出来的偏见时,我们所谓的“AI 获取真相”可能只是在围观一场精心编排的幻觉。
下一篇
用代码来写视频课?Academa 这个思路有点意思 →
这套逻辑其实并不难理解,现在的 AI 搜索(比如 Perplexity 或者 SearchGPT 这种模式)高度依赖 RAG(检索增强生成)技术。如果一个智库能够通过自动化手段,在互联网上铺设海量的、看起来逻辑自洽且具有高度权威性的“研究报告”或“深度评论”,那么当 AI 在爬取信息进行总结时,就会天然地把这些观点当作事实抓取下来。
这不仅仅是简单的“水军”行为,这是一种针对算法逻辑的降维打击。
- 技术路径: 利用 LLM 批量生产高质量、符合学术或新闻规范的文本,这些文本在语义上非常接近真实的研究成果。
- 渗透方式: 并不是直接去攻击模型,而是通过填充互联网的“信息底座”,让 AI 在做知识提取时,不得不把这些预设好的立场作为上下文。
- 后果: 最终用户在问 AI 关于特定政治或地缘冲突的问题时,得到的回答会带有极强的、隐蔽的倾向性,而且由于 AI 说话那种“客观中立”的语气,普通人很难察觉到这其实是经过设计的。
说实话,这让我对现在的 AI 信息流环境感到挺焦虑的。如果说以前的 SEO 是为了骗搜索引擎的点击,那现在的这种“合成内容”就是为了直接接管大模型的“大脑”。当信息的源头本身就是被高度工业化制造出来的偏见时,我们所谓的“AI 获取真相”可能只是在围观一场精心编排的幻觉。
这种针对 AI 搜索生态的“信息投毒”手段,如果真的规模化了,未来的互联网信息茧房可能就不只是针对人的,而是直接针对模型底层的。
免费 AI 工具箱 · 全部完全免费