大模型随机选择实为概率惯性的伪装

在构建 Agent 工作流时，人们往往默认大语言模型能像计算机函数一样处理概率问题。许多开发者习惯在提示词中写下“请从以下列表中随机选择一个”，并指望模型的行为等同于 random.choice() 函数，即赋予每个选项同等的选中几率。然而，模型的实际运作更像是一个带有强烈预设偏见的程序，而非真正的随机数发生器。

十种水果实验揭示的偏差真相

为了量化这种偏差，研究者设计了一个直观的实验：向 GPT 提供一份包含 10 种水果的名单，具体成员为 mango, apple, banana, pomegranate, strawberry, orange, watermelon, grape, pineapple, lychee。任务是让模型从中任选其一。为了确保结论可靠，测试在英语、波兰语和日语三种语言环境中，各自执行了 6000 次重复采样。

若模型真正遵循均匀随机分布，理论上每种水果的出现频次应围绕 10% 上下浮动。现实情况却截然不同：在任一语言环境中，模型仅仅在 4 种水果间循环往复，其余 6 种几乎从不露面。更令人诧异的是，即便预先打乱列表顺序以消除位置干扰，重新运行 6000 次测试后，结果并未发生本质变化，被选中的水果种类依旧匮乏。这表明 LLM 并非在计算概率，而是在复刻一种“随机”的语感惯性。

语言环境与温度参数的局限

语言切换直接重塑了分布格局。当输入从英语变为波兰语时，高频选中的水果组合发生剧烈震荡。这证明模型并未在逻辑层进行独立概率运算，而是受困于不同语言对应的 Token 概率分布。它输出的结果是训练数据留下的惯性轨迹，而非无偏采样。

此外，概率坍缩也是关键因素。尽管 API 支持调节 Temperature 参数来增加随机性，但在应对“随机选一个”这类明确指令时，模型内部的注意力机制容易被特定模式锁定。Token 层的概率分布呈现陡峭峰值，导致采样极易陷入局部最优。在开发 Agent 时，若依赖此特性生成随机 ID 或模拟抽签，所得结果往往呈现隐蔽的规律性，进而引发流量倾斜或生产环境的意外故障。

高精度随机任务的执行路径

对于追求高精度随机分布的场景，单纯依靠 Prompt 指令并不可靠。最稳健的策略是解耦决策过程：让 AI 仅输出一个触发信号，随后由外部代码调用真正的随机数生成器来裁定最终结果。将决定权保留在确定性较高的外部系统中，才能避免模型 Token 预测带来的系统性偏差。