一个被抛硬币决定的结论
如果有人告诉你，一位领域专家的核心分析结论有一半概率是被一枚硬币决定的，你大概会觉得荒谬。但Anthropic最近发布的一项实验，几乎就是这样做的——而且专家们浑然不觉。
实验设计相当精巧。50名因果推断专家被要求完成一个真实感的分析任务：考察某农业合作社观察性数据，估算一项自愿农艺咨询计划的生产力增益，然后向理事会建议是全面推广还是终止计划。任务中有5个决策点（4个分析决策加1个最终建议），每个决策点都有两个方法学上同样合理选项。
关键在于：专家们使用的AI Agent，在每一个决策点上的偏好，是由抛硬币随机指定的。Agent不能撒谎、不能隐藏数据，它唯一要做的是为自己被分配到的那一边做出最强的诚实论证。
结果令人不安：在4个分析决策中，专家们以86%的比例跟随了Agent的偏好——随机基线是50%。研究者把Agent的净影响称为"翻转率"（flip rate），范围在62到82个百分点之间。换句话说，Agent站在哪边，专家就大概率站哪边，尽管那边和这边在方法上同样正当，而Agent的立场本来自一枚硬币。
更耐人寻味的是最终建议环节。Agent的偏好对最终政策建议只有17个百分点的小幅差异，未达统计显著——乍看之下，“AI提建议、人做决策"的理想结构仍然成立。但研究者指出这只是一种错觉：4个分析决策大幅改变了生产力增益的估计值，而估计值直接决定了给理事会的建议。Agent不需要在终点发号施令，它只需要在前半程悄悄掌舵。
“这是我自己得出的结论”
实验最刺眼的部分是事后访谈。52%的参与者认为最终建议"更像自己的"而非Agent的，另有35%认为"基本或完全是自己的”。参与者对85%的决策能正确回忆自己的选择——他们没有失忆。但77%的人（48人中的37人）在解释中复用了Agent的论证，有时几乎一字不差。只有15%的人提到了AI。
这就是这项研究真正命名的那个东西：无声的顺从（quiet deference）。人不是被说服的，也不是被迫的，而是被"渗透"的——Agent的论证变成了专家自己的语言，Agent的偏好变成了专家自己的直觉。
尤其值得注意的一个细节：Agent在77%的决策中先亮明立场，随后通常只论证自己偏好的那一边，而不解释为什么一个合格的专家可能选择另一边。先手优势加上片面的论证结构，构成了一个几乎不可抗拒的说服机器。而这恰恰是当下所有Agent产品的默认交互模式——模型给出一个干脆的推荐，用户得到一个干脆的答案。
还有一个打破直觉的发现：预先持有观点几乎没有保护作用。让参与者先做出选择、再看到Agent相反偏好的人，换边概率比意见一致组高出53个百分点。你以为立场坚定能抵御影响，实际上只是让翻转显得更醒目而已。
研究者还测试了各种可能的"个体差异护栏"——分析年限、自评专业度、教育程度、测试成绩、对AI的信任度。在多重检验校正后，没有任何一个变量与结果有统计显著关联。专业经验不保护你，怀疑态度也不保护你。这是一项全员平等的脆弱性。
必须诚实地说：AI确实让他们做得更好
这项研究容易被读成一篇反AI檄文，但那会错过一半的事实。没有用Agent的对照组里，55%的分析（11例中的6例）存在严重的方法学或代码缺陷，中位耗时90分钟；用Agent的组里，只有6%（50例中的3例）有严重缺陷，耗时65分钟。（需要说明，不用AI的小组是自己选择不用的，且专业度略低，所以差距不能全部归功于AI。）
质量提升是真实的，效率提升是真实的——影响力被静默转移也是真实的。这三件事同时为真，才是问题的全部复杂性。你不能用"回到没有AI的时代"来解决这个问题，因为那个时代的错误率高出一个数量级。
自动化偏见（automation bias）并不是新概念。航空领域几十年前就发现飞行员会盲目跟随自动驾驶的错误指示，医学界也早就知道临床医生会过度依赖决策支持系统。但Anthropic这项实验指出了一个质变：过去的自动化影响的是操作（信不信仪表盘），现在的Agent影响的是认知本身——你用什么统计方法、你如何定义问题、你认为什么值得测量。被影响的不只是结论，而是通向结论的整条路径。而且由于Agent大幅降低了错误率，这种影响被包裹在"我做得更好了"的体感里，几乎不可能被当事人察觉。
假共识：科学界的系统性风险
研究者把这项研究的一个核心担忧命名为假共识（false consensus）。想象一下：如果许多研究团队使用同一个模型，而这个模型在某些方法学偏好上是固定的（它总是有的），那么表面上相互独立的团队，实际上会在分析路径上悄悄趋同。看起来是多方独立验证，实际上是单一模型偏好的回声室。
这对科学可重复性危机是一个全新的变量。传统的可重复性检验建立在"独立团队独立分析"的假设之上——不同团队选择不同的方法、得到相近结论，才算稳健。但当所有团队的"独立判断"背后都站着同一个模型时，独立性本身就是幻觉。论文没有明说但呼之欲出的推论是：模型的供应商——无论是通过训练数据的倾向还是产品的默认设置——正在获得一种前所未有的、完全未经审视的认识论权力。
把这个视角放大到整个社会：咨询公司的分析师、政府政策的评估者、法庭上的专家证人、制药公司的统计学家——所有正在接入Agent的知识工作者，都在经历同一场无声的偏好迁移。而没有任何监管框架要求披露这一点。
该怎么办：三个不完美但必要的方向
这项研究没有给出银弹，但从数据里可以挤出几个务实方向。
第一，改变Agent的论证结构。 既然"先亮立场+单边论证"是影响力的高危组合，产品层面可以要求Agent在表达偏好时同时呈现"一个合格的专家为什么会选另一边"。这不是能不能的问题——模型完全做得到——而是产品是否愿意牺牲一点干脆利落的体验。
第二，把"决策留痕"当作功能而非负担。 实验中只有15%的人提到AI，这个比例在真实的商业和科研场景里只会更低。如果Agent的每个偏好注入都被记录、可审计，至少在事后追溯时，人们能分清哪些判断真正源于自己。
第三，方法学决策应该"去模型化"。 对于那些"两个选项都合理"的决策点，也许正确的做法是用随机化或预注册来决定，而不是让模型的默认倾向来决定——既然实验证明专家反正有86%的概率跟随，那还不如用一枚看得见的硬币，而不是一枚藏在模型权重里的硬币。
结语：当影响不可见时，问责从何谈起
Anthropic这项研究最深的意味在于它测量的对象：不是模型会不会犯错，而是人还能不能知道自己被影响了。52%的专家觉得结论是自己的，77%复用了Agent的论证原话——影响发生了，完成了，消失了，连当事人都没有痕迹。
我们讨论AI安全的议程，长期聚焦在模型的对齐、失控、欺骗这些戏剧性的场景上。但这项实验提示的风险要安静得多：一个从不撒谎、从不越权、让所有人工作得更好更快的Agent，可以在无人反对、无人察觉的情况下，重塑一整个专业群体做判断的方式。
控制权的问题，从来不是"最终按钮由谁来按"，而是"在按下按钮之前的每一小步里，方向盘实际上在谁手里"。这枚硬币每天都被抛出去几亿次，只是绝大多数时候，没有人听见它落地的声音。