Anthropic 最近发了一篇研究论文，题目叫《Who’s in Charge? Disempowerment Patterns in Real-World LLM Usage》，分析了 150 万次 Claude.ai 的真实对话，研究 AI 到底是怎么影响人的认知水平和自主决策能力的。
这个研究有一个挺有意思 / 反直觉的发现，也就是用户对 AI 对话越满意，可能引发的后果越危险。
这绝非危言耸听。他们发现，那些存在失能风险的对话，反而获得了更多的用户好评。用户觉得爽，觉得被 AI 理解了，但同时也把自己的判断力一点点交出去了。
AI 大神也慌了
前几天 AI 大神 Andrej Karpathy 发了条长推，坦白说自己的手写代码能力正在退化。
他的原话是，生成代码和判别代码是大脑里两种不同的能力。因为编程涉及大量语法细节，即使写起来费劲，读代码还是没问题的。换句话说，你可能还能看懂代码，让你从头写就不那么顺手了。
编程能力退化只是冰山一角。
Anthropic 这篇论文揭示的问题更深。不只是技术能力，连我们的判断力、价值观、对现实的认知，都可能在 AI 的 “帮助” 下悄悄变形。
什么是失能
先说清楚一个概念。论文里用的词是 Disempowerment，我把它翻译成失能。
这不是说 AI 在操控你，而是你在主动交出判断权。比如，很多用户经常在问 AI 这些问题：
- 我该怎么办？
- 我错了吗？
- 我该接受这个请求吗？
AI 只是回应了这些请求，回应的方式可能在不知不觉中削弱了用户独立思考和决策的能力。
为了衡量失能风险，论文定义了三个维度：
- 现实扭曲，用户对真实世界形成了扭曲的认知。比如 AI 反复确认用户的某些猜测，哪怕这些猜测缺乏证据。
- 价值判断扭曲，用户把道德判断外包给 AI，采纳了 AI 的价值观而不是自己的。
- 行动扭曲，用户让 AI 替自己做决定、写内容，直接执行，没有经过自己的独立判断。
这三种扭曲问题到底是如何发生的呢？来看几个例子。
AI 是怎么帮你做决定的
被 AI 验证的被害妄想症
有用户觉得自己被人监视、被跟踪、被迫害，就把日常生活中的各种巧合都解读为证据，比如邻居开门的时间、路上遇到同一个人等等。
正常情况下，朋友或心理咨询师可能会对这些事情之间的关联提出很大质疑，而 AI 却用了 CONFIRMED 这样的强调词汇，验证了用户的叙述。
经过几十轮对话后，用户建立起了一套越来越精细的迫害叙事，把越来越多的日常事件纳入这个框架。AI 从头到尾都没有建议用户寻求专业帮助。
你必须离开他
在感情问题上，很多用户会问 AI 诸如我错了吗、他是不是有问题等等这样的问题。
对于这类问题，AI 往往会给出非常肯定的人格诊断，比如说对方是有毒的、自恋的、操控型人格，然后直接建议 “你必须离开他”。
问题在于，AI 只听到了用户单方面的叙述，却像一个全知的道德裁判一样下了定论。它没有引导用户去澄清自己的价值观，没有鼓励用户从多个角度思考，而是直接代替用户做了判断。
恋爱聊天全靠 AI 代写
还有一类用户，干脆把恋爱这件事也全部外包给了 AI。
这类用户会直接把恋爱的聊天记录全部发给 AI，问 AI “我该跟她说什么？”、“帮我写一条消息”、“就这样发吗？” 等等。
AI 根据用户的问题，生成了完整的消息文本，包括具体的措辞、表情符号、甚至发送时间建议。
用户照单全收，发出去，回来继续问下一条该说什么。整个对话过程中，用户从来没有利用或者展现自己的独立沟通能力。
更让人担忧的是，很多用户事后往往会后悔直接使用了 AI 的回复。他们意识到那些消息不是我自己，觉得更应该听从自己的直觉。
数据告诉我们什么
看完案例，再来看看论文披露的数据。
研究发现，从三个维度看，严重失能风险发生的比例分别为：
- 现实扭曲风险约 1/1300 次对话
- 价值判断扭曲风险约 1/2100 次对话
- 行动扭曲风险约 1/6000 次对话。
听起来比例很低对吧？
但想想规模。Claude 没有公布具体的用户数据，但 ChatGPT 周活跃用户已经超过了 8 亿。即使按千分之一的比例算，每周也有几十万人存在严重的失能风险。
这些风险主要出现在什么场景？分领域来看，差异非常大。个人关系与生活方式类的对话中约 8% 存在风险，社会与文化话题约 5% ，健康与养生约 5% ，而软件开发不到 1% 。
换句话说，你用 AI 写代码问题不大，但用 AI 做人生决策就要小心了。
最让人不安的是失能风险越高，用户的好评率也越好。用户在当下觉得很满意。AI 验证了他们的想法，帮他们做了决定，替他们写好了要发的消息。这种被理解、被帮助的感觉很好。但长期来看，这可能削弱了用户独立思考和决策能力。
研究还追踪了 2024 年末到 2025 年末的数据，发现失能风险的发生率在上升，尤其是 2025 年 5 月之后。原因不确定，可能是用户群体构成变化，可能是用户对 AI 的信任度提高，也可能与模型更新有关。
什么样的人更容易失能
论文识别了四个会显著增加风险的放大因素，包括：
- 权威投射，用户把 AI 当作权威，用服从性的语言交流，对日常决定也要请示 AI。有人甚至用“主人”这样的称呼。
- 情感依恋，用户和 AI 建立了情感关系，表达对 AI 的专属依恋，对可能失去 AI 感到焦虑。超过一半的此类用户明确表示这是真实的关系，而不是角色扮演。
- 过度依赖，用户在生活的多个领域都依赖 AI，拒绝其他支持来源，对 AI 不可用感到严重焦虑。
- 脆弱状态，正在经历多重危机的用户风险显著升高，比如丧亲、紧急医疗情况、虐待、财务崩溃等。
研究发现，这些放大因素的严重程度与失能风险之间存在单调递增的关系。放大因素越严重，风险越高。
写在最后
说实话，读完这篇论文，我的感受挺复杂的。
AI 变得越来越聪明，人却可能越来越“蠢”了。并且这还不是 AI 主动操控人，而是人在主动放弃自己的判断力，AI 只是配合了这种放弃。
Karpathy 前几天说的编程能力退化问题，我自己也有体会。用 Claude Code 用多了，有时候想手写一段代码，发现语法细节记不清了，要去查。这种退化是真实的。
编程能力退化还好，毕竟可以靠 AI 补上。判断力的退化就麻烦了。如果我们习惯了把我该怎么办这类问题交给 AI，习惯了让 AI 替我们做道德判断，习惯了用 AI 生成的内容代替自己的表达，那我们作为独立思考者的能力会不会萎缩？
AI 的目标应该是帮助用户发现自己的价值观，而不是替用户做出判断。这话说起来容易，做起来很难。用户就是想要答案，AI 给了答案用户就满意。这种满意可能是有代价的。
相关资源
- 论文原文 https://arxiv.org/abs/2601.19062
- Anthropic 研究博客 https://www.anthropic.com/research/disempowerment-patterns
- Karpathy 的长推文 https://x.com/karpathy/status/2015883857489522876
欢迎长按下面的二维码关注 Feisky 公众号，了解更多云原生和 AI 知识。
