AI掌门人罕见承认:信任危机不是公关问题,而是承诺尚未兑现
Anthropic 联合创始人兼 CEO Dario Amodei 罕见发表长文,承认公众对 AI 的不信任,本质上是一场信任危机;他同时主张通过制度约束前沿公司的权力,而 Yann LeCun 则给出相反答案:让 AI 更开放、更分散。
注:Hero 区只呈现事件规模与核心分歧,具体论据和争议放在正文展开。
Anthropic 联合创始人兼 CEO Dario Amodei 罕见发表长文,承认公众对 AI 的不信任,本质上是一场信任危机;他同时主张通过制度约束前沿公司的权力,而 Yann LeCun 则给出相反答案:让 AI 更开放、更分散。
注:Hero 区只呈现事件规模与核心分歧,具体论据和争议放在正文展开。
Dario 过去长期强调 AI 的生物安全、网络攻击、就业冲击与失控风险,也主张对前沿模型进行更严格的安全评估。但这一次,他没有把公众的负面态度归咎于媒体剪辑、行业批评者或品牌宣传不足,而是把矛头指向了 AI 公司自身。
他承认:公司还没有兑现承诺。
“I think it is fundamentally a crisis of trust.”
译:我认为,这从根本上说是一场信任危机。在他的描述中,普通人怀疑的并不只是“AI 是否危险”,而是企业、政府与科技行业是否又在策划一种最终会伤害自己的新方案。这种怀疑并非 AI 出现后才产生,而是过去数十年累积的信任赤字,被新技术集中放大。
注:这段判断将“公众不喜欢 AI”与“公众不再轻易相信技术机构”区分开来,后者是全文的解释框架。
Dario 特别反对一种常见补救方案:既然公众觉得 AI 太负面,那就多讲健康、长寿、生产率和科学突破。他认为,“AI 将治愈癌症”已经从愿景变成了陈词滥调;在现实成果出现之前,这类话甚至可能被听成营销话术。
AI 将加速科学研究、改变软件开发,并在未来解决疾病、衰老与气候问题。
如果现实中先出现的是垃圾内容、裁员、耗电与隐私争议,公众凭什么相信下一句承诺?
Dario 提到,自己之所以写《Machines of Loving Grace》,正是因为行业没有充分描绘 AI 改善世界的图景。他还预测,未来 5—10 年内,人类可能治愈绝大多数疾病,并希望 Anthropic 加大生物学与医学投入。
但他的表达刻意留了一道口子:在真正做到之前,不再做空洞承诺。
注:这里的 5—10 年是个人判断,不是已验证的医学进展时间表;愿景与成果不能混为一谈。
注:案例卡从“愿景—成本—结果”三层阅读,重点不是判断承诺真假,而是看承诺是否已经转化为可验证收益。
Dario 不接受“监管必然等于监管俘获、最终导致权力集中”的简单等式。他认为,客观、公平、制度化的程序,也可能限制企业权力,让权力依附于规则而不是具体的人。
他支持部署前测试,并认为前沿模型承担更高要求,可以给追赶者和开放权重模型留下空间。
他举例称,相关加州法案将收入或模型训练成本低于门槛的公司排除在覆盖范围之外,其中一个门槛为 5 亿美元。
在他看来,真正推动集中的是 Scaling Law 与算力资源,而不只是监管;开放权重只能部分缓解。
他的理想规则要同时处理三件事:降低网络安全、生物安全与对齐风险;制度化约束前沿公司的权力;为开放权重模型留下发展空间,同时管住开放模型自身的风险。
注:时间线呈现的是 Dario 的政策逻辑,不代表相关方案已经完成立法、执行或效果验证。
Yann LeCun 的答案与 Dario 相反。他认为,不应通过让少数公司或政府掌握监管权来换取安全,而应让 AI 尽可能开放、分散,形成不同系统之间的相互制衡。
AI 天然向算力和前沿实验室集中,因此需要公平规则、前沿测试和外部制度,限制领先公司的权力。
让不同人拥有不同 AI,基础模型开放,系统拥有不同语言、价值观与专业能力,以“我的好 AI”对抗“你的坏 AI”。
LeCun 的论点也有现实约束:开放权重降低了使用门槛,却没有消除芯片、算力、数据与运营能力的差距。若其他条件不变,最有钱、最能运营的企业仍可能占据优势。
注:对比卡不是二选一投票;开放模型与制度监管可能同时存在,但两者解决的风险并不完全相同。
Dario 把信任放在核心位置是有道理的,但“信任危机”可能只解释了一半。公众的疑问有些与 AI 能否治愈癌症无关,而与权力、分配和责任有关。
一个诚实的注脚。
即使 AI 最终交付了真实的医疗突破,也不意味着就业、隐私、所有权和治理问题会自动消失。相反,技术越强,这些问题可能越尖锐。
注:问题清单用于区分“价值证明”和“权力治理”;前者成功,不会自动替代后者。
AI 行业正在从“请相信我们的未来”进入“先交付可验证结果,再讨论更大的权力”阶段;但真正的信任重建,必须同时回答谁控制 AI、谁分享收益、谁承担代价,而不是只拿一项医疗突破抵消所有治理争议。
原文未提供产品体验地址或公开测试入口。
如需跟进,建议关注相关公司后续公布的生物学、医学研究成果,以及前沿模型测试与开放权重政策的具体细则。