6月18日，Anthropic 首席执行官达里奥·阿莫迪（Dario Amodei）接受彭博社采访，透露了一个让科技圈侧目的事实：Anthropic 内部有一个独立治理机构，其权力大到"随时可以解雇我"。这不是自嘲，而是该公司精心设计的一整套企业治理结构的冰山一角——它的目的，是回答 AI 时代最核心的难题之一：谁来监督那些有能力改变人类命运的人？
一个可以解雇 CEO 的机构
阿莫迪口中的机构叫做"长期利益信托"（Long-Term Benefit Trust）。
这家独立治理机构的权力边界极为清晰：它拥有任命和撤换董事会成员的权力，甚至拥有解除 CEO 职务的权力。用阿莫迪的原话说："如果他们愿意，甚至可以随时解除我的 CEO 职务。"
这种设计的核心理念是：防止公司内部少数高层管理者形成利益集团，将公司的发展方向牢牢锚定在"为人类长远利益服务"的轨道上。换句话说，这不只是公司治理结构的调整，而是一种将 AI 安全内嵌到权力架构中的制度安排。
阿莫迪的矛盾：私营企业主导 AI，我不情愿但不反对
在采访中，阿莫迪表达了一种少见的坦诚："几乎所有重要技术革命背后都有政府参与，而人工智能是首个主要由私营企业推动的革命技术。如果让我自己选择，我未必会采用这种私营企业主导的发展模式。"
但他同时明确反对两个极端：既担忧企业或个人掌握强大技术形成权力集中，也担忧政府完全掌控 AI 的发展。因此他认为，"目前最合理的方案是权衡利弊，引入公共监督机制的治理方式"。
这种"第三条路"的表态，在全球 AI 治理讨论中颇具代表性。不同于 OpenAI 从非营利转型为营利性公司、Anthropic 则通过独立信托机构为非营利使命兜底——两条路径都在尝试回答同一个问题：如何在资本的压力下坚守 AI 安全？
长期利益信托：它究竟长什么样？
Anthropic 在企业结构设计上花的心思，比大多数科技公司都要复杂。
"长期利益信托"作为一种治理机制，其核心特征包括：
- 独立于管理层：信托机构独立于公司管理层运作，不受 CEO 或创始团队直接控制
- 使命锁定：在公司章程层面将"安全且有益的 AI"写入企业使命，任何偏离这一方向的商业决策都可能触发制衡
- 人事权：掌握董事会成员的任命和罢免权，进而影响公司重大决策方向
- 问责机制：理论上，信托机构需要对"公众利益"而非股东利益负责
这与传统科技公司以股东为中心的治理逻辑形成了鲜明对比。对于一家估值600亿美元、背后站着谷歌和亚马逊等巨头的公司而言，这种制度设计更像是一种"安全锁"——在资本与安全之间人为设置一道缓冲带。
为什么这件事值得关注？
AI 公司的治理问题，正在从学术讨论变成现实命题。
当一家公司开发的模型可能具备改变数亿人生活的能力，当 AI 系统的决策开始渗透医疗、教育、司法等敏感领域，"谁在管理这家公司"就不再只是股东和员工关心的事。阿莫迪选择在公开采访中明确阐述这一机制，既是一种主动透明，也是对监管压力的回应。
事实上，Anthropic 在 AI 安全领域的投入一直走在行业前列。公司很早就提出"宪章式 AI"（Constitutional AI）概念，要求 AI 系统在回答问题时遵循一套预设的价值观和原则。长期利益信托的存在，则是这套安全体系在企业制度层面的延伸——不只是约束 AI 的行为，更是要约束那些掌控 AI 的人。
AI 治理：一场仍在探索的全球实验
放眼全球，各国政府和科技公司都在摸索 AI 治理的最优解。
欧盟通过《AI 法案》，建立了基于风险分级的监管框架；美国则更多依赖行业自律和行政命令；中国也出台了生成式人工智能服务管理暂行办法。但这些监管框架更多针对的是 AI 产品的合规，而非 AI 公司权力结构的制衡。
Anthropic 的信托模式，或许提供了一种新的思路：与其事后用法规约束 AI 的行为，不如从一开始就让企业权力结构本身具备"纠偏"功能。这种"内置制衡"的思路，与现代公司治理中的独立董事制度有相似之处，但约束对象从股东变成了更广泛的"人类利益"。
写在最后
阿莫迪说"我可以被随时解雇"，这句话背后是一种罕见的清醒：在 AI 时代，最危险的不是技术本身，而是无人约束技术拥有者。长期利益信托的设计，本质上是在回答一个问题——当 AI 权力越来越大，谁来管住那些站在最前面的人？
Anthropic 的答案或许不完美，但它至少迈出了制度性探索的第一步。这场实验的结果如何，将影响整个 AI 行业对"安全"二字的定义。