Anthropic CEO为什么说开源AI正走向危险道路？滥用风险与治理失控分析
Anthropic CEO Dario Amodei向美国国会警告，开源AI正进入危险道路，强大模型开源后将失去有效监督，无法监控滥用、撤销访问或更新安全机制，相比闭源系统更难持续治理，存在不可逆的滥用风险。
- Anthropic
- Dario Amodei
- 开源AI风险
- AI安全治理
- 闭源模型
据Bitcoin News报道，Anthropic联合创始人兼CEO Dario Amodei日前向美国国会议员表示，开源AI的发展正进入一条“非常危险的道路”。他指出，一旦强大的AI模型以开源形式发布，模型开发者将失去对其使用的有效监督能力。
据其说明，这种失控具体体现在：开发者将无法监控模型是否被滥用，不能撤销已经开放的访问权限，也难以对已发布模型动态更新安全机制。这些因素叠加，会显著增加潜在的不可控风险。
开源模型与闭源系统的安全治理差异
Dario Amodei提到，与闭源模型系统相比，完全开放的模型在实施持续安全治理控制方面存在更大难度。闭源架构下，运营方通常保留访问管控、使用监测和远程更新的能力；而开源发布意味着这些事后干预手段可能被大幅削弱。
不可逆风险的核心关注点
此次表态的核心关切在于“不可逆性”。Dario Amodei指出，一旦模型以开源形式对外发布，后续即使发现安全问题或大规模滥用行为，开发方也难以有效撤销访问或动态更新安全机制。这使得相关风险具有持续放大且难以回头的特性。