美国政府将Anthropic列入供应链黑名单
2024年7月,Anthropic与美国国防部签署2亿美元合同,成为首批将Claude模型集成到机密网络的AI实验室。但国防部要求移除两大安全限制:允许AI用于大规模监控美国公民,以及开发全自主武器。Anthropic CEO Dario Amodei公开拒绝,称当前AI系统尚无法可靠驱动全自主武器,幻觉问题在军事场景中可能致命。尽管他支持AI用于保卫美国,但仍坚持不应跨越大规模监控和自主武器两条红线。五角大楼随即取消合同并将Anthropic列为首个供应链风险名单。