AI安全

美国国防部向Anthropic发出最后通牒，要求移除AI模型的所有安全限制用于军事目的，遭拒绝后威胁将其列入供应链风险名单。2025年7月Anthropic曾与国防部签署2亿美元合同，2026年1月国防部利用其模型参与委内瑞拉马杜罗政府的逮捕行动。国防部要求包括大规模监控美国公民和开发全自动武器，Anthropic坚决拒绝，理由是AI模型存在幻觉问题可能导致致命错误。Sam Altman公开支持Anthropic立场，200多名AI工程师签署联名信。这是首次有美国公司被政府标记为「供应链风险」，可能开创先例并对AI行业产生深远影响。

Anthropic面临美国国防部史无前例的威胁：要求在周五前放弃两项安全限制——不能用于监控美国公民、不能用于完全自主武器，否则将被列入供应链风险名单。国防部同时威胁动用《国防保护法》强制移除安全限制。Anthropic明确拒绝：大规模监控与民主价值观不相容，当前AI系统可靠性不足以支持全自动武器。尽管如此，Musk的xAI已与国防部达成协议，Grok将被用于机密系统。同时，AI代理工具全面爆发，Perplexity Computer可控制用户电脑完成任务，Cursor Agents可运行10小时完成编码项目，Claude Code可远程审批AI操作。Anthropic还披露三家公司利用虚假账户蒸馏Claude模型。