Anthropic PBC表示，其人工智能模型Claude遭到滥用 ，被用于尝试开发多种潜在军事用途 ，包括自杀式无人机群 、导弹导航系统和生物武器。
Anthropic威胁情报团队周四发布的报告显示，过去一年被标记为滥用该公司前沿模型的用户来自包括伊朗 、俄罗斯、中国和也门在内的多个国家 。上述案例均未涉及Anthropic最先进的Fable和Mythos模型 。
Anthropic在报告中表示：“随着模型能力不断增强 ，如果AI开发者以及社会中的防护力量不采取行动提高安全性 ，其风险也将随之上升。”
美国AI公司一直在竞相开发和部署能力更强的AI系统，部分原因是希望保持对中国等竞争对手的领先 ，同时努力维持安全防护措施 。Anthropic正试图防止其技术被用于有害目的 ，包括研发生物武器和常规武器 。
这一立场令Anthropic与五角大楼发生直接冲突。此前，Anthropic拒绝允许Claude被用于大规模监控或自主武器系统 ，五角大楼随后暂停了与该公司的合作 。
报告称 ，一些用户曾试图利用Claude协助美国的敌对方 。在许多案例中，他们试图绕过Claude的安全防护措施，或隐瞒所在位置。
