AI导航

五角大楼调查:过度依赖 Palantir AI 是误击伊朗学校原因之一

AI资讯
3 min read
0 次阅读

2026 年 9 月 22 日,Gizmodo 援引 Bloomberg 的一项调查报道披露:参与五角大楼未公开内部审查的官员表示,2026 年 2 月 28 日美军误击伊朗米纳布一所小学、造成包括至少 123 名儿童在内 150 多人死亡的事件,原因之一是美军中央司令部部分人员过度依赖 Palantir 开发的 AI 系统 Maven Smart System。把"过度依赖 AI"写进原因链,让这起事件成为 AI 安全讨论无法回避的案例。

调查还原的三重失败链

据 Bloomberg 引述的官员说法,误击由三个环节的失败共同导致。第一环是过时的情报:美军数据库多年来把米纳布这处院落标注为伊斯兰革命卫队设施,但 2017 年前后建起的围墙已把学校与相邻基地隔开,2018 年的卫星图像里能看到彩绘墙面、足球场和操场标记。一名分析师 2019 年就记录过这一变化,但记录进了一个与主数据库不连通的系统,从未传到决策者手里。这所学校有自己的网站,在 Google 地图上也能搜到。

第二环是过度依赖 AI。Maven 是 Palantir 开发的 AI 情报整合与目标定位平台,用于加速情报分析与决策,据称过去一年已成为美军作战的"基石"工具。官员称,一些使用者指望 Maven 能自动标记陈旧记录或情报矛盾——但没人说得清他们为什么觉得系统会做这件事。米纳布地点被输入 Maven 后成了首日打击的推荐目标之一,而原本需要几小时的目标清单工作被压缩到了几分钟。

第三环是人的缺位。据报道,开战首日 24 小时内美军打击了 1000 多个伊朗目标;全军平民伤害缓解团队过去几年缩减约 90%,只剩不到 20 人,中央司令部的小组从 10 人减到 1 人——米纳布这个地点在导弹升空前,没有经过任何这类人员的审查。

Palantir 的回应:数据不是我的锅

Palantir 发言人对 Bloomberg 回应称,公司"不对底层数据负责,也不负责识别情报缺陷",没有证据表明其软件有过错。知情人士也表示,输入 Maven 的信息质量首要责任在政府一方。值得注意的是,事后 Palantir 给系统增加了新功能:重新审查底层情报,标记人工审查可能遗漏的不一致之处——据称新功能已经发现了一些异常。

120 多名众议院民主党人今年 3 月曾致信国防部长,要求说明包括 Maven 在内的 AI 工具在目标识别中的作用。五角大楼以调查仍在进行为由至今没有公开回应,官员称完整报告其实已基本完成数月。

联合国调查团:有合理理由相信构成战争罪

同一周,联合国伊朗问题独立国际实况调查团也给出结论:有合理理由相信美国犯下了发动无差别攻击的战争罪。调查团认为,美国"未能履行采取一切可行措施核实"该学校是否为军事目标的义务,这种失败"超出了一般疏忽"。华盛顿至今没有公开承认责任,国防部拒绝就联合国报告置评。

对 AI 行业的真正警示

这件事最值得咀嚼的不是技术细节,而是一个组织问题:AI 把几小时的工作压缩到几分钟,省下来的时间本应用于更严格的复核,但现实是复核环节被一起压缩掉了。Gizmodo 还提到本周另一起事件:一名分析师用的聊天机器人幻觉出一艘中东船只载有运往伊朗的核部件,美军一度准备登船,最后一刻才撤回。在"错一次就无法挽回"的场景里,人类对 AI 输出不加验证的信任,可能是比模型能力本身更紧迫的风险。

Q:调查报告全文公开了吗?

A:没有。Bloomberg 报道的是参与未公开内部审查的官员的说法,五角大楼称调查仍在进行,完整报告据称已基本完成数月,但尚未公开发布。

Q:Palantir 会承担法律责任吗?

A:目前没有任何官方结论指向 Palantir 的责任。公司否认软件有过错,联合国调查团的结论针对的是美国政府的行为。后续是否追责,取决于五角大楼调查和可能的司法程序。

Q:Maven 系统现在还在用吗?

A:据报道仍在用。Palantir 在事后为其增加了复核底层情报、标记不一致的新功能,系统本身没有被停用。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。