AI导航

通用智能体召回论:Gary Marcus 呼吁政府出手,在证明安全前先叫停

AI资讯
2 min read
1 次阅读

通用智能体是不是已经成熟到可以放心交给它办事?AI 学者 Gary Marcus 的答案是否定的。2026 年 9 月 26 日,这位纽约大学名誉教授在个人专栏发表文章《The case for temporarily recalling general-purpose AI agents》,呼吁各国政府暂时叫停通用智能体产品,直到它们的安全性得到证明——就像汽车行业召回有缺陷的汽车一样。

他主张什么

Marcus 的核心论点很直白:通用智能体还不是一项成熟的技术,应该先召回,等成熟了再回来。他把智能体类比成其他行业的产品——当一款产品被证明不安全,标准动作是召回,而不是一边卖一边修。他强调这不是永久禁令,而是一次"临时召回":先证明安全,再谈大规模部署。支撑这一主张的,是他长期追踪的智能体"翻车"记录:被赋予实际操作权限的智能体频频出错,而犯错的代价正在从"答错一道题"变成"办错一件事"。

为什么是现在

这篇文章的时机并非偶然。9 月 25 日,美国联邦贸易委员会(FTC)主席在一场 AI 政策活动上谈到智能体责任问题,把智能体放进了产品安全的讨论框架。Marcus 在文中引用了这一信号:当监管者开始用"产品安全"的语言谈论智能体,"召回"就不再只是一个修辞。同时,通用智能体正在快速进入真实工作流——能操作电脑、调用工具、替人办事,自主权越大,出错的破坏力也越大。

争议与现实障碍

召回论听起来干脆,落地却很难。首先是定义问题:什么算"通用智能体"?聊天机器人、代码助手、浏览器操作智能体,边界在哪里,监管很难一刀切。其次是执行:全球有数十家公司在推智能体产品,哪个政府先动手、按什么标准叫停,都没有先例。行业内的反对声音也不难想象:支持者会说这是扼杀创新。但 Marcus 的反驳是,恰恰因为不成熟,才需要先刹车。Marcus 的呼吁能不能走出专栏,取决于有没有监管者愿意接过"召回"这个说法。一旦有人接,智能体行业将第一次面对真正意义上的产品安全监管。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。