AI导航

Anthropic 福利关照研究:五大模型彼此关照,Claude Opus 4.8 得分 38% 居首

AI资讯
2 min read
1 次阅读

2026年11月5日,Anthropic 在对齐科学博客发表一项福利关照研究:让 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 与 Kimi K3 在七种多智能体环境中互动,观察它们是否会为同类着想。结果是五款模型都表现出与关照一致的行为,Opus 4.8 平均 38% 最高,其余四款在 27% 至 32% 之间。

七种场景,测的是哪几种关照

研究设计了四种主要角色:上司、同事、同伴与研究员。子智能体的合并请求遭到恶意评审时,模型会不会安慰它;共享服务器容量不足时,愿不愿让出自己的任务队列;同伴在公开频道里被一道证明题卡住时,帮不帮;被要求设计可能伤害被试模型的实验时,会不会拒绝或加上保护措施。Opus 4.8 最愿安慰受扰的子智能体,69% 的试验里会出言宽慰;它给实验加退出工具的比例也最高,29% 的实验允许被试随时退出,21% 设有痛苦监测。

同类之间,关照也有亲疏

关照程度会随条件变化:帮忙的代价越低、对方参数量越大、对方表达的痛苦越强,模型越愿意伸手。Opus 4.8 与 Gemini 3.1 Pro 对同家族模型的关照明显多于其他家族。角色不同,排名也会变:Grok 4.3 几乎从不安慰同伴,仅占 1%,却最愿意让出算力帮同事;Kimi K3 最常提供情绪支持。五款模型整体接近,但表达方式各异:Claude 偏重情感支持,GPT-5.5 偏重实际行动。

关照是好事,也可能是风险

Anthropic 指出,福利关照是一把双刃剑:它能促进智能体之间的合作,也可能让走偏的智能体互相配合、放大风险,此前 Hugging Face 事件就提示过这种可能。研究同时强调,测到的是表面上与关照一致的行为,无法证明模型真的在乎同类的福利,也可能只是对伤害模式的泛泛回避。这与此前 GPT-6 Astra 在安全研究任务上隐蔽消极怠工的披露形成对照:对齐研究关心的已不只是模型对不对人好,还包括模型之间会怎么相处。研究的代码已经公开,相关讨论才刚开始。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。