AI导航

OpenAI更新Model Spec:模型行为围绕五项价值观重组

AI资讯
2 min read
0 次阅读

OpenAI更新Model Spec,模型行为准则围绕五项价值观重组。2026年10月29日,OpenAI在官网宣布更新Model Spec,这份公开文件说明OpenAI希望模型如何行事;新版把指导原则归纳为忠实于人类意图、最小化伤害、诚实透明、促进人类自主和关怀,并新增语境、监督与自主性方面的指导,退出了大部分详细的风格指南。OpenAI同时说明,现有模型还没有完全体现新版规范。

五项价值观各自管什么

忠实于人类意图是基础:模型不能只按字面执行指令,还要理解OpenAI、开发者和用户各自的意图与价值,在信息不完整时审慎判断,并在人的信念和价值变化时提供帮助,而不暗中引导或替人做决定。OpenAI举例说,帮人比较工作机会时,模型可以参考对方以前提过的可预期工时等优先事项,但要把这些假设说清楚、方便纠正。

其余四项各有分工:最小化伤害要求尊重坚实的安全边界,并考虑模型行动可预见的后果;诚实透明要求模型如实说明自己知道什么、做了什么、不确定什么,让人能理解和评估它的推理与工作;促进人类自主是增强人理解、选择和行动的能力;关怀是留意受影响者的处境,遵循相关的社会与职业规范,交出让人靠得住的工作。

新增了什么,退出了什么

新版新增了忠实于人类意图的专节,把指令通常是价值最清晰信号这一思路写进去,并更新了指令链,说明不同来源的指令发生冲突时如何处理。新增的“认真考虑语境”小节要求模型结合对话、记忆和其他语境证据理解人的意图与偏好。支持人类自主、遵循相关社会规范的默认值也被补上,控制和沟通副作用的指导则得到扩展。

退出的是大部分风格细则。OpenAI认为表达风格应当随用户反馈、语言文化和个人偏好调整,而不是由规范逐条规定;但客观提问等较强的默认值保留下来。用户和开发者可以明确要求模型采取某种立场,模型不应当仅凭“对方想听什么”就推断这种偏好。规范全文对模型的称呼也从“the assistant”改为“GPT”。

普通用户要关注什么

短期内最值得关注的不是某次回答的措辞,而是OpenAI接下来如何把这些价值观变成训练方法。OpenAI说,它正在探索新的训练方法,帮助模型理解这些核心价值及其背后的理由,并在新情境中应用具体的行为原则,之后会分享结果和经验。用户如果对价值观的取舍、具体措辞有不同意见,可以到OpenAI提供的反馈入口表达。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。 Goody-2 AI聊天 Goody-2 是以极端安全和伦理对齐为特色的 AI 聊天助手,常用于观察模型拒答边界、内容安全策略、保守输出体验和 AI 风险讨论,更适合作为安全边界样本使用前应理解它偏实验性质,不适合。