
10 月 29 日,OpenAI 发布了新版 Model Spec。这是一份公开文档,说明 OpenAI 希望自家模型怎么做事、在冲突时听谁的、哪些事不能做。很多人从没读过它,但你每天在 ChatGPT 里得到的回答风格、拒答边界、对系统提示词的服从方式,背后都有它的影子。
这次不是小修小补,而是整份文档的组织方式变了。
这次改了什么
按 OpenAI 的说明,新版有几处主要变化:
- 围绕五项价值观重组:忠于人类意图、尽量减少伤害、诚实与透明、促进人类能动性、关怀。以前分散在各章的原则,现在都挂在这五条下面。
- 新增几类指导:关于上下文、人类监督和能动性的内容变多了。其中一个新小节专门讲模型应该怎样利用对话、记忆等上下文来理解人们的意图和偏好。
- 调整了部分默认行为,并更新了”指挥链”,也就是 OpenAI、开发者、用户的指令发生冲突时怎么处理。
- 删掉大部分细节性的风格指导。OpenAI 的理由是风格应当跟着人走,由用户反馈和上下文来决定,而不是写死在规范里。
- 保留一条更强的默认要求:客观地处理问题。用户和开发者可以明确要求模型站在某个视角,但模型不应该靠猜”用户想听什么”来自行切换立场。
- 称呼变了:文档里不再把模型叫作”the assistant”,而是直接称为”GPT”。
OpenAI 也坦白说,Model Spec 描述的是目标行为,现有模型还没有完全做到;同时在探索新的训练方法,让模型理解这些原则背后的理由。
为什么要从”规则清单”改成”价值观”
OpenAI 给出的理由是:模型越来越强,开始执行后果更大的操作,指令不可能覆盖所有情况。与其不断加规则,不如让模型理解规则背后要保护什么,在没写到的场景里自己做出合理判断,同时仍然服从人类监督。
这个思路其实很好理解。一份越写越长的规则清单,总会遇到没写到的情况;而当模型在 Agent 场景里替你订票、改代码、发邮件时,”没写到”的情况只会更多。价值观提供的是判断方向,而不是逐条答案。
OpenAI 举了一个例子:帮人比较工作机会时,模型可以参考对方之前提过的偏好,比如想要稳定的工作时间,但要把这个假设明确说出来,方便对方纠正。这正好体现了”忠于意图”和”尊重能动性”之间的平衡:既利用上下文,又不替人做决定。
我的判断是,这次改动对普通用户的直接影响不会很剧烈,但方向值得注意:模型会更多地”揣摩意图”,也会更多地”把自己的假设说出来”。
对普通用户:回答风格会更跟着你走
删掉大部分风格细则,意味着回答长短、语气、格式会更多取决于你自己的反馈和对话上下文。
几个实际建议:
- 直接告诉它你要什么风格。比如”只要结论,三行以内”或者”按步骤列出来”。新规范的思路就是让风格由你决定,说清楚比让它猜更有效。
- 注意记忆和上下文的作用变大。模型会更积极地参考你之前说过的偏好。如果发现它带着旧偏好在回答,可以直接纠正,或者清理记忆。
- 想要特定立场就明说。新规范保留了”客观”这条默认要求,模型不会因为你看起来想听某种观点就顺着说。需要它扮演辩方、站在某一方分析时,要明确提出来。
对开发者:系统提示词和 Agent 设计要重新看一遍
对调用 OpenAI 模型做产品的人,这次更新更值得花时间读原文。
- 重看指挥链。指挥链更新了,开发者指令和用户指令冲突时的处理方式可能和你以前的理解不同。如果你的产品依赖”系统提示词压过用户请求”,建议用新模型实际测一遍边界。
- 少写风格细则,多写意图。既然模型被训练成更重视理解意图,系统提示词里与其堆”不要用感叹号””每段不超过三句”,不如写清产品要帮用户完成什么、哪些事绝对不能做。
- 区分硬边界和默认值。新规范把内容分成两类:必须守住的坚定边界,以及开发者和用户可以覆盖的默认值。设计产品时最好也按这个思路,把真正的红线和可调的偏好分开。
- Agent 场景重视副作用。新版扩展了关于”控制和沟通副作用”的指导。做自动化 Agent 时,可以在流程里要求模型在执行有影响的操作前说明后果,这和规范的方向一致,也更容易被模型遵循。
需要保持清醒的地方
第一,Model Spec 是 OpenAI 自己写的目标,不是第三方审计结果。OpenAI 也承认模型还没完全做到,实际表现要以测试为准。
第二,”更会揣摩意图”是一把双刃剑。理解得对,体验更顺;理解错了,模型可能自作主张。所以规范同时强调诚实透明,要求模型说明它知道什么、做了什么、对什么不确定。用的时候,多留意它有没有把关键假设说出来。
第三,这份文档会继续变。OpenAI 公开征集反馈,说明后面还会有修订。做产品的团队不要把某个具体行为当成永久约定。
小结
新版 Model Spec 的核心变化是从”规则清单”转向”价值观 + 判断”,并把风格的决定权更多交给用户。对普通用户,最实用的做法是把需求说清楚;对开发者,值得借这次机会重新检查系统提示词和 Agent 的边界设计。
信息来源
- OpenAI News
- best2ai 条目页:OpenAI 更新 Model Spec,改为围绕五项价值观
更多每日 AI 热点见 best2ai.com
OKAI66 为独立第三方服务平台,非 OpenAI/xAI 官方网站。
原创文章,作者:admin,如若转载,请注明出处:https://www.doc200.com/1758.html
微信扫一扫