原文標題:An updated Model Spec for more capable and beneficial AI
OpenAI 10 月 29 日公布新版 Model Spec,將公開的模型行為指引重新組織成五項核心價值:忠於人類意圖(faithfulness to human intent)、降低傷害、誠實與透明、促進人類自主,以及關懷。官方說明,模型能力提高後,單靠逐字執行指令不足以處理沒有明確規定的情境,因此需要能理解使用者目的、保持監督與適當判斷的規範。
這次調整不只重新編排原有條款,也新增對情境資訊、記憶與其他脈絡線索的使用原則,修訂指令層級(chain of command),以及模型如何向使用者揭露可能副作用、保留選擇權與遵守社會規範的預設行為。OpenAI 強調,忠於意圖並非模型自行決定使用者應該追求什麼,而是在遵守安全邊界的前提下協助使用者達成可理解、可修正的目標。
新版同時刪除多數細部語氣與風格指示,改由使用者偏好、語言文化及實際情境決定表達方式。對於可接受不同觀點的議題,規範仍要求客觀處理;模型不應只因推測使用者喜歡某種結論,就自行迎合該立場。文件也將模型統一稱作 GPT,而不是先前使用的 assistant。
OpenAI 表示正研究如何透過訓練,讓模型理解規則背後的價值與取捨;但明確指出 Model Spec 描述的是希望達到的行為目標,現有模型尚未完全符合所有要求。這份文件也開放外界針對原則與取捨提出意見。
發生了什麼事
OpenAI 正式更新公開行為規範,新增以五項價值為主軸的章節與脈絡、監督相關指引,並簡化既有的風格細則。
為什麼重要
當 AI 代理能執行更多有實際後果的工作時,判斷指令意圖、風險與授權範圍,比只遵守字面要求更直接影響安全與可靠性。
影響哪些人
使用 ChatGPT 的一般使用者、設計代理流程的開發者,以及制定企業 AI 使用政策的管理者,都可用這份公開規範理解預期行為。
已確認與未確認
已確認的是規範文件更新及官方訓練方向;OpenAI 並未宣稱目前所有產品均完整實現五項價值,也未提供此公告對各模型的即時生效版本表。