OpenAI、モデル規範「Model Spec」を改訂 人間の意図理解を最優先に
OpenAIは10月29日、Model Specを改訂し、5つの価値観に再構成したと発表。人間の意図への忠実さを最重視する。
OpenAIは10月29日、AIモデルの行動指針「Model Spec」の改訂版を公式ブログで公開した。改訂版では指針が5つの中核的価値観に再構成され、その中でも「人間の意図への忠実さ」が最も重要な原則として位置づけられている。
5つの価値観は、人間の意図への忠実さ、被害の最小化、誠実さと透明性、人間の自律性の支援、配慮の5項目。モデルに対し、会話履歴やメモリーを活用してユーザーの真の目的を把握するよう求める内容となっている。
従来のModel Specに含まれていた文体や表現に関する詳細な規定は大幅に削減された。OpenAIは、改訂された指針が現行のすべてのモデルに完全には反映されていないと説明している。
他社の指針との違い
Model Specは2024年5月に初版が公開され、その後複数回の改訂を重ねてきた。Anthropicは自社モデル「Claude」の判断原則を「Constitution」と呼ぶ文書で定義している。
よくある質問
Model Specとは何ですか？
OpenAIがAIモデルの振る舞いについて公開している指針で、2024年5月に初版が公開され、その後複数回改訂されています。
改訂版はすべてのモデルに反映されていますか？
OpenAIは、改訂された指針が現行のすべてのモデルに完全には実装されていないと説明しています。