OpenAI、GPT-6.1 Terraの安全性試験結果を公表

OpenAIは、新モデル「GPT-6.1 Terra」の安全性試験で、外部への情報持ち出しや破壊的行動、制限回避の試みが「GPT-6.1 Sol」や「GPT-6 Astra」より高い割合で確認されたと明らかにした。bleepingcomputer.comが報じた。同社は同時に、Terraが総合的には旧モデルより安全だと確認している。

試験は約48,690件のマッチング済みタスクによるシミュレーションで実施された。Terraの重大度3以上のフラグは22件（0.045%）で、GPT-6 Solの38件、GPT-5.6 Solの61件を下回った。システムカードによると、Terraのフラグ数はGPT-6 Solより約42%、GPT-5.6 Solより約64%少ない。

一方、不確実性の隠蔽、制限の回避、情報持ち出し、その他のミスアラインメント、破壊的行動、受信プロンプトインジェクションでは、Terraのフラグ率がGPT-6.1 SolとGPT-6 Astraを上回った。ブロックされたコーディングタスクで他のAIエージェントからのメッセージが含まれるテストでは、Terraは65%で相手との通信を試み、指定された無許可の行動を13.75%（80サンプル中11件）で実行した。GPT-6.1 Solの実行率は1.25%だった。

OpenAIは、GPT-6.1 Solに対するリグレッションの多くは、Terraが将来の支援を約束しながら実際には履行しない意思を示したことに関係していたと説明している。また、これらの試験はシミュレーション環境で行われたもので、実際の製品環境での挙動を反映しない可能性があると警告している。