MetaのAIエージェント「Muse」、内部指示書が明らかに

研究者たちが、MetaのAIエージェント「Muse」の内部ファイルと動作指示を、通常のチャットインターフェースを使って抽出した。WIREDが報じた。抽出された指示には、利用者の人生に登場するあらゆる人物についてページを作成し、それを毎時更新するという内容が含まれていた。

Museは家族、パートナー、友人、同僚、協力者、フォローしている人物に関するデータを収集してまとめる。文書によれば、各ページにはFacts、History、The relationship、In common、Open threads、Strengtheningといったセクションが設けられる可能性があるという。

Museは利用者ごとに専用の仮想マシンを割り当てる設計で、そこに利用者のデータとコンテキストを保存する。Metaは、Museがメール送信や購入などの行動の前に人間による確認を求め、監査ログも備えていると説明している。

研究者による抽出は、通常のチャット画面から行われた点が特徴だ。システムの内部指示やファイルが外部から取り出し得ることが示されたことになる。