Trillium Labs設立、透明なAI研究を開始

Nathan Lambert氏とTom Zick氏は、透明なAI研究を行う非営利団体「Trillium Labs」を設立し、本日ローンチした。実験の詳細を公開し、外部の科学者が検証・再現できる形で研究を進めるとしている。

初期の研究対象は、ポストトレーニング、再帰的自己改善（RSI）、強化学習の3つだ。特に強化学習がAIモデルの性格や振る舞いをどう形成するかに注目する。

両氏の経歴はオープンなAI研究と接点が多い。Lambert氏はAi2で働いた経験を持ち、Hugging Faceを経てAmerican Truly Open Modelsイニシアチブを立ち上げた。Zick氏はハーバード大学で勤務し、Charles Schwabで責任あるAIに関する方針策定を支援した。

2人はUC Berkeleyの大学院生だったCOVID-19パンデミック期にZoomを通じて知り合った。

透明性を重視する動きは他にも広がっている。今月に入り、Anthropicの研究者が退社し、RSIが人類にとって存在論的な脅威になり得ると警告した。またXiaomiは大規模なトレーニング実行の詳細をリアルタイムで公開し、Stanfordの研究者らはAIモデル「Marin」をオープンな形で事前学習している。wired.comが報じた。