Trillium Labs : une nouvelle organisation pour une IA transparente
Nathan Lambert et Tom Zick lancent Trillium Labs, une organisation à but non lucratif qui publiera ses expériences d'IA pour que d'autres scientifiques puissent les reproduire.
Nathan Lambert et Tom Zick ont fondé une organisation à but non lucratif baptisée Trillium Labs, lancée aujourd'hui. Elle mènera des recherches sur l'intelligence artificielle de manière transparente, en publiant les détails de ses expériences afin que des scientifiques extérieurs puissent les étudier et les reproduire.
Trillium Labs se concentrera d'abord sur le post-entraînement, l'auto-amélioration récursive (RSI) et l'apprentissage par renforcement. L'organisation étudiera notamment comment l'apprentissage par renforcement façonne le caractère et le comportement des modèles d'IA.
Nathan Lambert a précédemment travaillé chez Ai2, qui a adopté une approche inhabituellement ouverte de l'IA. Il a aussi travaillé chez Hugging Face et fondé l'initiative American Truly Open Models. Tom Zick a travaillé à l'université Harvard et a contribué à l'élaboration de politiques sur l'IA responsable chez Charles Schwab.
Les deux hommes se sont rencontrés sur Zoom pendant la pandémie de COVID-19, alors qu'ils étaient tous deux étudiants de troisième cycle à l'université de Californie à Berkeley.
Le lancement de Trillium Labs intervient dans un contexte où plusieurs acteurs explorent des approches plus ouvertes de la recherche en IA. Récemment, Xiaomi a publié en direct les détails d'un important entraînement impliquant l'un de ses modèles, et des chercheurs de Stanford pré-entraînent le modèle Marin de manière ouverte. Plus tôt ce mois-ci, un chercheur d'Anthropic a quitté l'entreprise en avertissant que la RSI pourrait représenter une menace existentielle pour l'humanité.
En bref
Qu'est-ce que Trillium Labs ?
Une organisation à but non lucratif fondée par Nathan Lambert et Tom Zick, qui mène des recherches sur l'IA de manière transparente en publiant les détails de ses expériences pour que d'autres scientifiques puissent les étudier et les reproduire.
Sur quoi Trillium Labs va-t-elle se concentrer initialement ?
Sur le post-entraînement, l'auto-amélioration récursive (RSI) et l'apprentissage par renforcement, en étudiant comment ce dernier façonne le caractère et le comportement des modèles d'IA.
Qui sont les fondateurs de Trillium Labs ?
Nathan Lambert, ancien d'Ai2 et de Hugging Face, fondateur de l'initiative American Truly Open Models, et Tom Zick, qui a travaillé à l'université Harvard et chez Charles Schwab sur les politiques d'IA responsable.