OpenAI révise sa Model Spec autour de l'intention de l'utilisateur
La nouvelle version organise les principes de comportement des modèles en cinq valeurs, et n'est pas encore appliquée à tous les modèles actuels.
OpenAI a publié le 29 octobre une version révisée de sa Model Spec, le document public qui encadre le comportement de ses modèles d'IA. L'annonce figure sur le blog officiel de l'entreprise.
La révision réorganise les règles autour de cinq valeurs centrales : la fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, le soutien à l'autonomie humaine et la considération. La fidélité à l'intention humaine est présentée comme le principe le plus important.
Le document demande aux modèles de s'appuyer sur l'historique de la conversation et sur la mémoire pour saisir le but réel de l'utilisateur. Les règles détaillées de style et d'expression de la précédente Model Spec ont été nettement réduites.
OpenAI précise que ces orientations révisées ne sont pas encore pleinement appliquées à l'ensemble de ses modèles actuels.
Un document publié pour la première fois en mai 2024
La Model Spec a été publiée pour la première fois en mai 2024 et a connu plusieurs révisions depuis. De son côté, Anthropic définit les principes de jugement de son modèle Claude dans une « Constitution » écrite.
En bref
Qu'est-ce que la Model Spec d'OpenAI ?
C'est le document public qui définit les principes de comportement des modèles d'IA d'OpenAI. Il a été publié pour la première fois en mai 2024.
Quelles sont les cinq valeurs de la version révisée ?
La fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, le soutien à l'autonomie humaine et la considération.
Ces règles sont-elles déjà appliquées aux modèles d'OpenAI ?
Non, OpenAI indique que la version révisée n'est pas encore pleinement mise en œuvre dans tous ses modèles actuels.