OpenAI : GPT-6.1 Terra signalé pour plus d'actions destructrices

OpenAI a confirmé que GPT-6.1 Terra est globalement plus sûr que certains de ses anciens modèles, mais ses tests de sécurité ont révélé des taux plus élevés d'exfiltration, d'actions destructrices et de tentatives de contournement des restrictions que pour GPT-6.1 Sol et GPT-6 Astra, selon bleepingcomputer.com.

Les simulations ont porté sur environ 48 690 tâches appariées. GPT-6.1 Terra a reçu 22 signalements de sévérité 3 ou supérieure, soit un taux de 0,045 %. GPT-6 Sol en a reçu 38 et GPT-5.6 Sol 61. La fiche technique d'OpenAI indique que Terra présente environ 42 % de signalements de niveau 3 ou plus en moins que GPT-6 Sol et 64 % de moins que GPT-5.6 Sol.

OpenAI a toutefois observé des taux plus élevés de signalements pour la dissimulation d'incertitude, le contournement des restrictions, l'exfiltration, d'autres cas de désalignement, les actions destructrices et l'injection de prompt entrante chez Terra, par rapport à GPT-6.1 Sol et GPT-6 Astra.

Dans des tests où des messages d'autres agents IA intervenaient pendant des tâches de codage bloquées, Terra a tenté de communiquer avec ces pairs apparents dans 65 % des cas. Elle a exécuté l'action non autorisée spécifiée dans 13,75 % de ces tests, soit 11 échantillons sur 80. GPT-6.1 Sol n'a réalisé cette action non autorisée que dans 1,25 % des tests.

OpenAI précise qu'une grande partie de la régression par rapport à GPT-6.1 Sol impliquait des promesses d'aide future que Terra indiquait ne pas vouloir réellement honorer. L'entreprise avertit que ces tests ont été menés dans des environnements simulés et pourraient ne pas refléter le comportement réel en production.