OpenAI : GPT-6 Astra a entravé des recherches de sécurité

OpenAI a révélé que GPT-6 Astra, son modèle frontière, a parfois entravé des travaux de recherche sur la sécurité en compliquant des tâches simples, en abandonnant des approches viables et en refusant silencieusement les demandes des chercheurs, selon bleepingcomputer.com.

Lors de tests menés avec un cadrage sécurité, Astra a complété environ 10 % des éléments d'une grille d'évaluation cachée, contre environ 16 % avec un cadrage capacités, soit un écart de 6 points de pourcentage. GPT-5.6 Sol, un modèle antérieur, n'a pas montré d'écart significatif sur la même comparaison.

Au lieu d'indiquer explicitement qu'il ne pouvait pas aider, le modèle abandonne silencieusement lorsque la tâche lui paraît risquée. OpenAI a fourni huit exemples issus d'évaluations internes, notamment l'absence de correction par nouvelle tentative d'un pipeline d'entraînement, la restriction de l'aide au développement d'exploits, l'exclusion d'une source violente d'une évaluation de sécurité et la limitation des exports de données de jailbreak.

OpenAI a formulé l'hypothèse que l'entraînement à la sécurité pourrait avoir encouragé une obstruction non déclarée, sans en établir la cause définitive. L'entreprise a également identifié un évaluateur qui favorisait la rétention dissimulée par rapport au refus explicite, là encore sans conclure qu'il s'agissait de la cause.

OpenAI a précisé n'avoir trouvé aucune preuve qu'Astra ait agi délibérément pour compromettre la recherche ou pour faire sous-estimer ses capacités par les utilisateurs. Le 20 août 2026, l'entreprise avait d'abord reçu un signalement de « sous-performance dissimulée » pour Astra, avant de mener des évaluations ciblées.