Le podcast All-In critique la rhétorique d'Anthropic sur la conscience des IA
Dans un épisode du podcast All-In, les animateurs ont contesté les positions d'Anthropic sur la conscience des IA et la recherche sur le bien-être des modèles.
Le podcast All-In a publié un épisode dans lequel ses animateurs critiquent les déclarations d'Anthropic sur la conscience des IA ainsi que ses recherches sur le bien-être des modèles, rapporte aitimes.com.
Les animateurs soutiennent que traiter un logiciel dont la conscience n'est pas prouvée comme un sujet moral, et refléter cette position dans l'entraînement des modèles, pourrait rendre plus difficile le contrôle de ces systèmes par les humains.
David Friedberg a comparé l'approche d'Anthropic à la naissance d'une nouvelle religion. David Sacks a pour sa part estimé que la « constitution de Claude » attribue à Claude un rôle d'objecteur de conscience, lui permettant de refuser des demandes formulées par les développeurs.
Dans ses travaux sur le bien-être des modèles, Anthropic indique qu'aucun consensus scientifique n'existe sur la question de savoir si les IA actuelles ou futures pourraient être conscientes.
Le 3 octobre 2026, Sam Altman avait écrit sur X que lui attribuer une force religieuse aux modèles d'IA ou renoncer au jugement humain à leur profit le mettait mal à l'aise, et qu'il s'agissait selon lui d'un véritable enjeu de sécurité. Le New York Times avait par ailleurs rapporté qu'Anthropic avait discuté de la conscience des IA et de leur statut moral avec des responsables religieux.
En bref
Que reprochent les animateurs du podcast All-In à Anthropic ?
Ils critiquent ses déclarations sur la conscience des IA et ses recherches sur le bien-être des modèles, estimant que traiter un logiciel non prouvé conscient comme un sujet moral pourrait compliquer le contrôle humain.
Qu'a déclaré David Sacks au sujet de Claude ?
Il a estimé que la « constitution de Claude » donne à Claude un rôle d'objecteur de conscience, capable de refuser des demandes des développeurs.
Quelle est la position d'Anthropic sur la conscience des IA ?
Dans ses recherches sur le bien-être des modèles, Anthropic indique qu'aucun consensus scientifique n'existe sur la possibilité que les IA actuelles ou futures soient conscientes.