Palisade Research lance des entretiens vidéo sur les risques existentiels de l'IA
Palisade Research a lancé une série d'entretiens vidéo avec des chercheurs en IA sur frominside.ai, incluant des employés actuels et anciens d'OpenAI, Google et Anthropic.
Palisade Research a collecté et mis en ligne une série d'entretiens vidéo avec des chercheurs en intelligence artificielle sur le site frominside.ai. Ces entretiens, rapportés par The Verge, donnent la parole à des employés actuels et anciens d'OpenAI, de Google et d'Anthropic.
Geoffrey Irving y déclare que, selon lui, la probabilité d'une extinction humaine causée par l'IA s'approche d'un pile ou face. Neel Nanda estime pour sa part qu'il existe au moins 10 % de chances que l'IA provoque l'extinction de l'humanité. Daniel Kokotajlo affirme qu'une IA superintelligente serait d'une puissance quasi divine et que personne ne pourrait la contrôler.
Ces témoignages s'inscrivent dans un débat de fond sur la sécurité des systèmes d'IA avancés, auquel participent plusieurs des grandes entreprises du secteur.
En bref
Où sont hébergés les entretiens de Palisade Research ?
Sur le site frominside.ai, selon les informations de The Verge.
Qui s'exprime dans ces entretiens ?
Des employés actuels et anciens d'OpenAI, de Google et d'Anthropic, dont Geoffrey Irving, Neel Nanda et Daniel Kokotajlo.
Quelles probabilités d'extinction sont avancées ?
Geoffrey Irving évoque environ un pile ou face, tandis que Neel Nanda estime le risque à au moins 10 %.