Genon lance GenGuard, les garde-fous IA se multiplient en Corée
Genon extrait ses fonctions de garde-fou de la plateforme Genos, alors qu'Aim Intelligence, Raonsecure et SelectStar ciblent aussi ce marché.
La société sud-coréenne Genon a lancé GenGuard, une solution autonome de garde-fous pour l'IA qui était jusque-là une fonction intégrée à Genos, sa plateforme d'IA générative. Selon aitimes.com, l'outil permet aux entreprises de définir des règles en langage naturel — comme bloquer la recommandation d'actions individuelles — sans réentraîner le modèle.
Genon n'est pas seule sur ce créneau. Aim Intelligence vise le marché avec deux produits : Starfort, un garde-fou en temps réel pour les services en production, et Stinger, une solution de red teaming destinée à identifier et évaluer les vulnérabilités des systèmes d'IA.
Raonsecure met en avant OneShield, qui détecte et bloque les attaques par prompt malveillant, notamment l'injection de prompt et le jailbreak. La solution repère aussi automatiquement les données personnelles saisies dans un outil d'IA pour les anonymiser ou les masquer.
SelectStar propose pour sa part du conseil en évaluation de la fiabilité de l'IA, du red teaming automatisé et une technologie de garde-fous fondée sur de petits modèles de langage (sLM). L'entreprise accompagne les sociétés dans l'évaluation des performances et de la sûreté de leurs modèles et services d'IA.
La sécurité comme facteur de compétitivité
« À mesure que l'usage de l'IA en entreprise s'étend, la sécurité deviendra un facteur central déterminant la fiabilité et la compétitivité des services d'IA », a déclaré Myung Dae-woo, vice-président et directeur technique de Genon.
Genon prépare par ailleurs une introduction en bourse sur le KOSDAQ, prévue en novembre 2026 selon les informations disponibles. Les garde-fous, longtemps limités au contrôle des entrées et sorties de texte, s'étendent désormais au contrôle des actions des agents d'IA.
En bref
Qu'est-ce que GenGuard ?
Une solution autonome de garde-fous pour l'IA lancée par Genon, qui permet de définir des règles en langage naturel sans réentraîner le modèle.
Quels produits propose Aim Intelligence ?
Deux : Starfort, un garde-fou IA en temps réel, et Stinger, une solution de red teaming pour évaluer les vulnérabilités des systèmes d'IA.
Que fait OneShield de Raonsecure ?
Il détecte et bloque les attaques par prompt malveillant, comme l'injection de prompt et le jailbreak, et anonymise ou masque les données personnelles saisies.