Vidraft dévoile ViKernel, un système d'exploitation de sécurité avec interrupteur d'arrêt intégré aux modèles d'IA
ViKernel place les circuits de contrôle directement dans les poids des modèles d'IA ; l'arrêt est ouvert à tous, le redémarrage nécessite une signature électronique.
La société d'IA Vidraft a dévoilé ViKernel, un système d'exploitation de sécurité qui intègre un circuit d'arrêt directement à l'intérieur des modèles d'IA, selon aitimes.com. La technologie repose sur le Weight-Native OS de Vidraft, qui place les fonctions de contrôle dans les poids du modèle plutôt que dans des garde-fous externes.
ViKernel sépare l'autorisation d'arrêter de celle de redémarrer : n'importe qui peut émettre une commande d'arrêt, mais le redémarrage exige la clé de signature électronique d'un opérateur approuvé. Pendant l'arrêt, l'IA ne peut exécuter aucune requête, quelles que soient les instructions reçues.
Vidraft indique avoir appliqué cette technologie à son propre modèle de 27 milliards de paramètres ainsi qu'à d'autres familles de modèles, dont Gemma de Google et Qwen d'Alibaba. La société affirme qu'une expérience utilisant uniquement les circuits internes du modèle a correctement multiplié deux entiers de 300 chiffres pour produire un résultat de 600 chiffres.
ViKernel comprend également un jugement des violations de politique, des journaux d'audit et des contrôles d'intégrité au démarrage. Un circuit de règles distinct, et non le jugement du modèle de langage, décide si un appel d'outil dangereux est autorisé. Vidraft affirme que ses tests internes ont bloqué tous les appels d'outils dangereux et qu'aucun cas de modification d'un verdict par persuasion linguistique n'a été constaté.
Selon la société, les étapes de jugement de politique à l'intérieur du modèle ont été environ 21 fois plus rapides dans les mêmes conditions de test après l'implémentation d'une unité d'opérations vectorielles dans les poids. Une démonstration de ViKernel est publiée sur Hugging Face ; elle rejoue des réponses enregistrées plutôt que d'exécuter les circuits internes en temps réel.
« L'arrêt de l'IA ne doit pas dépendre du jugement ou de la force de persuasion de l'IA », a déclaré le PDG Kim Min-sik, ajoutant que l'arrêt doit être facile pour tous tandis que le redémarrage doit être réservé aux personnes approuvées. Vidraft participe à un projet du ministère des Sciences et des TIC sur les modèles de fondation d'IA spécialisés en cybersécurité et assure le diagnostic et l'évaluation de la sécurité de l'IA de sécurité nationale K-Mythos au sein d'un consortium mené par Naver Cloud.
En bref
Qu'est-ce que ViKernel ?
ViKernel est un système d'exploitation de sécurité dévoilé par Vidraft qui intègre un circuit d'arrêt et des fonctions de contrôle directement dans les poids des modèles d'IA.
Qui peut arrêter ou redémarrer une IA sous ViKernel ?
N'importe qui peut émettre une commande d'arrêt, mais le redémarrage nécessite la clé de signature électronique d'un opérateur approuvé.
Sur quels modèles ViKernel a-t-il été appliqué ?
Vidraft indique l'avoir appliqué à son propre modèle de 27 milliards de paramètres ainsi qu'à d'autres familles, dont Gemma de Google et Qwen d'Alibaba.