Google Cloud dévoile Agent Compute Engine pour exécuter les agents IA

Google Cloud a présenté Agent Compute Engine, un service d'infrastructure optimisé pour l'exécution des agents IA, selon SiliconANGLE. Le déploiement est prévu dans les prochains mois, en même temps qu'une nouvelle version de la passerelle d'agents de l'entreprise.

Dans Agent Compute Engine, les agents s'exécutent dans des espaces isolés appelés sandboxes, qui contiennent les applications, les données et les instructions utilisateur dont l'agent a besoin, ainsi que des dispositifs de sécurité destinés à bloquer les activités malveillantes.

Google a implémenté ces sandboxes sous forme de microVM. Selon l'entreprise, elles utilisent le matériel aussi efficacement que des conteneurs tout en offrant le niveau de sécurité de la virtualisation. Google applique une technologie d'hyperviseur qui isole les machines virtuelles les unes des autres, empêchant un logiciel malveillant de se propager de l'une à l'autre.

Les microVM tournent sur des machines configurées séparément, avec une conception sans état qui ne stocke pas de manière permanente les fichiers utilisés par les agents des clients. Les données stockées sont conservées dans un système de fichiers immuable, qui ne peut être ni modifié ni supprimé. Google vérifie l'intégrité du firmware avec sa puce de sécurité Titan et applique des contre-mesures aux attaques par canal auxiliaire au niveau du CPU.

Routage de modèles et maîtrise des coûts

La nouvelle version de la passerelle d'agents ajoute un routage de modèles qui envoie chaque requête vers le modèle le plus à même de la traiter efficacement, ainsi que des outils de contrôle des coûts d'inférence des agents. Des fonctions de gestion des tokens encadrent leur consommation entre agents et modèles, pour l'allocation des dépenses et le contrôle budgétaire.