Snowflake automatise le choix des modèles d'IA avec Cortex AI Gateway
La plateforme dirige les charges de travail vers le modèle qui équilibre qualité, vitesse et coût, avec des politiques de gouvernance pour tout modèle.
Snowflake a récemment lancé des fonctionnalités qui sélectionnent automatiquement le meilleur modèle d'IA pour une tâche en fonction de la qualité, de la vitesse et des préférences, tout en suivant les dépenses d'IA. Ces capacités s'inscrivent dans Cortex AI Gateway, selon techradar.com.
Le routage dynamique de modèles dirige automatiquement les charges de travail vers le modèle qui offre le meilleur équilibre entre qualité, vitesse et coût pour un cas d'usage donné. Les clients peuvent ainsi déterminer quels modèles et quels fournisseurs sont accessibles à leurs utilisateurs.
Les politiques et contrôles de gouvernance, comme le masquage des données, s'appliquent à tout modèle traitant une requête, qu'il soit ouvert ou propriétaire. Snowflake précise que ce cadre reste identique quel que soit le modèle sollicité.
Interrogée par techradar.com, Grace Adamson, responsable du marketing produit pour l'IA chez Snowflake, revient sur ces fonctions. Lors de la première vague d'IA générative, l'accent portait largement sur la puissance des modèles, dans une course à l'expérimentation visant les sorties de la plus haute qualité ou la résolution des tâches les plus complexes.
En bref
Qu'est-ce que Cortex AI Gateway de Snowflake ?
Une offre qui oriente automatiquement les charges de travail d'IA vers le modèle le plus adapté, en équilibrant qualité, vitesse et coût.
Les contrôles de gouvernance s'appliquent-ils à tous les modèles ?
Oui, selon Snowflake, les politiques de gouvernance comme le masquage s'appliquent à tout modèle traitant une requête, ouvert ou propriétaire.
Les clients peuvent-ils limiter les modèles disponibles ?
Oui, ils peuvent contrôler quels modèles et quels fournisseurs sont accessibles à leurs utilisateurs.