Hugging Face offre une démo ZeroGPU au modèle de vision de VIDRAFT

L'équipe open source de Hugging Face a développé et offert une démo interactive pour Darwin-35B-ZTC-Vision, le modèle d'IA de décision visuelle de VIDRAFT, a annoncé la société le 30 octobre. La démo fonctionne sur ZeroGPU, le service gratuit de Hugging Face, et permet d'essayer le modèle dans un navigateur web sans disposer d'un processeur graphique dédié.

Selon aitimes.com, le membre de l'équipe open source Apolinário a publié un message le 27 octobre sur la page publique du modèle pour féliciter et remercier VIDRAFT de cette publication. Il a proposé de transférer la démo vers un compte VIDRAFT ; l'entreprise a accepté et la déplace actuellement vers l'organisation FINAL-Bench.

Pour faire tenir le modèle, qui compte environ 69 milliards d'octets, dans la mémoire du serveur de démonstration, l'équipe de Hugging Face a mis au point un chargeur distinct à faible empreinte mémoire.

Un modèle qui choisit parmi des réponses prédéfinies

Darwin-35B-ZTC-Vision ne génère pas de phrases : il produit des probabilités pour des choix de réponse prédéfinis, et accepte jusqu'à quatre photos accompagnées d'une question. Il repose sur une architecture Mixture of Experts de 35 milliards de paramètres au total, dont environ 3 milliards sont sollicités par unité de traitement. Le modèle est publié sous licence Apache 2.0, qui autorise un usage commercial, et affichait 8 940 téléchargements sur Hugging Face au 28 octobre.