Un mineur de crypto à 35 $ fait tourner une IA de 35B en local

Un utilisateur de Reddit a acheté une ancienne ferme de minage de cryptomonnaies, retrouvée dans un garage, pour 3 000 roubles, soit environ 35 $, après négociation, selon tomshardware.com. Le vendeur a refusé tout test avant l'achat, et le prix a été négocié sans essai préalable.

Les neuf GPU Nvidia P106-100 de la machine ont tous fonctionné du premier coup, pour un total de 54 Go de VRAM. L'acheteur a ensuite fait tourner en local, dans Ollama, le modèle de 35 milliards de paramètres Qwen3.6-35B-A3B, à plus de 30 tokens par seconde.

La ferme était mise en vente sur le site russe de petites annonces Avito. Chaque carte P106-100 embarque 6 Go de GDDR5 ; ces GPU ont été introduits vers le milieu de l'année 2017.

Le système principal de l'ensemble repose sur un processeur Celeron peu puissant, avec très peu de mémoire système. L'acheteur prévoit de transférer le matériel dans un boîtier pouvant accueillir jusqu'à un processeur i7-7700K et 32 Go de RAM, avec de la place pour 12 GPU.

En contexte

Nvidia indique sur son blog développeur que CUDA 13.0 a supprimé la compilation hors ligne pour les GPU dont la capacité de calcul est inférieure à 7.5, et que la branche de pilotes 580 est la dernière à prendre en charge les GPU antérieurs à la CC 7.5. Les mises à jour de sécurité pour les GPU Pascal sont prises en charge jusqu'en octobre 2028. La RTX 5090, avec 32 Go de VRAM et 1 792 Go/s de bande passante mémoire, est sortie à 1 999 $ début 2025.