Un iPhone 17 Pro Max utilisé comme GPU externe pour un MacBook Pro M4
Un projet partagé sur GitHub répartit les couches d'un modèle Qwen 3.8 27B entre le Mac et l'iPhone, avec des gains mesurés jusqu'à 46 %.
Un utilisateur de Reddit connu sous le pseudonyme StayLameBro a mis au point une méthode permettant d'utiliser un iPhone 17 Pro Max comme GPU externe pour un MacBook Pro M4. Le code, la procédure d'installation et les scripts de benchmarking sont disponibles dans un dépôt GitHub, selon howtogeek.com.
Le projet répartit les tâches d'un modèle d'IA, en l'occurrence Qwen 3.8 27B, entre le Mac et l'iPhone. Le Mac prend en charge les 40 premières couches de chaque lot de tokens, tandis que le GPU de l'iPhone traite le reste.
Des gains variables selon la taille de la session
Lors du préremplissage d'un fichier de 2 000 tokens dans une session d'agent existante, la combinaison MacBook-iPhone se montre entre 29 % et 44 % plus rapide que le Mac seul.
Avec une nouvelle session d'agent de 27 000 tokens, les gains vont de 36 % pour le code llama.cpp fork du projet à 46 % par rapport au logiciel d'origine.
L'installation nécessite un câble USB-C standard de 10 Gbps et au minimum un iPhone 15 Pro.
En bref
Quel matériel est nécessaire pour ce projet ?
Il faut un câble USB-C standard de 10 Gbps et au moins un iPhone 15 Pro.
Quels gains de performance sont annoncés ?
Ils varient de 29 % à 44 % lors du préremplissage d'un fichier de 2 000 tokens, et de 36 % à 46 % avec une nouvelle session d'agent de 27 000 tokens.
Où trouver le code du projet ?
Le code, la procédure d'installation et les scripts de benchmarking sont disponibles dans un dépôt GitHub.