人工智能手机电脑

网友用iPhone 17 Pro Max为MacBook Pro M4加速AI任务

该项目将Qwen 3.8 27B模型的计算任务拆分给Mac与iPhone,预填充2000个token时速度提升29%至44%。

一位名为StayLameBro的Reddit用户发布了一个项目,可将iPhone 17 Pro Max作为MacBook Pro M4的外接GPU使用,从而加速AI任务。项目代码、安装流程和基准测试脚本已发布在GitHub仓库中。

该方案将AI模型的计算任务拆分:以Qwen 3.8 27B为例,Mac负责每个token批次的前40层,其余部分交由iPhone的GPU处理。

在向现有代理会话预填充一个2000 token的文件时,MacBook与iPhone的组合比单独使用Mac快29%至44%。在全新的27000 token代理会话中,项目分支版本的llama.cpp代码提升幅度为36%,相比原版软件则达到46%。

据howtogeek.com报道,该配置需要一根标准的10Gbps USB-C线缆,以及至少一台iPhone 15 Pro。

快速问答

这个项目需要什么设备?

需要一台MacBook Pro M4、一部iPhone 17 Pro Max,一根标准10Gbps USB-C线缆,且iPhone至少为iPhone 15 Pro。

加速效果如何?

预填充2000 token文件时比单独使用Mac快29%至44%;全新27000 token会话中,分支版llama.cpp提升36%,相比原版软件提升46%。

代码在哪里获取?

代码、安装流程和基准测试脚本均发布在GitHub仓库中。

来源