广告合作
电脑人工智能

开发者发布GPU Unlock工具 提升RTX 30系列算力

GitHub开发者Zagitta发布开源Linux内核模块,用户测试显示RTX 3090 Ti的BF16矩阵乘法性能提升约80%。

GitHub开发者Zagitta发布了一款名为GPU Unlock的开源工具,面向基于Ampere架构的英伟达GeForce RTX 30系列显卡。据aitimes.com报道,该工具可提升部分张量核心运算的吞吐量,使其达到专业产品的水平。

据开发者说明,GPU Unlock针对的是以FP16或BF16计算、并以FP32累加结果的运算,这类运算在消费级产品上被设定在较低水平,解锁后指令吞吐量可翻倍。该工具以Linux内核模块的形式工作,在英伟达驱动初始化GPU之前修改硬件设置,无需修改驱动,也不会永久更改显卡固件。

在开发者进行的矩阵乘法测试中,功耗上限设为450W时,RTX 3090 Ti的BF16性能从87.5 TFLOPS提升至157.4 TFLOPS,涨幅约80%;同一测试中FP16提升约35%,TF32提升约94%。RTX 3080、RTX 3070和RTX 3060也有提升报告,具体幅度因显卡和功耗设置而异。

生成任务实测

一位RTX 3090 Ti用户在ComfyUI中的测试显示,以BF16运行MOSS-Image SFT时,生成一张图片的时间从约72秒缩短至约45秒,耗时减少约37%,相同时间内的出图量增加约59%。同一测试中,Qwen-Image 2.1 Turbo的吞吐量提升约57%,Z-Image Turbo提升约56%。MiniMax H3的视频生成时间从约253秒降至158秒,吞吐量提升约60%。而以INT8运行的MOSS-Image SFT吞吐量仅增加0.3%。

另一项在RTX 3090上进行的vLLM测试显示,提示词处理速度提升约33%,而逐词生成阶段几乎没有变化,原因是该阶段受限于显存读取速度而非张量核心算力。

该工具目前仅支持Linux,且并非所有RTX 30系列显卡都能获得预期收益,部分显卡解锁后未出现明显提升。GPU Unlock不会增加显存容量或显存带宽。

快速问答

GPU Unlock支持哪些显卡?

该工具面向基于Ampere架构的英伟达GeForce RTX 30系列显卡,目前仅支持Linux。

使用GPU Unlock需要修改驱动或显卡固件吗?

不需要。它以Linux内核模块的形式在驱动初始化GPU之前修改硬件设置,不会永久更改显卡固件。

GPU Unlock能增加显存吗?

不能。该工具不增加显存容量或显存带宽。

来源