广告合作
人工智能电脑

Vidraft 仅用推理专用 NPU 预训练小语言模型

Vidraft 于 10 月 15 日宣布不依赖英伟达 GPU,仅用推理专用 NPU 完成小语言模型预训练,并在 Hugging Face 发布 VKORE-46M-NPU。

据 aitimes.com 报道,Vidraft 于 10 月 15 日宣布,该公司在不使用英伟达 GPU 的情况下,仅依靠推理专用 NPU 成功完成了小语言模型的预训练,并将该模型发布在 Hugging Face 平台上。发布的模型名为 VKORE-46M-NPU。

Vidraft 表示,在公开文献中未发现采用相同方法的先例,因此称其在实际上属于全球首例。此次训练使用的是该公司 2025 年发布的第一代推理专用 NPU。

公司还公布了对比分析:在相同条件下用高性能 GPU 训练同一模型,收敛到等效的损失曲线和吞吐量,损失轨迹的相关系数为 0.99。

技术细节与发布内容

据 Vidraft 介绍,发布的模型使用公开数据集训练,能够生成简短的英文故事。公司公开了模型权重、模型卡以及 GPU 训练对比分析,但为保护知识产权,未披露核心训练代码。核心技术已申请专利,并将在今后的论文中详细说明。

Vidraft 还表示,公司曾将通用公开模型应用于该 NPU 以验证推理加速效果,并确认量化提升了处理速度。目前公司正将推理加速与训练技术整合进 VKORE 这一 NPU 专用软件层。

快速问答

VKORE-46M-NPU 是什么?

这是 Vidraft 于 10 月 15 日发布的小语言模型,仅使用推理专用 NPU 完成预训练,不使用英伟达 GPU,可生成简短的英文故事。

VKORE-46M-NPU 在哪里可以获取?

模型权重、模型卡和 GPU 训练对比分析已在 Hugging Face 平台发布,但核心训练代码未公开。

核心训练代码为什么没有公开?

Vidraft 表示为保护知识产权未披露核心训练代码,相关技术已申请专利,并将在今后的论文中详细说明。

来源