人工智能

Liquid AI发布两款决策模型 3B参数登顶10B以下榜单

Liquid AI推出d1-3B与d1-Omni-600M两款开放权重决策模型,单次计算即可输出决策分数,支持本地部署与微调。

据aitimes.com报道,Liquid AI发布了d1系列下的两款新决策模型d1-3B与d1-Omni-600M。这两款模型采用单次计算输入状态的方式直接返回决策分数,而非逐token生成文本,均为开放权重模型,可从Hugging Face下载并支持本地运行或微调部署。

d1-3B拥有31.2亿参数,在Decision Index v0.2.1基准测试中得分48.57,在参数量低于100亿的模型中排名第一,超过Decider 35B-A3B的47.11分。在七项文本类公开基准测试中,d1-3B平均得分82.9,高于Decider 4B的81.1。该模型可处理文本与图像,上下文长度为32768个token。

d1-Omni-600M拥有5.87亿参数,在上述七项基准测试中平均得分78.4,超过Decider 2B的77.1。该模型在Civil Comments上取得95.8分,在PAWS-X上取得79.5分。它可在单次计算中分析文本、图像以及最长30秒的音频输入。

性能方面,d1-3B在NVIDIA RTX 4090上完成一次决策耗时8毫秒,在NVIDIA Jetson Orin Nano上约为50毫秒。两款模型支持名为noul、choice和score的决策模式。

Liquid AI列出的应用场景包括AI模型路由、有害内容检测、搜索结果重排、LLM-as-a-judge评估、AI代理护栏以及实时图像与语音检查。根据Liquid AI的LFM开放许可,年营收低于1000万美元的公司可免费将其用于商业用途。

快速问答

d1-3B和d1-Omni-600M可以在哪里下载?

两款模型均可从Hugging Face下载,支持本地运行或微调后部署。

这些模型可以免费商用吗?

根据Liquid AI的LFM开放许可,年营收低于1000万美元的公司可以免费用于商业用途。

d1-Omni-600M支持哪些输入类型?

它可在单次计算中分析文本、图像以及最长30秒的音频输入。

来源