跳转到内容
主站 新闻 控制台

Decision 3.0:0.6B 至 27B 开源多模态决策模型,登顶 Jev Decision Index 双榜

· Reddit · r/LocalLLaMA
Reddit

我们与 vLLM 语义路由(Semantic Router)团队联合发布了 Decision 3.0 (d3)。这是我们全新的 SOTA 决策模型家族,参数量涵盖 0.6B 至 27B,采用 Apache-2.0 协议开源,全部支持读取文本、图像和视频。

工作原理

  • 基于 Qwen3.5(0.8B / 2B / 4B / 9B)与 Qwen3.8-27B 构建。参数量包含视觉编码器(vision encoder):4B 模型中占 0.33B,27B 模型中占 0.46B。

  • 支持三种决策类型:选择题(choice)、是否题(yes/no)、打分(score)。输出每个答案的概率分布,无需生成文本。单次调用即可回答针对同一输入的多个问题,每个问题均基于输入进行独立的前向传播(forward pass)。

  • 图像支持:单次请求支持多张图片,最高解析度达 1.6 MP(160万像素)。

  • 视频支持:单次请求支持多个视频(MP4、WebM、MOV、MKV),采样率为 2 fps,整个视频片段最多取 32 帧,每帧最高 0.2 MP。

  • BF16 权重,可通过 Transformers 加载(trust_remote_code=True),在 AMD Instinct MI325X 上完成训练。

评测结果(我们基于已发布权重、使用官方 Jev 0.3 工具包进行的评测)

  • 双榜第一:27B 模型在文本上得分 64.7,在视觉上得分 71.6,领先榜单上所有模型(包括 Jev 官方模型)。

  • 全尺寸同级别领先:0.6B、0.8B、4B 和 9B 模型均在各自尺寸级别中领跑。其中 9B 模型(d3-flash)超越了我们上一代的 27B 模型(Decision 2.0)。

  • 视频零样本能力(Zero-shot):所有模型在训练期间均未接触过视频数据。在 Perception Test 验证集的全部 19,140 道题目中,27B 得分为 77.4,4B 得分为 70.3。

HF 集合:https://huggingface.co/collections/vllm-sr/decision-30

热门讨论

pmotiveforce (⬆88):这类模型现在都快变成大路货(commodity)了,Typesafe AI 居然估值还能达到 75 亿美元,太搞笑了。 Holiday_Point_603 (⬆27):反正不管做啥只要名字里带个 AI,估值就会莫名其妙地暴涨。 james_pic (⬆10):我觉得秘诀在于和风投(VC)坐进同一趟电梯。 Brilliant-Weekend-68 (⬆27):话说回来,做 Jev 的那家公司凭啥估值能到 75 亿美元? ArjixGamer (⬆20):因为投资人傻。 JackMasterN1 (⬆10):所以 d3-mini 4B 直接降维打击(mogs)。 MikeLPU (⬆16):sglang、llamacpp 已经支持 systemone API。 RaGE_Syria (⬆10):有人测过它的速度有多快吗?微软最近发布的 Decision-1 号称响应时间只有 85ms,纯粹出于好玩,我很想试试拿它来做游戏控制。