跳转到内容
主站 新闻 控制台

范式智能联合睿思智联推出开源一站式生产级 AI 部署平台“模域 ModelSphere”

· 量子位
国内AI

范式智能技术集团有限公司联合北京睿思智联科技有限公司宣布,一站式生产级 AI 部署平台“模域”正式上线。

Image 3

10月16日,北京——范式智能技术集团有限公司(“范式”或“集团”,股票代码:6682.HK)联合北京睿思智联科技有限公司(“睿思智联”)宣布,一站式生产级 AI 部署平台“模域”(ModelSphere)正式上线。该平台面向企业用户免费开源,将算力管理、模型部署与运行优化整合在统一平台中,帮助企业降低部署与运维门槛,更高效地将算力转化为安全、稳定且可用于实际业务的 AI 服务。目前,平台已在 GitHub 正式开源。

Image 4

GitHub 地址:https://github.com/modelsphere/modelsphere

随着大模型进入规模化商业落地阶段,企业在算力统筹、模型部署与效能优化中,普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等痛点。模域致力于将这些环节整合为统一的部署与管理流程,减少企业在底层系统适配、资源调度和日常运维上的重复投入,让企业无需深度掌握驱动编译与硬件适配等复杂底层工作,即可将各类开源大模型嵌入核心业务流程,使技术团队能够更加专注于上层应用开发与业务需求。

模域具备四大核心优势:

1. 简化部署,保障模型服务稳定运行: 模域提供图形化操作面板与预置部署能力,大幅减少环境配置代码的编写工作,帮助开发者快速搭建大模型推理服务,并简化异构芯片集群的部署与运维流程。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级特性,全方位保障模型服务在生产环境中的稳定运行。

Image 5

2. 持续自动化调优,提高模型运行效率: 平台内置 AutoTune 智能模型排期策略,并结合具备硬件加速能力的自适应负载均衡调度,全面优化模型处理请求的能力与首次响应速度。系统极限吞吐效率较基准大幅提升约 285%,性能跃升至原来的 4 倍,真正实现了算力的“满血”释放。

Image 6

3. 统一管理多种芯片,减少重复适配: 平台深度融合 EngineX 推理引擎,支持并针对多种算力芯片进行深度调优,可统一并混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源,用户无需针对不同芯片重写底层逻辑代码。

Image 7

4. 持续优化适配主流模型,加快部署应用: 模域团队紧跟开源社区迭代步伐,已适配并优化了 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型,支持在模型发布后快速完成部署并调优上线至生产环境,助力企业加速将前沿模型落地于实际业务中。

在技术架构层面上,模域与 vLLM、SGLang 等主流推理引擎协同配合:推理引擎负责提升单台服务器的计算效率,模域则专注于集群架构级的纳管与全局优化,涵盖负载与缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务治理等,确保生产环境下系统兼具高性能与高可用。

模域采用宽松友好的 Apache 2.0 协议全面开源,将大模型部署与优化的工程能力向广大企业与开发者开放;同时汇聚产业力量,持续完善对多元芯片与模型的支持,消除硬件适配壁垒,降低大模型落地门槛,助力企业盘活现有算力资源,高效释放异构算力的商业潜能。