LIVESSI 79,365.00▲0.01%
未登录 · 登录

大厅 / 国内 / 部署推理

部署推理

LLMOPS · CHINA · INFRA

收录 187今日新增 0数据源 GitHub 每日快照

部署推理(国内)分类当前收录 187开源模型与基建项目,按 S-Score 排名靠前的有 one-api(S·82)lmdeploy(S·79)cube-studio(S·76)。S-Score 基于 GitHub 星标量级与维护活跃度算法计算,每小时重排、付费不影响排名,数据每日快照。本分类属于「模型 · 基建」板块,不进入 Skill 主榜,总览见 模型看板

本榜单每小时重排 · 方法论
1one-api一站式大模型API网关,统一分发与计费82 36.0k+163
2lmdeployLLM 压缩部署服务工具箱(InternLM 团队)79 8.0k+13
3cube-studiocube studio开源云原生一站式机器学习/深度学习/大模型AI平台,mlops算法链路全流程,算力租赁平台,notebook在线开发,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务VGPU虚拟化,边缘计算,标注平台自动化标注,deepseek等大模76 5.1k+2
4cube-studiocubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台,算法全链路流程,多租户,算力租赁平台,token中转,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务,VGPU虚拟化,云边端协同,边缘计73 2.4k+12
5TNN腾讯出品的跨平台深度学习推理框架71 4.6k+1
6rtp-llm阿里巴巴自研的高性能LLM推理引擎70 1.3k+5
广告位招商中 —— 你的产品出现在这里自助投放 · 周结算 · 广告内容与榜单排序无关了解 →广告 AD
7nndeploy简单易用的高性能AI部署框架69 1.8k
8AI-CompassAI技术学习路线导航,从入门到落地的系统指南671 881+17
9llm-resourceLLM全栈优质学习资源合集62 723
10llm-booksLLM应用开发实践笔记合集62 767
11KuiperLLama从零实现支持Llama与Qwen的推理框架60 554+2
12One-EvalAgent驱动的LLM自动化评测系统59 159+4
SKILL·STUDY · 夜市每 10 分钟补货一次 · 排名公正性政策SKILL.STUDYS·96README 徽章 · 一键佩戴本夜市靈感來自 士林 · 寧夏 · 饒河