LIVESSI 80,236.00▲0.01%
未登录 · 登录

大厅 / 国内 / 部署推理

部署推理

LLMOPS · CHINA · INFRA

收录 187今日新增 0数据源 GitHub 每日快照

部署推理(国内)分类当前收录 187 个开源模型与基建项目,按 S-Score 排名靠前的有 one-api(S·82)、lmdeploy(S·79)、cube-studio(S·76)。S-Score 基于 GitHub 星标量级与维护活跃度算法计算,每小时重排、付费不影响排名,数据每日快照。本分类属于「模型 · 基建」板块,不进入 Skill 主榜,总览见 模型看板。

本榜单每小时重排 · 方法论
1one-api一站式大模型API网关,统一分发与计费S·82—★ 37.3k+52
2lmdeployLLM 压缩部署服务工具箱(InternLM 团队)S·79—★ 8.1k+13
3cube-studiocube studio开源云原生一站式机器学习/深度学习/大模型AI平台,mlops算法链路全流程,算力租赁平台,notebook在线开发,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务VGPU虚拟化,边缘计算,标注平台自动化标注,deepseek等大模S·76—★ 5.1k+3
4cube-studiocubestudio开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台,算法全链路流程,多租户,算力租赁平台,token中转,拖拉拽任务流pipeline编排,多机多卡分布式训练,超参搜索,推理服务,VGPU虚拟化,云边端协同,边缘计S·72—★ 2.6k+16
5TNN腾讯出品的跨平台深度学习推理框架S·71—★ 4.7k+2
6rtp-llm阿里巴巴自研的高性能LLM推理引擎S·70—★ 1.4k+14
广告位招商中 —— 你的产品出现在这里自助投放 · 周结算 · 广告内容与榜单排序无关了解 →广告 AD
7nndeploy简单易用的高性能AI部署框架S·70—★ 1.9k+5
8AI-CompassAI技术学习路线导航,从入门到落地的系统指南S·68—★ 992+5
9llm-resourceLLM全栈优质学习资源合集S·62—★ 727
10llm-booksLLM应用开发实践笔记合集S·62—★ 764
11KuiperLLama从零实现支持Llama与Qwen的推理框架S·60—★ 582+1
12One-EvalAgent驱动的LLM自动化评测系统S·58—★ 163
SKILL·STUDY · 夜市每 10 分钟补货一次 · 排名公正性政策SKILL.STUDYS·96README 徽章 · 一键佩戴本夜市靈感來自 士林 · 寧夏 · 饒河