KuiperLLama
攤 No.717从零实现支持Llama与Qwen的推理框架
SKILL SCORE
60/ 100—(7日)
30D · STARS
安装
INSTALL$git clone https://github.com/zjhellofss/KuiperLLama.git拉源码本地跑,README 有完整安装说明
AI 速读
TL;DR这是什么
- 从零实现的大模型推理框架
- 支持Llama2/3与Qwen2.5模型
- 适合校招秋招求职学习项目
适合谁
负责大模型部署、监控与评估的工程与平台团队
上手门槛
中高 —— 面向生产环境,需具备部署与运维基础
由 AI 生成 · 数据截至 2026-09-15 · 方法论 v2.3
星标增长
STARS GROWTH站内指标 · ON-SITE 30D
页面浏览0
收藏0
安装复制0
摊前留言
COMMENTS · 0还没有留言 · 登录后可发第一条
S·95ollama本地一键跑开源大模型,最流行的本地 LLM 运行器★181.0k—7日 +543★部署推理S·94transformers最主流预训练模型库,一行代码加载数十万个模型★166.0k—7日 +1016★部署推理S·93llama.cpp纯 C/C++ 高效推理 LLaMA,CPU 也能跑★128.2k—7日 +812★部署推理S·91vllm高吞吐低延迟大模型推理引擎,PagedAttention★91.8k—7日 +571★部署推理S·90OmniRoute免费AI网关，一个入口对接231+模型商★66.2k—7日 +3677★部署推理S·90headroom把工具输出/日志/RAG 块先压缩再喂给 LLM,省 20-95% token★72.2k—7日 +2022★部署推理
