GitHub 雷达

9 小时前

监控正在起飞的黑马项目,和高星项目。

DeusData/codebase-memory-mcp
1. 这是一个为 AI 编码代理提供高性能代码智能的 MCP 服务器,能将整个代码库构建为持久化知识图谱,实现闪电般的结构查询。 2. 核心采用纯 C 编写,内置 158 种语言的 tree‑sitter 语法解析,并通过混合 LSP 增强语义类型解析,所有数据存入内存 SQLite 图数据库,最终打包成零依赖的单一静态二进制文件。 3. 极致的索引速度(Linux 内核 2800 万行代码仅需
CAI/机器学习43.8k
JustVugg/colibri
Colibri 是一个用纯 C 编写的轻量级推理引擎,让普通消费级硬件也能运行 744B 到 2.8T 参数的前沿 MoE 大模型。它把显存、内存和磁盘当作统一的多层推理层级,通过专家权重按需流式加载、JIT 式路由热度缓存、O_DIRECT 与双 SSD 条带化 I/O、以及 CPU/GPU/NUMA 异构协同执行来实现,每个模型家族对应一个 C 文件。亮点是零依赖、可本地私有运行超大模型并实时可视化专家路由,适合想在自有硬件上研究、测量和优化大模型推理的系统开发者与研究者。
CAI/机器学习36.1k
antirez/ds4
DwarfStar是一个专为DeepSeek V4 Flash和PRO等模型设计的本地推理引擎,解决在个人消费级硬件上高效运行大模型的问题,而非通用的GGUF运行器。它主要使用C语言实现,支持Metal、CUDA和ROCm后端,并基于llama.cpp和GGML的生态构建,但不直接链接GGML。其亮点在于针对特定模型深度优化,支持SSD流式加载、多GPU张量并行和流水线并行,可在MacBook、DGX Spark等设备上运行,甚至能将旧款CUDA显卡服务器变为多用户LLM服务,同时项目鼓励用户利用AI编码代理进行个性化修改和性能调优。
CAI/机器学习20.8k

5,015 个高星项目