GitHub 雷达
首次出现 88 天前

AlexsJones/llmfit

1. 解决什么问题 / 是什么:一键检测本地硬件,从数百个大模型中筛选出能在你的设备上流畅运行的模型与最优量化方案。 2. 主要技术栈或实现方式:使用 Rust 构建高性能终端工具,提供交互式 TUI 与命令行模式,集成多后端(Ollama、llama.cpp、MLX 等)进行硬件评分和吞吐估算。 3. 亮点或适用场景:内置社区实测性能排行榜和硬件模拟,支持按使用场景、运行效率排序,适合本地 LLM 部署前的模型选型与硬件配置决策。

近 7 日
+1,110
累计 Star
36.8k
Fork
2,332
近 30 日
+4,091
Star 趋势 · 40 个采集点
+29%
6 月 23 日9 月 19 日
语言Rust
分类AI/机器学习
最近提交9 月 18 日
创建时间2 月 16 日
首次收录6 月 23 日 · 自动扫描
README 摘要
1. 解决什么问题 / 是什么:一键检测本地硬件,从数百个大模型中筛选出能在你的设备上流畅运行的模型与最优量化方案。 2. 主要技术栈或实现方式:使用 Rust 构建高性能终端工具,提供交互式 TUI 与命令行模式,集成多后端(Ollama、llama.cpp、MLX 等)进行硬件评分和吞吐估算。 3. 亮点或适用场景:内置社区实测性能排行榜和硬件模拟,支持按使用场景、运行效率排序,适合本地 LLM 部署前的模型选型与硬件配置决策。
中文摘要由 AI 生成,仅供参考。
在 GitHub 打开