GitHub 雷达
首次出现 88 天前

mudler/LocalAI

LocalAI 是一个开源 AI 引擎,旨在让用户无需 GPU 即可在任意硬件上运行包括大语言模型、视觉、语音、图像和视频在内的多种模型。主要技术栈基于 Go 语言,并采用可组合的架构,核心小巧,通过按需拉取独立的后端镜像(如 llama.cpp、vLLM、whisper.cpp 等)来运行不同模型。其亮点在于提供与 OpenAI 等 API 兼容的即插即用接口,支持多用户认证与权限管理,并内置 AI 代理和 RAG 功能,适合希望在本地或私有基础设施上部署多模态 AI 服务的场景。

近 7 日
+122
累计 Star
49.2k
Fork
4,455
近 30 日
+603
Star 趋势 · 57 个采集点
+4%
6 月 23 日9 月 19 日
语言Go
分类AI/机器学习
最近提交9 月 19 日
创建时间3 月 19 日
首次收录6 月 23 日 · 自动扫描
README 摘要
LocalAI 是一个开源 AI 引擎,旨在让用户无需 GPU 即可在任意硬件上运行包括大语言模型、视觉、语音、图像和视频在内的多种模型。主要技术栈基于 Go 语言,并采用可组合的架构,核心小巧,通过按需拉取独立的后端镜像(如 llama.cpp、vLLM、whisper.cpp 等)来运行不同模型。其亮点在于提供与 OpenAI 等 API 兼容的即插即用接口,支持多用户认证与权限管理,并内置 AI 代理和 RAG 功能,适合希望在本地或私有基础设施上部署多模态 AI 服务的场景。
中文摘要由 AI 生成,仅供参考。
在 GitHub 打开