返回 GitHub 雷达在 GitHub 打开
mudler/LocalAI
42 天前首次出现未被群岛收录LocalAI 是一个开源 AI 引擎,旨在让用户无需 GPU 即可在任意硬件上运行包括大语言模型、视觉、语音、图像和视频在内的多种模型。主要技术栈基于 Go 语言,并采用可组合的架构,核心小巧,通过按需拉取独立的后端镜像(如 llama.cpp、vLLM、whisper.cpp 等)来运行不同模型。其亮点在于提供与 OpenAI 等 API 兼容的即插即用接口,支持多用户认证与权限管理,并内置 AI 代理和 RAG 功能,适合希望在本地或私有基础设施上部署多模态 AI 服务的场景。
Go创建于 2023 年 3 月最近提交 2026 年 8 月
累计 Star
48.2k
近 7 日新增
+270
近 30 日新增
+942
Fork
4,342
Star 趋势
共 17 个采集点 · 近 30 日 +9422026-06-232026-08-03
项目介绍
由 AI 摘自仓库 READMELocalAI 是一个开源 AI 引擎,旨在让用户无需 GPU 即可在任意硬件上运行包括大语言模型、视觉、语音、图像和视频在内的多种模型。主要技术栈基于 Go 语言,并采用可组合的架构,核心小巧,通过按需拉取独立的后端镜像(如 llama.cpp、vLLM、whisper.cpp 等)来运行不同模型。其亮点在于提供与 OpenAI 等 API 兼容的即插即用接口,支持多用户认证与权限管理,并内置 AI 代理和 RAG 功能,适合希望在本地或私有基础设施上部署多模态 AI 服务的场景。
仓库信息
Topics
#agents#ai#api#audio-generation#decentralized#distributed#image-generation#libp2p#llama#llm#mamba#mcp
来自雷达
该项目由雷达自动扫描 GitHub 发现,含 Star 增速、提交活跃度与分类标签,中文摘要由 AI 生成。