GitHub 雷达
首次出现 53 天前

nomic-ai/gpt4all

GPT4All 是一个开源项目,旨在让用户无需 API 调用或 GPU,就能在普通桌面和笔记本电脑上本地运行大型语言模型,并支持商业使用。其主要技术栈基于 C++ 开发,并围绕 llama.cpp 实现构建了 Python 客户端,同时支持 Vulkan 加速以在 NVIDIA 和 AMD GPU 上进行本地推理。该项目的亮点在于它提供了跨平台桌面安装程序,支持 DeepSeek R1 蒸馏模型,并具备 LocalDocs 功能,允许用户私密地本地与自己的数据对话,非常适合注重隐私、离线或资源受限的场景。

近 7 日
+6
累计 Star
77.4k
Fork
8,289
近 30 日
+0
Star 趋势 · 49 个采集点
+0%
7 月 28 日9 月 19 日
语言C++
分类AI/机器学习
最近提交5 月 28 日
创建时间3 月 28 日
首次收录7 月 28 日 · 自动扫描
README 摘要
GPT4All 是一个开源项目,旨在让用户无需 API 调用或 GPU,就能在普通桌面和笔记本电脑上本地运行大型语言模型,并支持商业使用。其主要技术栈基于 C++ 开发,并围绕 llama.cpp 实现构建了 Python 客户端,同时支持 Vulkan 加速以在 NVIDIA 和 AMD GPU 上进行本地推理。该项目的亮点在于它提供了跨平台桌面安装程序,支持 DeepSeek R1 蒸馏模型,并具备 LocalDocs 功能,允许用户私密地本地与自己的数据对话,非常适合注重隐私、离线或资源受限的场景。
中文摘要由 AI 生成,仅供参考。
在 GitHub 打开