返回 GitHub 雷达在 GitHub 打开
tensorzero/tensorzero
42 天前首次出现未被群岛收录TensorZero 是一个开源的 LLMOps 平台,它将 LLM 网关、可观测性、评估、优化和实验功能统一到一个工具中。 主要技术栈基于 Rust 语言实现,提供高性能的统一 API 网关,支持与 OpenAI SDK、OpenTelemetry 以及所有主流 LLM 提供商集成。 其亮点在于极低的延迟(p99 小于 1 毫秒)和高吞吐量(每秒超过 1 万次查询),适用于从初创公司到财富 10 强企业的大规模 LLM 应用开发、部署和优化场景。
Rust创建于 2024 年 7 月最近提交 2026 年 6 月
累计 Star
11.7k
近 7 日新增
+3
近 30 日新增
+24
Fork
949
Star 趋势
共 8 个采集点 · 近 30 日 +242026-06-232026-07-18
项目介绍
由 AI 摘自仓库 READMETensorZero 是一个开源的 LLMOps 平台,它将 LLM 网关、可观测性、评估、优化和实验功能统一到一个工具中。 主要技术栈基于 Rust 语言实现,提供高性能的统一 API 网关,支持与 OpenAI SDK、OpenTelemetry 以及所有主流 LLM 提供商集成。 其亮点在于极低的延迟(p99 小于 1 毫秒)和高吞吐量(每秒超过 1 万次查询),适用于从初创公司到财富 10 强企业的大规模 LLM 应用开发、部署和优化场景。
仓库信息
Topics
#ai#ai-engineering#anthropic#artificial-intelligence#deep-learning#genai#generative-ai#gpt#large-language-models#llama#llm#llmops
来自雷达
该项目由雷达自动扫描 GitHub 发现,含 Star 增速、提交活跃度与分类标签,中文摘要由 AI 生成。