项目地址: https://github.com/tbphp/gpt-load
如果对你有用,辛苦点个 Star 吧。
简单说下,能干啥:
支持多个渠道类型( OpenAI ,Gemini )的 Key 池轮询代理服务。现在 Gemini 的免费 Key 又恢复了gemini-2.5-pro
可用额度,马上去搞点 Key ,一键部署起来爽用!如果你有很多硅基或者其他渠道的 Key ,也可以用这个项目来方便的管理多 Key 。
一个高性能、企业级的 AI 接口透明代理服务,专门为需要集成多种 AI 服务的企业和开发者设计。采用 Go 语言开发,具备智能密钥管理、负载均衡和完善的监控功能,专为高并发生产环境而设计。
详细请查看 官方文档。
功能特性
- 透明代理: 完全保留原生 API 格式,支持 OpenAI 和 Google Gemini 等多种格式(持续扩展中)智能密钥管理: 高性能密钥池,支持分组管理、自动轮换和故障恢复负载均衡: 支持多上游端点的加权负载均衡,提升服务可用性智能故障处理: 自动密钥黑名单管理和恢复机制,确保服务连续性动态配置: 系统设置和分组配置支持热重载,无需重启即可生效企业级架构: 分布式主从部署,支持水平扩展和高可用现代化管理: 基于 Vue 3 的 Web 管理界面,直观易用全面监控: 实时统计、健康检查、详细请求日志高性能设计: 零拷贝流式传输、连接池复用、原子操作生产就绪: 优雅关闭、错误恢复、完善的安全机制
Docker 快速开始
docker run -d --name gpt-load \ -p 3001:3001 \ -e AUTH_KEY=sk-123456 \ -v "$(pwd)/data":/app/data \ ghcr.io/tbphp/gpt-load:latest# 使用 sk-123456 登录管理界面: http://localhost:3001
还支持Claw Cloud
快速部署,Docker Compose
及源码部署。
更多部署方式和使用方法情参考 官方文档。