[UNTESTED] [sky-unicorn/ai-api-proxy] 2 endpoint(s)
ChatGPT
API Proxy/ChatGPT
2,177 characters
Status: [UNTESTED]
Endpoints found:
http://localhost:5000/v1/chat/completions
http://localhost:5000/anthropic/v1/messages
Source: https://github.com/sky-unicorn/ai-api-proxy
# AI API Proxy
一个基于 Flask 的多供应商 AI API 代理服务,统一对外暴露 Anthropic Messages API 与 OpenAI Chat Completions API 两种接口,底层可对接任意兼容的 LLM 提供商。配套 Web 管理界面,可对提供商、模型映射、错误码、日志、计费、API Key 等进行可视化配置。
---
## 一、项目作用
- **统一代理入口**:把多家上游 LLM(Anthropic 官方、自建网关、OpenAI 兼容服务等)抽象成统一的 Anthropic / OpenAI 接口,下游客户端无需关心上游差异。
- **模型路由**:按客户端请求的 `model` 字段(别名)路由到真实的目标模型和提供商,支持多候选分组、加权轮询、自动跳过超限节点。
- **资源治理**:内置并发限流、错误码映射、计费限额(5h / 周 / 月 / 余额)以及自动日志清理,避免某个提供商被滥用或意外超支。
- **可观测性**:完整记录每次请求的时间、IP、模型、token、耗时、状态码、请求/响应体,便于排查问题。
- **兼容性强**:自动处理多模态降级(不支持图片的模型替换为占位符)、兼容 dashscope 风格 SSE(无空格)、自动清理 MiniMax 系列无效 `tool_use` 等边角情况。
---
## 二、核心功能
### 1. 多协议代理
- `POST /anthropic/v1/messages`(及子路径)— Anthropic Messages API 透传
- `POST /v1/chat/completions`(及子路径)— OpenAI Chat Completions 透传
- 支持流式响应(`stream: true`)
- 支持从请求体中读取 `x-api-key` 或 `Authorization: Bearer ...`
### 2. 提供商(Provider)管理
- 支持 `anthropic` 与 `openai` 两种 provider 类型,可配置:
- 名称、Base URL、API Key、类型
- 启用/禁用(手动或自动)
- 最大并发数(`max_concurrency`,0 表示不限)
- "禁用原因"区分(自动禁用时记录原因)
- 后台自动统计每个 provider 的实时并发使用量
### 3. 模型映射(Model