Status: [UNTESTED] Endpoints found: http://localhost:5000/v1/chat/completions http://localhost:5000/anthropic/v1/messages Source: https://github.com/sky-unicorn/ai-api-proxy # AI API Proxy 一个基于 Flask 的多供应商 AI API 代理服务,统一对外暴露 Anthropic Messages API 与 OpenAI Chat Completions API 两种接口,底层可对接任意兼容的 LLM 提供商。配套 Web 管理界面,可对提供商、模型映射、错误码、日志、计费、API Key 等进行可视化配置。 --- ## 一、项目作用 - **统一代理入口**:把多家上游 LLM(Anthropic 官方、自建网关、OpenAI 兼容服务等)抽象成统一的 Anthropic / OpenAI 接口,下游客户端无需关心上游差异。 - **模型路由**:按客户端请求的 `model` 字段(别名)路由到真实的目标模型和提供商,支持多候选分组、加权轮询、自动跳过超限节点。 - **资源治理**:内置并发限流、错误码映射、计费限额(5h / 周 / 月 / 余额)以及自动日志清理,避免某个提供商被滥用或意外超支。 - **可观测性**:完整记录每次请求的时间、IP、模型、token、耗时、状态码、请求/响应体,便于排查问题。 - **兼容性强**:自动处理多模态降级(不支持图片的模型替换为占位符)、兼容 dashscope 风格 SSE(无空格)、自动清理 MiniMax 系列无效 `tool_use` 等边角情况。 --- ## 二、核心功能 ### 1. 多协议代理 - `POST /anthropic/v1/messages`(及子路径)— Anthropic Messages API 透传 - `POST /v1/chat/completions`(及子路径)— OpenAI Chat Completions 透传 - 支持流式响应(`stream: true`) - 支持从请求体中读取 `x-api-key` 或 `Authorization: Bearer ...` ### 2. 提供商(Provider)管理 - 支持 `anthropic` 与 `openai` 两种 provider 类型,可配置: - 名称、Base URL、API Key、类型 - 启用/禁用(手动或自动) - 最大并发数(`max_concurrency`,0 表示不限) - "禁用原因"区分(自动禁用时记录原因) - 后台自动统计每个 provider 的实时并发使用量 ### 3. 模型映射(Model