Portkey-AI/gateway

⭐ 11,207 Stars 🍴 976 Forks TypeScript MIT

Portkey-AI/gateway 是一个快速、可靠的 AI 网关,提供对 200+ LLM 和 50+ AI 安全网关的访问,通过一个快速友好的 API 进行路由。

来源:据 README 描述 查看 GitHub 仓库 →

为什么值得关注

该项目因其快速、可靠和易于集成的特性而受到关注。它填补了市场上对快速、安全且易于管理的 AI 网关的需求空白。项目使用 TypeScript 开发,并提供了丰富的文档和示例,使其对开发者友好。

来源:综合 README 描述和项目特征

核心功能

快速路由

支持对 200+ LLM 和 50+ AI 安全网关的快速路由,提供小于 1 毫秒的延迟。

来源:据 README 描述
自动重试和回退

提供自动重试机制,在请求失败时自动尝试重新发送请求,并支持回退到其他提供者或模型。

来源:据 README 描述
负载均衡和条件路由

支持负载均衡和条件路由,以优化性能和可靠性。

来源:据 README 描述
安全网关

提供安全网关功能,以保护 AI 部署并防止滥用。

来源:据 README 描述

技术架构

项目采用模块化设计,使用 TypeScript 开发,并依赖于多个库和框架。代码目录结构清晰,包括 Dockerfile、package.json 和其他配置文件。数据通过 API 进行流转,关键的技术决策包括使用 TypeScript 和提供多种部署选项。

来源:代码目录结构 + 依赖文件

技术栈

infra: 支持 Docker、Node.js 服务器、Cloudflare Workers 和 AWS EC2 部署  |  key_deps: @aws-crypto/sha256-js, hono, ioredis, ws  |  language: TypeScript  |  framework: Hono、wrangler

来源:依赖文件 + 代码目录结构

快速上手

npx @portkey-ai/gateway
来源:README Installation/Quick Start

使用场景

适用于需要快速、可靠和安全的 AI 网关的任何场景,例如构建聊天机器人、智能客服、内容生成工具等。

来源:README

优势与局限

优势

  • 快速、可靠和安全的 AI 网关
  • 易于集成和部署
  • 支持多种 LLM 和 AI 安全网关
  • 丰富的文档和示例

局限

  • 开源版本可能缺乏一些企业级功能
  • 可能需要一定的技术知识来配置和部署
来源:综合 README、代码结构和依赖分析

最新版本

v1.15.2 (2026-01-12): Qualifire | Update Guardrails by @yuval-qf in https://github.com/Portkey-AI/gateway/pull/1483

来源:GitHub Releases

总结评价

Portkey-AI/gateway 是一个值得关注的 AI 网关项目,特别适合需要快速、可靠和安全的 AI 集成解决方案的开发者和团队使用。

来源:综合分析
透明度声明
本页内容由 AI(大语言模型)基于以下公开材料自动生成:GitHub README、代码目录结构、依赖文件、Release 信息。 分析时间:2026-04-13 06:32。质量评分:85/100。 所有结论均标注了数据来源。如发现不准确之处,欢迎反馈。

数据来源: README、GitHub API、依赖文件