lm-sys/FastChat

⭐ 39,450 Stars 🍴 4,792 Forks Python Apache-2.0

一个开源平台,用于训练、部署和评估大型语言模型。

来源:据 README 描述 查看 GitHub 仓库 →

核心功能

模型训练与评估

提供训练和评估最先进模型(如 Vicuna、MT-Bench)的代码。

来源:据 README 描述
分布式模型服务

包含具有 Web UI 和 OpenAI 兼容 RESTful API 的分布式多模型服务系统。

来源:据 README 描述

技术架构

代码结构包括 .github、assets、data、docker、docs、fastchat 等目录。

来源:代码目录结构

技术栈

key_deps: 信息不足,待补充  |  language: Python  |  framework: 未提及具体框架

来源:据项目基础信息

快速上手

安装方法: 1. 使用 pip 安装: ```bash pip3 install "fschat[model_worker,webui]" ``` 2. 从源代码安装: ```bash git clone https://github.com/lm-sys/FastChat.git cd FastChat pip3 install --upgrade pip # enable PEP 660 support pip3 install -e ".[model_worker,webui]" ```
来源:README 中的 Installation/Quick Start 部分

使用场景

用于训练、部署和评估大型语言模型,支持 Chatbot Arena 等应用。

来源:据 README 描述

最新版本

v0.2.36 (2024-02-11): 添加 SGLang worker 以支持视觉语言模型,降低延迟并提高吞吐量。

来源:GitHub Releases
透明度声明
本页内容由 AI(大语言模型)基于以下公开材料自动生成:GitHub README、代码目录结构、依赖文件、Release 信息。 分析时间:2026-04-06 12:33。质量评分:100/100。 所有结论均标注了数据来源。如发现不准确之处,欢迎反馈。

数据来源: README、GitHub API、依赖文件