Rapid-MLX 是什么?

Rapid-MLX v0.15.0 是面向 Apple Silicon 的本地模型 CLI 和服务层,提供 MLX 推理、OpenAI/Anthropic 兼容接口及编码 Agent 配置。

⭐ 2,936 Stars 🍴 346 Forks Python Apache-2.0 作者: raullenchai
来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0 查看 GitHub 仓库 → 📘 使用教程 →

为什么值得关注

v0.15.0 发布于 2026-09-22,加入 Qwen-Image 2.1、MiMo-V2.6 Flash、Gemma 4 sidecar、桌面修复和可关闭的粗粒度遥测。Rapid-MLX v0.15.0 是面向 Apple Silicon 的本地模型 CLI 和服务层,提供 MLX 推理、OpenAI/Anthropic 兼容接口及编码 Agent 配置。

来源:github.com/raullenchai/Rapid-MLX

核心功能

Apple Silicon 本地服务

在 M 系列 Mac 上运行 MLX 模型并提供 localhost 的 OpenAI/Anthropic 兼容接口。

来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0
Agent 配置与测试

agents <name> --setup 为多种编码 Agent 写入端点配置,官方还维护 wire 与 Tier-1 端到端测试。

来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0
模型 recipe 与可选 extra

recipe/info 按内存查看模型档案;视觉、图像、音频、视频等能力按 extra 安装。

来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0

技术架构

CLI 管理模型目录与 MLX 运行时,serve 暴露本地兼容 API,agents 子命令修改宿主配置指向该端点;工具权限仍由宿主 Agent 控制。

来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0

项目知识图谱

知识图谱:项目核心节点(中心)+ 核心功能(内环六边形)+ 关键技术依赖(外环 chip) Apple Silicon 可选 ffmpeg 模型权重 Apple Silicon 本地服务Apple Silicon 本地… Agent 配置与测试 模型 recipe 与可选 extra模型 recipe 与可选 e… Rapid-MLX 项目本体 核心功能 关键依赖

技术栈

语言Python 3.10+;视频 extra 为 3.11+框架Apple MLX + FastAPI/兼容 API + CLI
Apple Silicon可选 ffmpeg模型权重
默认 localhost:8000;OpenAI base URL 为 /v1
来源:github.com/raullenchai/Rapid-MLX/blob/v0.15.0/pyproject.toml

快速上手

路径一用 Homebrew 安装,serve 后以 curl 验证 /v1/chat/completions;路径二用 uv 或固定版本 pip 隔离安装,再运行 agents codex --setup 和 test。
来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0

使用场景

适合全员使用 M 系列 Mac、需要本地兼容 API 或给多个编码 Agent 切换本地模型的团队;混合系统、已有成熟 Ollama 运维或必须使用云端专有模型时收益较低。

来源:github.com/raullenchai/Rapid-MLX;https://github.com/ollama/ollama

优势与局限

优势

  • 针对 Apple Silicon 与统一内存优化
  • 兼容 API 和 Agent 配置集中
  • 模型 recipe、doctor、telemetry 控制完整

局限

  • 不提供同等的 Windows/Linux 运行路径
  • 模型内存和性能必须在本机复测
  • 公网隧道会改变完全本地的数据边界
来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0

最新版本

v0.15.0 发布于 2026-09-22,加入 Qwen-Image 2.1、MiMo-V2.6 Flash、Gemma 4 sidecar、桌面修复和可关闭的粗粒度遥测。

来源:github.com/raullenchai/Rapid-MLX/releases/tag/v0.15.0

实测与证据

status: official_docs_checked_not_installed  |  checked_at: 2026-09-23  |  environment: 静态核对 v0.15.0 release、README、安装、Agent、Cursor、遥测和排错说明  |  limitations: 未下载权重、启动服务、调用 Agent 或测吞吐与内存  |  observed_output: 官方文档确认 Homebrew/uv/pip 路径、localhost:8000、agents setup/test、Cursor 限制与遥测开关

来源:github.com/raullenchai/Rapid-MLX/releases/tag/v0.15.0

同类项目对比

Ollama 覆盖 macOS、Windows、Linux 和更广的通用模型部署;Rapid-MLX 聚焦 Apple Silicon/MLX,并把编码 Agent 配置、wire 验证和内存 recipe 放进同一 CLI。

来源:github.com/ollama/ollama;https://github.com/raullenchai/Rapid-MLX/tre…

总结评价

适合全员使用 M 系列 Mac、需要本地兼容 API 或给多个编码 Agent 切换本地模型的团队;混合系统、已有成熟 Ollama 运维或必须使用云端专有模型时收益较低。采用前需要核对:不提供同等的 Windows/Linux 运行路径。

来源:github.com/raullenchai/Rapid-MLX/tree/v0.15.0

常见问题

Rapid-MLX v0.15.0 支持哪些机器?

主要运行目标是 Apple Silicon 的 M 系列 Mac,基础包要求 Python 3.10 以上。视频 extra 要求 Python 3.11 以上并需要 ffmpeg;Windows 和 Linux 不是这套 MLX 运行路径。

Rapid-MLX 怎样接入 Codex 或 Claude Code?

先启动 rapid-mlx serve,再运行 rapid-mlx agents codex --setup 或相应宿主的 agents 命令。执行前备份宿主配置,完成后用 agents test 或一次只读任务确认请求确实到达本地端点。

Rapid-MLX 为什么不能直接给 Cursor 使用 localhost?

官方说明 Cursor 的 BYOK 请求经由 Cursor 服务器,无法访问 Mac 的 localhost。若主动使用公网 HTTPS 隧道,必须设置 RAPID_MLX_API_KEY;此时请求已不再完全留在本机。

Rapid-MLX v0.15.0 的遥测怎样关闭?

官方构建默认发送粗粒度元数据,可运行 rapid-mlx telemetry preview 和 status 查看,再用 rapid-mlx telemetry off 关闭;也可设置 RAPID_MLX_TELEMETRY=0。原始提示词、响应和 API key 不属于官方列出的遥测字段。

资料与核验范围
本文依据项目公开资料整理。版本、安装命令和功能边界可能随上游更新,请以所列来源和项目当前版本为准。 资料核对时间: 2026-09-23 13:55.

参考材料:README、GitHub API、依赖文件