ODS(原 DreamServer)v2.6.0 是本地 AI 服务器安装与控制层,按硬件选择推理路径,并组合 Open WebUI、LiteLLM、Agent、工作流、RAG、语音、图像和观测服务。
来源:github.com/Osmantic/ODS/tree/v2.6.0 查看 GitHub 仓库 → 📘 使用教程 →安装器根据平台、GPU 与内存档位选择推理后端、GGUF 和上下文配置。统一连接推理、Open WebUI、LiteLLM、n8n、Agent、RAG、语音、图像与观测组件。平台安装器生成 .env 与凭证,容器和原生推理服务由控制脚本管理;Open WebUI 经 LiteLLM/选定路由连接本地或云端模型,扩展服务各自具有网络与凭证边界。
来源:github.com/Osmantic/ODS/tree/v2.6.0安装器根据平台、GPU 与内存档位选择推理后端、GGUF 和上下文配置。
来源:github.com/Osmantic/ODS/tree/v2.6.0统一连接推理、Open WebUI、LiteLLM、n8n、Agent、RAG、语音、图像与观测组件。
来源:github.com/Osmantic/ODS/tree/v2.6.0本地为默认路径,用户可显式切换 cloud 或 hybrid 并配置外部提供商。
来源:github.com/Osmantic/ODS/tree/v2.6.0平台安装器生成 .env 与凭证,容器和原生推理服务由控制脚本管理;Open WebUI 经 LiteLLM/选定路由连接本地或云端模型,扩展服务各自具有网络与凭证边界。
来源:github.com/Osmantic/ODS/tree/v2.6.0DockerWindows WSL2 或 Apple Silicon/受支持 Lin…模型与镜像磁盘空间适合希望在一台工作站统一安装与维护推理、WebUI、工作流及 Agent 的用户。只需要文档聊天、已有容器编排或不愿承担多服务升级面时,应采用范围更窄的工具。
来源:github.com/Osmantic/ODS;https://github.com/Mintplex-Labs/anything-llmv2.6.0 发布于 2026-07-28,重点包括远程提供商、模型切换、GPU 重分配回滚、rootless 修复,以及 Windows/macOS 原生路径和 DNS rebinding/SSRF 加固。
来源:github.com/Osmantic/ODS/releases/tag/v2.6.0status: official_docs_checked_not_installed | checked_at: 2026-09-23 | environment: 静态核对 v2.6.0 release、README、Installer Trust、平台和端口文档 | limitations: 未执行安装、拉镜像、启动 GPU 推理或验证数据卷 | observed_output: 官方定义 status、WebUI 3000、平台推理端口与六主机绿色验证,同时明确长期六轮模型矩阵被豁免
来源:github.com/Osmantic/ODS/releases/tag/v2.6.0AnythingLLM 是以文档、Workspace、聊天和 Agent 为中心的成品应用;ODS 是更广的本地 AI 服务器栈和控制层,额外编排推理、工作流、语音、图像与运维组件。
来源:github.com/Mintplex-Labs/anything-llm;https://github.com/Osmantic/ODS…持续搜索需求来自旧 DreamServer 名称和当前 ODS 路径的断层。长期机器优先固定 v2.6.0 并审读安装器;先验证首聊、重启恢复和实际路由,再启用云端或第三方集成。
来源:github.com/Osmantic/ODS/tree/v2.6.0是。旧仓库地址已重定向到 Osmantic/ODS,当前项目名、文档和命令都使用 ODS;新安装应固定 ODS 的正式 tag。
Docker 必须已安装并运行。Windows 需要 Docker Desktop 的 WSL2 后端;macOS 支持 Apple Silicon;Linux 的 GPU 和发行版要按官方支持矩阵核对,并先检查磁盘、端口和现有容器。
本地模式是默认路径,云端并非必需。只有选择 cloud 或 hybrid 并配置外部提供商时,请求才会按 LiteLLM 路由离开本机;n8n 等外部集成也有自己的数据边界。
先运行平台对应的 status 命令,再打开 localhost:3000 完成一次短对话,并检查推理端口。官方 v2.6.0 的六主机验证为绿色,但长期六轮模型矩阵被明确豁免,不能代替你的本机测试。