首页 / 开源热榜 / ODS / 使用教程

ODS v2.6.0 中文教程:DreamServer 改名后的安全安装

更新于 2026-09-23 · NGJOO AI 实验室 · 约 12 分钟

DreamServer 已迁移为 Osmantic/ODS。它不是单一模型服务,而是一套安装与控制层:按硬件选择推理后端和模型,并接好 Open WebUI、LiteLLM、工作流、Agent、RAG、图像与观测组件。当前正式版 v2.6.0发布于 2026 年 7 月 28 日。

ODS 会创建容器、数据卷、凭证和本机配置。生产或长期使用应固定 tag,并先读官方 Installer Trust 文档;快速 curl 管道适合已接受该信任边界的试用环境。

前置条件、硬件和端口

安装前启动 Docker,并记录 docker ps、可用磁盘和 GPU 情况。Windows 使用 Docker Desktop 的 WSL2 后端,安装脚本不建议在管理员 PowerShell 运行,以免用户目录留下管理员所有权;macOS 路径面向 Apple Silicon;Linux 支持 NVIDIA、AMD 和 Intel Arc,但具体发行版与加速路径必须查支持矩阵。WebUI 默认是 localhost:3000。Linux Docker 推理端口通常是 localhost:11434,容器内为 8080;macOS/Windows 原生推理路径通常是 8080。

路径一:固定 v2.6.0 后审读安装

git clone https://github.com/Osmantic/ODS.git
cd ODS
git checkout v2.6.0
less install.sh
./install.sh

这条路径能在执行前检查脚本、Compose、镜像与写入位置,适合长期机器。需要云端模式时显式使用 ./install.sh --cloud;WebUI 端口冲突可用 WEBUI_PORT=9090 ./install.sh。不要在不了解现有服务的情况下套用端口覆盖。安装器会按硬件档位选择模型并把 LLM_MODELGGUF_FILEMAX_CONTEXT 等结果写进配置;自动选择只是起点,吞吐和上下文仍需本机测量。

路径二:官方快捷安装或 Windows 路径

# Linux / macOS 快捷路径
curl -fsSL https://install.osmantic.com/ods.sh | bash

# Windows:先下载/审阅仓库,再在普通 PowerShell 中
Set-ExecutionPolicy -Scope Process Bypass
.\install.ps1

curl 管道会立即执行网络脚本,无法像固定 tag 那样先做完整审读。用于重要环境时,采用第一条路径或将脚本保存下来核对。Windows 的执行策略只应改当前会话。安装后不要把生成的 .env、API key 或 magic link 提交;启用 cloud/hybrid 会将相应请求发给所选云提供商,n8n、搜索和其他扩展还可能访问第三方服务。

验证步骤与预期结果

# Linux 安装目录中
ods status
# Windows
.\ods\installers\windows\ods.ps1 status
# macOS
./ods-macos.sh status

状态命令应列出核心服务;浏览器打开 http://localhost:3000,发一个短问题,并从日志确认实际路由到本地或你选择的云端。再检查对应推理端口是否响应。v2.6.0 release 记录六类主机验证为绿色,但官方也明确没有声称严格的长期 User Green:耗时的六轮模型矩阵被豁免。因此本机首聊、重启后恢复和一个工作流任务都要自己跑。

故障排查、升级和卸载边界

页面打不开时先查 3000 端口与 Docker 服务;推理失败时区分宿主端口 11434/8080 和容器内 8080,避免把容器地址填给宿主客户端。模型装不下时查看安装器写入的硬件档位和 GGUF,而不是直接增加上下文。rootless Docker、远程提供商和 GPU 重分配是 v2.6.0 的重点修复区域,旧安装升级前要备份 .env 和数据卷,并保留旧 tag 以便回退。卸载命令会删除资源,只有列清数据卷、确认备份后才运行 ./ods-uninstall.sh --force 或 Windows 的 ods.ps1 uninstall --force

与 AnythingLLM 的实际区别

AnythingLLM 重点是面向文档、Workspace、聊天和 Agent 的成品应用,可接多种模型与向量库。ODS 更像完整本地 AI 服务器发行版,把推理、WebUI、LiteLLM、语音、n8n、Agent、图像和运维控制装在一起。只需要团队文档问答时,AnythingLLM 的应用边界更清楚;需要在一台工作站统一管理多项本地 AI 服务时,ODS 覆盖更广,也意味着端口、容器、凭证和升级面更多。

验证状态与边界:已核对 v2.6.0 release、README、Installer Trust、平台条件、端口、模式和卸载说明;未在本机运行安装器、拉镜像或测试 GPU。命令和预期来自官方文档,不能代替本机安全审计。

这里仅补原教程没有展开的事实和边界。安装命令与操作步骤仍以前文为准。

先判断这个项目是否适合你

适合谁用

适合希望在一台工作站统一安装与维护推理、WebUI、工作流及 Agent 的用户。只需要文档聊天、已有容器编排或不愿承担多服务升级面时,应采用范围更窄的工具。

原教程未展开的系统信息

核心功能

  • 硬件探测与模型选择

    安装器根据平台、GPU 与内存档位选择推理后端、GGUF 和上下文配置。

架构与数据流

平台安装器生成 .env 与凭证,容器和原生推理服务由控制脚本管理;Open WebUI 经 LiteLLM/选定路由连接本地或云端模型,扩展服务各自具有网络与凭证边界。

常见问题

DreamServer 和 ODS 是同一个项目吗?

是。旧仓库地址已重定向到 Osmantic/ODS,当前项目名、文档和命令都使用 ODS;新安装应固定 ODS 的正式 tag。

ODS v2.6.0 安装前最少需要什么?

Docker 必须已安装并运行。Windows 需要 Docker Desktop 的 WSL2 后端;macOS 支持 Apple Silicon;Linux 的 GPU 和发行版要按官方支持矩阵核对,并先检查磁盘、端口和现有容器。

ODS 默认会把提示词发到云端吗?

本地模式是默认路径,云端并非必需。只有选择 cloud 或 hybrid 并配置外部提供商时,请求才会按 LiteLLM 路由离开本机;n8n 等外部集成也有自己的数据边界。

ODS 安装后怎样判断真的可用?

先运行平台对应的 status 命令,再打开 localhost:3000 完成一次短对话,并检查推理端口。官方 v2.6.0 的六主机验证为绿色,但长期六轮模型矩阵被明确豁免,不能代替你的本机测试。