Skip to content

fastaistack/OpenStation

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

2 Commits
 
 
 
 
 
 
 
 

Repository files navigation

OpenStation:一站式大模型部署与管理平台

🎉 最近更新

  • 🔥 [2026-01-12] OpenStation V0.6.9发布,修复CPU-only模式下无法选择节点问题!
  • 🔥 [2025-12-25] OpenStation V0.6.8发布,优化功能,支持添加模型卡片!
  • 🔥 [2025-12-01] OpenStation V0.6.7发布,新增多种模型支持,加强资源管理能力,支持指定卡部署模型!
  • 🔥 [2025-07-21] OpenStation V0.6.6发布,支持MCP工具和智能体Agent!
  • 🔥 [2025-07-04] OpenStation V0.6.5发布,支持模型下载队列管理!
  • 🔥 [2025-05-30] OpenStation V0.6.4发布,支持Deepseek、通义千问Qwen3系列全新模型!
  • 🔥 [2025-03-20] OpenStation V0.6.3发布!

项目简介

OpenStation 是一款专为企业和开发者设计的一站式大模型部署管理平台,帮助用户快速、便捷地部署和体验大模型服务能力。

平台提供完整的模型管理、服务部署与用户协作功能,兼容标准 OpenAI API 接口,内置高效推理引擎,并提供灵活的资源扩缩容和精细的权限管理机制。

核心亮点:

  • 简单易用:无需编程,页面化操作快速完成 DeepSeek、千问3等主流大模型的部署与服务上线。

  • 标准接口:服务兼容 OpenAI 标准接口,快速接入 OpenChat、YuanChat 等主流客户端工具。

  • 资源管理:支持计算节点快速添加、扩容及灵活管理,满足业务场景的弹性需求。

  • 自动负载均衡:内置负载均衡机制,统一服务访问入口,确保模型服务稳定高效。

  • 协作与安全:内置用户权限控制与 API-Key 管理体系,保障团队协作效率与服务安全。

OpenStation,让大模型部署从未如此简单!

OpenStation的架构如下:

开始

以下步骤将指导您快速完成 OpenStation 的部署与使用。详细操作说明请参考 用户手册

1. 部署

1.1 依赖条件

在安装 OpenStation 之前,请确保您的 服务器操作系统 符合以下版本要求:

操作系统 在线部署 离线部署
Ubuntu 22.04 / 20.04 / 18.04 22.04.2 / 20.04.6 / 18.04.6
CentOS CentOS 7 暂不支持

注意

  • OpenStation 目前仅支持 X86 架构服务器,ARM 架构的适配正在开发中。

  • 在线部署 需确保服务器具备 稳定的网络连接 以下载必要的依赖。

  • 离线部署 需提前下载完整的 安装包及依赖文件 并手动安装。

1.2 部署

1.2.1 在线一键安装

如果您的服务器已连接互联网,可直接执行以下命令安装 OpenStation

curl -O  https://fastaistack.oss-cn-beijing.aliyuncs.com/openstation/openstation-install-online.sh
#其中,--version latest表示安装OpenStation平台的最新版本,如果选择安装历史版本,可以传入历史版本号,比如--version 0.6.8
bash openstation-install-online.sh  --version latest

您也可以通过链接直接下载在线安装包openstation-pkg-online-latest.tar.gz,上传到服务器上执行以下安装命令:

tar -xvzf openstation-pkg-online-latest.tar.gz
cd openstation-pkg-online-latest/deploy
bash install.sh true

执行后,根据屏幕提示按 回车键 继续安装。安装程序将自动下载所需组件,具体 安装时间取决于网络状况

安装过程中,您需输入 本机节点 IP 地址选择部署模式:cpu 或者 gpu 等信息,安装程序将根据配置自动完成 OpenStation 的部署。

1.2.2 离线安装
1.2.2.1下载安装包

我们提供 预制的 OpenStation 离线安装包,支持 一键部署

包类型 包下载地址 内容 大小
离线安装包 点击下载 平台功能组件+推理引擎镜像 10.1GB
安装包SHA256 点击下载 安装包SHA256校验文件 96B

您可以使用 浏览器下载,或通过 命令行下载

curl -O  https://fastaistack.oss-cn-beijing.aliyuncs.com/openstation/openstation-pkg-latest.tar.gz
curl -O  https://fastaistack.oss-cn-beijing.aliyuncs.com/openstation/SHA256SUM-LATEST

下载完成后,请 上传安装包至待部署节点,并进行 完整性校验。

1.2.2.2 安装

完成 离线安装包上传 后,在 部署节点的安装包目录 下执行以下命令:

#校验包的完整性
sha256sum -c SHA256SUM-LATEST
#解压安装包,执行如下安装过程
tar -xvzf openstation-pkg-latest.tar.gz && cd openstation-pkg-latest/deploy && bash install.sh

安装过程说明

  • 系统将提示您输入

    • 本机节点 IP 地址

    • 选择部署模式:cpu or gpu ?

  • 安装程序 将自动完成 环境配置服务部署

1.3 验证

安装完成后,使用 浏览器访问 部署节点的 Web 界面,以确认服务是否成功运行:

🔗 访问链接http://YOUR_NODE_IP:32206

如果部署正确,您将看到 OpenStation 的 登录页面管理界面

登录用户名为admin,密码您可以参考 [用户手册] 的1.4章节。

在使用过程中,您可参考以下文档获取更多帮助:


用户交流

欢迎扫码加入项目讨论群,反馈您的使用体验和想法

许可

本项目基于 Apache License 2.0 进行分发和使用。

📄 获取更多信息,请参考 LICENSE

About

No description, website, or topics provided.

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Contributors 3

  •  
  •  
  •