dstack

2个月前更新 1 0 0

开源GPU控制平面,统一管理多云、Kubernetes和本地资源上的Dev Environments、Tasks、Services、Fleets和Volumes。

收录时间:
2026-08-05

直接结论:dstack适合在GPU云、Kubernetes和本地集群之间统一管理开发环境、任务、服务、Fleets和Volumes;后端配置和安全仍由团队负责。

资料说明:本文根据该产品截至2026年8月5日的官方页面、官方文档和官方代码仓库整理,不包含虚构的统一条件实测。功能、硬件、区域、模型、价格、额度和API可能调整,使用前请再次核验官网。

工具是什么

dstack是一套开源GPU配置与编排控制平面,可连接VM型云、Kubernetes和本地集群。开发者通过YAML和CLI启动Dev Environments、Tasks、Services、Fleets和Volumes,并按GPU、价格、Spot和利用率策略调度资源。

核心功能

功能说明
多Backend连接公有云、GPU云、Kubernetes和On-prem集群。
Dev Environments按需启动带代码、SSH和GPU的开发环境。
Tasks运行训练、批处理、Fine-tuning和其他离线任务。
Services部署自动扩缩和OpenAI兼容推理服务。
Fleets维护可复用GPU节点池和Spot策略。
Volumes与资源策略管理数据卷、最大价格、重试和GPU利用率。

适合哪些用户

  • 需要统一多云与本地GPU的AI平台团队。
  • 希望开源替代传统Slurm部分工作流的组织。
  • 需要Dev、Training和Serving统一工具的开发者。

不太适合哪些情况

  • 不愿运行dstack Server和配置Backend的普通用户。
  • 只需要现成模型API而不管理计算资源的应用。

主要优势

  • 同一控制面覆盖开发、训练和Serving。
  • 支持多种加速器、云与Kubernetes。
  • Spot、价格和利用率策略便于控制成本。

需要注意的限制

  • 不同Backend能力和配置差异较大。
  • 开源控制平面仍需要部署和升级。
  • 自动选择便宜资源可能带来中断和性能差异。

常见问题

dstack可以使用本地GPU集群吗?

支持云、Kubernetes和On-prem Backend,具体接入方式以文档为准。

dstack能部署在线模型服务吗?

Services可运行可扩展端点,包括当前支持的OpenAI兼容推理示例。

官方来源

  1. dstack官网
  2. dstack官方文档
  3. dstack GitHub

资料核验日期:2026年8月5日

数据统计

相关导航