模型服务

开源模型服务框架与推理平台，可部署任意模型和Python逻辑，并提供GPU弹性、CI/CD、观察、Bento Cloud、BYOC和Kubernetes。

开源GPU控制平面，统一管理多云、Kubernetes和本地资源上的Dev Environments、Tasks、Services、Fleets和Volumes。