新Ray Serve可扩展Python模型服务库,支持框架无关部署、模型组合、自动扩缩容、LLM Serving、FastAPI、gRPC和Kubernetes。 00AI模型与开放平台# Kubernetes# 分布式推理# 模型服务