此刻AI
  • 首页
  • 排行榜
  • 博客
    • 首页
    • 排行榜
    • 博客

    模型服务

    共 4 篇网址
    排序
    发布更新浏览点赞
    dstack

    dstack

    开源GPU控制平面,统一管理多云、Kubernetes和本地资源上的Dev Environments、Tasks、Services、Fleets和Volumes。
    40
    AI模型与开放平台# GPU控制平面# 多云# 开发环境
    BentoML

    BentoML

    开源模型服务框架与推理平台,可部署任意模型和Python逻辑,并提供GPU弹性、CI/CD、观察、Bento Cloud、BYOC和Kubernetes。
    00
    AI模型与开放平台# BYOC# GPU扩缩容# 开放模型
    Ray Serve

    Ray Serve

    可扩展Python模型服务库,支持框架无关部署、模型组合、自动扩缩容、LLM Serving、FastAPI、gRPC和Kubernetes。
    00
    AI模型与开放平台# Kubernetes# 分布式推理# 模型服务
    Baseten

    Baseten

    将托管模型API、自定义模型部署、Truss打包、推理Chains和训练基础设施整合在一起的AI模型服务平台。
    10
    AI模型与开放平台# OpenAI兼容# Truss# 推理Chains
    没有了
    此刻AI
    此刻AI|有筛选、有解读、有来源的AI工具导航

    友情链接 隐私政策 关于我们

    Copyright © 2026 此刻AI 
    反馈
    让我们一起共建文明社区!您的反馈至关重要!
    网址
    网址文章软件书籍
      ↵ENTER↓↑NAV
      返回顶部首页
      投稿
      发布文章提交网址
      我的