Fireworks AI为开源模型提供Serverless推理、独立GPU部署、监督与强化微调、结构化输出和自定义推理应用的平台。 10AI模型与开放平台# Compound AI# Serverless推理# 开放模型
Stability AI Developer Platform提供图像生成、编辑、控制、放大、3D和音频模型API的生成式AI开发平台。 10AI模型与开放平台# AI 3D# Stable Audio# Stable Diffusion
LMU AI 灵眸国内AI API中转聚合网关,直连Claude、GPT、Gemini等旗舰模型,支持OpenAI/Anthropic双协议。 10AI模型与开放平台# Anthropic 兼容# API 网关# LMU AI
PikaThe idea-to-video platform that sets your creativity in motion. 10AI模型与开放平台# AI视频生成# 图片生成视频# 文本生成视频
OllamaOllama is the easiest way to automate your work using open models, while keeping 10AI模型与开放平台# 一键部署# 开源模型# 数据安全
Prime Intellect面向Agent强化学习的研究与GPU平台,整合Hosted Training、Environments、Evaluations、Sandboxes、Inference和多节点Compute。 00AI模型与开放平台# Agent沙箱# Agent环境# GPU算力
SkyPilot开源多云AI计算编排框架,在云、Kubernetes和Slurm之间自动选择GPU,并提供Spot恢复、Jobs、Services和Clusters。 00AI模型与开放平台# GPU编排# Kubernetes# Spot实例
Akash Network开放去中心化云市场,通过Provider竞价提供CPU、GPU、存储和网络,并使用Console与SDL部署容器化AI工作负载。 00AI模型与开放平台# Akash Console# GPU市场# 去中心化云
Novita AI统一提供多模态模型API、OpenAI兼容LLM、GPU实例、Serverless GPU、Bare Metal和隔离Agent Sandbox的AI云。 00AI模型与开放平台# Agent沙箱# GPU实例# Serverless GPU
Vast.ai连接社区和数据中心提供者的GPU云市场,可筛选硬件与价格,并通过模板、CLI、SDK、Volumes和Serverless运行AI工作负载。 00AI模型与开放平台# GPU市场# GPU租赁# Secure Cloud
Crusoe Cloud面向AI的GPU基础设施与托管平台,提供虚拟机、Kubernetes、Slurm、存储网络、Serverless推理、Fine-tuning和Command Center。 00AI模型与开放平台# GPU基础设施# Kubernetes# Slurm
Nebius AI Cloud面向AI的云平台,提供GPU VMs和集群、InfiniBand、托管Kubernetes、Slurm/Soperator、Serverless AI及存储网络。 00AI模型与开放平台# GPU云# InfiniBand# Serverless AI
Hyperbolic面向开发者的按需AI云,整合开放模型Serverless Inference、GPU Marketplace和训练及生产专属集群。 00AI模型与开放平台# AI云服务# GPU市场# Serverless推理
NVIDIA Dynamo-TritonNVIDIA开放推理软件体系,核心Triton Server支持多框架模型仓库、动态批处理、并发、Ensemble、HTTP/gRPC和多平台部署。 00AI模型与开放平台# NVIDIA AI# 动态批处理# 多框架
KServeKubernetes原生模型Serving平台,通过InferenceService提供多框架部署、自动扩缩、OpenAI规范、Canary、InferenceGraph与监控。 00AI模型与开放平台# InferenceService# Kubernetes模型服务# 模型监控
vLLM开源高吞吐模型推理引擎,提供PagedAttention、连续批处理、OpenAI兼容Server、分布式推理、量化和多硬件支持。 00AI模型与开放平台# LLM服务# OpenAI兼容# PagedAttention
SGLang面向生产的高性能LLM与多模态Serving框架,提供RadixAttention、HiCache、分布式并行、量化和OpenAI兼容API。 00AI模型与开放平台# LLM服务# RadixAttention# 分布式推理
BentoML开源模型服务框架与推理平台,可部署任意模型和Python逻辑,并提供GPU弹性、CI/CD、观察、Bento Cloud、BYOC和Kubernetes。 00AI模型与开放平台# BYOC# GPU扩缩容# 开放模型
Ray Serve可扩展Python模型服务库,支持框架无关部署、模型组合、自动扩缩容、LLM Serving、FastAPI、gRPC和Kubernetes。 00AI模型与开放平台# Kubernetes# 分布式推理# 模型服务
Ragie托管RAG基础设施,提供文档与多模态摄取、数据连接器、持续同步、Partitions、Retrieval API、Ragie Connect和MCP。 00AI模型与开放平台# MCP服务器# 多模态RAG# 托管RAG