AI模型与开放平台

Agnes AI is an AI gateway, free AI API platform, and AI application ecosystem fe

xAI通用AI助手，支持实时搜索、推理、文件分析、语音、代码、图像与视频生成。

面向Agent强化学习的研究与GPU平台，整合Hosted Training、Environments、Evaluations、Sandboxes、Inference和多节点Compute。

开源GPU控制平面，统一管理多云、Kubernetes和本地资源上的Dev Environments、Tasks、Services、Fleets和Volumes。

开源多云AI计算编排框架，在云、Kubernetes和Slurm之间自动选择GPU，并提供Spot恢复、Jobs、Services和Clusters。

开放去中心化云市场，通过Provider竞价提供CPU、GPU、存储和网络，并使用Console与SDL部署容器化AI工作负载。

从Agent Tracing和LLM Gateway出发，连接Halo分析、Datasets、Evals、微调和专属GPU部署的AI改进平台。

支持在托管云或自有云运行GPU Services、Jobs和Sandboxes，并整合容器构建、CI/CD、数据库、日志与自动扩缩的PaaS。

统一提供多模态模型API、OpenAI兼容LLM、GPU实例、Serverless GPU、Bare Metal和隔离Agent Sandbox的AI云。

整合多模态模型API、Dedicated Endpoints、GPU集群、裸金属、GMI Studio视觉工作流和Agent能力的AI云。

连接社区和数据中心提供者的GPU云市场，可筛选硬件与价格，并通过模板、CLI、SDK、Volumes和Serverless运行AI工作负载。

为前沿模型训练和推理提供托管Kubernetes、Slurm、裸金属GPU集群、高速网络、健康检查和可观测性。

面向AI的GPU基础设施与托管平台，提供虚拟机、Kubernetes、Slurm、存储网络、Serverless推理、Fine-tuning和Command Center。

面向AI的云平台，提供GPU VMs和集群、InfiniBand、托管Kubernetes、Slurm/Soperator、Serverless AI及存储网络。

通过全球分布式GPU网络运行Docker容器，面向生成式AI推理、批处理、图像视频和可水平扩展工作负载。

开源Serverless AI云，用Python运行GPU Functions、Web Endpoints、Task Queues、Pods、Sandboxes和Scale-to-zero工作负载。

面向开发者的按需AI云，整合开放模型Serverless Inference、GPU Marketplace和训练及生产专属集群。

基于SambaNova RDU的托管推理平台，通过OpenAI兼容API提供大型开放模型、Responses、Playground和企业连接能力。

由Ray创始团队构建的分布式AI平台，覆盖Workspaces、Jobs、Services、数据处理、训练、RAG、Agent和LLM Serving。

NVIDIA开放推理软件体系，核心Triton Server支持多框架模型仓库、动态批处理、并发、Ensemble、HTTP/gRPC和多平台部署。

Kubernetes原生模型Serving平台，通过InferenceService提供多框架部署、自动扩缩、OpenAI规范、Canary、InferenceGraph与监控。

开源高吞吐模型推理引擎，提供PagedAttention、连续批处理、OpenAI兼容Server、分布式推理、量化和多硬件支持。

面向生产的高性能LLM与多模态Serving框架，提供RadixAttention、HiCache、分布式并行、量化和OpenAI兼容API。

开源模型服务框架与推理平台，可部署任意模型和Python逻辑，并提供GPU弹性、CI/CD、观察、Bento Cloud、BYOC和Kubernetes。

可扩展Python模型服务库，支持框架无关部署、模型组合、自动扩缩容、LLM Serving、FastAPI、gRPC和Kubernetes。

开源本地AI运行时，通过统一兼容API运行语言、语音、视觉、图片、视频、RAG、Agent和MCP能力。

用C/C++在CPU、GPU和Apple Silicon等硬件运行GGUF模型，支持量化、混合推理、CLI和OpenAI兼容服务器。

连接非结构化数据、评测Embedding与Chunking、持续同步到现有向量数据库，并提供Query Rewrite与Rerank的RAG Pipeline平台。

托管RAG基础设施，提供文档与多模态摄取、数据连接器、持续同步、Partitions、Retrieval API、Ragie Connect和MCP。

面向RAG和检索的专业Embedding与Reranking模型，覆盖通用文字、代码、行业资料及图片和文档截图等多模态输入。