vLLM
开源高吞吐模型推理引擎，提供PagedAttention、连续批处理、OpenAI兼容Server、分布式推理、量化和多硬件支持。
直接结论：Amazon Bedrock适合已经使用AWS数据和安全体系的企业；Bedrock Agents旧产品已进入Classic维护阶段，新Agent应评估AgentCore。
资料说明：本文根据该产品截至2026年8月4日的官方页面与官方文档整理，不包含虚构的统一条件实测。功能、模型、GPU、套餐、地区和品牌命名可能调整，发布前请再次核验官网。
工具是什么
Amazon Bedrock面向希望在AWS上使用多家商业与开放模型的企业开发团队。模型可通过统一API调用，并与IAM、VPC、CloudWatch、Knowledge Bases和Guardrails结合。
核心功能
| 功能 | 说明 |
|---|---|
| 模型目录 | 访问Amazon、Anthropic、Meta、Mistral、Cohere及其他提供商模型。 |
| Converse与InvokeModel | 以统一接口调用不同文本和多模态模型。 |
| Knowledge Bases | 连接企业资料，提供托管RAG、Agentic Retrieval和引用。 |
| Guardrails | 对输入和输出执行内容、敏感信息、主题和图像策略。 |
| 模型定制 | 对支持模型进行微调、持续预训练或导入自定义模型。 |
| 评估与监控 | 比较模型质量、成本、安全和业务任务表现。 |
| AWS治理 | 使用IAM、KMS、VPC、CloudTrail和区域数据控制。 |
适合哪些用户
- 已经使用AWS数据和安全体系的企业。
- 需要多模型和企业RAG的开发团队。
- 需要统一Guardrails和IAM治理的组织。
不太适合哪些情况
- 只需要本地离线模型的用户。
- 不熟悉AWS权限和成本管理的小型项目。
主要优势
- 多家模型通过统一AWS服务访问。
- 与AWS安全和数据服务深度集成。
- Knowledge Bases和Guardrails较完整。
需要注意的限制
- Bedrock Agents旧产品已进入Classic维护阶段，新Agent应评估AgentCore。
- 不同模型的地区、许可和功能不同。
- IAM和网络配置错误会影响安全与可用性。
常见问题
Bedrock Agents现在还能新建吗？
旧Bedrock Agents已进入Classic维护阶段，新客户应使用AgentCore等现行能力。
Knowledge Bases能提供引用吗？
可将检索结果用于回答并返回指向原始资料的引用。
官方来源
资料核验日期：2026年8月4日
数据统计
相关导航
Voyage AI
面向RAG和检索的专业Embedding与Reranking模型，覆盖通用文字、代码、行业资料及图片和文档截图等多模态输入。
RunPod
提供按需GPU Pods、自动扩缩容Serverless Endpoints、公共模型API、网络存储和容器化AI运行环境的GPU云。
AGI-Eval
AGI通用人工智能评估与评测平台
SiliconFlow
为开发者打造的闪电般快速的AI平台，支持部署、微调并运行200多个优化的LLM和Multimodal模型。
Prime Intellect
面向Agent强化学习的研究与GPU平台，整合Hosted Training、Environments、Evaluations、Sandboxes、Inference和多节点Compute。
DeepInfra
通过OpenAI兼容和原生API提供文本、Embedding、图像、语音和视觉模型Serverless推理及Dedicated Endpoints的平台。
LM Studio
在本地电脑上私密运行各类AI模型，无需联网。
