什么是GMI Cloud？
GMI Cloud 提供基于 NVIDIA 架构的统一 AI 基础设施，支持服务器无状态推理、专用 GPU 集群及智能体运行时。用户可通过控制台快速启动服务，或联系销售获取企业级方案，适用于需要生产级规模扩展的 AI 工作负载。
GMI Cloud的核心功能有哪些？
- 自动缩放至零服务器无状态推理默认具备此功能，空闲时不产生成本，并根据流量自动调整资源。
- 专用 GPU 集群提供裸金属 GPU 实例，支持多节点集群编排及 RDMA 就绪网络，确保高负载下的稳定吞吐量。
- 根访问权限在专用基础设施模式下，允许用户拥有 Root 权限并自定义技术栈，以满足特定性能需求。
- 批量与调度优化内置请求批处理及延迟感知调度机制，针对 LLM 和多模态模型的生产级 API 进行优化。
- 多租户隔离通过基础设施层的多租户隔离设计，保障不同工作负载间的可预测性能表现。
GMI Cloud的使用案例有哪些？
- 实时生成式视频处理运行对延迟敏感的视频生成工作负载，利用低 p95 延迟特性维持生产级可靠性。
- 基础模型训练与迭代在需要高内存带宽和大规模计算的场景下，使用 H100/H200 集群降低训练成本并加速迭代。
- 公共部门与企业部署为政府或教育相关用例提供灵活的基础设施分配及详细的用量报告，支持混合容量管理。
GMI Cloud定价信息：
- NVIDIA H100$2.60 /GPU-hour，适用于需要高内存带宽的推理和训练任务。
- NVIDIA H200$3.20 /GPU-hour，优化用于大规模训练和推理，提供强性能与生态支持。
- NVIDIA Blackwell接受预订（Pre-order），面向需要最大性能余量的大型部署团队。
