GMI Cloud

Was ist GMI Cloud?

GMI Cloud ist eine KI-Infrastrukturplattform für GPU-Cluster, optimierte Inferenz und Agent-Runtimes. Entwickler und Unternehmen nutzen den Dienst, um Modelle serverless zu starten und bei Bedarf auf dedizierte NVIDIA-Hardware zu skalieren. Die Nutzung erfordert einen Konsolen-Zugang oder die Kontaktaufnahme mit dem Vertrieb für Enterprise-Anforderungen.

Was sind die Merkmale von GMI Cloud?

• Serverless-Inferenz

  Automatische Skalierung bis auf null Kosten bei Inaktivität, integriertem Batching und latenzbewusster Planung.
• Dedizierte GPU-Infrastruktur

  Bare-Metal-GPUs (H100, H200) mit Root-Zugriff und Multi-Node-Orchestrierung durch den Cluster Engine.
• Produktions-APIs

  Fertige Schnittstellen für LLMs und multimodale Modelle mit Mandantenisolation für stabile Leistung.
• Transparente Preisgestaltung

  Stundensätze für NVIDIA H100 ($2.60/GPU-Stunde) und H200 ($3.20/GPU-Stunde).

Was sind die Anwendungsfälle von GMI Cloud?

• Skalierung von Modelltraining

  Teams senken laut Anbieter die Trainingskosten um 40 % und beschleunigen Iterationen bei Foundational Models.
• Echtzeit-Videoerzeugung

  Workloads profitieren von reduzierter p95-Latenz und hoher Zuverlässigkeit unter Spitzenlastbedingungen.
• Behördenprojekte

  Flexible Allokation von Kapazitäten und detaillierte Nutzungsberichte unterstützen öffentliche Sektoren und Bildungseinrichtungen.

Wie benutzt man GMI Cloud?

1. Konsolenstart

   Beginnen Sie mit der Serverless-Inferenz direkt über das Web-Konsolen-Interface.
2. Modellbereitstellung

   Stellen Sie Modelle bereit und führen Sie Inferenz-Aufrufe über die API aus.
3. Skalierungsentscheidung

   Wechseln Sie bei steigendem Bedarf von serverless zu dedizierten GPU-Clustern.

GMI Cloud Preisinformationen:

• NVIDIA H100

  $2.60 pro GPU-Stunde, verfügbar für Inferenz und Training mit hohem Speicherbedarf.
• NVIDIA H200

  $3.20 pro GPU-Stunde, optimiert für Training und Inferenz im großen Maßstab.
• NVIDIA Blackwell

  Vorbestellung möglich, kommt bald für Teams mit maximalen Leistungsanforderungen.
• Serverless-Inferenz

  Automatisches Skalierung auf null, keine Idle-Kosten; spezifische Token-Preise sind nicht angegeben.