Question 1

什麼是Run？

Accepted Answer

Run:ai 是一個專為 AI 和深度學習工作負載設計的平台，能夠優化和協調 GPU 計算資源，幫助企業加速 AI 開發並最大化資源利用率。最近，NVIDIA 完成了對 Run:ai 的收購，進一步提升了其技術實力。

Question 2

Run的特色是什麼？

Accepted Answer

* **AI 工作負載調度**：動態管理 AI 工作負載，確保資源的最佳利用。
* **GPU 分片技術**：提高筆記本農場和推理環境的成本效益。
* **節點池管理**：控制異構 AI 集群，並通過配額、優先級和政策進行管理。
* **容器編排**：在雲原生 AI 集群上編排分佈式容器化工作負載。

Question 3

Run的使用案例有哪些？

Accepted Answer

* **加速 AI 開發**：通過動態調度和 GPU 池化，加速 AI 模型的訓練和部署。
* **提高 GPU 效率**：通過 GPU 分片技術，最大化 GPU 資源的利用率。
* **多集群管理**：在雲端和本地基礎設施上實現全面的資源管理和可視化。

Question 4

如何使用Run？

Accepted Answer

* 使用 Run:ai 的 CLI 或 GUI 工具啟動自定義工作區。
* 通過單一命令排隊批處理作業並運行分佈式訓練。
* 從一個地方部署和管理推理模型。

Question 5

Run:ai 如何提高 GPU 利用率？

Accepted Answer

Run:ai 通過動態調度、GPU 池化和 GPU 分片技術，最大化 GPU 資源的利用率，從而提高成本效益。

Question 6

Run:ai 支持哪些基礎設施？

Accepted Answer

Run:ai 支持雲端、本地和隔離環境，並兼容任何 Kubernetes 和 ML 工具框架。