Hacker NewsHN投稿者: wondersky
元記事公開:

Grace Blackwellには新しいスケジューラが必要:同じラックから27%多くの利用可能なGPU

原題: Grace Blackwell needs a new scheduler: 27% more usable GPUs from the same racks

Grace Blackwellには新しいスケジューラが必要:同じラックから27%多くの利用可能なGPU

SkyPilotがトポロジー認識配置と自動デフラグメントにより、NVL72環境でのGPU利用率を27%向上させる仕組みを説明している

重要ポイント

  • •NVL72はラック内の72基のGPUを1つのNVLinkファブリックに接続するが、スピードアップはラック内ジョブに限定される
  • •SkyPilotはトポロジー認識配置により、マルチノード学習と推論をNVLink上で維持する
  • •GPU故障からのインプレース復旧と自動デフラグメント機能により、同じラックから27%多くの利用可能なGPUを得られる
#半導体・インフラ#SkyPilot#NVL72
もっと見る
クラウド Watch

東芝、データ収集と分析基盤の統合を可能にする機能を備えたIoTシステム向けデータベース「GridDB E.E. V6.0」

東芝が大規模IoT向け時系列データベース「GridDB E.E. V6.0」の提供を開始し、ペタバイト級データのリアルタイム処理とSQLによる開発の容易性を強化した

ITmedia

Google、ワイオミング州のデータセンターなどに170億ドル投資へ 電力費全額負担を約束

Googleがワイオミング州への170億ドルのデータセンター投資を発表し、電力費の全額負担と環境配慮型発電設備の導入を約束した

The Verge

OpenAI、データセンタープロジェクトにおけるNDA(秘密保持契約)の利用を縮小

中間選挙でデータセンター拡大への反対が示された後、OpenAIは公職者とのNDA利用を控えるなど、地域社会への新たなコミットメントを発表した。

クラウド Watch

フィックスターズと国際調達情報、「FastMetal」を経由した国内GPUサーバーによる高速推論AIサービスを提供

フィックスターズが国際調達情報と提携し、国内のGPUサーバー上で高速な最新AIを利用できるゲートウェイサービスの提供を開始した

INTERNET Watch

Akamai、AI推論サービス「Akamai Inference」とAIエージェント実行環境「Akamai Agent Sandbox」の提供を開始

Akamaiがクラウドサービス上でAI推論環境とエージェントの隔離実行環境を提供する新製品を発表し、企業向けにモデル構築から運用まで支援する