AI21 achieves an 83% reduction in time-to-start for AI workloads with AI Hypercomputer

AI 要約

AI21 LabsはGoogle Cloud AI Hypercomputerを採用することで、AIワークロードの起動待ち時間を72時間から12時間へと83%削減し、週20件あった手動スケジューリング介入をゼロにすることに成功した。従来はSlackで手動交渉していたGPUリソース割り当てを、Google Kubernetes Engine（GKE）による自動オーケストレーションに移行したことが主な要因。A3・A3 Ultraインスタンス（NVIDIA H100/H200 GPU搭載）を共有クラスターとして運用し、全チームがフル活用できる体制を構築した。この改善はAI21のJambaモデルや企業向けエージェント最適化製品の開発・運用効率に直接影響する。