Clear Sky Science · ja
テンソル言語モデルが効率的なテンソルコンパイルのための生成的スケジューリングを可能にする
なぜより高速なAIツールが重要か
人工知能が強力になるにつれて、大規模なニューラルネットワークの学習や実行には膨大な計算時間とエネルギーが必要になります。裏側では、コンパイラと呼ばれる特殊なプログラムが高水準のAIモデルをCPUやGPUなどのチップ向けの低水準命令に変換します。本論文は、最新の言語モデルの考え方を取り入れて、その変換をはるかに高速に、かつ現行の手作業で微調整された手法にほぼ匹敵する効率で行う新しい方法を紹介します。
キーワード: テンソルコンパイル, ディープラーニングコンパイラ, 言語モデル, GPU最適化, モデルスケジューリング