AI用語集

📖

用語

カーネル

GPU上で複数のスレッドによって並列に実行される関数で、数学的に集約的な操作を加速するためのCUDAプログラムにおける計算の基本的な単位です。

📖

用語

スレッドブロック

共有メモリを介して互いに通信し、実行を同期できるスレッドのグループで、GPUのストリーミングマルチプロセッサ（SM）上での基本的なスケジューリング単位を構成します。

📖

用語

ワープ

NVIDIAプロセッサ上でSIMD（Single Instruction, Multiple Data）モードで同時に実行される32スレッドのグループで、基本的なハードウェア実行単位を表します。

📖

用語

グリッド

同じカーネルを実行するスレッドブロックの集合で、計算問題をGPUアーキテクチャに効果的にマッピングするために1D、2Dまたは3D構造で組織されます。

📖

用語

オキュパンシー

アクティブなワープの数とマルチプロセッサが同時にサポートできる最大ワープ数の比率で、GPUリソースの利用を最適化するための重要なメトリックです。

📖

用語

ホスト-デバイス通信

PCIeバスを介してCPU（ホスト）のメモリとGPU（デバイス）のメモリ間でデータを転送するメカニズムで、ヘテロジニアスアプリケーションにおいてしばしばボトルネックとなります。

📖

用語

PTX

NVIDIA GPU用の低レベル中間言語で、スレッドの並列性に最適化され、特定のマシンコードに翻訳される前のCUDAコンパイラの移植可能なターゲットとして機能します。

📖

用語

Thrustライブラリ

GPU上でのソート、リダクション、スキャンなどの並列アルゴリズムに対してSTLに類似した高レベルインターフェースを提供するCUDA用のC++テンプレートライブラリです。