AI用語集
人工知能の完全辞典
スレッドダイバージェンス
同じワープ内のスレッドが異なる実行パスをたどる現象で、分岐のシリアル化を引き起こし、GPUの並列性能を著しく低下させます。
共有メモリバンク競合
同じワープの複数のスレッドが共有メモリの同じバンクに同時にアクセスしようとする際に発生する競合で、アクセスのシリアル化を引き起こします。
ワープスケジューリング
GPUスケジューラのメカニズムで、計算ユニットの利用率を最大化し、メモリレイテンシを隠蔽するためにワープのスケジューリングを最適化します。
レジスタスピル
レジスタが不足した場合に、コンパイラがデータをレジスタからローカルメモリ（低速）に移動させる必要がある現象で、パフォーマンスを著しく低下させます。
命令スループット
クロックサイクルあたりに実行できる命令の数の測定値で、ネイティブな算術演算を優先し、複雑な命令を避けることで最適化されます。
グリッドストライドループ
各スレッドがグリッドの全サイズで間隔をあけた複数の要素を処理するループパターンで、スレッドグリッドより大きなデータセットを処理することを可能にします。
ループアンローリング
ループ本体を複製して反復を除去する最適化技術で、ループ制御のオーバーヘッドを削減し、命令レベルの並列性を向上させます。
メモリレイテンシハイディング
GPUが他のワープがメモリアクセスを待っている間に準備ができているワープに切り替えられるように、十分な数のワープを起動する戦略です。
ベクトルメモリ操作
グローバルメモリとレジスタの間で複数のデータ（float2、float4）を同時に転送する命令で、実効帯域幅を向上させます。
協調グループ
ブロックの伝統的な制限を超えて、スレッド間で柔軟な集合的同期を可能にするCUDA APIで、複雑な通信パターンを最適化します。
テクスチャメモリキャッシング
空間的アクセスに最適化されたキャッシュを持つテクスチャメモリの使用で、特に2D局所性を持つアクセスパターンに効果的です。
アトミック操作最適化
アトミック操作の競合を軽減する技術で、特にグローバル更新前に共有メモリを使用してローカル集約を行うことで実現されます。
カーネル起動オーバーヘッド
GPUカーネルの起動に関連する時間的コストで、複数の小さなカーネルを1つの大きいカーネルに統合したり、ダイナミックパラレリズムを使用したりすることで最小化されます。
作業分散バランス
一部のスレッドが他よりはるかに早く終了する負荷不均衡を避けるため、スレッド間の作業分配を最適化すること。
プリフェッチング戦略
グローバルメモリアクセスのレイテンシを隠蔽するため、使用前にデータを共有メモリに先読みする予測的技術。