AI用語集
人工知能の完全辞典
活性化の量子化
ニューラルネットワークで伝播される活性化値の精度を低下させるプロセス。リソースが限られたマイクロコントローラ上でのメモリ使用量を最小化し、計算を最適化するために不可欠。
トレーニング中の量子化認識
量子化をトレーニング段階でシミュレートし、精度の損失を最小限に抑えるアプローチ。組み込みデバイス向けに量子化された際に、より堅牢なモデルが得られる。
8ビット精度
パラメータごとに8ビットを使用する数値表現形式。IoTデバイス上のほとんどの深層学習アプリケーションにおいて、精度と効率性の最適なバランスを提供。
ニューラルネットワークの枝刈り
ネットワークから重要度の低い重みやニューロンを選択的に除去する圧縮技術。モデルサイズを大幅に削減しながら、本質的な性能を維持。
極端な二値化
すべての重みと活性化を1ビット（+1/-1）に削減する極端な量子化形式。圧縮を最大化し、専用IoTハードウェア上の計算を劇的に加速。
固定小数点表現
整数部と小数部に固定ビット数を使用して数値を表現する形式。ハードウェアの単純さとエネルギー効率の高さから、IoTデバイスで優先される。
エッジAI最適化
量子化、圧縮、アルゴリズム最適化を組み合わせた技術の集合。AIモデルをエッジおよびIoTデバイスの厳しい制約に効果的に適合させる。
構造化された重み削除
個々の重みではなく、構造全体（フィルター、チャネル、アテンションヘッド）を削除する枝刈りの変種。IoTハードウェア上でより効率的なモデルを生成。
サブ8ビット量子化
8ビット未満（4、2、または1ビット）の精度を低下させる高度な技術で、最大限の圧縮を実現し、極めて制約の厳しいIoTアプリケーションに適している。
テンソル分解
高次元の重みテンソルをより小さなテンソルの積に分解する数学的技術で、パラメータ数を大幅に削減し、IoTへの展開を可能にする。
重みの圧縮エンコーディング
量子化後に適用される圧縮アルゴリズムで、ハフマン符号化や範囲符号化などの技術を使用して、IoT上のモデル保存サイズをさらに削減する。