自己教師付き転移学習

射影ヘッド

エンコーダーの主な部分の後に適用される追加のニューラルネットワークで、表現をコントラスト損失が計算される空間にマッピングする。このヘッドは、下流タスクへの転移時に通常除去される。

← 戻る