アテンションヘッド分析

位置の役割

主にトークン間の相対位置関係に焦点を当てる注意ヘッドの機能。モデルが意味論的コンテンツとは独立に語順を理解するのを助ける。

← 戻る