BERT（Bidirectional Encoder Representations）

Transformer Encoder Stack

BERTの基本アーキテクチャで、複数のTransformerエンコーダ層で構成され、各層はマルチヘッド注意機構とフィードフォワードネットワークを含みます。

← 戻る