BERTとそのバリエーション

ERNIE

基本のTransformerアーキテクチャに構造化された階層的知識を統合する中国語モデル。単語、エンティティ、フレーズを同時にマスクし、マルチレベルのセマンティクスをキャプチャする。

← 戻る