BERT (Bidirectional Encoder Representations)

Цели предварительного обучения

Самоконтролируемые задачи (MLM и NSP), используемые для предварительного обучения BERT на больших неразмеченных корпусах, позволяющие изучать общие языковые представления.

← Назад