Architecture Encoder-Decoder

Каузальное маскирование

Техника в декодере, которая маскирует все будущие позиции, чтобы гарантировать, что предсказание для позиции i зависит только от позиций от 1 до i, соблюдая авторегрессионную природу генерации.

← Назад