Глоссарий ИИ
Полный словарь искусственного интеллекта
235
категории
2 988
подкатегории
33 628
термины
термины
Слой сложения и нормализации
Слой остаточной нормализации, применяемый после механизма внимания, объединяющий выход внимания с исходным входом (остаточное соединение) перед нормализацией суммы.
термины
Линейное проецирование в механизме внимания
Линейное преобразование (умножение на весовую матрицу), применяемое к входным эмбеддингам для генерации векторов Query, Key и Value, позволяющее модели изучать пространства представлений, специфичные для механизма внимания.
🔍