Глоссарий ИИ
Полный словарь искусственного интеллекта
Внимание с древовидной структурой
Механизм внимания, работающий с представлениями, организованными в древовидную структуру, позволяющий явно моделировать иерархические синтаксические или семантические отношения в данных.
Иерархическое контекстуальное внимание
Механизм внимания, который интегрирует контекст на нескольких иерархических уровнях, позволяя каждой единице получать локальную и глобальную контекстную информацию структурированным образом.
Иерархическое многоголовое внимание
Расширение многоголового внимания, где каждая голова может специализироваться на различных иерархических уровнях входной структуры, захватывая зависимости на разных масштабах.
Иерархическое совместное внимание
Механизм взаимного внимания, применяемый между двумя иерархическими модальностями, где внимание вычисляется на каждом уровне иерархии для моделирования сложных взаимодействий.
Адаптивное иерархическое внимание
Система иерархического внимания, где глубина и структура иерархии адаптируются динамически в зависимости от характеристик входных данных.
Иерархическое разреженное внимание
Вариант иерархического внимания, использующий схемы разреженности для снижения вычислительной сложности, вычисляя внимание только на наиболее релевантных парах на каждом иерархическом уровне.
Рекуррентное иерархическое внимание
Архитектура, сочетающая рекуррентные механизмы с иерархическим вниманием, где скрытые состояния на каждом уровне обновляются последовательно, сохраняя при этом иерархическую структуру.
Иерархическое внимание с памятью
Система иерархического внимания, интегрирующая внешнюю память на разных уровнях, позволяющая хранить и извлекать релевантную информацию на каждом масштабе иерархии.
Динамическое иерархическое внимание
Механизм, при котором иерархическая структура внимания динамически изменяется во время вывода в соответствии с требованиями обработки, оптимизируя использование вычислительных ресурсов.