Глоссарий ИИ
Полный словарь искусственного интеллекта
TCAV
Метод, количественно оценивающий важность понятных человеку концепций в предсказаниях модели с использованием векторов активации концепций.
Probing Tasks
Задачи классификации, обучаемые на внутренних представлениях модели для выявления, какая лингвистическая информация кодируется на каждом слое.
Token Attribution
Процесс присвоения индивидуальных оценок важности каждому токену во входной последовательности для количественной оценки его вклада в окончательное предсказание.
Neural Interaction Detection
Обнаружение нелинейных взаимодействий между признаками в глубоких сетях путем анализа активаций скрытых слоев.
BERT-Explainability
Набор специфических методов для интерпретации решений моделей BERT, включая анализ механизмов внимания и контекстуальных представлений.
Transformer Visualization
Инструменты и методы для визуализации внутренних механизмов архитектур Transformer, включая паттерны внимания и латентные представления.
LRP-Epsilon
Вариант распространения релевантности, использующее правило эпсилон для стабилизации перераспределения и избежания деления на ноль в глубоких слоях.