Глоссарий ИИ
Полный словарь искусственного интеллекта
Дистилляция модели
Процесс переноса знаний от сложной модели (учителя) к более простой модели (ученику), сохраняя прогностические способности и одновременно улучшая интерпретируемость итоговой модели.
Аппроксимация деревом решений
Метод замены сложной модели эквивалентным или приближенным деревом решений, использующий оптимальные критерии разделения для максимизации точности при сохранении интерпретируемости.
Снижение размерности для интерпретации
Применение методов, таких как PCA, t-SNE или UMAP, специально для визуализации и понимания отношений между признаками в пространствах высокой размерности, выявляя скрытые структуры.
Векторы активации концепций (CAV)
Подход, проверяющий, присутствуют ли понятные человеку концепции во внутренних представлениях модели, используя направленные векторы для количественной оценки активации конкретных концепций.
Методы атрибуции
Набор техник, приписывающих прогнозы модели конкретным входным признакам, включая методы, основанные на градиентах, интеграции и возмущениях для объяснения решений.