Глоссарий ИИ
Полный словарь искусственного интеллекта
Агностичные к модели и специфичные для модели методы
Различие между методами объяснения, которые могут применяться к любому типу моделей (агностичные к модели), и теми, которые разработаны специально для определенных архитектур (специфичные для модели). Агностичные подходы обеспечивают большую гибкость, в то время как специфические методы могут давать более точные объяснения.
Пост-хок объяснения
Методы интерпретации, применяемые после обучения сложной модели без изменения ее структуры или производительности. Эти методы противопоставляются внутренней интерпретируемости, при которой модель изначально создается интерпретируемой.
Внутренняя интерпретируемость
Свойство моделей, которые естественным образом понятны по своему устройству, например, линейные регрессии или неглубокие деревья решений. Эти модели не требуют пост-хок методов для объяснения, так как их внутренняя структура уже прозрачна.