яснимости. К наиболее известным методам и подходам от-
носятся:
–SHAP – метод объяснения индивидуальных прогнозов (аддитивное объяснение Шепли);
–LIME – метод, не зависящий от модели (Local interpretable model-agnostic explanations, локально интерпрети-
руемое не зависящее от модели объяснение);
–GradCAM – метод атрибуции слоев;
–LRP (Layer-wise relevance backpropagation) – метод определения важных пикселей за счет выполнения обратного прохода в нейронной сети;
–Shapley Flow;
–метод «причинной развертки»;
–GA2M;
–TCAV;
–Visualization (PDPs, ICE).
Некоторые из этих методов были реализованы в программных продуктах, используемых для создания объяснимого ИИ. К ним относятся: AIX360 от IBM, Google Cloud’s AI Explanations, Thales XAI, ELI5 и ряд других.
Контрольные вопросы
1.Что такое объяснимость искусственного интеллекта?
2.Что означает прозрачность ИИ?
3.Какие составляющие включает в себя объяснимость ИИ?
4.Для чего используются методы отбора признаков?
5.Какие категории методов отбора признаков выделяют?
6.Что означает интерпретируемость ИИ?
7.Какие этапы жизненного цикла моделей ИИ вам известны?
8.Какие методы объяснимости вам известны?
23