Перенос обучения – метод обучения сетей, когда в ка-

честве начального состояния используется предобученная сеть. При использовании предобученной сети для решения похожей задачи «триггеры», находящиеся в ней, сохраняются.

Атаки на аппаратуру – это сценарий, когда, имея доступ к оборудованию, на котором работает нейронная сеть, злоумышленник может:

–анализировать время вычисления тех или иных операций;

–анализировать и/или влиять на содержимое кешей (данных, инструкций);

–следить за энергопотреблением;

–следить за доступом в память.

Нельзя говорить про защищенность систем ИИ, если не рассматривать все возможные виды и векторы атак на них. Крайне важно актуализировать информацию о новых возникающих видах атак на ИИ для эффе ктивного применения контрмер.

Контрольные вопросы

1.Что такое компьютерная атака?

2.С чем связана специфика атак на ИИ?

3.На какие категории делят атаки на ИИ?

4.Для чего могут использоваться атаки извлечения?

5.Какие атаки выделяют в зависимости от вектора атаки на ИИ?

6.Приведите примеры атак манипуляции с моделями.

7.Что такое триггер в модели ИИ?

47