–непредсказуемости ИИ;

–новых угроз конфиденциальности;

–непрозрачности ИИ;

–проблем спецификации ИИ;

–проблем использования ИИ;

–проблем внедрения ИИ;

–сбоев системного оборудования.

Меры смягчения проблем доверияможно разбить на 8 ка-

тегорий:

1)тестирование и оценка ИИ;

2)робастность, надежность, отказоустойчивость ИИ;

3)использование и применимость ИИ;

4)жизненный цикл системы;

5)прозрачность ИИ;

6)меры, касающиеся данных для ИИ;

7)управляемость ИИ;

8)объяснимость ИИ.

Таким образом, были рассмотрены меры, которые позволяют смягчить проблемы на пути к обеспечению доверия к искусственному интеллекту. Указанные меры смягчения не реализуют абсолютное доверие к ИИ, но следование им дает возможность разработчикам систем ИИ гарантировать заданный уровень качества.

Контрольные вопросы

1.Что такое доверие к системе искусственного интеллекта?

2.Что такое доверенная система искусственного интеллекта?

3.Какие направления лежат в основе доверия к ИИ?

4.Чем объясняется потребность ИИ в безопасности?

5.Какие категориимер смягчения проблем доверия к ИИ вам известны?

8