Программных продуктов для защиты конфиденциаль-
ности и целостности данных ИИ известно не так много. Перечислим некоторые из них:
а) LeapYear – реализована дифференциальная конфиденциальность;
б) ZeroReveal Machine Learning – используется гомо-
морфное шифрование;
в) Modzy MLOps platform – платформа, которая позволяет обеспечить: объяснимость модели, управление стоимостью инфраструктуры, интегрируемость, быстрое создание модели и защиту от классических угроз;
г) GEMINAI, Hazy, Synthetic Data Platform, Synthesized DataOps Platform – применяются синтетические данные;
д) AIC library (Россия) – библиотека автоматического машинного обучения для быстрого создания защищенного искусственного интеллекта.
Врамках данной темы мы узнали актуальные подходы
кзащите данных и моделей ИИ. Комбинируя данные подходы, разработчики решений на основе ИИ могут обеспечивать необходимый уровень защищенности от большинства актуальных атак.
Контрольные вопросы
1.Какие вы знаете подходы к защите данных от атак?
2.В чем состоит идея механизма дифференциальной конфиденциальности?
3.Какие вам известны модели дифференциальной конфиденциаль-
ности?
4.В чем назначение НПБК?
5.Что такое гомоморфное шифрование?
6.В чем заключается федеративное обучение?
54