Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:
Безопасность систем искусственного интеллекта. Ч.2. Доверенный искусственный интеллект. Учебное пособие.pdf
Скачиваний:
0
Добавлен:
12.08.2026
Размер:
1 Мб
Скачать

ЗАКЛЮЧЕНИЕ

В учебном пособии рассмотрены проблемы обеспечения доверия к искусственному интеллекту и подходы к их решению. Оно разрабатывалось коллективом авторов с 2022 по 2023 г., в период становления основ правового регулирования, с целью развития искусственного интеллекта

вРоссии и мире.

Впервую очередь пособие предназначено для студентов университета всех форм обучения, в чьи учебные планы включен подобный курс, а также может быть использовано как в качестве материала для семинарских занятий, так и для самостоятельного знакомства с тематиками, непосредственно связанными с доверием к ИИ, таких как управление рисками ИИ, робастность ИИ, объяснимость ИИ, функциональная безопасность ИИ.

Учитывая, что это первая учебно-методическая разработка по данной тематике в России, авторы считают необходимым выразить методологический оптимизм, заключающийся в том, что структура и содержание курса позволят студентам сформировать:

профессиональные компетенции, необходимые для разработки методов анализа и выявления угроз, оценки рисков, создаваемых конкретными технологиями и системами ИИ;

навыки работы с нормативно-правовой базой РФ в области информационных технологий и информационной безопасности, а также анализа возможностей применения ИИ для различных предметных областей.

Кроме этого, учебное пособие призвано привить студентам навыки комплексного системного подхода к изучению новых направлений и перспективных методов и технологий в области искусственного интеллекта,

атакже умение применять методы и подходы решения задач, разрабаты-

ваемых для использования ИИ, в научно-исследовательских проектах с соблюдением норм международного и отечественного законодательства по защите прав человека.

69

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

ГОСТы

1.ГОСТ Р ИСО/МЭК 19784-1-2007. Автоматическая идентификация. Идентификация биометрическая. Биометрический программный интерфейс. Часть 1. Спецификация биометрического программного интерфейса : утв. и введ. в действие Приказом Федер. агентства по техн. регулированию и метрологии от 25 дек. 2007 г. № 402-ст : дата введ. 2009-01-01 / разраб. НИИЦ БТ МГТУ им. Н. Э. Баумана. – URL: https://standartgost.ru/ g/ГОСТ_Р_ИСО/МЭК_19784-1-2007 (дата обращения: 12.06.2022).

2.ГОСТ Р ИСО/МЭК ТО 19791-2008. Информационная технология. Методы и средства обеспечения безопасности. Оценка безопасности автоматизированных систем : утв. и введ. в действие Приказом Федер.

агентства по техн. регулированию и метрологии от 18 дек. 2008 г. № 525-ст. : дата введ. 2009-10-01 / разраб. ФГУ «ГНИИИ ПТЗИ ФСТЭК России», ООО «ЦБИ». – URL: https://standartgost.ru/g/ГОСТ_Р_ИСО/ МЭК_ТО_19791-2008 (дата обращения: 12.06.2022).

3. ГОСТ Р 53625-2009. (ИСО/МЭК 19796-1:2005). Информационная технология. Обучение, образование и подготовка. Менеджмент качества, обеспечение качества и метрики. Часть 1. Общий подход : утв. и введ. в действие Приказом Федер. агентства по техн. регулированию и метрологии от 15 дек. 2009 г. № 967-ст : дата введ. 2011-01-01 / разраб. ГОУ ВПО «МГТУ «Станкин». – URL: https://meganorm.ru/Data2/1/ 4293812/4293812596.htm (дата обращения: 12.06.2022).

4. ГОСТ Р ИСО/МЭК 12207-2010. Информационная технология. Системная и программная инженерия. Процессы жизненного цикла программных средств : утв. и введ. в действие Приказом Федер. агентства по техн. регулированию и метрологии от 30 нояб. 2010 г. № 631-ст : дата введ. 2012-03-01/ разраб. ФГУП «НИИ «Восход» – URL: https://meganorm.ru/Data2/1/4293804/4293804988.htm (дата обращения:

12.06.2022).

70

5.ГОСТ Р 58293-2018 (ИСО/МЭК 19785-1:2015). Информационные технологии. Биометрия. Единая структура форматов обмена биометрическими данными. Часть 1. Спецификация элементов данных : утв. и введ.

вдействие Приказом Федер. агентства по техн. регулированию и метрологии от 5 дек. 2018 г. № 1063-ст : дата введ. 2019-08-01 / разраб. Некоммерческое партнерство «Русское биометрическое общество», ФГУП «ВНИИНМАШ», МГТУ им. Н. Э. Баумана. – URL: https://meganorm.ru/Data/705/ 70507.pdf (дата обращения: 12.06.2022).

6.ГОСТ Р ИСО 31000-2019. Менеджмент риска. Принципы и руководство : утв. и введ. в действие Приказом Федер. агентства по техн. регулированию и метрологии от 10 дек. 2019 г. № 1379-ст : дата введ. 2020-03- 01 / разраб. Некоммерческое партнерство «Русское Общество Управления Рисками». – URL: https://meganorm.ru/Data2/1/4293724/4293724882.htm (дата обращения: 12.06.2022).

7.ГОСТ Р 59276-2020. Системы искусственного интеллекта. Способы обеспечения доверия. Общие положения : утв. и введ. в действие Приказом Федер. агентства по техн. регулированию и метрологии от 23 дек. 2020 г. № 1371-ст : дата введ. 2021-03-01 / разраб. АО «Всерос. науч.- исслед. ин-т сертификации», ООО «Впортал». – URL: https://allgosts.ru/ 35/240/gost_r_59276-2020.pdf (дата обращения: 12.06.2022).

8.ISO/IEC TR 24028:2020. Information technology – Artificial intelligence – Overview of trustworthiness in Artificial Intelligence : date publication 2020-05. – URL: https://www.iso.org/standard/77608.html (date accessed: 13.04.2023).

9.IEEE 7010-2020 – IEEE Recommended Practice for Assessing the Impact of Autonomous and Intelligent Systems on Human Well-Being : date publication 2020-05-01. – URL: https://standards.ieee.org/ieee/7010/7718/ (date accessed: 17.04.2023).

10.ISO/IEC TR 24027:2021. Information technology – Artificial Intelligence (AI) – Bias in AI systems and AI aided decision making : date publication 2021-11. – URL: https://www.iso.org/standard/77607.html (date accessed: 17.04.2023).

71

11. ISO/IEC DIS 23894. Information Technology – Artificial Intelligence – Risk management. – URL: https://www.standict.eu/index.php/standards- repository/isoiec-23894-information-technology-artificial-intelligence-risk-man agement (date accessed: 17.04.2023).

Книги, статьи

12.Бобровский, С. Перспективы и тенденции развития искусственного интеллекта / С. Бобровский. – URL: https://www.computer-museum.ru/ frgnhist/aireview.htm (дата обращения: 12.04.2023).

13.Загорулько, Ю. А. Искусственный интеллект. Инженерия знаний : учеб. пособие для вузов / Ю. А. Загорулько, Г. Б. Загорулько. – Москва : Юрайт, 2022. – 93 с. – ISBN 978-5-534-07198-6.

14.Иванов, А. И. Высокоразмерная коллективная биометрия подсознательного поведения людей на рынке и производстве / А. И. Иванов. – Пенза : Пензен. гос. ун-т, 2021. – 60 с. – ISBN 978-5-907456-44-0. – EDN RRCCHL.

15.Иванов, А. И. Защита искусственного интеллекта: ортогонализация статистико-нейросетевого анализа малых выборок биометрических данных : препринт / А. И. Иванов, Е. Н. Куприянов, С. И. Геращенко. – Пенза : Пензен. гос. ун-т, 2020. – 72 с. – ISBN 978-5-907262-72-0. – EDN NJIAAV.

16.Каримова, Д. Б. Управление рисками в условиях кризиса: работают ли стандарты сегодня? / Д. Б. Каримова, М. В. Толокнова // Экологический вестник России. – 2020. – № 6. – С. 48-63. – EDN KMHXDQ.

17.Конвенция о защите физических лиц при автоматизированной обработке персональных данных : заключена 28 янв. 1981 г. в г. Страсбурге :

споправками к Конвенции о защите физических лиц при автоматизированной обработке персональных данных. – URL: http://www.consultant.ru/ document/cons_doc_law_121499/ (дата обращения: 14.04.2023).

18.Ложников, П. С. Биометрическая защита гибридного документо-

оборота : моногр. / П. С. Ложников ; Ом. гос. техн. ун-т. – Новосибирск : Изд-во СО РАН, 2017. – 129 с. – ISBN 978-5-7692-1561-2.

72

19. Ложников, П. С. Методология защиты смешанного документооборота на основе многофакторной биометрической аутентификации

сприменением нейросетевых алгоритмов : специальность 05.13.19 : дис.

... д-ра техн. наук / П. С. Ложников ; Уфим. гос. авиац. техн. ун-т. – Уфа, 2019. – 317 с.

20.Ложников, П. С. Перспективные направления в сфере информационной безопасности искусственного интеллекта / П. С. Ложников // Информационная безопасность цифровой экономики : материалы XVIII Всерос. науч.-практ. конф. (Хабаровск, 29 июня – 1 июля 2022 г.). – Новосибирск : Изд-во Сибир. гос. ун-та телекоммуникаций и информатики, 2022. – С. 14–25. – EDN QSALOV.

21.Ложников, П. С. Защищенное исполнение нейросетевых алгоритмов искусственного интеллекта: актуальность проблемы и перспективные решения / П. С. Ложников, А. Е. Сулавко // Региональная информатика и информационная безопасность : сб. тр. ХII Санкт-Петербург. межрегион. конф. (Санкт-Петербург, 27–29 нояб. 2021 г.). – Санкт-Петербург : Санкт-Петербургское общество информатики, вычислительной техники, систем связи и управления, 2021.– Вып. 10. – С. 104–108. – EDN IGDXZO.

22.Лукин, В. С. Доверенный искусственный интеллект, построенный

сиспользованием нейронов среднего гармонического / В. С. Лукин, А. И. Иванов // Искусственный интеллект в решении актуальных социальных и экономических проблем ХХI века : сб. ст. по материалам Седьмой Всероссийской науч.-практ. конф. с междунар. участием (Пермь, 21–22 окт. 2021 г.). – Пермь : Перм. гос. национал. исслед. ун-т, 2021. – С. 441–445. – EDN KDSWSF.

23.Обеспечение безопасности систем машинного обучения / Г. Макгроу, Р. Бонетт, Х. Фигероа, В. Шепардсон // Открытые системы. СУБД. – 2019. – № 4. – С. 22. – EDN ULYKPC.

24.О развитии искусственного интеллекта в Российской Федерации : Указ Президента Российской Федерации от 10 окт. 2019 г. № 490. – URL: http://kremlin.ru/acts/bank/44731 (дата обращения: 12.04.2023).

73

25.Потапов, А. С. Искусственный интеллект и универсальное мышление / А. С. Потапов. – Санкт-Петербург : Политехника, 2012. – 711 с. – ISBN 978-5-7325-1008-9.

26.Рассел, С. Искусственный интеллект: современный подход : пер.

сангл. / С. Рассел, П. Норвиг. – 2-е изд. – Москва : Вильямс, 2005. – 1408 с. – ISBN 978-5-8459-0887-2.

27.Роль искусственного интеллекта в бизнесе // SimbirSoft : сайт. – URL: https://www.simbirsoft.com/blog/rol-iskusstvennogo-intellekta-v-biznese/ (дата обращения: 13.04.2023).

28.Рынок ПО с искусственным интеллектом за год вырос на 14 % // Искусственный_интеллект_(мировой_рынок). – URL: https://clck.ru/PRRge (дата обращения: 13.04.2023).

29.Чио, К. Машинное обучение и безопасность : руководство / К. Чио, Д. Фримэн ; пер. с англ. А. В. Снастина. – Москва : Пресс, 2017. – 388 с. – ISBN 978-5-97060-713-8.

30.Шабанов, А. Применение технологий искусственного интеллекта в информационной безопасности / А. Шабанов // Anti-Malware : сайт. – URL: https://www.anti-malware.ru/analytics/technology_analysis/using-artificial- intelligence-technologies-in-information-security (дата обращения: 14.04.2023).

31.Analysis of the Multi-Stakeholder Consultation / Ad Hoc Committee On Artificial Intelligence (CAHAI). ‒ URL: https://rm.coe.int/cahai-2021 -07-analysis-msc-23-06-21-2749-8656-4611-v-1/1680a2f228 (date accessed: 14.04.2023).

32.Grother, P. Face recognition vendor test. Part 3: Demographic effects / P. Grother, M. Ngan, K. Hanaoka. ‒ https://nvlpubs.nist.gov/nistpubs/ir/2019/ NIST.IR.8280.pdf National Institute of Standards and Technology. – URL: https://nvlpubs.nist.gov/nistpubs/ir/2019/NIST.IR.8280.pdf (date acces-sed: 12.04.2023).

74

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]