Международные стандарты правовой защиты информации и информационных технологий. Учебное пособие

3.3.Робототехника и искусственный интеллект в контексте…

ВЕвропейском союзе до 2020 года действует рамочная програм- ма «Горизонт 2020», внутри которой реализуется проект по разви- тию робототехники «SPARC». Эксперты данного проекта предло- жили Дорожную карту Robotics 2020 и Стратегическую повестку исследований.

Очевидно, что принципиальное реформирование законода- тельства в связи с развитием ИИ может затронуть отрасль граж- данского права, однако целесообразность таких реформ остается спорной. Например, Германия воздерживается от внесения изме- нений в гражданское законодательство, тогда как в России актив- но обсуждаются возможные новеллы в ГК РФ, связанные с поло- жениями о «роботах-агентах». Так, в 2016 году основатель Grishin Robotics и сооснователь Mail.Ru Group Дмитрий Гришин совмест- но с юристом Виктором Наумовым разработали концепцию зако- на о робототехнике1. В законопроекте, в частности, отмечается, что роботы-агенты могут выступать в гражданском обороте по реше- нию собственника, приобретать гражданские права и обязанно- сти, иметь обособленное имущество и отвечать этим имуществом по обязательствам, при этом ответственность за их действия несут собственник и владелец таких роботов2.

В2017 году в ЕС была принята резолюция «Нормы граждан- ского права о робототехнике» с Хартией робототехники и кодексом этических норм3, а в 2018 году большинство стран – участниц ЕС подписали Декларацию о сотрудничестве в сфере ИИ4. Особое вни- мание Резолюция 2017 года уделяет вопросам юридической ответ- ственности как разработчиков, так и владельцев «умных» машин.

ВРезолюции подчеркивается, что такая ответственность ни в коем случае не должна ограничиваться на том основании, что вред при- чинен не человеком.

1Проект Федерального закона «О внесении изменений в Гражданский ко- декс Российской Федерации в части совершенствования правового регулирова-

ния отношений в области робототехники». URL: http://robopravo.ru/uploads/s/z/6/g/ z6gj0wkwhv1o/file/bESvQz3Y.pdf

2Там же.

3Резолюция Европарламента от 16 февраля 2017 года 2015/2103(INL) P8_TAPROV(2017)0051. URL: https://robopravo.ru/riezoliutsiia_ies

4EU Member States sign up to cooperate on Artificial Intelligence. URL: https:// ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artifi- cial-intelligence.

121

Глава 3. Наднациональное и национальное правовое регулирование на современном этапе…

Другая, не менее важная сфера с точки зрения экономических отношений – это рынок труда, который уже несколько лет испыты- вает изменения, связанные с заменой отдельных видов занятости «умными» машинами. Очевидно, что данная тенденция будет воз- растать. Резолюция ЕС также подчеркивает важность постоянного мониторинга рынка труда с тем, чтобы быстро реагировать на ме- няющиеся отрасли и проводить необходимое обучение и подготов- ку кадров в востребованных цифровой экономикой областях, свя- занных с применением ИИ.

Особое внимание в Резолюции уделяется и вопросам, связан- ным с защитой информации. В частности, акцент делается на та- кие проблемы, как:

–соответствие гражданско-правового регулирования робото- техники и ИИ Общему Регламенту о защите персональных данных 2016 года1 (далее – Регламент 2016 года), принципам пропорциональности и необходимости в свете стремительно- го развития робототехники и киберфизических систем;

–реализация прав человека на неприкосновенность частной жизни и на защиту персональных данных в связи с приме- нением «умных» машин: необходимость более четко прописы- вать правила, касающиеся использования камер и сенсоров в роботах, атакжеобеспечиватьреализациюосновныхпринци- пов, закрепленных в Регламенте 2016 года, в том числе путем разработки рекомендаций и стандартов к этим принципам;

–важность свободного движения информации для цифровой экономики, с одной стороны, и защиты информационных по- токов, с другой. Обеспечение информационной безопасности при взаимодействии ИИ между собой и с людьми;

–ответственность разработчиков в сфере робототехники и ИИ

за обеспечение информационной безопасности.

В том же 2017 году руководителем Исследовательского центра «Робоправо» А. Незнамовым и партнером международной юриди- ческой фирмы Dentons В. Наумовым был предложен проект Мо-

1 Регламент № 2016/679 Европейского парламента и Совета Европейского Со- юза «О защите физических лиц при обработке персональных данных и о свободном обращении таких данных, а также об отмене Директивы 95/46/ЕС (Общий Регла- мент о защите персональных данных)» (Принят в г. Брюсселе 27.04.2016).

122

3.3. Робототехника и искусственный интеллект в контексте…

дельной конвенции о робототехнике и искусственном интеллекте1, которыйсталпервойпопыткойобобщитьразрозненныеположения в этой сфере. Основное внимание в проекте уделяется обеспече- нию безопасности в широком смысле, включая и информационную безопасность, а также соблюдению прав человека при создании и использовании ИИ, роботов и киберфизических систем. Опреде- ление данных понятий в проекте не приводится, однако «робот» рассматривается как общее понятие по отношению к ИИ и кибер- физической системе.

Возвращаясь к российской Стратегии 2019 года, следует отме- тить, что упор в ней делается на решение задач развития, в связи с чем фокус смещен на конкретные шаги по созданию и внедре- нию ИИ и на связанные с этим экономические и управленческие процессы, а защита прав человека упоминается в контексте соблю- дения общих принципов развития ИИ, которым посвящен раз- дел 3 Стратегии. Приоритетные направления развития ИИ имеют управленческий и социально-экономический контекст, в частно- сти, упоминаются повышение эффективности управленческих ре- шений; управление логистикой; автоматизация рутинных опе- раций; повышение качества государственных и муниципальных услуг, услуг образования и здравоохранения.

Важным представляется подраздел, посвященный задачам в области правового регулирования отношений, связанных с раз- витием и использованием ИИ. В частности, отмечается необходи- мость адаптации действующих норм права и выработки этических норм в данной области, при этом избыточного регулирования сле- дует избегать. К приоритетным направлениям правового регули- рования отнесены следующие:

–специальные режимы доступа к обезличенным Большим данным;

–специальные режимы доступа к данным, в том числе персо- нальным, в целях развития ИИ;

–выработка норм, регулирующих процедуры принятия реше- ний ИИ при оказании государственных и муниципальных

1 Модельная конвенция о робототехнике и искусственном интеллекте. Прави- ла создания и использования роботов и искусственного интеллекта. URL: https:// robopravo.ru/modielnaia_konvientsiia

123

Глава 3. Наднациональное и национальное правовое регулирование на современном этапе…

услуг, иных функций государства, но без ущемления прав и законных интересов граждан и не затрагивая вопросы безо- пасности;

–развитие стандартизации в области ИИ, в том числе на осно- ве международного сотрудничества;

–и некоторые другие.

Гибкая система нормативно-правового регулирования в обла- сти ИИ, в том числе гарантирующая безопасность населения и на- правленная на стимулирование развития ИИ, должна быть сфор- мирована к 2030 году.

Как отмечается в Стратегии, «развитие информационных си- стем, помогающих человеку принимать решения, началось с появ- ления в 1950-х годах экспертных систем, описывающих алгоритм действий по выбору решения в зависимости от конкретных усло- вий. На смену экспертным системам пришло машинное обучение, благодаря которому информационные системы самостоятельно формируют правила и находят решение на основе анализа зави- симостей, используя исходные наборы данных (без предваритель- ного составления человеком перечня возможных решений), что по- зволяет говорить о появлении искусственного интеллекта»1.

Таким образом, на наш взгляд, информационные системы на основе искусственного интеллекта являются достаточно широким понятием, включающим в себя и киберфизические системы, и ин- тернет вещей, что возвращает нас к вопросу информационной безо- пасности и соблюдения принципов сбора и обработки персональных данных. В контексте действующего законодательства о персональ- ных данных наиболее очевидная проблема связана с использова- нием технологий Больших данных (Big data) при одновременном соблюдении принципов защиты персональных данных, сформули- рованных как на региональном2, так и на национальном3 уровне.

1Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интел- лекта в Российской Федерации» (Вместе с «Национальной стратегией развития ис- кусственного интеллекта на период до 2030 года»).

2Конвенцияозащитефизическихлицприавтоматизированнойобработкепер- сональных данных (ETS № 108) [рус., англ.] (Заключена в г. Страсбурге 28.01.1981) (с изм. от 10.10.2018).

3Федеральный закон от 27.07.2006 № 152-ФЗ (ред. от 24.04.2020) «О персо- нальных данных» // СПС КонсультантПлюс.

124

3.3. Робототехника и искусственный интеллект в контексте…

Как отмечает А. И. Савельев1, применительно к использованию технологий Больших данных противоречия возникают при реали- зации следующих принципов:

–принцип ограничения обработки персональных данных: об- работка исключительно в соответствии с заявленными целя- ми, недопустимость объединения баз данных, для которых цели обработки персональных данных не совпадают, суще- ственно ограничивает возможности технологий Больших данных;

–принцип ограничения объема обрабатываемых персональ- ных данных: смысл технологии Больших данных состоит в постоянном обновлении данных и их повторном использова- нии;

–принцип информированного согласия: субъект персональ- ных данных дает согласие на конкретные действия операто- ра на стадии сбора данных, что несовместимо с использовани- ем технологии Больших данных, поскольку такое решение не будет учитывать возможных последствий применения этих технологий. Следовательно, само согласие в такой ситуации носит фиктивный характер. При этом, как отмечается в юри- дической литературе, наметилась тенденция, при которой со- гласие субъекта персональных данных не должно собирать- ся, если отсутствуют иные основания для обработки данных2;

–обезличивание данных как гарантия их анонимности при об- работке и дальнейшем использовании. Технологии Больших данных позволяют установить субъекта данных путем их «де- обезличивания».

Отмена принципов обработки персональных данных как способ избежания «сдерживающих» факторов развития новейших техно- логий вряд ли может быть обоснована с позиции защиты основных прав человека и нематериальных благ, принадлежащих личности

1Савельев А. И. Проблемы применения законодательства о персональных дан- ных в эпоху «Больших данных» (Big Data) // Право. Журнал Высшей школы эконо-

мики. 2015. № 1. С. 54–61.

2Регулирование робототехники: введение в «робоправо». Правовые аспекты развития робототехники и технологий искусственного интеллекта / В. В. Архипов, В. В. Бакуменко, А. Д. Волынец и др.; под ред. А. В. Незнамова. М.: Инфотропик Медиа, 2018. 232 с.

125

Глава 3. Наднациональное и национальное правовое регулирование на современном этапе…

(охрана достоинства личности, неприкосновенность частной жиз- ни). Получение формального согласия «на обработку в любых це- лях» ведет к таким нарушениям, как утечка и искажение данных, а также дискриминация, при которой «под видом индивидуально- го подхода устанавливаются различные цены для потребителей одной категории, осуществляется отсев граждан по расовым, поли- тическим, национальным, гендерным или иным дискриминацион- ным критериям»1. Другой способ, используемый сейчас в США, это так называемые opt-out согласия – предварительное согласие на любую обработку, которое, если оно не отозвано в течение опреде- ленного времени субъектом данных, приобретает законную силу. По ряду причин представляется, что в российских реалиях этот способ не будет сильно отличаться от чисто формального согласия на обработку, т. е. согласия, при котором фактически не могут быть соблюдены все принципы обработки персональных данных.

Обобщая круг проблем, связанных с подходами к правовому ре- гулированию ИИ, робототехники, информационных систем на ос- новеИИ, нужноотметитьследующее. Рядисследователейсчитают, что такое регулирование должно осуществляться в рамках специ- альной отрасли или даже системы отраслей – цифрового права2. Другие же отмечают, что необходима интеграция норм, посвящен- ных информационным технологиям, в действующую классическую систему права3. При этом очевидно, что ряд концептуальных во- просов, таких как субъект и объект права, воля и волеизъявление, правосубъектность и юридическая ответственность в отношении роботов и ИИ, остается открытым. Очевидно, что такие фундамен- тальные принципы права, как баланс интересов участников от- ношений, защита экономически «слабых» участников отношений, защита основных прав человека, должны браться за основу регу- лирования.

1Савельев А. И. Направления регулирования Больших данных и защита не- прикосновенности частной жизни в новых экономических реалиях // Закон. 2018.

№5. С. 122–144.

2См. об этом: Андреев В. К. Динамика правового регулирования применения искусственного интеллекта // Журнал российского права. 2020. № 3. С. 58–68.

3Незнамов А. В. О концепции регулирования технологий искусственного ин- теллекта и робототехники в России // Закон. 2020. № 1. С. 171–185.

126

ЗАКЛЮЧЕНИЕ

В настоящем пособии сделана попытка показать круг тех акту- альных проблем, с которыми сталкивается право в эпоху инфор- мационных технологий, и продемонстрировать пути их решения на примере международных, региональных актов и законодатель- ства отдельных государств.

Тенденции современного права связаны, в частности, с изме- нением правовой парадигмы регулирования общественных отно- шений, что вызвано формированием «цифрового» общества. Ин- тернет-пространство стало привычной для нас средой и изменило повседневные практики общения, образования, работы, прове- дения досуга. Цифровая экономика ставит перед правом задачи регулирования отношений с использованием искусственного ин- теллекта, «умных» роботов, киберфизических систем. Вопросы ин- формационной безопасности остаются в числе наиболее актуаль- ных в деятельности правоохранительных органов. Европейский суд по правам человека активно адаптирует Конвенцию о защите прав человека и основных свобод к цифровым реалиям. Государ- ства решают вопросы управления и предоставления государствен- ных услуг онлайн с помощью информационных систем.

Особое место в межгосударственном взаимодействии, а также взаимодействии, связанном с экономической интеграцией, зани- мают вопросы трансграничной передачи данных, защиты персо- нальных данных. В международном праве преобладает подход к информационным технологиям как к необходимому ресурсу для решения основных проблем, стоящих перед мировым сообществом, и повышения благосостояния человека. Все это указывает на важ- ность грамотного и сбалансированного правового регулирования отношений по поводу информационных технологий и защиты ин- формации в современном мире на всех уровнях: международном, региональном и национальном.

128

ЛИТЕРАТУРА

1.Амелин Р. В. Правовое регулирование общественных отношений в сфере информационных систем: цивилистический и информацион- но-правовой подходы // Актуальные проблемы российского права. 2017. № 12. С. 68–77.

2.Андреев В. К. Динамика правового регулирования применения ис- кусственного интеллекта // Журнал российского права. 2020. № 3.

С. 58–68.

3.Баракина Е. Ю. К вопросу формирования перспективной термино- логии в области правового регулирования применения киберфизиче- ских систем // Российская юстиция. 2020. № 1. С. 70–73.

4.Бачило И. Л. Информационное право: учебник для вузов. М.: Юрайт, 2020. 419 с.

5.Башаратьян М. К. Информация как объект права и содержание пра- ва на информацию // Современное право. 2006. № 12.

6.Белых В. С., Болобонова М. О. Понятие, значение и тенденции разви- тия цифрового права // Юрист. 2020. № 1. С. 5–14.

7.Бембеева Б. С. Право на защиту персональных данных и различные категории персональных данных // Право в сфере Интернета: сб. ст. / М. Э. Али, Д. В. Афанасьев, В. А. Белов и др.; рук. авт. кол. и отв. ред.

М. А. Рожкова. М.: Статут, 2018. С. 48–61.

8.Бондарь Н. С. Информационно-цифровое пространство в конституци- онном измерении: из практики Конституционного Суда Российской Федерации // Журнал российского права. 2019. № 11. С. 25–42.

9.Вахрамеев Р. Г. Законодательство о конституционном праве на ин- формацию в системе законодательства Российской Федерации // Рос- сийский юридический журнал. 2013. № 3. С. 140–145.

10.Войниканис Е. А. Право интеллектуальной собственности в цифро- вую эпоху: парадигма баланса и гибкости. М.: Юриспруденция, 2013. 552 с.

11.Войниканис Е. А., Якушев М. В. Информация. Собственность. Интер- нет: Традиция и новеллы в современном праве. М., 2004.

12.Гражданский процесс: учебник для студентов высших юридических учебных заведений / Д. Б. Абушенко, К. Л. Брановицкий, В. П. Воло- жанин и др.; отв. ред. В. В. Ярков. 10-е изд., перераб. и доп. М.: Ста-

тут, 2017. 702 с.

129

Литература

13.Газизов Р. Р. Теоретико-методологические основы правовой защиты персональных данных в РФ и за рубежом // Юридический мир. 2015.

№ 7. С. 39–41.

14.Глонина В. Н. Интеллектуальная собственность и основные пра- ва человека: какова роль Европейского суда по правам человека на пути достижения баланса интересов? // Российский ежегодник Ев- ропейской конвенции по правам человека (Russian Yearbook of the European Convention on Human Rights) / М. В. Агальцова, Т. К. Ан-

дреева, Е. Е. Баглаева и др. М.: Развитие правовых систем, 2018. Вып. 4: Роль прецедента в толковании Европейской конвенции по правам человека. 672 с.

15.ДашянМ. С. Правоинформационныхмагистралей(Law of information highways): Вопросы правового регулирования в сфере Интернет. М.: Волтерс Клувер, 2007. 288 с.

16.Дозорцев В. А. Интеллектуальные права: Понятие. Система. Задачи кодификации: сб. ст. / Исслед. центр частного права. М.: Статут, 2005.

17.Долинская В. В. Защита прав в сфере персональных данных в России и ЕС // Законы России: опыт, анализ, практика. 2019. № 9. С. 22–29.

18.Донников Ю. Е. Правовой режим служебных баз данных // ИС. Автор- ское право и смежные права. 2020. № 2. С. 59–67.

19.Дупан А. С., Бикбулатова Ю. С. Использование инструментов ин- формационного права для предотвращения нарушений прав челове- ка в результате проведения исследований его генома: международ- ный опыт // Российская юстиция. 2019. № 9. С. 19–22.

20.Дятков С. А., Марьяненко В. П., Салищева Т. А. Информационно-се-

тевая экономика, структура, динамика, регулирование. М., 2019.

21.Ефимцева Т. В. Некоторые аспекты правового регулирования догово- ра об оказании услуг по предоставлению информации в Российской Федерации // Предпринимательское право. Приложение «Право и Бизнес». 2019. № 3. С. 17–21.

22.Жарова А. К. Право и информационные конфликты в информацион- но-телекоммуникационнойсфере: монография. М.: Янус-К, 2016. 248 с.

23.Жарова А. К., Демьянец М. В., Елин В. М. Предпринимательская де-

ятельность в сети Интернет: монография. М.: ЮРКОМПАНИ, 2014. 440 с.

24.Забара И. Н. К вопросу о направлениях развития науки междуна- родного информационного права // Российский юридический журнал. 2013. № 4. С. 15–19.

25.Захарова Н. А., Коржов В. Ю., Кайль А. Н. Комментарий к Закону РФ от 27 декабря 1991 г. № 2124-1 «О средствах массовой информации» (постатейный) // СПС КонсультантПлюс. 2018.

130