Международное предпринимательское право в условиях международной экономической интеграции. Учебник

ентированные на человека ценности и справедливость; прозрачность и объяснимость; надежность, безопасность и сохранность; подотчетность.

Совет Европы по итогам встречи в Хельсинки в мае 2019 года учредил специальный межправительственный комитет экспертов по искусственному интеллекту (CAHAI). Перед комитетом поставлена задача разработать приемлемые правовые основы для дальнейшего регулирования ИИ, причем эти правовые основы должны базироваться на стандартах Совета Европы в области прав человека, демократических принципах и верховенстве права18. В декабре 2020 года Комитет опубликовал Обоснование осуществимости правового регулирования проектирования, разработки и применения ИИ, основанное на стандартах Совета Европы (Feasibility study on a legal framework on AI design, development and application based on CoE standards)19 (далее – Обоснование). Это до-

статочно объемный документ, анализирующий текущую ситуацию с правовыми рамками ИИ, исходя из упомянутых выше стандартов.

Обоснование учитывает уже имеющиеся наработки на уровне международных организаций, а также текущую работу в области регулирования ИИ. В частности, отмечается отсутствие единого подхода к определению самого термина ИИ. Сложность закрепления единой дефиниции видится не только в разности правовых традиций и культур, но и в технической составляющей такого определения. Если свести ее к минимуму, то неизбежно расширительное толкование термина, а если детализировать, возникает риск его быстрого устаревания. В результате исследователи дают рекомендацию принять технически нейтральный термин, который охватывал бы случаи, непосредственно связанные с потенциальными рисками для прав человека, демократических принципов и верховенства права. Анализируются риски, связанные с обработкой данных, статистическими погрешностями, которые могут преумножаться в самообучаемой системе, непрозрачностью систем ИИ. Указывается на оправданность использования риск-ориентированного подхода, но непременно с постоянной оценкой возможных последствий, в том числе тех, вред от которых нельзя восполнить. Документ отмечает прак-

18 CAHAI - Ad hoc Committee on Artificial Intelligence URL: https://www.coe.int/en/web/artificial-intelligence/cahai

19 URL: https://www.coe.int/en/web/artificial-intelligence/cahai

121

тику работы различных Комитетов Совета Европы в области кибербезопасности, защиты данных, правосудия, а также практику ЕСПЧ, относящуюся к информационным технологиям.

В частности, еще в конце 2018 года Европейской комиссией по эффективности правосудия принята Европейская этическая хартия об использовании ИИ в судебных системах20. Она базируется на пяти основных принципах: соблюдения основных прав; недискриминации; качества и безопасности; прозрачности, беспристрастности и достоверности; контроля пользователем.

Таким образом, на уровне организаций ООН, Совета Европы и других международных организаций принято значительное количество документов рекомендательного характера в области этики и правового регулирования ИИ, и постоянно ведется работа над их совершенствованием. Хотя этические принципы как таковые не должны подменять собой нормативную регламентацию, на что обращают внимание представители международных организаций и исследователи в области права21, в ситуации с ИИ на базе этических принципов фактически складываются нормы «мягкого права», а Рекомендации, принятые ЮНЕСКО, содержат подробные и содержательные указания относительно дальнейшей модернизации национальных законодательств.

Контрольные вопросы:

1. Каковы этические и правовые принципы регулирования отношений с использованием искусственного интеллекта?

2. Какие основные международно-правовые акты закладывают основу правового регулирования искусственного интеллекта на национальном уровне?

теллект3.»? В чем сложность определения понятия «искусственный ин-

20 Европейская этическая хартия об использовании искусственного интеллекта в судебных системах и окружающих их реалиях Принята на 31-м пленарном заседании ЕКЭП

(Страсбург, 3-4 декабря 2018 года). URL: https://rm.coe.int/ru-ethical-charter-en-version- 17-12-2018-mdl-06092019-2-/16809860f4

21 Кей Д. Доклад ООН «Поощрение и защита прав человека: вопросы прав человека, включая альтернативные подходы в деле содействия эффективному осуществлению прав человека и основных свобод». A/73/348. 2018. URL: https://undocs.org/ru/A/73/348; Бегишев И.Р. Международно-правовые основы регулирования искусственного интеллекта и робототехники // Международноепубличноеи частноеправо. 2021.N 1. С. 3740.

122

4. Какова роль норм «мягкого права» в развитии правового регулирования искусственного интеллекта?

Литература:

1. Арзуманян А. Б. Искусственный интеллект: вопросы международ- но-правового регулирования // Северо-Кавказский юридический вестник. 2021. №3. С. 92-99.

2. Бегишев И. Р. Международно-правовые основы регулирования искусственного интеллекта и робототехники // Международное публичное и частное право. 2021. N 1. С. 37 – 40.

3. Незнамов А. В. Регулирование искусственного интеллекта в мировой практике. URL: https://ethics.cdto.ranepa.ru/3_8

4. Юридическая концепция роботизации: монография / Н. В. Антонова, С. Б. Бальхаева, Ж. А. Гаунова и др.; отв. ред. Ю. А. Тихомиров, С. Б. Нанба. М.: Проспект, 2019. 240 с.

§ 2. Внедрение искусственного интеллекта в сферу предпринимательства и основные вопросы правового регулирования

Искусственный интеллект может скопировать функции мозга человека, но никогда его управление – душу.

Ю. Сережкин

На уровне отдельных государств достаточно активно идет работа по реализации уже существующих международных рекомендаций и принципов. В частности, многие этические принципы включаются в национальные документы стратегического планирования и нормативные акты. Однако, в первую очередь, страны-лидеры в области технологий направляют усилия на сохранение этого лидерства за счет активного внедрения технологий ИИ в экономику, социальную сферу, сферу государственного управления. В ряде стран принимаются национальные стратегии в области искусственного интеллекта, дорожные карты, национальные программы, направленные на скорейшую модернизацию этих сфер с помощью внедрения технологий ИИ и развитие рынков технологий.

123

Первый законодательный акт, посвященный «умным роботам», был принят в Южной Корее в 2008 году22. Позднее появляется ряд законодательных актов, затрагивающих отдельные аспекты регулирования ИИ, в том числе: закон о беспилотных автомобилях в Германии, закон о робо- тах-курьерах в Эстонии; Закон штата Калифорния об идентификации ботов23 и другие. Применительно к европейской стратегии разработки правовых рамок ИИ особый интерес представляет такой наднациональный акт, как резолюция Европарламента от 16 февраля 2017 года «Нормы гражданского права о робототехнике»24. Как справедливо отмечается в юридической литературе, ее можно считать первой попыткой создания комплексного подхода к регулированию робототехники и ИИ.

Европейский союз направляет усилия на развитие безопасных и ориентированных на повышение благосостояния людей технологий ИИ в соответствии с «Повесткой дня в области устойчивого развития» ООН25. В апреле 2018 года Еврокомиссия представила европейский подход к использованию возможностей ИИ26, а ровно через год сформулировала Руководящие принципы по этике для надежного ИИ27, куда вошли семь требований: техническая надежность и безопасность; конфиденциальность и управление данными; прозрачность; разнообразие, недискриминация и справедливость; благополучие общества и окружающей среды; подконтрольность. Данные принципы легли в основу дальнейшей работы ЕС в области создания правовых рамок ИИ. В 2020 году Еврокомиссией опубликована «Белая книга по искус-

22 Закон Южной Кореи «О содействии развитию и распространению умных роботов» от 28.03.2008 URL: https://robopravo.ru/zakon_iuzhnoi_koriei_2008

23 URL: https://robopravo.ru/matierialy_dlia_skachivaniia#ul-id-40-6

24 Резолюция Европарламента от 16 февраля 2017 года 2015/2013(INL) P8_TAPROV(2017)0051, включает текст Хартии робототехники. URL: https://robopravo.ru/riezoliutsiia_ies

25 URL: https://www.un.org/ga/search/view_doc.asp?symbol=A/RES/70/1&Lang=R

26 URL: Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions. Artifcial Intelligence for Europe, COM (2018) 237 fnal (Apr. 25, 2018).

27 Ethics guidelines for trustworthy AI. European Commission, the High-Level Expert Group on AI. 8 April 2019. URL: https://ec.europa.eu/digital-single-market/en/news/ethics- guidelines-trustworthy-ai

ственному интеллекту»28, направленная на развитие европейской экосистемы, позволяющей обеспечить надежное и безопасное развитие искусственного интеллекта при уважении европейских ценностей и прав граждан.

По сравнению с США подход к регулированию искусственного интеллекта в Европейском союзе ближе к консервативному, основанному на осторожном изменении действующих норм с учетом рисков для гуманистических правовых ценностей. Это вызывает беспокойство представителей некоторых европейских стран, в частности, отдельные страны Евросоюза призвали Европейскую комиссию ограничиться формированием «мягкого права» для регулирования искусственного интеллекта. В документе, подготовленном представителями Дании и подписанном Францией, Бельгией, Нидерландами, Испанией, Финляндией (всего 14-ю странами), выражается следующая позиция: Евросоюзу необходимо стимулировать развитие технологий искусственного интеллекта следующего поколения, а не создавать препятствия этому. Согласованная позиция 14-и стран была озвучена после опубликования в 2020 году «Белой книги искусственного интеллекта», в которой говорилось о создании нормативноправовой базыдля технологий следующего поколения.

В противоположность этому Германия выступает за более строгое регулирование технологий, полагая, что при «мягком» подходе некоторые технологии вообще не будут охвачены регулированием, в связи с чем возрастут риски для гражданских свобод, связанные с использованием технологий распознавания лиц и некоторых других.

Большинство документов, составляющих европейскую стратегию развития искусственного интеллекта, подготовлены группой экспертов высокого уровня по ИИ, созданной при Европейской комиссии в 2018 году29. В основе этих программных документов лежат данные, представленные в отчетах различных групп специалистов, сделанных по результатам исследований, заказанных Еврокомиссией или комитетами Европарламента. Одним из таких отчетов, созданным по запросу Коми-

28 White Paper on Artificial Intelligence: A European approach to excellence and trust. Brussels, 19.2.2020 COM(2020) 65 final. URL: https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence- feb2020_en.pdf

29 URL: https://digital-strategy.ec.europa.eu/en/policies/expert-group-ai

125

тета Европарламента по гражданским свободам, правосудию и внутренним делам в июле 2020 года, является отчет «Искусственный интеллект и правоохранительные органы». В отчете анализируется влияние искусственного интеллекта на основные права человека при осуществлении правоохранительной деятельности. Еще одним примером является отчет «Европейские рамки этических аспектов искусственного интеллекта, робототехники и связанных технологий», подготовленный в сентябре 2020 года. По мнению авторов отчета, общеевропейское правовое регулирование по этическим вопросам способно создать важное стратегическое преимущество, сделав Евросоюз мировым лидером в этом вопросе с получением всех преимуществ «первопроходца», что будет в дальнейшем способствовать принятию стандартов ЕС во всем мире.

В сентябре 2020 года вышел еще один доклад – о режиме граждан- ско-правовой ответственности для искусственного интеллекта. Снова предложено пересмотреть вопрос об ответственности систем искусственного интеллекта, что, по мнению авторов доклада, подготовленного для Европарламента, принесет существенную экономическую и социальную выгоду, сможет понизить риски и повысить безопасность, уменьшив юридическую неопределенность.

Подход США основывается на преимуществах этого государства в сфере высоких технологий. В 2019 году принята Национальная стратегия в сфере ИИ, оформленная распоряжением главы государства: «О сохранении американского лидерства в области искусственного интеллекта»30. Данный документ констатирует лидерство США в области ИИсистем и указывает на необходимость сохранения этого лидерства для поддержания экономической и национальной безопасности. Государственные ресурсы следует направлять на научные исследования и разработки технологий ИИ и отдавать им приоритет при формировании бюджетных заявок. Также документ указывает на необходимость устранения чрезмерных регуляторных барьеров с тем, чтобы сохранить технологические преимущества государства в этой области. Значительное

30 Maintaining American Leadership in Artificial Intelligence: Executive Order 13859 of February 11, 2019 // Federal Register. URL: https://www.federalregister.gov/documents/2019/02/14/2019-02544/maintaining-american- leadership-in-artificial-intelligence 126

внимание уделяется и вопросам обучения и подготовки граждан к работе с системами ИИ.

Как отмечается в юридической литературе, США стремятся задать стандарты технологического и правового регулирования на международном уровне, с тем чтобы другие государства были вынуждены использовать эти стандарты, в то время как США способствовали бы закреплению своего лидерства в научно-технической сфере и на рынках производства и использования систем ИИ [10, С. 143-144].

Приоритет отдается таким направлениям31, как: - долгосрочные инвестиции в исследования ИИ;

- развитие методов взаимодействия человека и ИИ (human-AI collaboration);

- учет этических, правовых и социальных аспектов при разработке и использовании ИИ;

- защищенность и безопасность систем ИИ (safety and security);

- создание специальной среды для обучения и тестирования систем ИИ;

- выработка стандартов и показателей для оценки технологий ИИ; - понимание потребностей работников, занятых в сфере исследова-

ний и разработки ИИ; - расширение государственно-частного партнерства для эффектив-

ного развития технологий ИИ.

Можно сказать, что перед государственным аппаратом и разработчиками ИИ в США стоят те же проблемы, которые обсуждаются и на международном уровне. В частности, это проблема прозрачности систем ИИ и угроза дискриминации; проблема создания алгоритмов, учитывающих этические аспекты и вопросы справедливости при принятии решений системами ИИ; проблема охраны персональных данных. Относительно последней следует учитывать, что в США отсутствует кодифицированный акт о защите персональных данных, и широко применяется саморегулирование. В стратегических документах, посвященных ИИ, указывается на определенные риски нарушения конфиденциальности.

31 The National Artificial Intelligence Research and Development Strategic Plan: 2019 Update. URL: https://www.nitrd.gov/pubs/National-AI-RD-Strategy-2019.pdf

127

С другой стороны, отсутствие четкой регламентации создает определенные возможности для ускоренного развития ИИ.

Интересен подход к правовому регулированию ИИ в Китае. В целом для правовой системы этой страны характерно принятие небольшого количества законов: основная нагрузка ложится на программные документы, исходящие от Государственного совета (далее – Госсовет). В частности, в области ИИ в 2015 году принята стратегия «Сделано в Китае – 2025», а в 2016 году стратегия «Интернет+» и «План развития индустрии робототехники». В 2017 году Госсовет представил «План развития искусственного интеллекта нового поколения», который содержит три этапа развития ИИ: до 2020, 2025 и 2030 годов. В частности, к 2020 году планировалось вывести страну на передовой уровень в области применения ИИ, к 2025 году должен быть сделан крупный прорыв в области технологий ИИ, должны сформироваться правовое поле и этические нормы, а также критерии оценки и контроля безопасности систем ИИ. Наконец, к 2030 году планируется выход Китая в мировые лидеры в сфере разработок ИИ. В 2018 году с целью устранения различий в стандартах применения ИИ вышла «Белая книга по стандартизации искусственного интеллекта». В ней также была предложена система разработки стандартов: Китай стремился предложить свои решения для работы Международной организации по стандартизации, оспаривая тем самым притязания США на лидерство в этой области.

В целом, как отмечают исследователи, политика Китая в эти годы была направлена на решение практических задач развития технологий ИИ, в противовес, например, ЕС, где внимание в большей степени было сосредоточено на этических аспектах ИИ или США, где решались задачи национальной безопасности и социальной стабильности в долгосрочной перспективе. Основными направлениями развития стали: разработки в области высоких технологий; обработка данных (в этом направлении отмечается превосходство Китая за счет доступа к огромным массивам данных о гражданах); подготовка квалифицированных кадров; развитие конкурентоспособных частных компаний в сфере ИИ и смежных областях.

128

ВРоссии в период с 2017 года по настоящее время выходит ряд документов32, относящихся к стратегическому планированию в области высоких технологий и цифровой экономики, в том числе, в области ИИ. Появляются первые регуляторные «песочницы»: экспериментальные режимы на территориях отдельных субъектов федерации, направленные на внедрение технологий ИИ в повседневную жизнь33. Российская Национальная стратегия развития ИИ предполагает создание системы гибкого нормативно-правового регулирования в этой области к 2030 году.

Существенный интерес в связи с рассматриваемой проблематикой представляет Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года, принятая в августе 2020 года (далее – Концепция)34. Приоритетной целью регулирования Концепция определяет стимулирование инноваций в сфере ИИ,

всвязи с чем в качестве задач выделяет собственно создание правовых основ, имеющих в первую очередь стимулирующий характер; определение правовых барьеров, которые замедляют развитие технологий ИИ; создание национальных стандартов вобласти ИИ и робототехники.

ВКонцепции подчеркивается, что единых подходов к регулированию ИИ в мире не выработано, поскольку крайне сложно правильно определить баланс интересов общества, бизнеса и государства. В числе

32 Указ Президента РФ от 09.05.2017 №203 «О Стратегии развития информационного общества в России на 2017 – 2030 годы»; Указ Президента РФ от 10.10.2019 N 490 «О развитии искусственного интеллекта в Российской Федерации» (вместе с «Национальной стратегией развития искусственного интеллекта на период до 2030 года»); «Паспорт национального проекта «Национальная программа «Цифровая экономика Российской Федерации» (утв. президиумом Совета при Президенте РФ по стратегическому развитию и национальным проектам, протокол от 04.06.2019 N 7); Распоряжение Правительства РФ от 19.08.2020 N 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» и другие. // СПС Консультант Плюс.

33 Федеральный закон от 24.04.2020 N 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона «О персональных данных»; Федеральный закон от 31.07.2020 N 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации». // СПС Консультант Плюс.

34 Распоряжение Правительства РФ от 19.08.2020 N 2129-р «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года». // СПС Консультант Плюс.

129

основных проблем Концепция называет предмет и границы регулирования ИИ и робототехники; вопросы защиты и использования персональных данных; правовые пределы принятия решений системами ИИ и некоторые другие. При этом анализ положений рассматриваемого документа позволяет говорить о так называемом риск-ориентированном подходе к регулированию ИИ, то есть, направленном на максимальное устранение существующих регуляторных препятствий для разработки и использования технологий ИИ и тем более на воздержание от создания новых. Исключение составляют случаи высокого риска причинения вреда жизни и здоровью человека, угрозы обороне страны и безопасности государства35.

Тем не менее, в качестве базовых этических норм Концепция называет приоритет благополучия и безопасности человека, защиты его основных прав и свобод; запрет на причинение вреда человеку по инициативе систем ИИ; подконтрольность человеку и некоторые другие. Также подчеркивается важность саморегуляции, реализуемой различными участниками рынка высоких технологий, диалога между научным сообществом, компаниями-разработчиками и государством. Экспериментальные правовые режимы («регуляторные песочницы») названы в качестве приоритетных механизмов реализации целей правового регулирования в сфере ИИ и робототехники.

По итогам конференции «Путешествие в мир искусственного интеллекта», состоявшейся 4 декабря 2020 года Президент РФ утвердил перечень поручений Правительству РФ, в числе которых:

- обеспечение введения новых законодательных «песочниц» по применению технологий ИИ в отдельных отраслях экономики и в социальной сфере;

- стимулирование, в том числе с помощью налогов, инвестиций в разработку отечественного ПО и программно-аппаратных комплексов на основе технологий ИИ;

- обеспечение внесения изменений в законодательство с целью предоставить организациям-разработчикам упомянутого ПО доступа к наборам данных, в том числе, содержащимся в государственных инфор-

35 Раздел I, подраздел 4 Концепции. // СПС Консультант Плюс.

130