Киберфизические кибербиологические и искусственные когнитивные системы сущность
.rtfКиберфизические, кибербиологические и искусственные когнитивные системы: сущность и юридические свойства…
Киберфизические, кибербиологические и искусственные когнитивные системы: сущность и юридические свойства (Д.Л. Кутейников, О.А. Ижаев, С.С. Зенин, В.А. Лебедев, журнал "Российское право: образование, практика, наука", N 3, май-июнь 2019 г.)
Д.Л. Кутейников,
кандидат юридических наук, старший преподаватель
кафедры конституционного и муниципального права
Московского государственного юридического
университета им. О.Е. Кутафина (МГЮА)
О.А. Ижаев,
кандидат юридических наук, консультант юридического
отдела Московской городской избирательной комиссии
С.С. Зенин,
кандидат юридических наук, доцент кафедры конституционного
и муниципального права Московского государственного
юридического университета им. О. Е. Кутафина (МГЮА),
ведущий научный сотрудник кафедры теории государства и
права, конституционного и административного права
Южно-Уральского государственного университета
(национальный исследовательский университет)
В.А. Лебедев,
доктор юридических наук, профессор кафедры
конституционного и муниципального права Московского
государственного юридического университета им. О.Е. Кутафина (МГЮА)
Журнал "Российское право: образование, практика, наука", N 3, май-июнь 2019 г., с. 75-81.
Человечество переживает четвертую технологическую (промышленную) революцию, основу которой, как полагает К. Шваб, составляют новые вычислительные технологии, блокчейн, интернет вещей, искусственный интеллект и роботы, передовые материалы, аддитивное производство и многомерная печать, биотехнологии, нейротехнологии, виртуальная и дополненная реальность [Шваб 2018]. Данные технологии проникают во все сферы человеческой деятельности и тем самым видоизменяют общественные отношения. Скорость их внедрения также обусловлена законом Мура, согласно которому вычислительная мощность компьютерных систем удваивается приблизительно каждые 18-24 месяца, т.е. происходит не линейный, а экспоненциальный рост технологий. Следует ожидать, что такие технические средства, как роботы, дроны, беспилотные автомобили и прочие, будут становиться дешевле, доступнее, функциональнее и разнообразнее.
Перед цивилизацией возникают очередные глобальные вызовы, в ответ на которые государства, в том числе Российская Федерация*(2), разрабатывают комплексные стратегии развития технологий [Наумов, Незнамов 2018], бизнес инвестирует большие средства в цифровую трансформацию*(3), а потребители ожидают наступления новой технологической эры, причем относятся к этому довольно положительно*(4).
На наш взгляд, для юридической науки и практики большое значение имеет распространение инновационных технических средств, способных принимать независимые от человека решения на основе сложных компьютерных алгоритмов. Для правового регулирования общественных отношений, возникающих в новой реальности, вызовом является именно автономность материальных и нематериальных объектов. В этом контексте особый научный интерес представляет определение таких понятий, как "киберфизическая система", "кибербиологическая система" и "искусственная когнитивная система", поскольку обозначаемые ими феномены потенциально обладают признаком автономности.
Существуют разные подходы к пониманию киберфизических систем (далее - КФС). Национальный институт науки и технологий при Министерстве торговли США, занимающийся изучением КФС, определяет их как интеллектуальные системы, включающие в себя комплекс физических и вычислительных компонентов, технически взаимодействующих между собой*(5). Кроме того, в отдельном исследовании указанного института отмечается наличие у подобной системы следующих важных характеристик:
1) это гибридная система, поскольку в ее рамках происходит интеграция вычислений с физическими процессами;
2) КФС объединяет вычислительные и коммуникационные возможности с мониторингом и контролем объектов в физическом мире;
3) она состоит из физических объектов, датчиков (сенсоры и приводы) и информационных систем.
КФС необходимо исследовать при помощи смешанного подхода, предполагающего одновременное изучение взаимодействия физических процессов, программного обеспечения и сетей. Вызовом для исследователей киберфизической системы является синхронизация времени событий, происходящих в реальном мире, с временем событий в виртуальном пространстве [Cyber-Physical Systems and Internet of Things 2019].
Согласно Европейской стратегии развития КФС она состоит из вычислительных, коммуникационных и управляющих компонентов, тесно взаимодействующих с физическими процессами различной природы (механическими, электрическими и химическими)*(6).
КФС можно описать следующими признаками: "связанный", "воспринимающий" и "контролируемый", что соответствует трем аспектам данной системы: физический мир связан при помощи сетевых технологий и интегрирован в киберпространство посредством датчиков и управления [Security and Privacy 2018]. В.Б. Наумов и А.Б. Незнамов пишут, что в киберфизической системе "информационная (вычислительная, коммуникационная) составляющая интегрирована в физический (аппаратный) компонент" [Наумов, Незнамов 2018].
Таким образом, мы подходим к пониманию киберфизической системы как интеграции трех элементов: физических объектов, программного обеспечения, коммуникационных сетей. При этом автономность не является обязательной характеристикой КФС. В зависимости от разных критериев КФС делится на множество типов и тем самым охватывает широкий перечень технических средств и их совокупностей. К примеру, киберфизическая система включает в себя интернет вещей, промышленный интернет, "умные" города, а также отдельные физические объекты (гаджеты, транспортные средства, дроны, роботы-хирурги, здания и т.д.), управляемые посредством компьютерных программ.
Можно предположить, что следующим этапом развития киберфизических систем станет создание кибербиологических систем (далее - КБС), представляющих собой программируемые биологические системы. В пользу этого свидетельствуют научные работы, в которых описываются достижения синтетической биологии. В частности, исследователи из Швейцарской высшей технической школы Цюриха сконструировали биологический двухъядерный процессор, похожий на электронный, интегрировав в клетку два ядра. Они нашли способ использовать биологические компоненты для создания гибкого процессорного ядра, или центрального процессора, который можно программировать разными способами. Этот процессор основан на модифицированной системе CRISPR-Cas9. По сути, как утверждают авторы, они создали клеточный компьютер с несколькими процессорами*(7). Кроме того, как отмечает Ж. Пекку, уже предпринимаются первые попытки проектировать организмы, кодируя алгоритмы управления в молекулах ДНК, которые могут воспроизводиться, общаться друг с другом или использовать сложные сети взаимодействия. Беспрецедентный уровень сложности этих биологических систем отличает их от киберфизических систем. Ж. Пекку предлагает именовать такие системы кибербиологическими [Peccoud 2016].
Интересной представляется также концепция био-киберфизической системы, включающей в себя одновременно и биологический, и физический компонент. Авторы данной концепции утверждают, что уровень взаимопонимания и взаимодействия человека и био-киберфизической системы будет очень высоким. Человек сам обладает биологической природой, следовательно, его взаимодействие с системой, в которую интегрирован такой же биологический компонент, будет более тесным, чем с системой, которая состоит только из физических компонентов [Fass, Gechter 2015].
Таким образом, в отличие от киберфизических, кибербиологические системы предполагают взаимосвязь биологического элемента, программного обеспечения и коммуникационных сетей.
Далее следует рассмотреть искусственные когнитивные системы, которые также обозначаются научно-популярным термином "искусственный интеллект". Ведущие ученые в этой области С. Рассел и П. Норвиг пишут, что применяются четыре подхода к определению искусственного интеллекта [Рассел, Норвиг 2007: 35-40].
Сторонники первых двух описывают искусственный интеллект как систему, (а) думающую как человек или (б) действующую как человек, т.е. используют критерий ее сходства с человеком. В рамках такого подхода искусственный интеллект определяется как "аппаратный и информационно-программный комплекс, действие которого аналогично действию механизмов мышления человека" и неотличимо от принятия решений человеком-экспертом, т.е. профессионалом в данной предметной области" [Болотова 2019: 29]. Как следствие, задача искусственного интеллекта видится в воспроизведении человеческих способностей. Представляется, что на данном этапе развития технологий рано говорить об искусственном интеллекте как о "сущности", способной думать или действовать как человек. Человеческий разум до сих пор остается "вещью в себе", и вряд ли в ближайшее время мы сможем воссоздать искусственный разум. Полагаем, что сходство искусственного интеллекта с человеческим является не самым лучшим критерием для определения его понятия.
От вышеназванных подходов кардинально отличаются третий и четвертый, поскольку их приверженцы понимают искусственный интеллект как систему (в) рационально думающую или (г) рационально действующую. Система считается рациональной, если думает либо действует "правильно", при условии, что она обладает знаниями о том, что является правильным. Ее цель - достичь наилучшего результата или, в условиях неопределенности, наилучшего ожидаемого результата.
Следует отметить, что на критерий рациональности опирается большинство актуальных определений искусственного интеллекта, сформулированных представителями как технических, так и гуманитарных наук. В частности, согласно докладу Объединенного исследовательского центра Европейской комиссии к искусственному интеллекту относятся любая машина или алгоритм, способные воспринимать и изучать окружающую среду, а также действовать рационально или предлагать соответствующие решения на основе знаний, полученных из опыта*(8). Исследователи из Стэнфордского университета, изучающие влияние искусственного интеллекта на различные сферы деятельности человека в долгосрочной перспективе*(9), понимают под ним деятельность, направленную на создание разумных машин, а интеллект рассматривают как качество, позволяющее объекту материального мира (вещи) функционировать в окружающей его обстановке адекватно и предусмотрительно [Nilsson 2010: 13].
Термин "искусственный интеллект" нашел отражение и в отечественной юридической науке. Так, П.М. Морхат пишет, что "искусственный интеллект - это полностью или частично автономная самоорганизующая (и самоорганизующаяся) компьютерно-аппаратно-программная виртуальная или киберфизическая, в том числе био-кибернетическая (bio-cybernetic) система (юнит), не живая в биологическом смысле этого понятия, с соответствующим математическим обеспечением, наделенная / обладающая рядом программно-синтезированных способностей и возможностей" [Морхат 2018: 150-151]. По мнению В.Б. Наумова и А.В. Незнамова, искусственный интеллект обладает следующими ключевыми характеристиками: возможное отсутствие аппаратного воплощения (технология искусственного интеллекта прежде всего описывает программу / алгоритм); способность анализировать окружающую среду; некоторая степень автономности в реализации алгоритма; способность к самообучению; наличие у системы "интеллектуальности", которая иногда описывается при помощи категорий "разумность", "рациональность" или просто через способность "мыслить как человек" или "действовать как человек" во всех или в определенных обстоятельствах [Наумов, Незнамов 2018].
На наш взгляд, рассмотрение искусственного интеллекта как рационально думающей или действующей системы является более предпочтительным. Преимущество такого подхода в том, что рациональность системы поддается измерению посредством оценки того, насколько эффективно она решает поставленную перед ней задачу. К примеру, система может быть признана рациональной, если управляемый его автомобиль доставляет пассажира из точки А в точку Б с приемлемыми для него и других участников дорожного движения условиями.
С точки зрения права искусственный интеллект следует изучать не как рационально думающую систему, а как систему действующую, самостоятельно принимающую определенные решения. Для целей правового регулирования значение имеют действия, которые являются результатом принятых такой системой решений. Кроме того, ее неотъемлемой характеристикой выступает способность автономно (самостоятельно) выбирать из определенного количества альтернативных решений одно конкретное.
Таким образом, интеллектуальную когнитивную систему можно определить как компьютерный алгоритм, способный воспринимать окружающую среду, анализировать полученную из нее информацию и на этой основе принимать рациональные решения с разной степенью автономности.Проведенный анализ позволяет сделать следующие выводы.
Киберфизическая система представляет собой интеграцию физических объектов, программного обеспечения и коммуникационных сетей. Понятие является очень объемным, включающим в себя множество различных объектов материального мира, и поэтому разработка его юридической дефиниции, а также ее использование в нормативных правовых актах представляются нецелесообразными. Более предпочтительно закрепление набора неотъемлемых признаков КФС, что позволит создать гибкий подход к регулированию связанной с ней сферы общественных отношений.
Кибербиологическая система структурно совпадает с киберфизической системой, однако место физического компонента занимает биологический. Нужно отметить, что современный уровень развития технологий позволяет лишь сделать предположение о возможности полноценной интеграции компьютерных вычислений и биологических процессов.
Искусственная когнитивная система (искусственный интеллект) - это компьютерный алгоритм, способный действовать самостоятельно и рационально, в том числе с учетом поступающей из внешней среды информации.
Из изложенного следует, что киберфизические и кибербиологические системы можно признать автономными лишь при условии, что они управляются искусственной когнитивной системой (искусственным интеллектом). Последняя может быть автономной сама по себе, даже если не будет интегрирована в конкретный объект материального мира.
Рассмотренные в данной статье вопросы имеют непосредственное отношение к праву, поскольку в юриспруденции технические средства всегда воспринимались как предметы материального (недвижимые и движимые вещи) и нематериального (результаты интеллектуальной деятельности) мира и обладали статусом объектов права. При этом с юридической точки зрения возникновение у объектов права автономности само по себе революционного значения не имеет, например действия "робота-пылесоса" не влияют на общественные отношения и не влекут каких-либо правовых последствий. В то же время если объекты права обладают не только автономностью, но и способностью совершать юридически значимые действия, то их правовая природа будет качественно иной. Следовательно, можно предположить, что правовое регулирование общественных отношений, в которых задействованы автономные технические средства, будет основываться на абсолютно новых подходах.
Список литературы
Fass D., Gechter F. Towards a Theory for Bio-Cyber Physical Systems Modelling // Digital Human Modeling. Applications in Health, Safety, Ergonomics and Risk Management: Human Modeling. 6th International Conference, DHM 2015, (Los Angeles, August 2-7, 2015) / ed. by V. G. Duffy. N. Y.: Springer, 2015. Pt 1. P. 245-255.
Greer C., Burns M., Wollman D., Griffor E. Cyber-Physical Systems and Internet of Things (2019) // National Institute of Standards and Technology. URL: https://nvlpubs.nist.gov/nistpubs/ SpecialPublications/NIST.SP.1900-202.pdf (дата обращения: 28.04.2019).
Nilsson N. J. The Quest for Artificial Intelligence: A History of Ideas and Achievements. Cambridge: Cambridge University Press, 2010. 707 p.
Peccoud J. Synthetic Biology: Fostering the Cyber-Biological Revolution // Synthetic Biology. 2016. Vol. 1. Iss. 1. P. 1-7. DOI: 10.1093/synbio/ysw001.
Security and Privacy in Cyber-Physical Systems. Foundations, Principles, and Applications / ed. by H. Song, G. A. Fink, S. Jeschke. New Jersey: John Wiley & Sons Ltd, 2018. 472 p.
Болотова Л.С. Система поддержки принятия решений: в 2 ч. М.: Юрайт, 2019. Ч. 1. 257 c.
Морхат П.М. Искусственный интеллект и право. М.: ЮНИТИ-ДАНА, 2018. 123 с.
Наумов В.Б., Незнамов А.В. Исследование в области развития законодательства о робототехнике и киберфизических системах, в том числе в части определения понятия киберфизических систем, порядка ввода их в эксплуатацию и гражданский оборот, определения ответственности (2018) // URL: https://sk.ru/foundation/legal7m/sklegal11/22360.aspx (дата обращения: 30.05.2019).
Рассел С., Норвиг П. Искусственный интеллект: современный подход. М.: Вильямс, 2007. 1410 с.
Шваб К. Технологии Четвертой промышленной революции. М.: Эксмо, 2018. 320 с.
─────────────────────────────────────────────────────────────────────────
*(1) Исследование выполнено при финансовой поддержке РФФИ в рамках научного проекта N 18-2916193.
*(2) Совещание по вопросам развития технологий в области искусственного интеллекта // URL: http://kremlin.ru/events/president/news/60630 (дата обращения: 08.05.2019).
*(3) Опрос ста крупнейших российских компаний показал, что в 2019 г. 36% компаний готовы инвестировать в реализацию проектов по цифровизации процессов более 100 млн руб. Подробнее см.: Цифровые технологии в российских компаниях // URL: https://assets.kpmg/content/dam/kpmg/ru/pdf/2019/01/ru-ru-digital-technol ogies-in-russian-companies.pdf (дата обращения: 09.05.2019).
*(4) Об отношении россиян к возможностям искусственного интеллекта // URL: https://www.ibm.com/blogs/ibm-russia/2018/12/russia-ai-survey/ (дата обращения: 09.05.2019).
*(5) Framework for Cyber-Physical Systems. Volume 1, Overview (2017) // URL: https://nvlpubs.nist.gov/nistpubs/SpecialPublications/NIST.SP.1500-201.pd f (дата обращения: 28.04.2019).
*(6) Cyber-Physical European Roadmap and Strategy (2015) // URL: available at: http://cyphers.eu/sites/default/files/d6.1+2-report.pdf (дата обращения: 28.04.2019).
*(7) A CRISPR/Cas9-based central processing unit to program complex logic computation in human cells // URL: https://www.pnas.org/content/pnas/116/15/7214. full.pdf (дата обращения: 09.05.2019).
*(8) Artificial Intelligence: A European Perspective (2018) // The European Commission's science and knowledge service. URL: http://publications.jrc.ec.europa. eu/repository/bitstream/JRC113826/ai-flagship-report-online.pdf (дата обращения: 30.04.2019).
*(9) Artificial Intelligence and Life in 2030. One Hundred Year Study on Artificial Intelligence (2016) // URL: https://ai100.stanford.edu/sites/g/files/sbiybj9861/f/ai100report10032016 fnl_singles.pdf (дата обращения: 30.04.2019).
|
Система ГАРАНТ |
|