Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Человек и системы искусственного интеллекта
.pdf
О стандартизации понятий и терминов, связанных с ИИ
Как отмечает председатель технического комитета «Киберфизические системы» при Росстандарте Никита Уткин, терминологический стандарт позволит участникам рынка больших
данных общаться на одном языке при составлении закупочной
документации, техзаданий и техдокументации. Кроме того, этот
стандарт нужен для разработки регуляторных документов
1
.
Директор Института исследований Интернета Карен Казарян
считает действия Росстандарта логичными. Однако, по его словам, для бизнеса этот стандарт ничего не меняет, скорее, он нужен как словарь для чиновников, которые не совсем представляют, что такое big data
2
.
В 2021 году в рамках мер по поддержке IT-отрасли начали
готовить нормативную базу для создания репозитария государственной big data и правила доступа к нему разработчиков в сфере искусственного интеллекта. Ассоциация больших данных,
в которую входят крупные банки, IT-компании и операторы связи до этого назвала передачу государственных данных предпринимателям как
одну из задач в развитии рынка больших данных
к 2024 году.
Отраслевые и функциональные проблемы
искусственного интеллекта
Возникает много вопросов по стандартизации понятийного
аппарата искусственного интеллекта в различных отраслях экономики. В связи с этим, а также в целях реализации Федерального
закона «О стандартизации в Российской Федерации»
3
и повы-
шения эффективности работ по стандартизации на национальном, межгосударственном и международном уровнях и по согласованию с заинтересованными организациями, приказом
1
Уткин Н. Там же.
2
Казарян К. Там же.
3
Федеральный закон от 29 июня 2015 г. № 162-ФЗ «О стандартизации в Рос-
сийской Федерации».
221
Любимов А.П.
Росстандарта создан технический комитет по стандартизации
«Искусственный интеллект»
1
. В соответствии с этим приказом за
техническим комитетом закреплены объекты стандартизации с
кодами ОКПД2, имеющие смежную область деятельности:
• оборудование коммуникационное (в области искусствен-
ного интеллекта);
• средства транспортные и оборудование (в области искус-
ственного интеллекта);
• продукты программные и услуги по разработке программного обеспечения; консультационные и аналогичные услуги в
области информационных технологий (в области искус-
ственного интеллекта);
• а также многочисленные услуги:
• по изданию прочего программного обеспечения (в обла-
сти искусственного интеллекта);
• в информационных технологиях (в области искусствен-
ного интеллекта);
• юридические (в области искусственного интеллекта);
• при проведении геологических, геофизических и взаи-
мосвязанных изыскательных работ и прочих, не включенные
в другие группировки (в области искусственного интеллекта);
• при техническом регулировании, стандартизации, метрологии, аккредитации, каталогизации продукции (в области искусственного интеллекта);
• в картографии (в области искусственного интеллекта);
• работы, связанные с научными исследованиями и экспе-
риментальными разработками (в области искусственного интеллекта);
• при обеспечении безопасности и проведении расследований (
в области искусственного интеллекта);
1
Приказ Росстандарта от 1 ноября 2019 г. № 2612 «Об утверждении Програм-
мы национальной стандартизации на 2020 год»; Приказ Росстандарта от 25 июля
2019 года № 1732 «О создании технического комитета по стандартизации «Искусственный интеллект».
222
О стандартизации понятий и терминов, связанных с ИИ
• в высшем и среднем образовании (в области искусствен-
ного интеллекта);
• в медицине (в области искусственного интеллекта).
Закреплённые объекты стандартизации с кодами ОКПД2 по
смежной области деятельности имеют свою отраслевую операциональную специфику в определениях. Термин «операциональные определения» ввёл известный учёный по теории управления
Эдвардс Деминг.
Приведенные выше примеры свидетельствуют
о том, что
предстоит большая и серьёзная работа по системному выстраиванию сущностных характеристик и систематизации понятийного аппарата в области искусственного интеллекта для различных сфер и областей общественной и экономической деятельности. В этой работе возможны ошибки и неудачные решения.
В.Я. Цветков писал об этом: «При получении
информации человек может вносить погрешности в измерения за счёт несовершенства приборов и методик измерения. Всё это приводит к тому,
что в результате познания человек создаёт своё собственное информационное поле, которое следует считать искусственным»
1
.
Организационные и гуманитарные проблемы
искусственного интеллекта
Возникает много вопросов и по другим проблемам искус-
ственного интеллекта. Примерами могут служить:
• обозначение пределов внедрения технологий искусствен-
ного интеллекта в деятельность государственных органов власти;
• проблемы доверия к системам искусственного интеллекта;
• влияние искусственного интеллекта на стратегическую
стабильность, меры повышения прозрачности в киберпростран-
1
Цветков В.Я. Естественное и искусственное информационное поле // Меж-
дународный журнал прикладных и фундаментальных исследований. 2014. № 5.
(часть 2). С. 178.
223
Любимов А.П.
стве, современные и будущие технические разработки в сфере
нераспространения и связанные с этим ядерные угрозы.
С учётом этих позиций члены РА Н оценивали в своих выступлениях на осенней сессии Общего собрания РА Н в 2018 году
перспективы и проблемы внедрения технологий искусственного
интеллекта
1
.
Создание в России научных центров мирового уровня в рамках национального проекта «Наука» предусматривает организацию до конца 2023 года не менее девяти научных центров, выполняющих исследования и разработки по приоритетным научно-техническим областям.
Совет по государственной поддержке создания и развития
научных центров утвердил перечень из семи приоритетных направлений развития науки2. В первую очередь — это цифровые
технологии и искусственный интеллект с использованием роботизированных системы на базе создания и применения материалов нового поколения.
По мнению специалистов, есть опасность, что по мере того,
как искусственный интеллект будет возвышаться, естественный интеллект (в своей массе) будет опускаться. У учёных возникает вопрос:
зачем тогда прогнозная аналитика про будущее,
когда массовый спрос будет формироваться рефлексами про настоящее?
Успехи в движении к искусственному интеллекту напрямую
связаны с успехами в формировании языка человеко-машинных
коммуникаций. Однако современные информационные системы
пользуются инструментами времён «доисторического мате риализма»: классификаторами, словарями, тезаурусами и т. п. Их
стали даже
величаво называть онтологиями. Но на такой основе
невозможно создание «умных» агентов и «размышляющего» искусственного интеллекта. Причина в том, что понятия словарей
1
Любимов А.П., Щитов А.Н. Современные научно-технологические приорите-
ты РАН // Представительная власть — XXI век. 2018. № 7–8. С. 26–33.
2
Постановление Правительства РФ от 30.04.2019 № 538 «О мерах государ-
ственной поддержки создания научных центров мирового уровня».
224
О стандартизации понятий и терминов, связанных с ИИ
(семантика), не объединяемые причинно-следственными связями (синтаксис), не позволяют строить из них комбинации, несущие смысл (прагматика).
Возможно ли создание нового языка для цифровой реальности? В.В. Рубанов полагает, что эта актуальная задача хотя и суперсложна, но разрешима. Следует только подчеркнуть, что для
её решения нужна не
новая наука семиотика
традиционная лингвистика, а относительно
1
. Считается, что подобный язык понятен
человеку, а также легко переводим в алгоритмы для компьютерных вычислений.
Заключение. За IT-технологиями и искусственным интеллектом большое будущее. Ещё более могущественными они станут,
если человечество и его лучшие представители объединят усилия и предложат технологии совершенствования биологического
человека с большими геномными возможностями
. Такое научное
направление предполагает сотрудничество учёных и специалистов из различных областей: от гуманитариев до технарей; от медиков до селекционеров и т. д.
2
Технологии самой значительной сложности должны быть воплощены в очень простых решениях, которые будут управляться
человеческим голосом и мозгом: инновационные электронные
очки и линзы с широким спектром подключенных к них функций, умные голосовые компьютеры/планшеты, мобильные телефоны с огромными базами данных и неограниченными объёмами памяти и т. д
. В недалеком будущем наши технологии станут
технически живыми, то есть природоподобными! Цивилизация
приближается к массовой киборгизации людей и животных,
предусматривающей замену частей или всего тела кибернетическими аналогами. В этой связи на первый план выходят во-
1
Рубанов В.В. Не подражать живым системам // Независимая газета 23.03.2020.
URL: http://www.ng.ru/stsenarii/2020–03–23/9_7824_consciousness.html (дата обра-
щения: 23.04.2020).
2
Бабкин В.В., Промоненков В.К., Овчаренко М.М., Любимов А.П. Инновацион-
ная концепция средств защиты растений в Российской Федерации // Химическая
промышленность сегодня. 2017. № 8. С. 50–54.
225
Любимов А.П.
просы культуры общества1, создания этических основ и правил
правового регулирования новых общественных отношений, формирующихся в связи с применением систем искусственного интеллекта и робототехники
разработчиков и пользователей технологий ИИ
2
, введения правовых ограничений для
3
, стандартизации
и принятия законодательных актов как охранительных инструментов по отношении к технологиям и системам ИИ
4
: от нацио-
нальных стратегий ИИ до принципов применения ИИ в конкретных сферах.
При этом не простым вопросом остается доверие к системам, технологиям и устройствам искусственного интеллекта,
который включает в себя множество аспектов из различных областей общественных отношений.
1
Любимов А.П., Щитова Н.Г. Нужен ли нам новый Закон о культуре? (По ма-
териалам парламентских слушаний в Государственной Думе 19 апреля 2010 г.) //
Представительная власть — XXI век. М., 2010. С. 12–16.
2
Гусейнов А.А. Великие моралисты. М., 1995; Любимов А.П. Философия права.
М.: Юрайт, 2019. 257 с.
3
Любимов А.П. Качество подготовки законопроекта субъектом права законо-
дательной инициативы // Российская юстиция. 2006. № 2. C. 47–52.
4
Любимов А.П. Конституция Российской Федерации: вопросы и проблемы
толкования // Представительная власть — XXI век. 2003. № 6. С. 12–14; Любимов А.П. 20 лет Конституции РФ // Представительная власть — XXI век. 2013.
№ 7–8. С. 14–17.
226
Целищев В.В.
АРГУМЕНТ ЛУКАСА–ПЕНРОУЗА–ГЁДЕЛЯ
И ПАРАДОКСЫ
ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Термин «искусственный интеллект» употребляется в самых
разнообразных контекстах и целях. Изначально он употреблялся
в связи с разговорами о возможности создания «механического» устройства, которое бы осуществляло операции, сравнимые
с человеческим мозгом. Сопоставление возможностей интеллекта человека и «интеллекта» машины имеет множество оттенков,
но при попытках ввести этот разговор в более строгие
результата являются особо значимыми. Так называемый тест
Тьюринга является операциональным способом обнаружения
равных возможностей человека и машины. Более важным и теоретически сложным является исследование следствий теорем
Гёделя о неполноте арифметики. Как оказалось, метаматематические результаты говорят нечто существенное о возможностях
и ограничениях человеческого интеллекта.
Интерпретация теорем Гёделя
термин «мышление» «математическим мышлением», то есть заключениями, которые обладают математической достоверностью.
(Именно на этом настаивал сам Гёдель). Далее, на основании ма-
сужает вопрос, ограничивая
1
рамки два
*
*
Целищев Виталий Валентинович — доктор философских наук, профессор.
Научный руководитель Института философии и права СО РАН.
Tselishchev Vitaly Valentinovich — Doctor of Philosophy, Professor, Scientifi c
Director of the Institute of Philosophy and Law of the Siberian Branch of the Russian
Academy of Sciences, Moscow, Russia.
227
Целищев В.В.
тематических аргументов осуществляется выбор между двумя
вариантами: либо машина эквивалентна человеку в плане интеллекта, либо человек превосходит машину. Аргументация в пользу
первой точки зрения разделяется «механицистами», а второй —
«менталистами». Развернувшаяся с 1960-х и продолжающаяся
по нынешнее время полемика представителей двух направлений
была поначалу неравноправной. Механисты были представлены
оксфордским философом
получившую большую известность статью
Дж. Лукасом, опубликовавшим в 1961 г.
1
, а также известным
математическим физиком Р. Пенроузом, с двумя его книгами
«Новый ум короля»
2
и «Тени разума»3. На другой стороне было
практически все сообщество специалистов по математической логике, уличавших этих двух в непрофессионализме в технических
деталях при интерпретации теорем Гёделя. Ситуация драматически изменилась, когда из посмертно расшифрованных записок
Гёделя стало ясно, что сам он был менталистом, пополнившим
эту небольшую компанию. Многие критики менталистов, узнав
об
этом обстоятельстве, как язвительно выразился один из участников полемики, «молчаливо отошли в сторону», что вполне понятно в силу огромного веса Гёделя. Тут же выяснилось, как сухо
заметил весьма авторитетный логик С. Феферман
4
, что несмотря
на все допущенные Пенроузом математические ошибки они не
влияют на общий ход его рассуждения и не обесценивают его аргументов.
Таким образом, в последние три десятка лет в полемике менталистов с механицистами было обнаружено множество тонких
следствий интерпретации гёделевских теорем, показавших реальную сложность построения искусственного интеллекта
как
эквивалента человеческого мышления. В данной статье представлены лишь несколько из наиболее значимых pro et con-
tra аргументов, обнаруженных в ходе этой полемики, которые
1
Lukas J. Minds, Machines and Gödel // Philosophy. Vol. 36. 1961.
2
Пенроуз Р. Новый ум короля. М.: URSS, 2002.
3
Пенроуз Р. Тени разума. М.: Институт компьютерных исследований, 2003.
4
Feferman S. Penrose’s Gödelian Argument // Psyche 2 (7), May 1995.
228
Аргумент Лукаса–Пенроуза–Гёделя и парадоксы ИИ
не позволяют поставить точку в сложном вопросе, можно ли категорически утверждать о превосходстве одного из двух направлений и, что более важно, о превосходстве человеческого интеллекта над машинным.
Существуют многочисленные интерпретации теорем
Гёделя о неполноте, но наиболее интересной из них оказалась интерпретация самого Гёделя, которая получила название
«дизъюнкции
Гёделя». Ее формулировка крайне парадоксальная уже в том отношении, что она выводит вопрос о «состязании» человека и машины в область гораздо более тонких вещей.
Она форму лируется так:
Либо математика неполна (незавершаема) в том смысле, что
очевидные аксиомы никогда не могут быть вмещены в конечные
правила, то есть, что
человеческий ум (даже в сфере чистой математики) бесконечно превосходит возможности любой конечной
машины, либо существуют абсолютно неразрешимые диофантовые проблемы определенного типа.
1
В менее парадоксальной формулировке, приближающей к
теме данной статьи, «дизъюнкция» выглядит так: Во-первых, человеческий ум не способен к формулировке (или механизации)
всех математических интуиций; если они сформулированы, появляются новые, например, о непротиворечивости. Во-вторых,
либо человеческий ум превосходит все машины (более точно,
может решить больше теоретико-числовых проблем
), либо существуют такие теоретико-числовые проблемы, которые неразрешимы для человеческого ума.
Вопрос о том, в какой степени эти идеи Геделя в философском
отношении совпадают с идеями Лукаса или Пенроуза, является
сложным уже по причине существенного расхождения их общих
философских позиций. В частности, по самой неопределенной
и общей классификации,
Дж. Лукас является «идеалистом», по-
1
Gödel K. Some Basic Theorems on the Foundations of Mathematics and their Im-
plications // Gödel K. Collected Works. Vol. 3 / eds. Feferman et al. Oxford: Oxford
University Press, 1995. Р. 310. (Русский перевод В. Целищев: Гёдель К. Некоторые
основные теоремы в основаниях математики и их следствия // Хинтикка Я. О Гёделе. К. Гёдель. Статьи. М.: Канон+, 2014. С. 177.)
229
Целищев В.В.
скольку цель его аргументации, по его собственному признанию,
состоит в опровержении материализма, Р. Пенроуз — материалистом, поскольку считает, что физика может, будучи перестроена,
объяснить ментальные явления, а К. Гёдель — дуалистом. Как
видно, здесь выдержан полный спектр онтологических философских позиций соотношения ума и материи.
Вернемся к началу полемики, поднятой Лукасом. Популярное
понимание сути теорем Гёделя о неполноте состоит в том, что
Гёдель сконструировал предложение, которое истинно, но не
доказуемо в достаточно богатой формальной системе. В основе
рассуждения Лукаса лежит следующее соображение:
Первая теорема Геделя должна прилагаться к кибернетическим машинам, потому что сущность их состоит в том, что они
должны быть
конкретизацией формальной системы. Отсюда
следует, что если дана некоторая машина, непротиворечивая и
способная выполнять простые арифметические операции, существует формула, которую невозможно представить для машины
как истинную, то есть, формула, недоказуемая-в-системе, но такая, которую мы считаем истинной. Отсюда следует, что никакая
машина не может быть полной или адекватной
моделью ума, и
что ум существенно отличен от машин. Другими словами, человеческий ум способен увидеть истинность геделева неразрешимого предложения, а машина — нет.
1
Несмотря на внешнюю простоту (и видимость ошибки) такой аргументации, в ней есть очень много подводных камней,
которые и стали поводом для значительной полемики. Прежде
всего, очень интересным вопросом является выяснение причин,
по которым гёделево неразрешимое предложение признается истинным. Одно объяснение идет от самого Гёделя: предложения
«Я не доказуемо
» (далее — G) — и на самом деле недоказуемо и
поэтому истинно, сейчас признано не объяснением, а просто эвристикой. Другое объяснение, на котором настаивал М. Даммит,
объяснял истинность G тем, что речь идет о намеренной интер-
1
Lukas J. Minds, Machines and Gödel // Philosophy. Vol. 36. 1961. Р. 44.
230
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]