Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Человек и системы искусственного интеллекта
.pdf
РОССИЙСКАЯ АКАДЕМИЯ НАУК
и когнитивных исследований при президиуме Российской академии наук
Научный совет по методологии искусственного интеллекта
ЧЕЛОВЕК И СИСТЕМЫ
ИСКУССТВЕННОГО
ИНТЕЛЛЕКТА
Под ре дакцией
академика РАН В.А. Лекторского
Санкт-Петербург
Издательство «Юридический центр»
2022
УДК 004.8
ББК 16.6
Ч39
Рецензенты:
Жуков В.И. — академик РАН , главный научный сотрудник
Института государства и права РАН , Заслуженный деятель науки РФ
Тосунян Г.А. — академик РАН, сопредседатель Научного совета РАН
по проблемам защиты и развития конкуренции, Заслуженный деятель науки РФ
Авторы:
Лекторский В.А., Васильев С.Н., Макаров В.Л., Хабриева Т.Я.,
Кокошин А.А., Ушаков Д.В., Валуева Е.А., Дубровский Д.И.,
Черниговская Т.В., Семёнов А.Л., Зискин К.Е., Любимов А.П.,
Целищев В.В., Алексеев А.Ю.
Ч39
Человек и системы искусственного интеллекта / Под ре д.
акад. РАН В.А. Лекторского. — СПб.: Издательство «Юри ди ческий
центр», 2022. — 328 с.
ISBN 978-5-94201-835-1
В книге обсуждаются новые возможности и проблемы, порождённые ускоряющимся использованием систем искусственного интеллекта во всех областях жизнедеятельности человека. Обосновывается идея о необходимости разработки таких
систем искусственного интеллекта, которые не враждебны, а доброжелательны в отношении человека, которые будут не его хозяевами, а его помощниками.
Авторы книги— известные учёные, специалисты в области философии, математики, нейронауки, психологии, права, лингвистики, экономики.
Книга предназначена для широкого круга читателей: как исследователей, так и
практиков. Она также может быть использована в учебном процессе.
УДК 004.8
ББК 16.6
Научная монография рекомендована к печати Научным Советом
по методологии искусственного интеллекта и когнитивных исследований
при президиуме Российской академии наук
© Коллектив авторов, 2022
© Лекторский В.А., отв. ред., 2022
ISBN 978-5-94201-835-1
© Издательство «Юридический центр», 2022
СОДЕРЖАНИЕ
Предисловие (акад. РАН, Лекторский В.А.) . . . . . . . . . . . . . . . . . . . . . . . . 7
Искусственный интеллект в изучении человека,
человек в мире, создаваемом искусственным
интеллектом (акад. РАН, Лекторский В.А.) . . . . . . . . . . . . . . . . . . . . . 10
Искусственный интеллект и когнитивные исследования . . . . . . . . 11
Глобальная цифровизация как антропологический вызов . . . . . . . . 18
Искусственный интеллект и общество
(акад. РАН , Васильев С.Н.). . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
Искусственный интеллект и интеллектные системы . . . . . . . . . . . . 31
Об интеграции средств искусственного интеллекта . . . . . . . . . . . . 34
Об интеграции ИС на базе подстановочных логик . . . . . . . . . . . . . 45
К устойчивому развитию . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
Как современные цифровые технологии
меняют представление об окружающем мире
(искусственное общество) (акад. РАН, Макаров В.Л.) . . . . . . . . . . . . 59
Вычисления как основа для объяснений устройства мира . . . . . . . —
Цифровые двойники, искусственное общество . . . . . . . . . . . . . . . . 61
Моделирование сознания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
Моделирование духовного мира . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 65
Цифровые двойники в повседневной жизни . . . . . . . . . . . . . . . . . . . 68
Как человечество движется от материального мира
к духовному . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . —
Право, искусственный интеллект, цифровизация
(акад. РАН , Хабриева Т.Я.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71
Вопросы применения технологий и систем
искусственного интеллекта в военной сфере
(акад. РАН , Кокошин А.А.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 98
Общие вопросы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . —
Направления (сферы) возможного применения
технологий (элементов) и систем ИИ . . . . . . . . . . . . . . . . . . . . 99
3
Содержание
Вызовы искусственного интеллекта для психологии
(акад. РАН , Ушаков Д.В., канд. психол. наук, Валуева Е.А.) . . . . . . . . 107
Искусственный и естественный интеллект:
аналогии и различия . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . —
Взаимодействие человека
с искусственным интеллектом . . . . . . . . . . . . . . . . . . . . . . . . . 117
Индивидуальный цифровой ангел . . . . . . . . . . . . . . . . . . . . . . . . . . 123
Ассимиляция искусственного интеллекта
как цивилизационный вызов . . . . . . . . . . . . . . . . . . . . . . . . . . . 126
Сознание, мозг, общий искусственный интеллект:
новые стратегические задачи и перспективы
(докт. филос
О соотношении понятий общего и узкого, сильного
Сознание и AGI. Нужна ли
Субъективная реальность: ее общие свойства,
Естественный и искусственный интеллект:
смыслы или структуры? (член-корр. РАО , Черниговская Т.В.) . . . 160
. наук, проф., Дубровский Д.И.) . . . . . . . . . . . . . . . . . . . . 128
и слабого, естественного и искусственного интеллекта . . . . 129
«Трудная проблема сознания»? . . . . . . . . . . . . . . . . . . . . . . . . 139
ценностно-смысловые и интенционально-волевые
оперативные структуры . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 147
Расширенная личность как основной субъект
и предмет философского анализа. Следствия для образования
(акад. РАН , Семёнов А.Л., канд. пед. наук, Зискин К.Е.) . . . . . . . . . . . 172
Информационные революции в истории человека . . . . . . . . . . . . . . —
Результаты информационных революций.
Контрреволюция . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 174
Расширения сознания. Расширенная личность человека . . . . . . . . 176
Устная речь в контексте Четвертой революции . . . . . . . . . . . . . . . 181
Цифровая компетентность (Computational Thinking) . . . . . . . . . . . 184
Цифровая трансформация образования . . . . . . . . . . . . . . . . . . . . . . 185
Организация образовательного процесса . . . . . . . . . . . . . . . . . . . . 187
Результаты образования. Универсальные навыки . . . . . . . . . . . . . 189
Школьные предметы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 192
Нельзя игнорировать контрреволюцию . . . . . . . . . . . . . . . . . . . . . . 195
Исторические истоки, параллели и ассоциации . . . . . . . . . . . . . . . 197
4
Содержание
О стандартизации понятий и терминов,
связанных с искусственным интеллектом
(докт. юрид. наук, проф., Любимов А.П.) . . . . . . . . . . . . . . . . . . . . . . 201
Общие вопросы и направления стандартизации
понятийного аппарата в сфере применения
искусственного интеллекта . . . . . . . . . . . . . . . . . . . . . . . . . . . . . —
Правовые проблемы, возникающие в процессе
проектирования, производства и эксплуатации
технических средств с искусственным интеллектом . . . . . . . 203
Федеральный проект «Искусственный интеллект» . . . . . . . . . . . . 211
Отраслевая и функциональная стандартизация
понятийного аппарата . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212
Национальный стандарт в области больших данных . . . . . . . . . . . 219
Отраслевые и функциональные проблемы
искусственного интеллекта . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221
Организационные и гуманитарные проблемы
искусственного интеллекта . . . . . . . . . . . . . . . . . . . . . . . . . . . . 223
Аргумент Лукаса–Пенроуза–Гёделя и парадоксы
искусственного интеллекта
(докт. филос. наук, проф., Целищев В.В.) . . . . . . . . . . . . . . . . . . . . . . 227
70 лет тесту Тьюринга: может ли компьютер всё?
(докт. филос. наук, проф., Алексеев А.Ю.) . . . . . . . . . . . . . . . . . . . . . . 249
Комплексный тест Тьюринга в отношении
«человек — система ИИ» . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 253
Может ли система ИИ делать всё то,
что способен делать человек? . . . . . . . . . . . . . . . . . . . . . . . . . 255
Человек и системы особенного ИИ . . . . . . . . . . . . . . . . . . . . . . . . . 258
Тест Лавлейс 2.0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
Тест Лавлейс 3.0 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 261
Собирательный подход к системе общего ИИ . . . . . . . . . . . . . . . . 267
Определительный подход к системе общего ИИ . . . . . . . . . . . . . . 270
Наблюдательный подход к системе общего ИИ . . . . . . . . . . . . . . . 273
Праксеология отношений «человек — система ИИ» . . . . . . . . . . . 275
Приложение. Национальная стратегия развития
искусственного интеллекта на период до 2030 года . . . . . . . . . . . . 280
Список использованной литературы . . . . . . . . . . . . . . . . . . . . . . . . . . 301
5
CONTENT
Preface (Lektorsky V.A.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
Artifi cial Intelligence in Human Studies,
the Human being in the World, created
by Artifi cial Intelligence (Lektorsky V.A.) . . . . . . . . . . . . . . . . . . . . . . . . . 10
Artifi cial intelligence and society (Vassilyev S.N.) . . . . . . . . . . . . . . . . . . . . . 30
How modern digital technologies are changing perceptions
of the world around us (artifi cial society) (Makarov V.L.) . . . . . . . . . . . . 59
Law, artifi cial intelligence, digitalization (Khabrieva T.Y.) . . . . . . . . . . . . . 71
Issues of application of artifi cial intelligence technologies
and systems in the military sphere (Kokoshin A.A.) . . . . . . . . . . . . . . . . . 98
Challenges of Artifi cial Intelligence for Psychology
(Ushakov D.V., Valueva E.A.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107
Consciousness, brain, general artifi cial intelligence:
new strategic tasks and prospects (Dubrovsky D.I.) . . . . . . . . . . . . . . . . 128
Artifi cial and Natural Intelligence:
Meaning or Structures? (Chernigovskaya T.V.) . . . . . . . . . . . . . . . . . . . . 160
Extended personality as the main subject and subject
of philosophical analysis. Implications for education
(Semenov A.L., Ziskin K.E.) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 172
On standardization of concepts and terms related
to artifi cial intelligence (Lyubimov A.P.) . . . . . . . . . . . . . . . . . . . . . . . . . 201
The Lucas-Penrose-Goedel Argument and the paradoxes
of artifi cial intelligence (Tselishchev V.V.) . . . . . . . . . . . . . . . . . . . . . . . . 227
70 years of the Turing test:
Can a computer do everything? (Alekseyev A.Yu.) . . . . . . . . . . . . . . . . . 249
Application. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280
List of used literature . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301
6
ПРЕДИСЛОВИЕ
Сегодня человек живёт в особом, никогда раньше не существовавшем мире, в котором созданные им самим технологии ИИ заставляют его по-новому жить, иначе понимать самого
себя, в мире, в котором возникают новые возможности и новые
угрозы, в котором вопросы, обсуждавшиеся философами веками, требуют нового осмысления и, не переставая
ческими, становятся жгучими практическими проблемами.
Возникновение разработок в области ИИ побудило многих исследователей попытаться понять естественный интеллект на основании вычислительных моделей, разработанных в исследованиях
по ИИ. Так возникла когнитивная наука, развивающаяся на протяжении 50 лет, в которую вошли когнитивная психология, когнитивная нейронаука, когнитивная лингвистика, философия
сознания. В рамках когнитивной науки было сделано немало, при
этом за 50 лет в ней существенно менялись подходы и концепции.
Вместе с тем эта наука продолжает оставаться ареной для больших дискуссий по принципиальным проблемам, прежде всего
по вопросу о возможностях и границах вычислительного подхода в понимании рациональности, познания
и работы мозга. Главный из дискуссионных вопросов — вечный
философский вопрос о характере и природе сознания, человеческой субъективности, свободы выбора, понимания и творчества,
вопрос о природе норм — логических, познавательных, моральных, правовых, о взаимоотношении сущего и должного, ибо из
того, что нечто существует, не следует, что это должно
по себе вычислительные модели этих вопросов не решают.
Ускоряющееся использование систем ИИ во всех областях
жизнедеятельности — в информационных технологиях, в экономике, в оборонном комплексе, в культуре, в образовании, в человеческих отношениях — создало новые колоссальные возмож-
, психической жизни
быть теорети-
познания и
быть. Сами
7
Предисловие
ности и вместе с тем породило ряд проблем, несущих угрозу тем
ценностям, принятие которых делают человека человеком.
Это прежде всего ценность индивидуальной автономии, свободы выбора, понимание человеком смысла своих действий и
вытекающая из этого ответственность за результаты. В том случае, когда искусственная интеллектуальная система рекомендует
человеку определённые действия
, и к тому же когда он не может понять, на основании чего даётся такого рода рекомендация
(и система не понимает сама себя), он перестаёт воспринимать
себя в качестве самостоятельной личности.
Возможность обработки больших данных с помощью ИИ
и выявление таким путём эмпирических корреляций ставит вопрос о будущем научных
исследований: высказываются мнения
о том, что в этих условиях больше нет необходимости ни в гипотезах, ни в теориях, ни в экспериментах. Обнаруженные корреляции дают возможность предсказания без выявления причинных
зависимостей, без объяснения и понимания.
Использование систем ИИ в собирании и обработке персо-
нальных данных взламывает границу между приватным
и публичным пространством, создаёт возможность для манипуляции
и управления поведением.
Всемирная информационная сеть и «Интернет вещей» ставят проблему границ индивидуальности и сохранения этих границ. Юристы обсуждают вопросы о возможности наделения правосубъектностью систем ИИ и о т. н. «машиночитаемом» праве,
которое становится непонимаемым не только обычными гражданами, но и специалистами.
Словом, сегодня мир столкнулся с проблемой «дегуманизации». Исторически считалось, что именно разум, рациональность
отделяет человека от животного. Сегодня в лице систем ИИ человек имеет дело с такого рода рациональностью, которая нередко
ему чужда, в ряде случаев она непонятна и грозит ему лишением
фундаментальных человеческих качеств
.
Где же выход? Он может быть только одним: разработка
таких систем ИИ, которые не враждебны, а доброжелательны
в отношении человека, которые будут не хозяевами человека,
8
Предисловие
а его помощниками. Это значит включение в программы искусственных интеллектуальных системы моральных норм
(т. н. этичный и «доверенный» ИИ). Это предполагает разработку моральными философами и моральными психологами таких
норм, учитывая при этом, что нормы, принятые в разных культурах, могут в чём-то различаться, что существуют, например,
разногласия в понимании социальной справедливости, политических свобод и других ценностей.
Иными словами, разработка и использование систем ИИ
ставит человека перед необходимостью нового понимания самого себя, своих возможностей и границ, перед необходимостью
самосохранения и создания возможностей для саморазвития.
Развитие систем ИИ в острейшей форме ставит главный мировоззренческий вопрос: «Что
есть человек?».
Статьи этой книги написаны специалистами в разных областях, входящих в общее направление когнитивных исследований: специалистами в области искусственного интеллекта,
философами, математиками, психологами, исследователями
в области нейронаук, экономистами, юристами. Все авторы —
члены Научного Совета по методологии искусственного интеллекта и когнитивных исследований при Президиуме Российской
Академии Наук.
Авторы развивают разные подходы, их позиции
не во всём совпадают. В целом эта книга — попытка разобраться
в одной из острейших проблем нашего времени.
Председатель Научного совета
по методологии искусственного интеллекта
и когнитивных исследований при президиуме
Российской академии наук,
академик РАН В.А. Лекторский
9
Лекторский В.А.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
В ИЗУЧЕНИИ ЧЕЛОВЕКА,
ЧЕЛОВЕК В МИРЕ, СОЗДАВАЕМОМ
ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ
Возникновение области исследований и разработок, получившей название «искусственный интеллект», относится к середине XX века. Имелась в виду возможность искусственного
воспроизведения интеллектуальных операций человека. С самого начала по этому вопросу существовали разные мнения. Одни
считали, что лишь некоторые из естественных интеллектуальных
действий могут быть воспроизведены искусственно. Но были
энтузиасты, которые утверждали, что не только мышление, но
и все познавательные процессы и даже все психические состояния могут быть имитированы искусственным образом. С тех пор
прошло более полувека. В разработках моделей искусственного
интеллекта получены большие результаты. Хотя споры о возможностях искусственного воспроизведения того, что всегда считалось
отличительной особенностью человека — его разумности
и сознания, не утихают. Вместе с тем использование систем
искусственного интеллекта для решения экономических, соци-
1
и
*
*
Лекторский Владислав Александрович — академик РАН, главный научный
сотрудник Института философии РАН. Председатель Научного совета по методологии искусственного интеллекта и когнитивных исследований при президиуме
РАН.
Lektorsky V.A. — Full member of the Russian Academy of sciences, Principal
researcher, Institute of Philosophy, Russian academy of sciences.
10
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]