Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Человек и системы искусственного интеллекта
.pdf
Искусственный интеллект в изучении человека…
память
1
. Но идущая сегодня цифровизация памяти создаёт
принципиально новые возможности для вмешательства в человеческую жизнь. Ведь действия человека оставляют цифровые
следы, которые доступны внешним инстанциям, способным его
контролировать. В некоторых странах передвижения, человеческие контакты, разговоры уже сегодня регистрируются и оцениваются в баллах, в соответствии с которыми предоставляются те
или иные жизненные блага или накладываются санкции.
Если ваша опредмеченная память попадает в общее публичное пространство, она становится достоянием других людей,
о которых вы не знаете. Они могут обращаться с ней, не спрашивая вашего разрешения и не считаясь с вашими интересами.
Сегодня нередко фотографии, помещённые в Инстаграм, используются
другими людьми без ведома тех, кому они принадлежат, и даже во вред им. Но если ваша опредмеченная память
в виде фотографий, видеороликов или аудиозаписей — это не
что иное, как объективированная часть вашей личности, важная
составляю щая вашей идентичности, то это значит, что другие
люди могут манипулировать вами, вашей идентичностью и
ва-
шей памятью и посягать на вашу автономию.
Сегодня с помощью цифровых манипуляций легко создавать
фотографии таких событий, которых в действительности не было.
Создаются особого рода «цифровые памятники» ушедших людей, в которые включаются написанные ими тексты, фотографии,
видео ролики, аудиозаписи. Самое интересное в том, что можно,
некоторым образом, взаимодействовать с
этой оцифрованной
памятью и даже вступать в особого рода «переписку» с покойным.
Большинство людей ведут записи о событиях собственной
жизни с помощью смартфонов (цифровые фотографии с указанием дат их создания), блогов, участия в социальных сетях.
Популярна программа Life Log, которая позволяет не только
фиксировать время вашего сна и количество сделанных за
день
шагов, но также места вашего пребывания и проделанный путь.
1
Dennett D. Consciousness Explained. Basil Bay Books. N-Y., Boston. L. 1991.
Р. 418.
21
Лекторский В.А.
Представим себе, что в недалёком будущем вы будете записывать цифровым способом все события вашей жизни (есть немало
энтузиастов этой идеи). Кажется, что это позволит объективно сохранить память о себе и передать её потомкам. Представляется,
что таким путём вы можете как бы обессмертить себя, продолжать
вечно существовать на цифровом носителе
в сознании тех, кто будет жить после вас. Но оказывается, что между памятью, сознательно переживаемой вами, и вашей памятью, оцифрованной и вынесенной во вне, существует серьёзная разница, и это создаёт ряд
проблем. Дело в том, что каждое воспоминание о событии вашей
жизни не похоже на предыдущие воспоминания
о том же событии.
Ибо ваша жизнь постоянно меняется, и то, что происходило, всякий раз осмысливается в новом контексте. Но если память о чёмто записана в цифровом виде, то это сделано жёстким способом, и
само по себе обращение к памяти не может в ней ничего изменить.
Это «неживая» память
, она как бы отделяется от вас и выступает
как нечто внешнее. Есть ещё одна проблема. Вы оживляете в виде
воспоминаний только то, что для вас важно и нужно сейчас. Но
оцифрованная память не обладает таким свойством. Она навязывает вам то, что в данный момент вам не нужно, о чём
вы не хотели бы сейчас вспоминать, а, возможно, вообще хотели бы забыть.
К тому же в этой памяти слишком много всего записано. И это не
помогает вам жить, а сковывает вас. У этой памяти есть ещё одна
неприятная особенность. Если ваши воспоминания вынесены
в глобальное цифровое пространство (существуют в виде
файлов
в Интернете, записей в блогах, фотографий в Инстаграме), то возникает возможность взламывания вашего цифрового архива и подделки воспоминаний. А если вы привыкли к жизни в цифровом
мире и стали больше полагаться не на те воспоминания, которые
всплывают в сознании, а на те, которые оцифрованы, то начнёте
принимать
подделанные воспоминания за то, что происходило с
вами на самом деле, т. е. начнёте жить не своей жизнью, а той,
которая кем-то искусственно создана за вас
1
.
1
Michaelian K. Is external memory memory? Biological memory and extended
mind // Consciousness and cognition. 2012. 21, 1154–1165.
22
Искусственный интеллект в изучении человека…
Вы перестаёте быть владельцем информации о своей жизни и её хозяином. Ваше личное пространство оказывается как
бы взломанным, и вы становитесь предметом управления со
стороны других людей. Современный немецкий исследователь М. Майер — Шёнбергер в книге с характерным названием
«Удалить: ценность забвения в цифровую эпоху» считает, что
впервые за
свою историю человечество вступает в такую стадию,
когда возникла возможность существования «вечной памяти»
без забвения, и это серьёзная угроза индивидуальной автономии
и частной жизни, всему человеческому в человеке
1
.
Намерение приобрести с помощью цифровизации невиданную свободу оборачивается тем, что человек перестаёт понимать
окружающий мир и самого себя, теряет автономию, попадает
в рабство к искусственному интеллекту.
Зато с помощью последнего возможен анализ т. н. «больших
данных», что не в силах сделать естественный интеллект. На
основе такого анализа делаются успешные
предсказания в тех
областях жизни, которые до недавних пор были полны неопределённости: сферы бизнеса, администрирования, здравоохранения. Обработка «больших данных» сегодня используется в ряде
естественных, социальных и гуманитарных наук: биологии, социологии, лингвистике, литературоведении, истории искусства
и др. Появился даже термин “Digital Humanities” — «цифровые
гуманитарные науки»
2
. Некоторые философы стали писать о том,
что наступил «конец теории», ибо вместо выдвижения теоретических гипотез, которые должны определённым путём сопоставляться с экспериментальными фактами (что непросто и в интеллектуальном, и в финансовом отношении) можно прибегнуть к
машинной обработке огромного массива данных и выявить корреляции, существующие между раз
ными данными
3
. В этой связи
1
Meyer-Schonberger V. Delete: the virtue of forgetting in the digital age. Princeton:
Princeton University Press, 2011.
2
Цифровая культура // Международный журнал исследования культуры. 2012.
СПб.
3
Anderson S. The End of Theory // Wired. June 2008.
23
Лекторский В.А.
популярен тезис о том, что большие данные «говорят сами за
себя», что в философской теории познания должен произойти
новый возврат к эмпиризму на основе понимания познания как
вычислительной обработки больших массивов информации.
Но что это значит с точки зрения познания и знания?
В этой связи я хочу обратить внимание на два
обстоятельства.
Первое. Научную теорию невозможно непосредственно вывести из эмпирических данных, сколь не было бы велико их количество. Это связано с тем, что теория строится на основе некоторых
идеализаций и идеального экспериментирования. Так, например,
одно из основоположений классической механики, возникновение
которой означало начало современной науки, гласит, что любое
тело,
на которое не оказывается никакое внешнее воздействие,
либо покоится, либо движется бесконечно, прямолинейно и равномерно. Очевидно, что ничего подобного в опыте в принципе не может наблюдаться. Однако же именно на основе этой и некоторых
других идеализаций было построено здание классической механики, с помощью которой стало возможно не только
понять опытные
данные, но и делать успешные предсказания и создавать новые
технические устройства. Если бы в XVII и XVIII вв. существовали
способы цифровой обработки массива «больших данных», и они
использовались бы вместо построения теорий, ясно, что никакой
науки в нашем смысле слова мы не имели бы.
Правда, как я отметил, некоторые философы
считают, что
возникновение способов машинной обработки «больших данных» как раз и означает «конец теории». Согласно этой точке
зрения научная теория отныне не нужна: искусственный интеллект может хорошо делать предсказания, обходясь без всяких таких построений.
Но в этой связи я хочу обратить внимание на второе обстоя-
тельство для понимания
того, каким становится познание и зна-
ние в такой ситуации.
Дело в том, что даже если можно делать хорошие прогнозы на
основе обработки «больших данных» с помощью искусственного
интеллекта (а это действительно делается), то для человека такой
прогноз часто является неожиданным. В отличие о того, что имело
24
Искусственный интеллект в изучении человека…
место в отношении предшествующих технических устройств, поведение систем, работающих на базе искусственного интеллекта,
неопределенно и непредсказуемо для человека. Цифровая технология выходит из-под его контроля. Прогнозы, производимые на
основе анализа «больших данных» и основанные на обнаружении
корреляций между разными группами событий, как правило, не
выявляют причинных зависимостей, не
содержат объяснений и
поэтому не помогают понять того, что происходит и почему нечто
ожидается
1
. До сих пор возможность справиться с неопределён-
ностью предполагала получение контроля над ситуацией, а это,
в свою очередь, означало понимание существующих причинных
зависимостей. Именно на основе понимания таких зависимостей
можно создавать технические устройства, которыми человек может управлять и с помощью которых он способен контролировать
результаты своих действий. А в
случае цифровой обработки «больших данных» с целью предсказаний человек оказывается в положении слуги, который должен выполнять идущие от хозяина предписания, смысла которых он не понимает (правда, их смысла не
понимает и сам искусственный интеллект). Для человека жизнь не
становится более определённой, но положение автономного деятеля он утрачивает
, а жизнь его обессмысливается.
Теперь о том, что я должен делать в эпоху глобальной циф-
ровизации.
Очевидно, что в таких условиях, когда вы теряете индивидуальную автономию, не вы будете решать, что нужно делать:
именно умные технические устройства будут предписывать вам
эти решения. Хочу обратить внимание ещё на некоторые связанные с этим обстоятельства.
На основе анализа «больших данных», собранных о поведении некоторого человека, умная машина может предсказать большую вероятность совершения им противоправного поступка,
а может быть, даже преступления. Возникает большой соблазн
1
Мейер-Шенбергер В., Кукьер К. Большие данные. Революция, которая из-
менит то, как мы живём, работаем и мыслим. М.: Изд. «Манн, Иванов и Фербер»,
2014.
25
Лекторский В.А.
использовать эти предсказания для предотвращения нежелательных (а, может быть, даже весьма опасных) событий. В интересах общественной безопасности определённые инстанции могут
решить, что не нужно дожидаться, когда этот человек совершит
опасный поступок: нужно помешать ему сделать это, т. е. арестовать его. Но ведь подобные действия подрывают тот принцип,
который
лежит в основе всей нашей культуры и всей правовой
системы: человек отвечает только за те действия, которые он совершил, а не за то, что он мог бы сделать, так как обладает свободой воли, т. е. в любой ситуации может поступить так или подругому. Отказ от принципа свободы
воли ломает все представления об индивидуальной самостоятельности и ответственности.
Нужно, однако, иметь в виду, что рост рискованных ситуаций и
вместе с тем возможность с помощью анализа «больших данных» прогнозировать поведение не только больших масс людей,
но и отдельных индивидов, может соблазнить контролирующие
инстанции: толкнуть их к тому, чтобы пожертвовать
принципом
свободы воли и тем самым отказаться от одного из коренных условий человеческого бытия.
Наконец, на что же можно надеяться в этой ситуации.
Некоторые адепты глобальной цифровизации предлагают такую надежду. Они исходят из того, что человеческая личность —
это не что иное, как некоторый массив информации, записанный
в мозгу
с помощью цифровых кодов. В недалёком будущем, считают они, будет можно расшифровать эту информацию и, если
ваше тело состарилось, то информация о вас будет перенесена
на другое тело, более молодое, а когда состарится и это тело, подобную операцию можно будет повторить. И так далее до бесконечности. Есть и
более радикальное предложение: переносить
информацию о вас не на человеческое тело, а на цифровой носитель, который практически не стареет. Это значит, что вы будете
жить вечно. Тем самым, говорят сторонники этой идеи, будет
осуществлена всегда владевшая людьми мечта о бессмертии.
Это будет «цифровое бессмертие». Сегодня в мире существует
немало людей (физики, нейроучёные, психологи, философы,
футурологи), которые не только верят в подобную возможность,
26
Искусственный интеллект в изучении человека…
но и пытаются вести практическую работу в этом направлении.
На сайтах футурологов даже указывается, когда примерно осуществится «цифровое бессмертие» — считается, что это произойдёт уже в этом столетии.
Между тем эта идея сомнительна и опасна.
Попробую показать, почему.
Начну с того, что даже если считать человеческую лич-
ность массивом информации
, то нужно иметь в виду, что важнейшей частью этой информации является представление человека о самом себе — то, что называется «образом Я» (или
«Я-концепцией»). А в этот образ входит представление о собственном теле. Конечно, тело каждого человека меняется — стареет, подвергается увечьям, возможно даже, что некоторые его
части заменяются протезами. Но в любом случае представление
о собственном теле и о непрерывном ряде его изменений — неотъемлемая часть «образа Я». Ведь именно с этим телом, которое находилось в те или иные моменты времени в том или ином
месте и с помощью которого человек вступал в контакты с
другими, связана его жизнь, его автобиографическая память, являющаяся основой индивидуальной идентичности. Если бы даже
удалась пересадка индивидуальной психики на другой носитель
(хотя это вряд ли осуществимо), то идентичность не удалось
бы сохранить: возник бы другой человек (в известном рассказе
Кафки «Превращение» описываются драматические переживания героя, который однажды
обнаружил, что его «Я» пересажено
в тело какого-то другого существа).
Но дело не только в этом. Если бы человек стал бессмертным, он перестал бы быть человеком. Ибо в таком обществе
потеряли бы смысл важнейшие ценности, делающие человека
человеком: забота о ближних, самопожертвование, мужество, сострадание. Утрата смысла смерти ведёт
к утрате смысла жизни.
Если бы «цифровое бессмертие» было возможно, нас ожидало
бы не райское блаженство, а муки ада
1
.
1
Лекторский В.А. Возможно ли постчеловеческое будущее? // Философия, по-
знание, культура. М.: Канон-плюс, 2012.
27
Лекторский В.А.
И — самое главное — не следует забывать, что даже если бы
удалось осуществить «цифровое бессмертие», как об этом мечтают некоторые футурологи, в ситуации глобальной цифровизации
жизни человек в любом случае оказался бы управляемым и контролируемым сверхмощным искусственным интеллектом. Если
бы в этом случае у него осталось что-то человеческое, вряд
ли он
захотел бы такого бессмертия.
Выходит, что в этих условиях надеяться не на что.
В этой связи я хочу обратить внимание на ещё одно важное
обстоятельство.
Дело в том, что цифровизация и искусственный интеллект
нередко понимаются как способ справиться с риском неопределённости — а последняя сегодня растёт, как об
этом ещё раз
свидетельствует вспышка эпидемии коронавируса. Кажется,
что с помощью технических устройств можно в принципе контролировать протекание всех процессов в природе и обществе,
влиять на них и направлять в желательное для человека русло.
Но, как ясно сегодня, контролировать можно отнюдь не все процессы и не во всех случаях
. Когда имеются сложно организованные и развивающиеся системы — а это большинство природных и социальных систем, то в тех ситуациях, когда последние близки к т. н. точке бифуркации, нельзя точно предсказать
их поведение: можно только строить несколько сценариев их
будущего, при этом степень вероятности того или иного сценария
меняется по ходу дела. Но это значит, что сколь бы ни была
развита вычислительная техника и сколь угодно большими
ни были бы возможности искусственных интеллектуальных
систем, нельзя в принципе преодолеть неопределённость
в предсказании будущих событий. А это значит, что никакая
технология не создаёт возможность управления процессами некоторого рода.
Наш
известный учёный и философ Н.Н. Моисеев специально выделял процессы, которыми можно управлять, и такие,
которые можно только направлять, т. е. создавать условия, способные влиять на ход этих процессов в сторону, благоприятную
28
Искусственный интеллект в изучении человека…
для человека — при этом никогда не будет полной уверенности
в том, что процесс пойдет именно в желаемом направлении
1
.
Цифровизация не помогает уйти от неопределённости.
Это не может делать никакой сверхмощный искусственный
интеллект. Неопределённость наряду с определённостью заложена в самой структуре мироздания. И это неплохо, ибо если бы
всё было жёстко определено, невозможно было бы то, что человек считает наиболее ценным: творчество, диалог, любовь, моральный поступок.
Сегодня человечество стоит перед лицом антропологических вызовов. Многие из них связаны с глобальной цифровизацией на основе использования систем искусственного ин теллекта. Цифровизация приносит немало благ, решает множество проблем, но также может создавать угрозы самому бытию человека.
А это значит, что предлагаемые в рамках цифровизации проекты
нуждаются в
серьёзной философской экспертизе, направленной
на гуманизацию информационных технологий и на культивирование высших человеческих ценностей: свободы, личной автономии, достоинства, идентичности, творчества, понимания, взаимопонимания
2
. Философия бывает максимально востребована
в периоды культурных и познавательных кризисов. Мы переживаем именно такое время.
1
Моисеев Н.Н. Судьба цивилизации. Путь разума. М.: Языки русской культу-
ры, 2000.
2
Фролов И.Т. Прогресс науки и будущее человека. М.: Политиздат, 1975;
Лекторский В.А. Человек и культура. СПб.: Изд-во Санкт-Петербургского универ-
ситета профсоюзов, 2018.
29
Васильев С.Н.
*
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ОБЩЕСТВО
1
Рассматриваются проблематика искусственного интеллекта,
эволюция разработок и их интеграция на базе логических и нейросетевых технологий. Обсуждаются влияние искусственного
интеллекта и цифровых технологий на общество и их значение
для экономики, экологии и противодействия природным, техногенным и другим угрозам. Акцентируется роль искусственного
интеллекта и роботизации в реиндустриализации восточных и
других регионов
страны и значение цифровых технологий для
перехода цивилизации к ноосферному состоянию с приоритетами науки и информации, как ресурсов развития, над энергией и
веществом и с главенством духовно-нравственных ценностей.
Введение. Настоящее и будущее «цифровизации» среды жиз-
недеятельности человека сегодня связываются с IT-технологиями
в области искусственного интеллекта (ИИ), с проектами
телемедицины, умного дома-города-общества и т. п. Пандемия с коронавирусом и нарастание инфодемии обратили мир в новую
реальность, обнажив слабые и сильные стороны государств, их
конституционных строев, социальных, научно-технологических,
экономических и экологических моделей развития. Пандемия
Covid-19 — первая глобальная эпидемия в эпоху социальных
*
Васильев Станислав Николаевич — академик РАН, Институт проблем
управления им. В.А. Трапезникова РАН, г.н.с., заместитель председателя Научного совета при Президиуме РАН по методологии искусственного интеллекта и
когнитивных исследований, Москва.
Vassilyev S.N. — academician of the Russian Academy of Sciences, Trapeznikov
Institute of Сontrol Sciences of RAS, chief researcher.
30
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]