Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Сильный искусственный интеллект и объектно-ориентированное программирование синтез парадигм
.pdf
нившиеся условия, следования консервативным или моральнонравственным традициям или по любой иной причине, прекращают свое существование из-за высокой себестоимости оказания услуг, недостаточного для современности уровня сервиса
и, как следствие, обесценивающихся активов. Гонка вооружений
в сфере бизнес-технологий становится все более изощренной
и скоротечной, а темпы ее растут, видимо, в геометрической
прогрессии.
Несмотря на все достижения сферы интеллектуальных технологий в медицине, экономике, науке, военном деле, компьютерном зрении и прочих областях, следует понимать, что здесь
имеется в виду только слабый ИИ. Применение же данных систем носит сугубо прикладной, прагматический характер и не
отличается фундаментальными амбициями. Осмыслив в целом
ситуацию относительно систем слабого ИИ, целесообразно отметить, что слабый ИИ представлен сугубо узконаправленными
практико-ориентированными технологиями, реализующими при
помощи тех или иных методов и средств символические и знаковые задачи, имитирующие человеческую деятельность, и направленными на облегчение повседневной жизни человека. Про
феномен искусственного разума, про методы и средства его генерирования в рамках интеллектуальной системы не идет речь
в случае с разработкой систем слабого ИИ. Все системы слабого
ИИ для концептуального удобства целесообразно будет определить как лого-машины.
В случае же с примерами систем сильного ИИ, о которых
Джон Сёрл сказал, что они должны обладать разумом «в том же
смысле, в котором человеческий разум – это разум» [61, с. 7], как
и с определением сильного ИИ как такового, уместно заметить,
что примеры подобных систем отсутствуют, а концепты крайне
расплывчаты. Рассмотрение систем сильного ИИ позволяет заметить, что примеры его самореализации на почве материального субстрата можно обнаружить лишь в фантастической литературе и продуктах киноиндустрии, в противовес слабому ИИ,
примеров внедрения которого в нашу повседневную жизнь привести можно, как было показано, великое множество. С сильным
21

ИИ все обстоит несколько сложнее. В сущности, никто не в курсе, что он есть такое. И если фильмы и книги о разумных машинах не одну тысячу раз выходили из-под пера и кинокамеры авторов-создателей, то среди футурологов и ученых, работающих
в сфере ИИ, интеллектуальная продукция не столь разнообразна. Если и дозволяются какие-либо прогнозы и комментарии, то
эти высказывания носят, опять же, бессистемный и теоретически разрозненный характер, а также отдают некой опаской за
судьбу человечества в случае создания сильного ИИ и открытой
фантастичностью.
Стоит заметить, что все предостережения выдающихся деятелей науки, политики, экономики и прочих значимых областей
человеческой деятельности относительно опасности, которую
несет в себе ИИ, относительно неоднократно экранизировавшегося во всех возможных ипостасях «восстания машин» и прочих
апокалиптических сценариев, связанных с конфликтом человечества и технологий, касаются исключительно сильного ИИ.
Тогда как опасения по поводу повсеместности и всепроникновения систем слабого ИИ связаны не с возможностью открытой
конфронтации, а с опасностью нарушения границ частной жизни, недостатком рабочих мест и прочих социально значимых, но
не апокалиптических сценариев развития событий.
Так, к примеру, упоминавшийся Илон Маск приравнял создание сильного ИИ к вызову демона, которого невозможно будет
контролировать [80]. Также руководитель управления машинного интеллекта и исследований компании «Яндекс» Михаил Биленко говорит о том, что у человечества должен быть «рубильник, которым можно выключить ИИ», и о том, что ИИ уже
«повсюду нас окружает» и «к апокалипсису нужно готовиться
еще с детства» [81]. Свой скепсис и опасения Маск, Биленко
и многие другие исследователи разделяют со шведским философом, профессором Оксфордского университета Ником Бостромом,
чью последнюю книгу Superintelligence: Patlis, Dangers, Strategies
Илон Маск посоветовал своим подписчикам в твиттере. Пока некоторые футурологи предвещают людям комфортное будущее
в результате повсеместной замены человеческого труда машин-
22

ным, Ник Бостром видит в искусственном интеллекте угрозу
существования всего человеческого вида. Он говорит по этому
поводу следующее: «Во многих областях деятельности уровень
искусственного интеллекта уже превосходит уровень человеческого. Появились системы, способные не только вести логические игры, но и одерживать победы над людьми. Приведенная…
информация об отдельных игровых программах демонстрирует,
как разнообразные виды ИИ побеждают чемпионов многих турниров» [82, с. 35]. По поводу самообучающихся систем Ник Бостром считает, что «для нас важно создать ИИ, у которого хватит ума учиться на своих ошибках» [82, с. 60]. Также Бостром
высказывает следующее мнение: «ИИ может быть менее человечен, чем пришелец. Нет ничего удивительного, что любого разумного пришельца могут побуждать к действию такие вещи, как
голод, температура, травмы, болезни, угроза жизни или желание
завести потомство. ИИ, по сути, ничто из перечисленного интересовать не будет. Вряд ли вы сочтете парадоксальной ситуацию, если появится какой-нибудь ИИ, чьим единственным предназначением, например, будет: подсчитать песчинки на пляжах
острова Боракай; заняться числом π и представить его, наконец,
в виде обыкновенной десятичной дроби; определить максимальное количество канцелярских скрепок в световом конусе будущего» [82, с. 171–172].
С другой стороны, создатель и CEO Facebook Марк Цукерберг считает высказывания подобного рода «крайне безответственными» и упрекает их авторов в непонимании самой сути
вопроса: «ИИ в будущем сделает нашу жизнь лучше», – сказал
Цукерберг, отвечая на вопрос пользователя Facebook. Он подчеркнул, что выступает против распространения домыслов об
опасности ИИ: «У меня есть четкая позиция по этому поводу,
я настроен оптимистично. Я думаю, что вы можете создавать
вещи, которые сделают мир лучше. Но в случае с ИИ я особенно
оптимистичен... И я думаю, что эти люди просто проявляют
скептицизм, рассуждая о сценариях конца света. Это имеет негативный эффект, я на самом деле думаю, что это очень безответственно», – пояснил он [83]. Бизнесмен отметил, что новые
23

технологии всегда могут быть использованы и для того, чтобы
творить зло, и для того, чтобы творить добро. По его мнению,
позитивный эффект от массового распространения ИИ мы увидим уже в течение 5–10 лет.
Актуально также снова привести мнение Стивена Хокинга,
согласно которому создание сильного ИИ может быть величайшим открытием человечества, но также и последним [84]. C другой стороны, Макс Версаче, генеральный директор компании
Neurala, которая создает программное обеспечение, основанное
на технологиях ИИ, полемизируя с Илоном Маском, написал колонку для издания Venture Beat [85]. Версаче определил четыре
направления, в которых искусственный интеллект не спровоцирует апокалипсис на Земле, а, наоборот, спасет человечество.
«ИИ сделает нас честными. Мой первый аргумент заключается
в следующем: создание этических норм для ИИ заставит человечество также пересмотреть свои устои. Поскольку мы определяем правила игры для ИИ, мы будем вынуждены играть по ним
сами. ИИ поможет нам придерживаться наших собственных
стандартов – он будет всезнающим и вездесущим. ИИ устра нит
наши предубеждения» [86].
Целесообразно во многом согласиться со всеми вышеперечисленными деятелями, в том числе с Ником Бостромом и положениями его книги «Искусственный интеллект», кроме того
аспекта его мнения, в котором он доходит до агитации человечества к обретению тотального контроля над технологиями вообще и интеллектуальными технологиями в частности. В этом
смысле несколько целесообразнее принять интерпретационную
позицию Марка Цукерберга и Макса Версаче. По сути, данный
вопрос является куда более фундаментальным, чем просто футуристская попытка человечества выжить рядом с той угрозой,
которую оно само себе создает. Тематика сильного ИИ (ввиду
особенностей самого объекта) в первую очередь экзистенциальна, а затем уже технологична и прагматична. Априори видеть
угрозу со стороны сильного ИИ – не лучшее решение на пути
к его созданию. И в тотальном контроле за ИИ также видится не
возможность спасения человечества, а тормозяший «якорь» на
пути интеллектуального (и экзистенциального) прогресса.
24

В контексте сильного ИИ ради концептуального удобства
целесообразно назвать системы подобного рода психо-машинами. И когда в нашем дискурсе речь идет о разработке сильного
ИИ, то он никогда не подразумевается в единственном числе,
а всегда в контексте сильных «субъективных ИИ». И каждый из
них, в соответствии с нашим подходом, должен быть субъективным, уникальным и неповторимым. Также на основе вышесказанного целесообразно сделать некоторые выводы и ввести
определенные понятия. Сильный ИИ – система, обладающая технотропной* психикой и технотропным сознанием. В широком
смысле технотропная психика – субъективное отражение системой объективной действительности. В узком смысле – неотъемлемое качество психо-машины, являющееся критерием наличия
сильного ИИ в контексте отдельной системы и служащее для
взаимодействия технотропного субъекта (интеллектуального
агента) с технотропной средой, для самотрансформаций системы
и изменения самой системой этой среды. Технотропное сознание – высшая стадия развития технотропной психики, обеспечивающая системе способность к рефлексии и самосознанию.
Сильный ИИ на данный момент не создан. Также не существует известных методов и средств его создания и интерпретации его проявлений. И если системы слабого ИИ пошли по пути
имитирования частных человеческих функций с целью облегчить повседневную жизнь человека, то конечной целью сферы
сильного ИИ является создание существа, обладающего технотропной психикой, технотропным сознанием, мышлением, способностью к коммуникации и т. д. Сфера слабого ИИ – сугубо
прикладная, сфера сильного ИИ – фундаментальная вследствие
поднимаемых в ее рамках вопросов, влияния ее разработок на
человеческое существование и на основные мировоззренческие
установки.
Также целесообразно заметить, что разработки в области систем слабого ИИ всегда являются узконаправленными в прикладном смысле, т. е. конкретная лого-машина всегда разраба-
* Технотропность – это эйдос техники, так же как антропность – эйдос
человека; это сущность технического субстрата, сама его идея.
25

тывается под конкретную и определенную частную задачу, будь
то компьютерное зрение, задачи классификации, коммуникативное имитирование, игровой ИИ или любые иные. Данный
специализированный подход к разработке интеллектуальных
технологий не является новым. Он был принят за основу еще
в 80-е гг. ХХ в., на фоне разочарования в искусственном интеллекте из-за невозможности сформировать человекоразмерную*
машину. Данный вектор разработок ИИ ставит своей целью не
генерирование систем сильного ИИ, а сосредоточение разработчиков на целях и задачах сугубо узкоспециализированной практической направленности. Системы, сформированные в рамках
данного направления, не претендуют на человекоразмерность,
и разработчики не скрывают этого. Именно поэтому, из-за различий в целях, задачах, предназначении и восприятии со стороны социума, векторы разработки систем слабого и сильного ИИ
целесообразно обозначить как дивергентные. Как было сказано
выше, не существует общепринятого метода создания сильного
ИИ, но есть некоторые области, в которых реализуются «подводящие» исследования.
Выводы по главе 1
В главе рассмотрены генеалогические аспекты ИИ в целом
и конкретизирована предметная область исследований в контексте наличия базовых проблем. Указано на отсутствие единых
оснований для разработки систем ИИ, на существенный разрыв
между теорией и практикой и отсутствие критериев сильного
ИИ. В контексте исследования генеалогической составляющей
ИИ путь был прослежен от работ Р. Декарта до разработки технологии ChatGPT. Было показано влияние на общий контекст
парадигмы ИИ таких феноменов, как Жаккардовый станок, лямбдаисчисление и гипотеза Ньюэлла – Саймона. Представлены различные подходы к определению того, что должно пониматься
* Человекоразмерность в контексте данной работы подразумевает уровень
развития субъекта (безотносительно природы этого субъекта), как минимум
равный человеческому.
26

под ИИ, – от достаточно узкого интерпретирования до весьма
расплывчатого.
В результате мы пришли к выводу о том, что на данный момент можно выделить два направления развития ИИ. Первое –
это уподобление человеческому разуму. Для данного подхода
критерием успешности разработки систем ИИ служит схожестьнесхожесть с аналогичными человеческими показателями. Второе направление можно обозначить как генерирование рационального искусственного «разума». Для данного подхода ключевой задачей является генерирование разума в принципе, не
обязательно подобного человеческому, но обязательно «мыслящего» конструктивно, продуктивно и целесообразно.
Нами полагается, что одним из наиболее значимых событий
в истории парадигмы ИИ стала демаркация целостной сферы
ИИ на слабый и сильный ИИ, которая была осуществлена Джоном Сёрлом и впервые представлена в его работе «Китайская
комната». Теория сильного ИИ предполагает, что компьютеры
могут приобрести способность мыслить и осознавать себя, хотя
и не обязательно их мыслительный процесс будет подобен человеческому. Теория слабого ИИ отвергает такую возможность.
Далее мы приходим к выводу о том, что на данный момент реально воплощены только системы слабого ИИ, а насчет сильного у многих исследователей и руководителей глобальных корпораций имеются зачастую прямо противоположные мнения. Т. е.
данная сфера единством не отличается.
Далее мы, ввиду специфики проблемного поля сильного ИИ,
предлагаем называть системы подобного рода психо-машинами.
В свою очередь системы слабого ИИ, которыми и представлен
ИИ на данный момент, мы предлагаем называть лого-машинами. Далее делаются выводы о том, что (так как это все же должен быть разум) сильный ИИ – это система, обладающая технотропной психикой и технотропным сознанием. Технотропную
психику мы определяем как субъективное отражение системой
объективной действительности и неотъемлемое качество психомашины, являющееся критерием наличия сильного ИИ в контексте отдельной системы и служащее для взаимодействия тех-
27

нотропного субъекта с технотропной средой, для самотрансформаций системы и изменения самой системой этой среды. Тех нотропное сознание – высшая стадия развития технотропной
психики, обеспечивающая системе способность к рефлексии
и самосознанию.
Сама технотропность, как некое фундаментальное качество
техники, противопоставляется антропности, как базовому свойству человека. И ввиду существенных различий между лого-машинами и психо-машинами как в онтологическом смысле, так
и в генеалогическом парадигмы сильного и слабого ИИ признаются нами дивергентными.

Глава 2
ИСКУССТВЕННЫЕ НЕЙРОННЫЕ СЕТИ
КАК ЧАСТНЫЙ СЛУЧАЙ ИНТЕЛЛЕКТУАЛЬНЫХ
СИСТЕМ
При разработке искусственных нейронных сетей в качестве
некоего эталона используется нервная система человека и специфика ее функционирования. Отсюда видно, что влияние нейронауки и смежных дисциплин на сферу разработки интеллектуальных технологий также достаточно велико. На современном
этапе получили распространение многие теории, концепции
и подходы, объясняющие природу функционирования нервной
системы и образующихся на ее основе психических функций:
электромагнитная теория мозга и сознания, гиперсетевая теория мозга и сознания К. В. Анохина, квантовая теория сознания
Р. Пенроуза, концепция Д. Деннета, Д. Чалмерса и многие другие.
Тем не менее, даже с учетом всего этого, является не вполне
возможным полностью в точности воссоздать даже некоторые
элементарные особенности человеческого головного мозга в контексте развития систем ИИ. К примеру, ни в одной из искусственных нейронных сетей в саму модель не встроены так называемые зеркальные нейроны неокортекса, которые предположительно служат биологической основой таких феноменов
человеческой психики, как самосознание, идентификация, отождествление, являющиеся необходимым механизмом для успешного прохождения человеком «стадии зеркала» и, по Лакану,
формирования самосознания в целом, для гармонического развития человеческой личности – такой, какой мы ее знаем. Также
далеко не все исследователи поддерживают идею о том, что для
формирования ИИ совершенно необходимо досконально изучить структуру человеческого мозга. И не во всех системах ИИ
используется теоретическая опора на человеческий мозг (к при-
29

меру, квантовый компьютер), а напротив, ИИ аппроксимирует
интеллект человеческий, порой вне зависимости от самого субстрата реализации своего потенциала.
На актуальном этапе развития интеллектуальных технологий нейросети являются наиболее разумным, в Сёрловом понимании машинного разума, механизмом. В целом нейросети, как
пример систем слабого ИИ – лого-машин, не являются подлежащими нашей исследовательской тематике, так как нам в первую
очередь важны философско-методологические аспекты построения систем сильного ИИ. Однако те противоречивости, которые
допускались исследователями и разработчиками в контексте
формирования систем слабого ИИ, также могут быть для нас
в некотором роде значимы, дабы их не дублировать.
Искусственная нейронная сеть – это аппаратно-программное воплощение того, что понимается исследователями и разработчиками под нервной системой. Формирование нейросети –
это сама суть метода моделирования. С внешней же точки зрения
нейросеть представляет собой структурированную систему
взаимодействующих между собой искусственных нейронов.
Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения – одно из главных преимуществ нейронных сетей перед традиционными алгоритмами.
Из наиболее значимых достижений нейросетей следует назвать тот факт, что в 2017 г. искусственная нейронная сеть компании Google обыграла со счетом 100 : 0 лучшие из ранее существовавших шахматных программ, а затем и программы в го
и сеги, нашла биологические эквиваленты лекарств от рака и от
старения, помогла астрономам найти подобную Земле планету
в созвездии Дракона и вынудила ученых на конференции в Калифорнии признать, что они не могут понять, как она работает,
и что она «выходит из-под контроля». Было положено начало новому этапу в развитии интеллектуальных технологий. Этапу,
ознаменованному наличием невозможности осмысления со стороны человека латентной динамики функционирования нейросети, – человечество впервые признало свое поражение.
30
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
