Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Человек и системы искусственного интеллекта
.pdf
Вопросы применения технологий и систем…
ной обработки разведданных, повышения ситуационной осведомленности операторов БПЛА.
В США одним из наиболее продвинутых в данной области является масштабный проект «Мейвен», стартовавший несколько
лет назад. В рамках данного проекта с использованием технологий искусственного интеллекта осуществляется анализ больших
объемов видеоматериалов, поступающих с разведывательных
БПЛА, его обобщение и представление
оператору-аналитику обработанной информации для последующего формирования «базы
целей», предназначенных для уничтожения. Конечная информация должна поступать в виде целеуказаний на ударные БПЛА.
• Повышение возможностей пилотируемых самолетов
ударной авиации, в том числе путем создания с использованием ИИ принципиально новой интегрированной человеко-машинной системы управления воздушным боем. Здесь
одним из наиболее продвинутых считается программа ММТ
Министерства вооруженных сил Франции. Она включает в себя
такие компоненты, как «виртуальный помощник» — «умная кабина», «человеко-машинное взаимодействие», «управление миссией», «интеллектуальные датчики», «роботизированная поддержка и обслуживание» и др.
В этой системе должно быть задействовано большое чис-
ло датчиков, предоставляющих
полномасштабные данные о
техническом состоянии узлов и агрегатов летательного аппарата, о воздушной обстановке, о состоянии членов экипажа.
Предполагается, что такая система будет иметь потенциал
для развития и «глубокого обучения». У экипажа должен быть
«виртуальный помощник», который будет способен восполнять
«низкоуровневые операции», разгружая летчиков от ряда вто-
ростепенных задач
. Это должно предоставить возможность
экипажу сосредоточиться на тактических решениях по выполнению боевой задачи, имея максимальную осведомленность
о ситуации. Большая роль отводится «интеллектуальным датчикам», которые должны приспосабливаться к изменениям потребностей в управлении, связанным с динамичными изменениями обстановки и эксплуатационными потребностями.
101
Кокошин А.А.
• Повышение эффективности работы автономных систем
(воздушных, морских, наземных) в сложных условиях (пересеченный ландшафт, высокая влажность, разная скорость ветра
и состояние моря, подавление электромагнитного излучения и
др.), в том числе посредством оптимизации человеко-машинного
взаимодействия.
• Совершенствование технологий управления «роем»
беспилотных аппаратов, с тем чтобы уменьшить число задей-
ствованных операторов,
время, необходимое на их подготовку, а
также нагрузку на каждого оператора во время осуществления
операций.
Многие специалисты отмечают, что на протяжении сравнительно длительного времени дешевых, надежных и высокоскоростных средств обмена информацией между компонентами
«роя» не было, однако исключительно быстрое развитие телекоммуникационных средств за последние годы стало радикально
менять ситуацию в человеко-машинной системе управления воздушным боем.
В то же время, как считают многие эксперты, на пути создания «роевых группировок» встают в том числе вопросы о сохранении полного контроля над их действиями со стороны человека.
(Это относится и к автономным необитаемым подводным аппаратам, способным
оказать существенное влияние на вооружен-
ную борьбу на море.)
• Повышение уровня ситуационной осведомленности ко-
мандиров и командующих, штабов различных уровней.
Обработка с повышенной скоростью больших объемов данных: видео, аудио, текстовых сообщений, данных с РЛС, разведывательных спутников и др. Анализ изображений со спутников и
тепловизоров, обработка аудио и видеоизображений
в реальном
времени; распознавание объектов, отслеживание движений; распознавание лиц и голоса. Считается возможным за счет технологий ИИ обеспечение полной автоматизации некоторых видов
разведки, в частности радиоразведки.
Считается, что на более продвинутом уровне за счет тех-
нологий ИИ может осуществляться синтез и сопоставление
102
Вопросы применения технологий и систем…
данных радиоэлектронной и оптико-электронной разведки, сообщения агентурной разведки, от разведки, работающей в киберсетях, от обработки открытых источников информации с
применением средств анализа «больших данных». В целом речь
идет о совмещении в системах ИИ информационных сетей, использующих различную семантику и различные стандарты обмена данными.
Более эффективное решение
за счет использования ИИ, в
т. ч. задачи по распознаванию подготовки внезапного нападения;
вскрытие с помощью ИИ дезинформации, ее отфильтровывание.
Повышение уровня информируемости о положении дел с
собственными силами и средствами с активным использованием
средств и технологий, аналогичных тем, что используются применительно к задачам разведки, целеуказания.
• Создание систем поддержки
принятия решений (СППР)
для боевого управления (на тактическом, оперативном и стратегическом уровнях). СППР при этом должны опираться на обширную базу соответствующих прецедентов. С этим связывают
создание, в том числе, перспективных компьютерных систем с
ИИ для проведения военных игр тактического и оперативного
уровня, а также игр политико-военного уровня
с полномасштабным учетом, в том числе, информационного противоборства и
борьбы в киберпространстве.
Многие специалисты обоснованно отмечают, что использование неверных прецедентов может вести к опасным ошибкам в
работе СППР.
В Минобороны США, в том числе, рассматривают вопросы
создания СППР для проведения гуманитарных операций и действий контингентов Вооруженных сил США
, когда они привле-
каются к борьбе со стихийными бедствиями.
• Разработка «цифрового помощника для солдат» («вир-
туального собеседника»), который позволит военнослужащим
вплоть до уровня подразделений получать нужную им информацию о тактике ведения боя или инструкции по ремонту техники в
режиме реального времени с использованием рации и электронных гаджетов.
103
Кокошин А.А.
• Создание персональных автоматизированных перевод-
чиков, в том числе устной речи, для общения с местным населе-
нием на соответствующих языках.
• Прогнозирование состояния здоровья военнослужащих
и гражданского персонала, включая анализ медицинских по-
казаний, записей врачей, классификацию медицинских снимков,
данных разнообразных анализов, оценку последствий посттравматических стрессовых расстройств, анализ, нацеленный на предотвращение самоубийств и т. п.
• Использование искусственного интеллекта для разви-
тия телемедицины, для повышения качества проводимых хи-
рургических операций военными медиками.
• Создание тренажеров-имитаторов с применением техно-
логий виртуальной реальности, максимально приближенной
к реальным условиям, — для подготовки пилотов ВВС, операторов ЗРК, танкистов и пр., а также для офицеров —
операторов по
управлению разнородными силами и средствами.
Значительным достижением Израиля считается создание
на основе технологий искусственного интеллекта тренажеров тактического и оперативного уровня (Command and Staff
Training — CST) для проведения «объединенных операций», в
том числе в очень сложных городских условиях, вплоть до операций без прямого применения средств поражения («операции
вне войны»).
• Повышение эффективности
систем тылового, в том
числе материально-технического обеспечения (логистических систем), включая оптимизацию цикла пополнения складов
с учетом стоимости поддержания на определенном уровне товарно-материальных запасов. Решение задачи сокращения масштабов потерь в деятельности органов тылового, материальнотехнического обеспечения. Оптимизация логистических и транспортных планов.
• Предиктивное ремонтное обслуживание. Использование
данных с сенсоров, установленных на танках, грузовиках и дру-
104
Вопросы применения технологий и систем…
гих видах техники, об их состоянии. Выявление неработающих и
работающих неоптимально систем.
Содействие поддержанию оптимального уровня функциональности данных систем. Упреждающее оповещение о необходимости ремонта конкретных единиц техники или их отдельных
агрегатов и деталей.
• Совершенствование бюджетно-финансового планиро-
вания и бухгалтерского учета с эффективным мониторингом
всех статей военных расходов
в целях оптимизации распределения средств между различными структурами военного ведомства, компонентами вооруженных сил в соответствии с определенными приоритетами военного строительства, в целях повышения эффективности расходов на военные НИОКР и закупки
вооружений, военной и специальной техники (ВВСТ), на подготовку кадров и др.
• Оптимизация за счет использования
ИИ кадровой ра-
боты на всех уровнях вооруженных сил, процессов обеспечения
военными кадрами и гражданским персоналом вооруженных сил.
• Персонализация подготовки военнослужащих и оценки
ее результатов.
* * *
Многие специалисты обращают внимание на то, что сохраняется необходимость интерпретации человеком (высококвалифицированным оператором) тех результатов, которые получаются в результате функционирования систем ИИ. Это еще раз
подчеркивает важность развития такого направления, как «человеко-машинное взаимодействие», необходимость активной
подготовки соответствующих кадров, так как системы ИИ для
использования в вооруженных
силах должны соответствовать
уровню подготовленности соответствующих операторов, и наоборот (то есть системы ИИ не должны становиться для оператора «черным ящиком»).
105
Кокошин А.А.
Вопросы контроля человеком (оператором) систем ИИ,
обеспечение надежности и безопасности применения оружия
с использованием ИИ можно считать среди наиболее сложных
при рассмотрении проблем широкого внедрения технологии
и систем ИИ. Особенно это относится к средствам поражения
личного состава, техники, других материальных объектов
противника, что тесно связано с проблемами гуманитарного
знания, в том
числе с политико-правовыми вопросами.
Подавляющее большинство экспертов и должностных лиц
сходятся в том, что любые решения о применении ударных
(летальных) средств должны быть в руках исключительно
человека.
106
Ушаков Д.В., Валуева Е.А.
ВЫЗОВЫ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
**
ДЛЯ ПСИХОЛОГИИ
Из всей совокупности общих для психологии и искусственного интеллекта тем ниже будут рассмотрены две, наиболее существенные. Первая относится к сходствам и различиям устройства естественного и искусственного интеллекта, как их видят
психология и информатика. Вторая — к психологическим проблемам, сопутствующим проникновению в жизнь технологий
искусственного интеллекта.
Искусственный и естественный интеллект:
аналогии и различия
1
*
Технические устройства нечасто воспроизводят естественные биологические структуры. Подъемные силы самолета создаются не так, как у птицы, колесо автомобиля не похоже на конечности животного, а плавники рыбы — на винт подводной лод-
*
Ушаков Дмитрий Викторович — академик РАН, директор Института пси-
хологии РАН.
Ushakov Dmitry Viktorovich — Academician of the Russian Academy of Sciences,
Director of the Institute of Psychology of the Russian Academy of Sciences.
Валуева Екатерина Александровна — научный сотрудник Института психо-
логии РАН, кандидат психологических наук.
Valueva Ekaterina Aleksandrovna — is a researcher at the Institute of Psychology
of the Russian Academy of Sciences, Candidate of Psychological Sciences.
**
Работа выполнена при поддержке РФФИ, грант № 18-29-22095мк.
107
Ушаков Д.В., Валуева Е.А.
ки. Искусственный интеллект в реализованных на сегодняшний
день проектах добивается эффективности решения задач в большинстве случаев не теми средствами, что человек, и опирается
на другие вычислительные ресурсы и «элементную базу». Во
многих областях искусственному интеллекту еще очень далеко
до рационального поведения человека, в то время как в других,
например, в
игре в шахматы или го, он уже намного ушел вперед.
Однако трудно указать такую отрасль, где интеллектуальная машина делала бы в точности то и так, что и как человек. Если ей
удается догнать человека, она не останавливается и, опираясь на
вычислительное быстродействие, вырывается вперед.
Тем не менее, сколь
ни парадоксально это звучит на фоне
только что сказанного, между исследованиями в двух областях
прочерчиваются глубокие параллели, которые сопровождаются
двухсторонними заимствованиями и перетеканием идей и принципов. Возьмем нейронные сети глубокого обучения, с которыми связан последний бум в области искусственного интеллекта.
Корни идеи нейронных сетей уходят вглубь времен, далеко пред
шествующих формированию наук об искусственном интеллекте.
Согласно философско-психологическому ассоцианистскому под-
1
ходу
, ассоциативные связи составляют сеть, пронизывающую
всю совокупность идей, которыми располагает человек. Эта идеология составляет фактически начало пути к современным сетям
глубокого обучения, хотя и содержит довольно сильные отличия
2
Дальнейшее движение по этому пути шло силами как психологов, так и психофизиологов: взаимодействие психологии
с искусственным интеллектом нельзя представить вне биологии, в первую очередь таких ее разделов, как психо- и нейрофизиология. В конце XIX — первой половине XX века трудами
-
.
1
Идеи ассоцианизма при более внимательном изучении можно найти еще в
Античности — у Аристотеля и даже Платона, но подробное рассмотрение этого
вопроса выходит за рамки данной статьи.
2
Так, узлы сетей ассоцианистов связаны с определенными понятиями, в то
время как в промежуточных слоях сетей глубокого обучения узлы работают на
субсимволическом уровне, а понятия кодируются распределенно, связаны с
несколькими узлами.
108
Вызовы искусственного интеллекта для психологии
И.П. Павлова, В.М. Бехтерева, Э. Торндайка, Б.Ф. Скиннера и др.
представления об ассоциировании были распространены (через
понятия условного и оперантного научения) с области идей на
область поведенческих актов, обучения и обогащены впечатляющим корпусом экспериментальных данных.
Следующий шаг был сделан в 1949 г. нейропсихологом
Д. Хеббом, который наложил ассоцианистские
и рефлекторные
идеи на сформировавшиеся к тому времени представления о
нейронах и их связях, введя понятия о гипотетическом синапсе,
который формирует связь между нейронами в случае совпадения моментов их разрядов. Тем самым фактически предлагался
первый алгоритм обучения нейронных сетей, делался последний шаг к идеологии распределенного хранения знания — поведенческий акт или понятие связаны в памяти с работой целой группы нейронов, возможно расположенных в различных
отделах мозга.
Сам Хебб, однако, не пытался исследовать, какими способностями будет обладать сеть, собранная из описанных им нейронов. Собственно и сегодня нет каких-либо оснований считать,
что такая сеть способна обучиться
распознавать конфигурации
или совершать другие важные когнитивные действия. Первой
моделью сети, показавшей способность к распознаванию, стал
в 1957 г. Персептрон, изобретатель которого Ф. Розенблатт при
всей разносторонности его интересов может быть охарактеризован скорее как нейрофизиолог или психолог, чем как математик
или программист.
Персептрон фактически открыл эру нейроморфных
устройств, способных к обучению
. Наложением физиологической концепции на компьютерное устройство было показано, что
построенная по определенным принципам нейронная сеть может
научаться распознаванию конфигураций. При этом алгоритм обучения Персептрона — метод коррекции ошибки — не совпадал
с работой нейрона Хебба. Нейрон Хебба образует новую связь
под воздействием положительного подкрепления, в то время как
алгоритм Персептрона
меняет связи только в случае ошибки, от-
рицательного подкрепления.
109
Ушаков Д.В., Валуева Е.А.
Дальнейшее развитие Персептрона — многоуровневые сети
глубокого обучения — позволили добиться выдающихся результатов в плане функционирования, но еще дальше ушли от
подобия работе мозга. Обратное распространение ошибки —
алгоритм обучения многоуровневых сетей, предложенный исходно А.И. Галушкиным и П. Вербосом, подхваченный и развитый такими специалистами, как Д. Румельхарт и Д.
Хинтон
и позволивший достичь поразительных результатов в области
машинного обучения — вряд ли аналогичен нейрофизиологическим процессам. Если бы этот алгоритм соответствовал биологическим реалиям, то в человеческом мозге должны были бы присутствовать мощные пути обратного распространения ошибки, с
чем физиологи, однако, не встречаются.
Синапс Хебба, напротив, до сих пор продолжает
казаться
физиологически правдоподобным. Так, данные, полученные с
помощью оптогенетических технологий, свидетельствуют, что
активация нейрона световым воздействием в то время, как организм совершает какую-либо поведенческую реакцию (например,
оборонительную), приводит к тому, что последующая активация
этого нейрона вызывает ту же реакцию. В то же время модели самообучающихся сетей, построенных
по принципу синапса Хебба,
создать не удалось, и неясно, как это можно было бы сделать.
Нейросети, обучающиеся при помощи механизмов обратного распространения ошибки, порой показывают удивительно
«человекоподобные» результаты даже там, где речь идет о неправильном или ошибочном поведении. Так, например, в классических работах Д. Румельхарта и Д.
Макклелланда было показано,
что при выучивании прошедших времен английских глаголов
нейросеть демонстрирует те же стадии развития, что и англоязычный ребенок.
Таким образом, пример нейросетей показывает сложную и
неоднозначную картину: идеи психологов и разработчиков искусственного интеллекта взаимодействуют, взаимно используются,
технологии искусственного интеллекта в некоторых моментах
оказываются очень похожими на естественные
когнитивные си-
стемы, но при этом всегда сохраняется несовпадение, обуслов-
110
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]