Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Человек и системы искусственного интеллекта
.pdf
Искусственный интеллект и общество
связи, исполнительные органы). Предикатные языки позволяют
формализовать более широкие знания для последующей обработки машинно-ориентированными логическими правилами вывода. Каждый шаг вывода формализует не столько специальный
(локальный) переход от условий к действию (как при использовании продукционных знаний), выражающий более или менее
очевидным образом отдельный шаг приближения к цели
управления, сколько представление человека о правильности (логичности) умозаключений, т. е. имеет более универсальный характер и более широкие возможности решения задач управления,
сводимых к АДТ, хотя, возможно, и с увеличением требований к
ресурсам выработки управления.
Компьютерные программы АДТ суть автономные или человеко-машинные усилители способностей человека. В их
приложениях в математике создаются программы-ассистенты
в помощь математикам
1
и АИС-пруверы, существенно превос-
ходящие сегодня другие средства ИИ с точки зрения сложности
теорем, доказываемых ими. Решены некоторые открытые задачи, поставленные известными математиками
2
, причем планка
сложности неуклонно повышается. Небезосновательно высказываются мнения о том, что примеры математических теорем, доказательства которых будет трудно проверить даже профильным
специалистам и которые будут верифицироваться средствами
АДТ, будут множиться.
С другой стороны, эти достижения в области систем АДТ
принадлежат сфере офлайн-задач без характерных ресурсных
ограничений: это —
сфера математических задач, программирования и вообще автоматизации строгих рассуждений, допускающих формализацию в некотором логическом языке, когда
нет особой критичности в вопросе о ресурсах, отпущенных на
1
Urban J., Vyskocil J. Theorem Proving in Large Formal Mathematics as an
Emerging AI Field / arXiv:1209.3914v2(cs.AI) 16Dec2012
2
Воз Л. Решение некоторых открытых проблем с помощью программы для
автоматического доказательства теорем // Киберн. сб. Нов. сер. Вып. 21. М.: Мир,
1984. C. 235–263.
41
Васильев С.Н.
проведение автоматических выкладок. Проникновение полных
первопорядковых логик и методов АДТ в сферу интересов и
компетентности специалистов по теории управления — важный
фактор развития ИС
1
.
За рамками компьютерной парадигмы развития ИИ — объединение области ИИ с когнитивной наукой и кибернетикой как
наукой «управления в животном и машине» (по Н. Винеру). Пока
же, например, коннекционизм (нейросетевизм), как и другие направления ИИ, ограничен феноменологическим подходом, а отчужденность ИИ от нейрофизиологии и других когнитивных
наук, порой «
горделивая», тормозит его развитие2, хотя в то же
время известно много близких концепций комплексирования
разработок в основном внутри ИИ, в т. ч. концепции создания
«сильного ИИ рациональных агентов»
ственного ИИ»
5
и других.
3
, «общего ИИ»4, «друже-
Внутри ИИ развивается «нейросимволизм» на пути интеграции
коннекционизма (нейросетевизма) с символизмом. В частности, реализация логического (дедуктивного) вывода на нейросети
1
Васильев С.Н., Жерлов А.К., Федосов Е.А., Федунов Б.Е. Интеллектное
управление динамическими системами. М.: Физматлит, 2000. 352 с.
2
Хокинс Дж. Об интеллекте. М.: Вильямс, 2007. 240 с.; Кузнецов О.П. Ис-
кус ственный интеллект и когнитивные науки // Информационно-измерительные и
ин фор мационные системы. 2013. Т. 11. № 5. С. 16–24.
3
Рассел С., Норвиг П. Искусственный интеллект: современный подход. 2-е
изд., перераб. М.: Вильямс, 2006. 1408 с.
4
Goertzel B. Toward a Formal Characterization of Real-World General Intelli-
gence // J. Advances in Intelligent Systems Research. 2010. Vol. 10. P. 1–6; Besold T.R.,
Schmid U. Why Generality Is Key to Human-Level Artifi cial Intelligence // J. Advances
in Cognitive Systems. 2016. Vol. 4. P. 13–24.
5
Udkowsky E. Complex Value Systems in Friendly Artifi cial Intelligence // Proc. 4th
International Conference on Artifi cial General Intelligence (AGI-2011). Lecture Notes in
Computer Science 6830. Springer, 2011. P. 388–393.
6
См., напр.: Komendantskaya E. First-order Deduction in Neural Networks //
Proc. 1st International Conference on Language and Automata Theory and Applications
(LATA-2007). Tarragona. 2007. P. 307–319.
6
открывает
42
Искусственный интеллект и общество
возможности обучения ИС стратегиям
комбинирования правил вы-
вода, что расширяет набор решаемых ею задач.
Работами по нейросимволизму являются работы, в которых
анализ изображений ведется совместно с анализом связанных с
ними естественно-языковых текстов в процессе обучения нейросети распознаванию образов и ЕЯ-текстов
1
.
Методология интеграции, именуемая семантическим моделированием
2
, базируется на машинном обучении и обеспечива-
ет генерирование онтологий проектируемого из согласованной
системы онтологических паттернов его внутренних спецификаций.
К нейросимвольной интеграции можно отнести и верификацию обученности нейросетей на основе проверки выполнимости
логических спецификаций
ственных объектов управления
3
, что особенно актуально для ответ-
4
.
Приведем примеры гибридизации ИС, когда в качестве базовой составляющей технологии интеграции выступают не коннекционизм, а символьно-логические средства (при том, что они
могут входить и в состав интегрируемого).
Интеграцию логических средств и автоматных моделей динамики автономных систем для планирования и реализации
действий обеспечивает методология проверки выполнимости
1
Mao J., Gan C., Kohli P., Tenenbaum J.B., Wu J. The Neuro-symbolic Concept
Learner: Interpreting Scenes, Words, and Sentences from Natural Supervision // ICLR.
2019. P. 1–28.
2
Хорошевский В.Ф. Проектирование систем программного обеспечения под
управлением онтологий: модели методы, реализации // Онтологии проектирования. 2019. T. 9. № 4 (34). С. 429–448.
3
Katz G., Barrett C.W., Dill D.L., Julian K., Kochenderfer M.J. An Effi cient
SMT Solver for Verifying Deep Neural Networks // CAV. 2017. P. 97–117; Pulina L.,
Taсchella A. Challenging SMT Solvers to Verify Neural Networks // J. Artifi cial Intel-
ligence Communications. 2012. Vol. 25. № 2. P. 117–13.5.
4
Каляев И.А. Камо грядеши? // Экономические стратегии. М.: ИЭС, 2019.
T. 21. № 5 (163). С. 6–15.
43
Васильев С.Н.
логических спецификаций на модели (model checking)1. При ее
применении в ИС для построения плана действий ищется автоматная модель, на которой как на интерпретации некоторого логического языка были бы выполнимы спецификации требуемого
поведения ИС.
Методология логической интеграции, именовавшаяся авто-
2
рами
семантическим программированием, а ныне семантическим моделированием и задачным подходом
формульную определимость
4
, а именно определимость логи-
3
, использует т. н.
ческих спецификаций средств решаемой задачи в некотором
специальном подмножестве языка ППЛ. Название методологии объясняется тем, что она основывается на выполнимости
спецификаций на конструктивной модели задачи. Методология
обеспечивает адекватность и корректность проектируемого.
В частности, в семантическом моделировании большое значение придается возможности решения задач с помощью
так называемых «оракулов» как внешних решателей. Они осуществляют поиск ответа на обращенный к ним запрос, что позволяет
в виде оракулов использовать как строгие математические, так
и эвристические модели.
1
Lomuscio A., Michaliszyn J. Verifying Multi-Agent Systems by Model Check-
ing Three-valued Abstractions // Proс. 14th International Conference on Autonomous
Agents and Multiagent Systems (AAMAS-2015). Istanbul, 2015. P. 189–198.
2
Гончаров С.С., Свириденко Д.И. Проблемы цифровизации и семантическое
моделирование // Материалы XII Мультиконференции по проблемам управления
(МКПУ-2019). Ростов н/Д.; Таганрог: Изд-во ЮФУ, 2019. T. 1. С. 16–19.
3
Свириденко Д.И., Витяев Е.Е. Задачный подход к искусственному интеллек-
ту и его теоретическая и технологическая база // Сб. трудов XVIII Национальной
конференции по искусственному интеллекту с международным участием (КИИ-
2020). М.: МФТИ, 2020. С. 36–44.
4
Ершов Ю.Л. Определимость и вычислимость. 2-е изд., испр. и доп. Новоси-
бирск: Науч. кн., 2000. 318 с.
44
Искусственный интеллект и общество
Об интеграции ИС
на базе подстановочных логик
Развиваемая методология дедуктивно-абдуктивной интеграции на базе подстановочных логик тоже относится к
символьно-логическим подходам, объединяя возможности АДТ,
традиционного логического программирования и логического
планирования действий как самопрограммирования. Эта
методология логической интеграции базируется не на
семантическом (модельном) подходе, а на синтаксическом, т. е.
на выводимости.
Здесь, в отличие от упомянутого ранее1, базовой составляющей технологии интеграции (как и в работе
2
) выступает логиче-
ский формализм, а не коннекционизм, и как отмечено выше, в отличие от изданий
3
исполь зуется не выполнимость в той или иной
интерпретации логически формализованных требований (спецификаций) к поведению ИС, а их выводимость. Используются логические исчисления разной семантики, в том числе конструктивной, на базе подмножеств первопорядкового языка, именуемых
подстановочными.
Всякий подстановочный язык состоит из типово-кванторных
формул, т. е. образован из типовых кванторов (в т. ч. «фиктив-
1
Komendantskaya E. First-order Deduction in Neural Networks // Proc. 1st Interna-
tional Conference on Language and Automata Theory and Applications (LATA-2007).
Tarragona, 2007. P. 307–319; Mao J., Gan C., Kohli P., Tenenbaum J.B., Wu J. The Neuro-symbolic Concept Learner: Interpreting Scenes, Words, and Sentences from Natural
Supervision // ICLR. 2019. P. 1–28.
2
Свириденко Д.И., Витяев Е.Е. Задачный подход к искусственному интеллек-
ту и его теоретическая и технологическая база // Сб. трудов XVIII Национальной
конференции по искусственному интеллекту с международным участием (КИИ-
2020). М.: МФТИ, 2020. С. 36–44.
3
Lomuscio A., Michaliszyn J. Verifying Multi-Agent Systems by Model Checking
Three-valued Abstractions // Proс. 14th International Conference on Autonomous Agents
and Multiagent Systems (AAMAS-2015). Istanbul. 2015. P. 189–198; Гончаров С.С.,
Свириденко Д.И. Проблемы цифровизации и семантическое моделирование // Материалы XII Мультиконференции по проблемам управления (МКПУ-2019). Ростов
н/Д.; Таганрог: Изд-во ЮФУ, 2019. T. 1. С. 16–19.
45
Васильев С.Н.
ных», например, в пропозициональном подмножестве) при разных ограничениях на их типовые условия. Подстановочность
означает, что замена в формуле ее главных подформул на логически не менее сильные образует не менее сильные формулы. При
этом типовые условия кванторов и их подформулы не считаются
главными. Подстановочность используется при построении правил вывода
и обосновании корректности и полноты исчислений.
Планирование решения задачи осуществляется с учетом
возможности обращения как к внутренним (встроенным), так
и внешним средствам (источникам информации и решателям).
Кроме того, с помощью гипотезирования как правдоподобного
вывода могут формироваться причины наблюдаемых явлений
для обновления базы знаний.
Конструктивная логика была аксиоматизирована А. Гейтин
гом, а А.Н. Колмогоров в 1932 г. предложил интер пре-
тацию интуиционистских исчислений как исчислений задач
1
Развиваемые нами логические средства разработаны в духе
исчислений задач в конструктивной, декларативной и немо нотонной семантиках
2
.
Интеграция при этом логических средств достоверного и
правдоподобного выводов между собой и с другими средствами ИС, например оптимального управления и нейрораспознавания образов, осуществляется путем дедуктивно-абдуктивного
вывода в разработанном исчислении J c одноместными прави-
.
1
Kolmogoroff A.N. Zur Deutung der Intuitionistischen Logik // Math. Z. 1932,
№ 35. P. 58–65.
2
Васильев С.Н., Галяев А.А. Логико-оптимизационный подход в задачах пре-
следования группы целей // ДАН. 2017. Т. 474. № 6. С. 1–7; Васильев С.Н., Жерлов А.К., Федосов Е.А., Федунов Б.Е. Интеллектное управление динамическими
системами. М.: Физматлит, 2000. 352 с.; Buzikov M., Galyaev A., Guryev Yu., Titov K.,
Yakushenko E., Vassilyev S. Intelligent Сontrol of Autonomous and Anthropocentric On-
board Systems // Procedia Computer Science. 2019. Vol. 150. P. 10–18; Vassilyev S.N.
Abductive Inference Method in Problems of Explaining the Observed // J. Computer
and Systems Sciences International. 2021. Vol. 60. № 1. P. 153–161; Васильев С.Н.
Формализация знаний
Информационные технологии и вычислительные системы. 2008. № 1. С. 3–19.
и управление на основе позитивно-образованных языков //
46
Искусственный интеллект и общество
лами обработки знаний на разных подмножествах языка ППЛ1.
Планирование целенаправленного решения задач управления
осуществляется благодаря конструктивной семантике выводов
в исчислении J целевой спецификации G из знаний ИС, включающих спецификации источников данных, знаний и средств их
обработки, не только встроенных, но и агентов-партнеров (об
их готовности к тем или иным действиям, приказы, разрешения
и т. п.), что важно
в задачах с неполной информацией и конфликт-
ностью среды функционирования ИИ.
Устаревание знаний о мире, например из-за действий самого объекта управления, может преодолеваться немонотонной семантикой дедуктивного правила вывода. Кроме того, недостаток
знаний или встроенных средств учитывается абдуктивным правилом, формирующим гипотезы как дополнительные предположения о
мире. В числе этих гипотез — объяснения наблюдае-
мого эффекта G (явления, данных разведки).
Понятие абдуктивного вывода чаще всего определяется следующим образом
2
. Рассматриваются предметная область и её
базовая теория T. Наблюдается некоторое явление G. Ищется нетривиальная гипотеза-объяснение , не противоречащая теории T
и такая, что из T и выводимо наблюдаемое G.
В разработанном для этого исчислении J дедуктивно-абдуктивных выводов при формализации теории T используются подмножества первопорядкового языка, которые подстановочного
типа и, в частности, могут состоять из структурно позитивных фор-
1
Васильев С.Н., Галяев А.А. Логико-оптимизационный подход в задачах пре-
следования группы целей // ДАН. 2017. Т. 474. № 6. С. 1–7; Buzikov M., Galyaev A.,
Guryev Yu., Titov K., Yakushenko E., Vassilyev S. Intelligent Сontrol of Autonomous
and Anthropocentric On-board Systems // Procedia Computer Science. 2019. Vol. 150.
P. 10–18; Васильев С.Н. Формализация знаний и управление на основе позитивно-
образованных языков // Информационные технологии и вычислительные системы.
2008. № 1. С. 3–19.
2
Poole D. Representing Diagnosis Knowledge // J. Annals of Mathematics and Artifi cial Intelligence. 1994. Vol. 11. P. 33–50; Kowalski R. Logic Programming // In book:
Computational Logic, Edition: In the History of Logic series / edited by D. Gabbay and
J. Woods. Elsevier, 2014. P. 523–569; Финн В.К. Об эвристиках ДСМ-исследований //
НТИ. 2019. Сер. 2. № 10. С. 1–34.
47
Васильев С.Н.
мул без дизъюнктивных ветвлений с ограничениями на входящие
в них литералы: в каноническом представлении формулы каждая
ее базовая подформула
1
не содержит противоположных литералов.
В исчислении J гипотезы могут формироваться построением логически минимальной гипотезы (миноранты) и затем переходом некоторыми упрощающими преобразованиями к ее достаточным условиям (например, в терминах т. н. абдуцентов).
В научной литературе
2
приводятся примеры применения такого
дедуктивно-абдуктивного вывода для объяснения наблюдаемых
аномалий в задачах технической и медицинской диагностики.
В литературе в работах по абдуктивному гипотезированию
на теорию T предметной области часто накладываются ограничения с целью максимального упрощения синтеза объяснения
и его обоснования. Например, содержание утверждений теории
должно иметь форму “if-and-only-if” либо может
требоваться
свойство хорновости утверждений теории T или его некоторые
обобщения. Мы не используем подобных требований к представлению знаний. Свойство подстановочности языка L не сужает выразительной силы, придает ему крупноблочность, повышает его наглядность и совместимость с эвристиками, что важно
для комбинирования стратегий вывода с эвристиками, например,
ассоциируемыми с
результатами нейрообработки.
Возможности актуализации базы знаний ИС полезны, например, в задачах поиска или обеспечения скрытности мобильных
объектов в конфликтных средах. Такова, например, проблематика
патрулирования роботами зоны возможного проникновения нарушителя, планирования действий по их безопасному переходу
в оперативный район, выбору и преследованию ими мобильных
объектов противника, уклонению от них
и т. п.3
1
Васильев С.Н. Формализация знаний и управление на основе позитивно-об-
разованных языков // Информационные технологии и вычислительные системы.
2008. № 1. С. 3–19.
2
Vassilyev S.N. Abductive Inference Method in Problems of Explaining the Ob-
served // J. Computer and Systems Sciences International. 2021. Vol. 60. № 1. P. 153–161.
3
Galyaev A.A. On the Detection Functional in Motion of an Object in a Threat
Environment // J. Automation and Remote Control. 2011. Vol. 71. № 4. P. 634–639;
48
Искусственный интеллект и общество
Развиваемые средства не требуют трансляции знаний в сильно неестественную клаузальную форму (clausal form), обычную
для резолюционных пруверов. Типичным недостатком нерезолюционных пруверов является многоместность и количество используемых ими правил вывода. Например, нерезолюционный
прувер из работы J. Otten
1
использует 4 трехместных правила
дедукции, что заметно повышает размерность пространства поиска выводов по сравнению с двумя одноместными правилами
вывода, используемыми в исчислении J.
Формализация знаний в подстановочном языке с ослаблением требования позитивности дополнительно расширяет синтаксические возможности представления знаний и повышает его
естественность, а возможная потеря на используемом подмножестве языка L полноты дедуктивного правила относительно выводимости может компенсироваться правилом абдукции.
В составе интегрируемых средств на технологической основе символизма дедуктивно-абдуктивных исчислений перспективно применение и других механизмов рассуждений и планирования действий, например решения подзадач на основе аналогий
и прецедентов (Case-based Reasoning) и индуктивного вывода
2
.
Leahy K., Zhou D., Vasile C.I., Oikonomopoulos K., Schwager M., Belta C. Provably
Correct Persistent Surveillance for Unmanned Aerial Vehicles Subject to Charging
Constraints // Experimental Robotics. 2016. P. 605–619; Васильев С.Н., Галяев А.А.
Логико-оптимизационный подход в задачах преследования группы целей //
ДАН. 2017. Т. 474. № 6. С. 1–7; Buzikov M., Galyaev A., Guryev Yu., Titov K.,
Yakushenko E., Vassilyev S. Intelligent Сontrol of Autonomous and Anthropocentric On-
board Systems // Procedia Computer Science. 2019. Vol. 150. P. 10–18; Васильев С.Н.,
Галяев А.А., Рубинович Е.Я. Интеллектуальное управление мобильными средствами
в конфликтных средах // Материалы Международной конференции «Проблемы
механики и управления». Махачкала, 2018. С. 117–119.
1
Otten J. NanoCoP: a Non-clausal Connection Prover // Proc. International Joint
Conference on Automated Reasoning. 2016. P. 302–312.
2
Das R., Godbole A., Monath N., Zaheer M., McCallum A. Probabilistic
Case-based Reasoning for Open-World Knowledge Graph Completion // СaseBR
arXiv:2010.03548v2 [cs.CL]; Muggleton S.H., Lin D., Pahlavi N., Nezhad A.T. Meta-interpretive Learning Application to Grammatical Inference // J. Machine Learning. 2014.
№ 94. P. 25–49.
49
Васильев С.Н.
В числе интегрируемых программных разработок могут быть
средства когнитивной эволюции
1
, эволюционной оптимизации2
и др., а помимо нейросетей и алгоритмов их обучения могут
использоваться конкурирующие с ними вероятностные, логические и алгебраические методы распознавания и эволюционные, вероятностные и другие алгоритмы обучения
3
, что альтер-
нирует и сам формируемый план целенаправленных действий.
Альтернативный отбор спецификаций средств для их учета в выводимом плане действий и выбор наилучшего из альтернативных планов требуют методов многокритериальной оптимизации,
адекватных режимам реального времени
4
.
В проблематике ИС управления полезны средства картирова-
ния уровня рисков
5
по данным бортовых и внешних детекторов
аномалий и анализаторов потенциальных угроз. Оптимизация
маршрутов может учитывать данные карты рисков, скорость
движения объекта управления по маршруту, продолжительность
перехода в целевую область, режимы работы некоторых
подсистем и другие характеристики, влияющие на выбор
маршрута и скрытность
1
Редько В.Г. Моделирование когнитивной эволюции: на пути к теории эволю-
ционного происхождения мышления. 2-е изд. М.: ЛЕНАНД, 2019. 264 с.
2
Diveev A.I., Balandina G.I., Konstantinov S.V. Binary Variational Genetic Pro-
gramming for the Problem of Synthesis of Control System // Proc. 13
Conference on Neural Computation, Fuzzy Systems and Knowledge Discovery (ICNCFSCD-2017). 2017. P. 165–170.
3
Vinogradov D.V. VKF-method of Hypotheses Generation // J. Communications in
Computer and Information Science. 2014. Vol. 436. P. 237–248; Skrynnik A., Panov A.I.
Hierarchical Reinforcement Learning with Clustering Abstract Machines // J. Communications in Computer and Information Science. 2019. Vol. 441. P. 30–43.
4
Федунов Б.Е. Интеллектуальные системы тактического уровня: состав, базы
знаний // Сб. трудов XVIII Национальной конференции по искусственному интеллекту с международным участием (КИИ-2020). М.: МФТИ, 2020. С. 87–94.
5
Buzikov M., Galyaev A., Guryev Yu., Titov K., Yakushenko E., Vassilyev S. Intel-
ligent Сontrol of Autonomous and Anthropocentric On-board Systems // Procedia Computer Science. 2019. Vol. 150. P. 10–18.
6
Buzikov M., Galyaev A., Guryev Yu., Titov K., Yakushenko E., Vassilyev S. Intelli-
gent Сontrol of Autonomous and Anthropocentric On-board Systems // Procedia Com-
6
.
th
International
50
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]