- •Методы нейроинформатики
- •Фцп "интеграция"
- •Предисловие редактора
- •Моделирование данных при помощи кривыхдля восстановления пробелов в таблицах
- •660036, Красноярск-36, ивм со ран,
- •1. Общая схема метода
- •2. Итерационный метод главных компонент для данных с пропусками
- •3. Квазилинейные факторы и формулы Карлемана
- •4. Нейронный конвейер
- •Литература
- •Финитность и детерминированность простых программ для кинетической машины кирдина
- •660036, Красноярск-36, ивм со ран,
- •1. Введение
- •2. Понятие кинетической машины Кирдина
- •3. Модели выполнения программы
- •3.1. Последовательная модель
- •3.2. Параллельно-последовательная модель
- •3.3. Максимальная параллельно-последовательная модель
- •4. Программы, состоящие из одной команды
- •4.1. Распад
- •4.2. Синтез
- •4.3. Прямая замена
- •5. Заключение
- •ЛитературА
- •Алгоритмическая универсальность кинетической машины кирдина
- •660036, Красноярск-36, ивм со ран,
- •Литература
- •Погрешности нейронных сетей. Вычисление погрешностей весов синапсов
- •660036, Красноярск-36, ивм со ран,
- •1. Введение
- •2. Структура сети
- •3. Два базовых подхода к оценкам погрешности
- •4. Погрешности весов синапсов
- •5. Гарантированные интервальные оценки погрешностей весов синапсов
- •6. Среднеквадратические оценки погрешностей весов синапсов
- •7. Заключение
- •Литература
- •Нейросетевые методы обработки информации в задачах прогноза климатических характеристик и лесорастительных свойств ландшафтных зон
- •660036, Красноярск-36, ивм со ран,
- •Введение
- •1. Проблемы обработки таблиц экспериментальных данных
- •2. Искусственные нейронные сети
- •2.1. Элементы нейронных сетей
- •2.2. Архитектуры нейронных сетей
- •2.3. Решение задач нейронными сетями
- •2.4. Подача входных сигналов и снятие выходных сигналов сети
- •2.5. Обучение нейронных сетей
- •2.6. Вычисление градиента функции оценки по подстроечным параметрам сети
- •2.7. Факторы, влияющие на обучение нейронной сети
- •2.8. Упрощение нейронных сетей
- •2.9 Вычисление показателей значимости параметров и входных сигналов сети
- •3. Транспонированная задача регрессии
- •4. Применение нейросетевых технологий для обработки таблицы климатических данных
- •4.1. Заполнение пропусков в таблице климатических данных
- •4.2. Построение классификационной модели ландшафтных зон и секторов континентальности
- •4.2.1. Классификация ландшафтных зон Сибири
- •4.2.2. Идентификация лесных зон по континентальности
- •4.3. Прогнозирование возможного изменения ландшафтных зон и секторов континентальности
- •5. Заключение
- •Литература
- •Интуитивное предсказание нейросетями взаимоотношений в группе
- •660049, Красноярск, пр. Мира 82
- •1. Проблема оценки взаимоотношений
- •2. Общая задача экспериментов
- •3. Применяемые в экспериментах психологические методики
- •4. Эксперименты по предсказанию группового статуса
- •5. Нейросетевое исследование структуры опросника
- •6. Оценка оптимизации задачника нейросетью с позиций теории информации
- •7 Эксперименты по предсказанию парных взаимоотношений
- •Литература
- •Аппроксимация многомерных функций полутораслойным предиктором с произвольными преобразователями
- •660049, Красноярск, пр. Мира 82
- •1. Постановка проблемы
- •2. Аналитическое решение
- •3. Запись решения в идеологии нейросетей
- •4. Алгоритмическая часть
- •5. Оценка информационной емкости нейронной сети при помощи выборочной константы Липшица
- •6. Соглашение о терминологии
- •7. Компоненты сети
- •8. Общий элемент сети
- •9. Вход сети
- •10. Выход сети
- •11. Синапс сети
- •12. Тривиальный сумматор
- •13. Нейрон
- •14. Поток сети
- •15. Скомпонованная полутораслойная поточная сеть
- •Литература
- •Использование нейросетевых технологий при решении аналитических задач в гис
- •660036, Красноярск-36, ивм со ран,
- •Литература
- •Использование нейросетевых технологий для проведения учебно-исследовательских работ
- •1. Введение
- •2. Зимняя Политехническая Школа по Нейроинформатике
- •3. Задачи
- •4. Результаты
- •5. Перспективы
- •Литература
- •Производство полуэмпирических знаний из таблиц данных с помощью обучаемых искусственных нейронных сетей
- •660036, Красноярск-36, ивм со ран,
- •1. Введение
- •2. Логически прозрачные нейронные сети
- •2.1. Архитектура логически прозрачных сетей
- •2.2. Критерии логической прозрачности нейронной сети
- •2.3. Требования к нелинейности элементов
- •3. Контрастирование нейронов
- •4. Приведение нейронных сетей к логически прозрачному виду
- •4.1. Наложение ограничений на архитектуру нейросети
- •4.2. Упрощение нейросети
- •4.3. Приведение настраиваемых параметров сети к предельным значениям и модификация нелинейных преобразователей нейронов
- •4.4. Проведение эквивалентных преобразований структуры нейросети
- •5. Вербализация нейронных сетей
- •6. Автоматическая генерация полуэмпирических теорий
- •7. Когнитологические аспекты
- •8. Влияние функции оценки на логическую прозрачность сети. Исключение примеров
- •9. Как выбирают американских президентов
- •10. Заключение
- •Литература
- •Содержание
Производство полуэмпирических знаний из таблиц данных с помощью обучаемых искусственных нейронных сетей
В.Г. Царегородцев 1
Институт вычислительного моделирования СО РАН
660036, Красноярск-36, ивм со ран,
E-mail: tsar@cc.krascience.rssi.ru
Рассматриваются возможности извлечения полуэмпирических теорий из таблиц данных при помощи нейронных сетей. Вводится понятие логически прозрачной нейронной сети, формируется набор критериев логической прозрачности, строится набор правил по приведению нейронной сети к логически прозрачному виду. Предлагается технология вербализации логически прозрачной сети - перевода на естественный язык алгоритма решения сетью задачи. Приводится пример решения классической задачи предсказания результатов выборов президента США.
1. Введение
В настоящее время широкое распространение получили искусственные обучаемые нейронные сети. С их помощью эффективно решаются неформализованные задачи классификации и прогнозирования в различных проблемных областях. Обучаясь на некоторой таблице данных, нейросеть формирует навык предсказания или классификации и в дальнейшем может решать задачи с высокой точностью. Однако, обучившись решать задачу, нейронная сеть сформировала навык, логическая структура которого не понятна пользователю.
К настоящему моменту разработано большое число высокоэффективных процедур для упрощения (контрастирования) нейронной сети – снижения избыточности последней [1-3]. В[2,5] предложена гипотеза о возможности использования контрастирования для такого упрощения нейронной сети, после которого структура сети станет логически прозрачной. Логически прозрачной назовем сеть, по структуре которой легко можно сформировать понятный пользователю алгоритм решения задачи. Очевидно, что простое упрощение сети не приведет последнюю к логически прозрачному виду – надо строить специальные правила исключения из сети сигналов и элементов, чтобы получить сеть со структурой, близкой к нашему пониманию логической прозрачности.
В настоящей статье описывается процесс порождения явных и понятных алгоритмов решения неформализованных задач (получение полуэмпирических теорий) с помощью обучаемых нейронных сетей. Формализуются критерии логической прозрачности нейронной сети и строится методология приведения нейросети к логически прозрачному виду. Приведены основные идеи, на основе которых можно строить алгоритмы извлечения знаний и нейросетевые программые средства качественно нового уровня, ориентированные на специалистов-когнитологов.
Для изучения нейротехнологий можно порекомендовать работы [1-3,6]. Краткое изложение основных аспектов перечисленных работ приведено встатье [8], включенной в настоящий сборник. Термины и обозначения настоящей статьи соответствуют этим работам.
2. Логически прозрачные нейронные сети
После того, как сеть обучилась решению некоторой задачи, обычно не ясно, какие же правила используются сетью для получения правильных ответов. Сеть произвела из задачника (таблицы данных) скрытое знание – сформировала некоторый навык предсказания или классификации, но логическая структура этого навыка осталась непонятной пользователю. Такое обстоятельство очень сильно разочаровывает:поскольку на основе нейронных сетей часто решаются неформализованные задачи (алгоритм решения которых неизвестен), то даже успешное обучение сети дает нам просто некоторое вычислительное устройство, не приближая к пониманию процесса решения задачи. Действительно, можно описать функционирование сети как пересылку, суммирование и преобразование большого числа сигналов, но понятийная интерпретация крайне затруднена. Этот факт называется логической непрозрачностью нейронной сети.
Введем фундаментальные критерии логической прозрачности нейронной сети. Эти критерии естественно и просто вводятся по аналогии с критериями простоты и понятности рассуждений, выполняемых человеком.