3.2 Особенности моделирования творческой нейронной сети
Для того чтобы отвечать второму требованию, которое уже упоминалось выше, то есть моделированию и симулированию творчества и творческим процессам обучения, концепция создания нейронов должна быть добавлена в DyCoN для того, чтобы динамически адаптировать пропускную способность сети к требованиям процесса обучения. При первой попытке, описанной здесь, это было сделано путем интеграции концепции растущего нейронного газа (GNG, Фрицке, 1997), где кратко говорится о том, что количество и расположение нейронов изменяется во времени с изменением обучающего потока информации, таким образом, адаптируя топологию сети к обучающему количеству и содержанию.
Результатом является динамически управляемый нейронный газ (DyCoNG), концепция которого завершает комбинацию DyCoN и GNG качественными нейронами, которые отражают качество информации и, следовательно, могут измерять оригинальность записанной деятельности. Как правило, важность нейрона измеряется количественно числом его записей. Это означает, что важность таких "количественных" нейронов увеличивается, в то время как конкретные (количественные) данные нейронов уменьшаются. С другой стороны, важность "качества" нейрона задается редкостью его элементов, отражающих крайне специфическую (качественную) информацию о записи нейрона, поскольку теоретический смысл информации соответствует информации Шеннона (Шеннон, 1976).
В соответствии с концепцией GNG, число нейронов DyCoNG растет с увеличением обучающей информации. К сожалению, и вот почему этот процесс вряд ли может быть представлен графически, число измерений тоже растет. Поэтому такой нейронный газ не остается гладким, как матрица нейронов DyCoN, а становится сферой высокой размерности со связями сходства между произвольными нейронами. С особым подходом DyCoN, который мы разработали, из основной концепции (см. рисунок 3.3) для простых приложений, таких как баскетбольный проект, понятия и эффекты обучения редких событий можно сделать более прозрачными, как показано на рисунке 3.4. Во время нового обучения, новые входные значения, как бросок: может быть известно одно - в этом случае мы имеем наиболее похожий нейрон, который адаптируется к новому входному значению. Или же нет такого нейрона, на который были бы похожи новые входные данные - в этом случае новое значение называется "соответствующим" и требует определенного нейрона, который потом представляет собой редкий случай высококачественной информации. Такой нейрон называется "нейрон качества". На рисунке 3.4 показана баскетбольная нейронная сеть в аспекте "качества". Серые нейроны представляют собой стандартную информацию, то есть типы бросков, которые часто дообучивались к сети, в то время как черные представляют нейроны качества. В соответствии с концепцией DyCoNG (см. ниже), нейроны качества, при частом обучении, могут потерять свое качество в процессе обучения. Это означает, что, в свою очередь, серые нейроны на рис. D также первоначально начинали с качественной собственности. Но и они могут вернуть качество, если после периода обучения без активации информация исчезает при атрофии.
Поэтому DyCoN может адаптироваться не только к отдельной части информации в процессе обучения, но и к стратегии обучения в целом - то есть, текущая топология сети также представляет историю обучения. Это свойство может быть использовано для моделирования стратегий обучения. Термин
Рисунок 3.4 - DyCoN из рисунка 3.2 с качественными нейронами (черный), представляющими редкие, нестандартные снимки, а также стандартными нейронами (серый), представляющими частые стандартные снимки.
''оригинальность" действий отражает их редкость - и, следовательно, соответствует термину ''качество" представляемого нейрона вместе с такими семантическими свойствами, как адекватность и успех. Конечно, адекватность и успех можно измерить только экспертными оценками (Хосвар, 1989).
В случае штрафных бросков в баскетболе это уже было проделано с калибровкой. Сравнение семантической окраски из рисунка 3.2 (правый график) с качеством окраски из рисунка 3.4 показывает, что доступна вся необходимая информация: если бросок испытывается на сети, то активируется соответствующий нейрон, что говорит об исключительности броска, а также о его оценке. Бросок, имеющий высокий рейтинг, связанный с адекватностью и успехом, в равной мере, как и высокое значение, связанное с его исключительностью, можно назвать "исходным "или'' творческим". С этой точки зрения, броски из рисунка 3.1, проанализированы во второй раз. Результаты представлены на рисунке 3.5, в котором редкие нестандартные броски выделяются белым. Их позиции на цветовой диаграмме рейтинга (цвета соответствуют цветам нейронов правой части рисунка 3.2) показывают, что игроки Т2 и T13 имеют по два творческих броска каждый, в то время как другие выделенные на диаграмме броски, очевидно, не удались.
Следовательно, краткую интерпретацию успешности тренировки четырех игроков можно представить следующим образом. Игрок T10 показал слабые результаты со стандартными ошибками. T21 показывал отличные результаты с самого начала только с одним промахом. T2 показывал высокий, но все еще не стабильный потенциал с двумя редкими штрафными бросками и двумя промахами. Процесс обучения игрока T13 показывает повышение уровня навыков и адекватности, но, тем не менее, также значительную стандартную ошибку в последнем броске.
Прогнозируемые для DyCoNG и творческого обучения процессы являются более сложными, но, в то же время, сходными между собой. Технически говоря, в обычных KFM картах области действия каждого нейрона описываются фиксированной клеткой Вороного, которые являются негибкими и неограниченными по фиксированной границе данного типа сети. Поэтому, те клетки Вороного, которые покрывают всю область входящих данных сети, дают в результате отображение каждого примера входных данных в соответствующий наиболее похожий нейрон. Следовательно, как уже упоминалось выше, также редко возникающие примеры вводящих данных (например, творческие процессы) объединяются в наиболее подобные часто возникающие типы входящих данных, и, поэтому не могут быть распознаны как отдельная информация
Однако различные области действия DyCoNG не распространяются полностью на область вводящих данных. Таким образом, входящие данные могут быть распознаны, только если нейрон находится в области, которая охватывает его, в этом случае входящие данные агрегируются, как описано выше. В противном случае входящие данные определяют новую информацию, которая значительно отличается от всей информации, которой сеть уже обучена. В этом случае входящие данные называется "соответствующими", и создается новый нейрон, который представляет новую информацию. Нейроны, которые представляют релевантную информацию частично "качественную" далее называются "нейронами качества".
Как было указано выше для более простого случая штрафных бросков DyCoN, это процесс создания качественных нейронов которые являются не монотонными и могут колебаться. Специфическое качество информации является в том, что актуальность теории может исчезнуть, если один и тот же стимул подается чаще раза к сети, что приводит к медленному реагированию на различные раздражители и, следовательно, в конечном итоге они сливаются в различные нейроны и кластеры (см. рисунок 3.6).Если, в свою очередь, нейрон реже связался по сравнению с его окрестности, он снова может стать изолированным нейроном с высокой актуальностью.
Несколько сложнее управление нейронами DyCoNG и поясняется следующим образом: новый (черный) качественный нейрон подготовлен (см. рисунок 3.4), если возбуждающие входящие данные не являются достаточно подходящими для нейронов в сети. В противном случае, используется подходящий нейрон для этих данных. Поэтому, имеет смысл, понимать каждый качественный нейрон как нейронно-специфического возбуждающего потенциала, который, следовательно, может быть динамически контролируемым PerPot-метамоделью (Перл, 2004).
Рисунок 3.5 - Серия из четырех игроков с оценками качества и редкости бросков. Выделенные броски в верхней области оценки можно интерпретировать как редкие, так и обычные броски
Подводя итог, два основных преимущества можно ожидать от описанной модификации обучения с использованием актуальности и качества: создание специфических качественных нейронов помогает избежать объединения и стандартизацию эффектов традиционного обучения нейронной сети. Согласно основанному на PerPot контролю качества, качественными значениями нейронов являются динамически адаптированная частота и актуальность представленной информации. Основываясь на предположении, что существует прочная аналогия между качеством нейронов и оригинальностью представленных видов деятельности, реакцию нейросети на входящие данные (например, создание нового связанного/ не связанного качественного нейрона или нет) указывает на оценку творчества соответствующей деятельности.
Рисунок 3.6 - Данная сеть (вверху слева) состоит из нейронов, которые представляют соответствующую информацию (вверху в центре и справа). После того, как некоторые шаги активации будут выполнены, новые нейроны теряют свои качества: они дрейфуют и сливаются в новые кластера (левый нижний и средний), пока, наконец, новый кластер не обретет меньшее значение, чем старое.