3. Навчання нейромережі без вчителя

Основна риса навчання без вчителя – його самостійність. Процес навчання базується на налаштуванні ваги синапсів.

В основу алгоритму навчання Хебба покладені відомі принципи самоорганізації нервових клітин. Алгоритм має вигляд:

1. На стадії ініціалізації надати всім ваговим коефіцієнтам невеликі випадкові значення.

2. На вхід НМ подається образ, сигнали збудження розповсюджуються по всіх шарах.

3. Змінюються вагові коефіцієнти нейронів за формулою:

або ,

де – вихідне значення і-го нейрона (q-1)-го шару; – вихідне значення j-го нейрона q-го шару; , – вагові коефіцієнти синапсу, що з’єднує ці нейрони на t-й і (t-1)-й ітераціях; α – коефіцієнт швидкості навчання.

4. Якщо вихідні значення НМ не стабілізуються з заданою точністю, то перейти до п. 2. у протилежному випадку – кінець алгоритму.

Отже, за таким способом визначення моменту закінчення навчання фактично не обмежена, на кроці 2 циклу поперемінно подають всі образи з вхідного набору.

Алгоритм навчання Кохонена базується на співвідношенні . Тут навчання зводиться до мінімізації різниці між вхідними сигналами нейрона, які подаються з виходу нейрона попереднього шару (q-1)-го шару, і вагових коефіцієнтів його синапсів. Повний алгоритм навчання такий самий як для методу Хебба, лише на 3 кроці з усього шару вибирають нейрон, значення синапсів якого максимально схожі на вхідний образ і підбудова ваги виконується тільки для нього. Це так звана акредитація, що може супроводжуватися гальмуванням всіх інших нейронів шару і введенням вибраного нейрону у стан насичення.

Іноді нейрони, які часто отримують акредитацію, примусово виключаються з розгляду, щоб зрівняти права всіх нейронів шару. Найпростіший варіант містить гальмування щойно вигравшого нейрона.

Для зменшення тривалості навчання за алгоритмом Кохонена використовують нормалізацію вхідних образів та початкових значень на стадії ініціалізації за формулами:

, , де х_і – і-й компонент вхідного образу або вектора, n – розмірність вектора.

Ініціалізація вагових коефіцієнтів випадковими значеннями може привести до того, що різні класи, яким відповідають щільно розподілені вхідні образи, зіллються або навпаки поділяться на додаткові підкласи у випадку близьких образів одного класу. Чим ближчий кінець навчання, тим точніше визначається група нейронів, яка відповідає кожному класу образів.

Білет 2

1. Генерация електромагнитного излучения

В соответствии с классической электродинамикой известно, что каждый ускоренный электрический заряд приводит к излучению электромагнитной волны, причем ускорение в простейшем случае может быть связано с колебаниями заряда. Частота ν колебания; определяется свойствами колебательного контура — индуктивностью I. и емкостью C контура. Поскольку не удалось уменьшить определенную нижнюю границу для I. и С, то таким способом возможно генерирование электромагнитных волны с максимальной частотой примерно 10¹¹ Гц соответственно λ=1мм.

Для получения более коротких волн используют атомный, диполь - колеблющийся диполь атомных размеров (порядка 10^-8 см). При этом речь, идет о молекулах, атомах, вобуждениях в твердых телах (для чрезвычайно коротковолнового γ-излучения) ядрах атомов. Атом состоит из положительно заряженного атомного ядра и врашающегося (отрицательного) електроного облака, причем возможны только определенные енергетические состояния атома Е_і (і=1,2,…). Переход с более высокого (энергия Е₂) к более низкому энергетическому уровню (Е₁) (електронные переход) осуществляется за счет колебания диполя с частотой ν = (Е₂ – Е₁)/h где h- постоянная Планка (h = 6,62*10^-34 Дж*с). Излучение электромагнитной волны на этой частоте происходит с энергией (Е₂ – Е₁) которая испускается в виде фотона. Называемое светом электромагнитное излучение реализуется в ввиде суммарного излучения всех атомных диполей рассматриваемого источника света. При этом наряду с поглощением возникает как спонтанное, так в вынужденное излучение. В какой доле оба вида излучения вносят вклад в результирующее излучение, зависит от отношений заселенностей излучающих атомов, которые определяются способом возбуждения. Если излучение определяется в основном спонтанным процессом, то речь идет о тепловом (обычном) источнике света. Такое излучение называют тепловым или также естественным светом. Оно возникает за счет статистического (спонтанного) излучения несвязанных друг с другом возбужденных атомов. Если излучение в основном определяется вынужденным процессом, то речь идет о лазерном излучении, оно возникает как синхронизированное излучение возбужденной системы.

Обычные источники света. Излучение обычных источников света происходит за счет электронных переходов в атомах, молекулах и комплексных средах или за счет врашательно-колебательных переходов в сложных молекулах. Таким образом, спектральная область излучения простирается от дальней ИК- до УФ области спектра и выходя за пределы оптического диапазона в узком смысле — до области рентгеновских лучей. Возбуждение соответствующих атомных диполей происходит в столкновениях, причем энергия столкновения получается за счет химических процессов (лампы горения) или электрической энергии (электрические лампы). Результатом теплового возбуждения является заселенность возбуждаемых энергетических уровней согласно распределению Больцмана. Для N_i, N_j атомов в состояниях с энергиями Е_i, Е_j справедливо соотношение

Таким образом, возбужденное состояние E_i/E_j всегда имеет меньшую заселенность по сравнению с нижележащим уровнем N_i<N_j. Излучение как переход из возбужденного состояния Е_і в енергетически более низкое состояние E_j происходит тогда спонтанно с вероятностью ω_sp, с испусканием фотона с энергией E_i – E_j = h·ν_ij, соответствующей электромагнитной волне частоты ν_ij.

Такое излучение характеризуется маленькой длиной когерентности, излучение с такими характеристиками называют тепловым (или также хаотическим) светом. Обычные источники излучения дают относительно широкий спектр частот, который определяется способом возбуждения, а также излучающей средой. Источники излучения можно характеризовать: как селективные (линейчатые) излучатели испускают только излучение отдельных частот; как излучатели со сплошным спектром: излучают широкий спектр частот. Идеальный тепловой излучатель, который поглощает все падающее на него излучение и также полностью снова испускает излучение, называют абсолютно черным телом.

Лазерные источники света.

Лазерное излучение характеризуется чрезвычайно высокой степенью монохроматичности, когерентности, направленности и яркости. К этим свойствам можно добавить генерацию световых импульсов малой длительности. Это свойство, возможно, менее фундаментально, но оно играет очень важную роль. Рассмотрим теперь эти свойства подробнее.

Монохроматичность – излучение на одной длины волны.

Когерентность - для любой электромагнитной волны можно определить два независимых понятия когерентности, а именно пространственную и временную когерентность.

Для того чтобы определить пространственную когерентность, рассмотрим две точки P₁ и Р₂, через которые проходит волновой фронт некоторой электромагнитной волны, и пусть E₁(t) и E₂(t) — соответствующие электрические поля в этих точках. В момент времени t = 0 разность фаз электрических полей в данных точках равна нулю. Если эта разность фаз остается равной нулю в любой момент времени t>0, то говорят, что между двумя точками имеется полная когерентность. Если такое условие выполняется для любых пар точек волнового фронта, то данная волна характеризуется полной пространственной когерентностью. Следует заметить, что понятия временной и пространственной когерентности на самом деле не зависят друг от друга.

Направленность – это свойство является простым следствием того, что активная среда помещена в резонатор, например плоскопараллельный резонатор, показанный на рис. 1.3. В таком резонаторе могут поддерживаться только такие электромагнитные волны, которые распространяются вдоль оси резонатора или в очень близком к оси направлении.

Импульсы малой длительности - помощи специального метода, называемого синхронизацией мод, можно получить импульсы света, длительность которых приблизительно обратно пропорциональна ширине линии перехода 2→1. Например, в газовых лазерах, ширина линии усиления которых относительно узкая, можно получать импульсы излучения длительностью ~0,1-1 нc. У твердотельных или жидкостных лазеров ширины линий усиления могут быть в 10³— 10⁵ раз больше, чем у газовых лазеров, и поэтому генерируемые ими импульсы оказываются значительно короче (от 1 пс до ~30 фс).