Мозг Машины

Хинтон ранние попытки репликация мозга были ограничены. Компьютеры могут запускать свои алгоритмы обучения на малых нейронных сетей, но масштабирования модели быстро переполняют процессоров. В 2005 году, Hinton обнаружил, что если он разрезала его нейронных сетей в слои и побежал алгоритмы на них один слой, который приближает мозга структуры и развития, процесс стал более эффективным.

Хотя Hinton опубликовал свое открытие в два топ-журналах, нейронных сетей уже впал в немилость, и “он боролся за то, чтобы заинтересовать людей”, сказал ли Дэн, ведущий исследователь Microsoft Research в штате Вашингтон. Дэн, однако, знал, Хинтона и решил дать своему “глубокого изучения” способ попробовать в 2009 году, быстро увидев ее потенциал. В годы с тех пор, теоретические алгоритмы обучения были практическом использовании в растущего числа приложений, таких как Google Теперь личный помощник и голос функция поиска по Microsoft Windows phones.

Одним из наиболее перспективных из этих алгоритмов, машина Больцмана, носит имя 19-го века австрийский физик Людвиг Больцман, кто разработано отраслевое физики дело с большим количеством частиц, известных как статистическая механика. Больцмана открыл уравнение, давая вероятность газовых молекул, имеющих особую энергию, когда она достигает равновесия. Заменить молекул с нейронами, и машина Больцмана, как он стреляет, сходится в точности одно и то же уравнение.

Синапсы в сети начинаются со случайным распределением весов и гирь постепенно переделаны согласно удивительно простая процедура: нейронных импульсов шаблон, который создается во время машина кормят данных (таких как изображения или звуки) по сравнению со случайной стрельбы деятельность, которая происходит в момент, когда отключается.

Кейт Пеннер

Джеффри Hinton, пионером в области искусственного интеллекта, считает, что лучший подход к пониманию того, как мозги учиться, чтобы попытаться создать компьютеры, которые учатся точно так же. “Вы неизбежно обнаружите много нового о вычислительные проблемы, и вы обнаружите их на уровень понимания того, что психологи не имеют”, - сказал он.

Каждый виртуальный СИНАПС треков оба набора статистических данных. Если нейроны она соединяет огонь близко друг к другу чаще, движимый данных, чем когда они стреляют наугад, вес синапса, увеличивается на суммы, пропорциональной разности. Но если два нейронов чаще огонь вместе во время случайной стрельбы, чем управляемые данными стрельбы, СИНАПС, соединяя их слишком густой, и, соответственно, ослабевает.

Наиболее часто используемые версии Больцмана машина работает лучше всего, когда он “обучен”, или накормил тысячи примеров данных, один слой. Первый, самый нижний слой сети получает необработанные данные, представляющие пиксельные изображения или multitonal звуки, и, как сетчатки клеток, нейронов огонь, если они обнаруживают контрасты в их исправление данных, такие, как переход от светлого к темному. Стрельба может вызвать связанных нейронов тоже огонь, в зависимости от веса синапсов между ними. Как правило, пары виртуальных нейронов многократно по сравнению с фоне стрельбы статистические данные, значимые связи между нейронами на это, постепенно создаются и укрепляются. Веса синапсов оттачиваются, и изображение или звук категорий прочно вошла в соединениях. Каждый последующий слой обучены таким же образом, используя входные данные с уровня ниже.

Если изображение автомобиля подается в нейронных сетей, обученных обнаруживать специфические объекты на изображениях нижнего слоя пожаров если она обнаруживает, контраст, которые могли бы указать на краю или конечной точки. Эти нейроны сигналов поездки на высоком уровне нейронов, которые в свою очередь определяют углы, части колеса, и так далее. В верхнем слое существуют нейроны, что огонь только в случае, если изображение содержит автомобиля.

“Волшебная вещь, что происходит, - он способен к обобщению, - сказал Ян LeCun, директор Центра Данных Науки в Нью-йоркском университете. “Если вы покажете их машину, она никогда раньше не видела, если он имеет некоторые общие формы или аспект, что все автомобили, ты показал это во время обучения, он может решить, что это-авто”.

Нейронные сети в последнее время поразивший их шаг, благодаря Hinton слой за слоем, режим обучения, использования высокоскоростных компьютерных чипов называемый графический процессоры, и взрывной рост количества изображений и записанной речи, которые могут быть использованы для обучения. Такие сети могут теперь корректно распознает около 88 процентов слова, сказанные в нормальных, человеческих, английский-язык разговоры, по сравнению с 96% для среднего слушателя-человека. Они могут определить машин и тысячи других объектов на изображениях с подобная точность и в последние три года стали доминировать машинного обучения соревнований.