23. Индукция и дедукция. Алгоритм индуктивного обучения. Деревья решений

Дедукция – переход в процессе познания от общего знания о некотором классе предметов и явлений к знанию частному и единичному.

Индукция – это переход в процессе познания от частного знания к общему; от знания меньшей степени общности к знанию большей степени общности.

Обобщение примеров по принципу индукции сводится к выявлению подмножеств примеров, относящихся к одним и тем же классам, и определению для них значимых признаков.

Алгоритм индуктивного обучения:

• выбирается признак классификации из множества заданных;

• по значению выбранного признака множество примеров разбивается на подмножества;

• выполняется проверка, принадлежит ли каждое образовавшееся подмножество примеров одному подклассу. Если да, то процесс классификации заканчивается.

• Для подмножеств примеров с несовпадающим значением классообразующего признака процесс классификации продолжается, начиная с пункта 1. (Каждое подмножество примеров становится классифицирующим множеством).

Процесс классификации может быть представлен в виде дерева решений, в котором в промежуточных узлах находятся значения признаков последовательной классификации, а в конечных узлах – значения признака принадлежности определенному классу.

Пример построения дерева решений

Цена	Спрос	Издержки
Низкая	Низкий	Маленькие
Высокая	Низкий	Большие
Высокая	Высокий	Большие
Высокая	Высокий	Маленькие
Высокая	Высокий	Маленькие
Высокая	Высокий	Большие

23. Искусственные нейронные сети. Обучение нейронных сетей

Исскусcтвенная нейронная се́ть - это математическая модель, а также устройства параллельных вычислений, представляющие собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Как математическая модель исскусcтвенная нейронная сеть представляет собой частный случай методов распознавания образов или дискриминантного анализа. Такие процессоры обычно довольно просты, особенно в сравнении с процессорами, используемыми в персональных компьютерах. 

Интеллектуальные системы на основе искусственных нейронных сетей позволяют с успехом решать проблемы распознавания образов, выполнения прогнозов, оптимизации, ассоциативной памяти и управления.

Обучение нейронных сетей

По организации обучения разделяют обучение нейронных сетей с учителем (supervised neural networks) и без учителя (nonsupervised).

При обучении с учителем предполагается, что есть внешняя среда, которая предоставляет обучающие примеры (значения входов и соответствующие им значения выходов) на этапе обучения или оценивает правильность функционирования нейронной сети и в соответствии со своими критериями меняет состояние нейронной сети или поощряет (наказывает) нейронную сеть, запуская тем самым механизм изменения ее состояния.

Под состоянием нейронной сети, которое может изменяться, обычно понимается:

- веса синапсов нейронов (карта весов - map) (коннекционистский подход);

- веса синапсов и пороги нейронов;

- установление новых связей между нейронами.

По способу обучения разделяют обучение по входам и по выходам. При обучении по входам обучающий пример представляет собой только вектор входных сигналов, а при обучении по выходам в него входит и вектор выходных сигналов, соответствующий входному вектору.

По способу предъявления примеров различают предъявление одиночных примеров и "страницы" примеров. В первом случае изменение состояния нейронной сети (обучение) происходит после предъявления каждого примера. Во втором - после предъявления "страницы" (множества) примеров на основе анализа сразу их всех.

По особенностям модели нейрона различают нейроны с разными нелинейными функциями:

• пороговой;

• экспоненциальной сигмоидой;

• рациональной сигмоидой;

• гиперболическим тангенсом.