Добавил:
okley
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:ML - Коротков (2 сем, мага) / Lecture_4
.pdf
3
2
длина
1
Гусеница божья коровка
1 2 3
ширина
Благодаря нашему графику мы безо всяких вычислений
видим, что линия у = 0,25х не является хорошим
классификатором. Интуитивно мы понимаем, что правый
край нужно немного поднять. Попытаемся найти набор
команд - алгоритм.D
Обратимся к первому тренировочному примеру,
соответствующему божьей коровке: ширина 3,0 и длина
1,0.если бы мы тестировали этот пример, то:D
у = (0,25) *(3,0) = 0,75
Функция, в которой для параметра А установлено случайно
выбранное значение 0,25, сообщает, что для жука шириной
3,0, длина должна быть 0,75. Но истинное значение 1,0. D
На лицо расхождение или ошибка.D
Попробуем подобрать АD
Подумаем.D
Если положить у = 1,0, то прямая пройдёт через точку (х, у) =
(3,0; 1,0),D
соответствующую божьей коровке.
Нам желательно, чтобы линия проходила над этой точкой.
Мы хотим, чтобы точки данных божьей коровки лежали под
линией, а не на ней. Линия должна служить разделителем
между точками данных божьих коровок и гусениц, а не
предсказывать длину жука по известной ширине.
Конечно, есть соблазн приподнять правый край прямой, но в
этом случае мы не получим нужного эффекта, не найдём
алгоритм предсказания.
Напомним, что мы хотим «научить» компьютер находить
подходящий коэффициент линейной функции, который
позволил бы нам отделять членов одного класса данных от
другого.
Попробуем нацелиться на значение y=1,1 при x=3,0. Оно лишь
ненамного больше 1,0. Вместо него можно было бы взять
значение 1,2 или 1,3, но никак не 10 или 100, поскольку с
большой долей вероятности это привет к тому, что прямая
будет проходить над всеми точками данных, как божьих
коровок, так и гусениц, в результате чего она станет полностью
бесполезной в качестве разделителя.
Следовательно, мы выбираем целевое значение 1,1 и
определяем ошибку E с помощью следующей формулы:
ошибка = желаемое целевое значение - фактический результат
или (после подстановки значений):
Е = 1,1 - 0,75 = 0,35
3
2
длина
1
желаемое значение
у = 1,1
расчётное значение
у = 0,75
Ошибка
Е = 1,1 - 0,75 = 0,35
1 2 3
ширина
Разберём очень важный вопрос. каким образом наше знание
величины ошибки E может помочь в нахождении лучшего
значения для параметра A?D
Мы хотим использовать ошибку в значении y, которую назвали
E, для нахождения искомого изменения параметра A. Для этого
нам нужно знать, как эти две величины связаны между собой.
Каково соотношение между A и E? Если бы это было нам
известно, то мы могли бы понять, как изменение одной
величины влияет на другую.
Начнем с линейной функции для классификатора:
у = Ах
Нам уже известно, что начальные попытки присвоения
пробных значений параметру A привели к неверным
значениям y, если ориентироваться на тренировочные
данные. Пусть t — корректное целевое значение. Чтобы
получить его, мы должны ввести в A небольшую поправку.
Для таких поправок в математике принято использовать
символ ∆, означающий “небольшое изменение”. Запишем
соответствующее уравнение:
t = (A + ∆А)х
Опять, отобразим это уравнение на диаграмме на которой
показаны линии для двух значений наклона: A и A + ∆А.
3
2
длина
t = (A + ∆А )х
у = Ах
1
Е
1 2 3
ширина
Ошибку E мы определили как разность между желаемым
корректным значением y и расчетным значением, полученным
для текущего пробного значения A. Таким образом, E = t-y.
Запишем это в явном виде:
t - y = (A + ∆A)x - Ax
Приведя подобные члены, получим:
E = t - y = Ax + ∆Ax -Ax
E = (∆A)x
Таким образом, мы нашли взаимоотношение между между A и
E. Оно настолько простое, что даже может показаться, что где
то вкралась ошибка. Но оно действительно верно. И это очень
хорошо для нас, что оно такое простое.
Преобразуем последнее уравнение, чтобы найти выражение
для ∆A :
∆A = Е/х
Это и есть то, что мы искали!
Теперь мы можем использовать ошибку E для изменения
наклона классифицирующей линии на величину ∆А в нужную
сторону.
Когда x был равен 3,0, ошибка была равна 0,35. Таким
образом ∆A = Е/х, превращается в 0,35 / 3,0 = 0,1167. Это
означает, что текущее значение A=0,25 необходимо измени ть
на величину 0,1167.
Соседние файлы в папке ML - Коротков (2 сем, мага)