Вопрос 35. Алгоритм вычисления оценок (аво).

См вопрос 36.

Вопрос 36. Основные идеи, лежащие в основе аво.

Рассмотрим полный набор признаков х = {x₁,...,x_N} и выде­лим систему подмножеств множества признаков (систему опор­ных множеств алгоритма) S₁,...,S_l. В АВО обычно рассматриваются либо все подмножества множества признаков фиксированной длины k, k=2,...,N—1, либо вообще все подмножества множе­ства признаков.

Удалим произвольный поднабор признаков из строк ω_1, ω_{2, ...,} ω_rm , ω’и обозначим полученные строки S_ω1, S_ω2,... ,S_ωrm, S_{ω’ .} Правило близости, позволяющее оценить похожесть стро­ки S_ω’, соответствующей распознаваемому объекту ω', и строки S_ωk, соответствующей произвольному объекту исходной таблицы, состоит в следующем.

Пусть «усеченные» строки содержат q первых признаков, т. е. S_wk = (α₁,..., α_q) и S_ω’ = (β₁,..., β_q), и заданы пороги ε₁, ε₂,... ,ε_q, δ . Строки S_ωи S_ωk считаются по­хожими, если выполняется не менее чем δ неравенств вида | α_j – β_j| < ε_j, j =1,..., q. Величины ε₁, ε₂,... ,ε_q, δ входят в качестве параметров в АВО.

Рассмотрим процедуру вычисления оценок по подмножеству Si . Проверяет­ся близость строки Si_ω’ строками Si_ω1, Si_ω2,... ,Si_ωr1,-,, принадлежа­щими объектам класса Ω₁. Число строк этого класса, близких по выбранному критерию классифицируемой строке Si_ω’, обоз­начается Γ_Si(ω’, Ω₁); последняя величина представляет собой оценку строки ω’ для класса Ω₁ по опорному множеству Si. Аналогичным образом вычисляются оценки для остальных клас­сов. Применение подобной процеду­ры ко всем остальным опорным множествам алгоритма позво­ляет получить систему оценок Γ_S1(ω’, Ω₁), ..., Γ_S1(ω’, Ω_m), ...,Γ_Sk(ω’, Ω₁), ...,Γ_Sk(ω’, Ω_m).

Γ(ω’, Ω₁) = Γ_S1(ω’, Ω₁) + Γ_S2(ω’, Ω₁) + ... + Γ_Sk(ω’, Ω₁) =

(1)Γ(ω’, Ωm) = Γ_S1(ω’, Ωm) + Γ_S2(ω’, Ωm) + ... + Γ_Sk(ω’, Ωm) =

Величины Γ(ω’, Ω₁),...,Γ(ω’, Ω_m) представляют собой оценки строки ω’ для соответствующих классов по системе опорных множеств алгоритма S_A. Решающее правило может прини­мать различные формы, в частности распознаваемый объект мо­жет быть отнесен к классу, которому соответствует максималь­ная оценка, либо эта оценка будет превышать оценки всех ос­тальных классов не меньше чем на определенную пороговую ве­личину n1, либо значение отношения соответствующей оценки к сумме оценок для всех остальных классов будет не менее значения порога n2 и т. д. Параметры типа n1 и n2 также включаются в АВО.

38. Алгоритм обучение перцептрона

y=(y¹,…,y^N) -векторы из спрямляющего пр-во Y принадлежащие w₁ или w₂

Задачи обучения перцептрона: на данной обуч. Посл. найти w=(w₁,…,w_k) с помощью которой данная обуч. посл. Y классифицируется безошибочно.

Алг.: на k-м шаге:

если y(k)w₁ и w^T(k)y(k)<=0, то w(k+1)=w(k)+cy(k)

если y(k)w₂ и w^T(k)y(k)>=0, то w(k+1)=w(k)-cy(k)

иначе w(k+1)=w(k)

c -корректирующее приращение

Останов. когда вся обуч. последовательность распознана правильно при неизменном в-ре весов.

Замечания:1) приведенный алгоритм реализует принцип подкрепления и наказания.

2) при построении модели предполагалось, что распрямляющая плоскость проходит через 0, но реально м-т оказ-ся иначе. Это испрвляется путем ввода доп. координаты y=(y1,y2,..,yn1,1).

3) преобразуем обуч. посл-ть Y в , где

тогда алгоритм проще: если (k)w₁ и w^T(k) (k)<=0, то w(k+1)=w(k)+c (k) иначе w(k+1)=w(k)