1. Мысал

Z	Z1	Z2	Z3	Z4	Z5	Z6	Z7	Z8
P(Z)	1/2	¼	1/8	1/16	1/32	1/64	1/128	1/128
Код	1	01	001	0001	00001	000001	0000001	00000001

Қысудың ең жоғарғы эффектісіне қол жеткізу

мұндағы: n(z_i) – кодтық комбинацияның символдық саны, z_i белгісімен бірігу

2. Мысал

Z1	0,22	11
Z2	0,2	101
Z3	0,16	100
Z4	0,16	01
Z5	0,1	001
Z6	0,1	0001
Z7	0,04	00001
Z8	0,02	000001

H(z)=2.76

l_ср=2.84

3. Мысал

Мәлімет Z₁ және Z₂ екі белгіден олардың пайда болу ықтималдығы P(Z₁)=0,9; P(Z₂)=0,1 тұрады.

Блокты кодттау үшін келесі екі әріптен құралатын келесі кодтарды аламыз

Z1 Z1	0,81	0
Z1 Z2	0,09	01
Z2 Z1	0,09	001
Z2 Z2	0,01	000
Блоктар	Ықтималдылық	Кодтық комбинациялар

(Белгілер статистикалық байланыспағандықтан блоктар ықтималдықтары құралған белгілер ықтималдықтарының көбейтіндісі ретінде анықталады).

l_ср =1,29

l_ср/әріп =0,645

Теориялық тұрғыдан минимумға жету шексіз белгілер санымен анықталған блоктарды кодтау арқылы іске асырылады.

Шеннон-Фэно тәсілінің кемшілігі- бірмәнсіздігі. Хаффман әдісі бұл кемшіліктерден арылған.

Хаффмен әдістемесі.

Хаффман әдістемесі симвлдарды әріпке орташа санмен ықтималдықтарын берілген үлестіру үшін кодын бірмәнді құруды қамтамасыз етеді.

Мысалы:

Белгілер	Ықтималдылық	1	2	3	4	5	6	7
z1 z2 z3 z4 z5 z6 z7 z8	0,22 0,20 0,16 0.16 0.10 0.10 0,04 0,02	0,22 0,20 0,16 0,16 0,10 0,10 0,06	0,22 0,20 0,16 0,16 0,16 0,10	0,26 0,22 0,20 0,16 0,16	0,32 0,26 0,22 0,20	0,42 0,32 0,26	0,58 0,42	1

z1 z2 z3 z4 z5 z6 z7 z8

01 00 111 110 100 1011 10101 10100

(25)

(26)

Негізгі әдебиеттер:2[162-166,163-193]; 3[23-29]; 6[130-135]; 9[97-119]; 10[26-27]; 15[128-136].

Қосымша әдебиеттер: 13[135-136]; 16[42-57].

Бақылау сұрақтары:

1. Ақпаратты өңдеуде немесе сақтауда, екілік кодты қолдану үшін басымдылықты береді.

2. Кедергісі бар кодтау туралы Шеннонның негізгі теоремасын қалыптастыр және түсіндір.

3. Тиімді кодтау барысында кедергі орташа кодтық комбинацияның ұзындығын қалай анықтаймыз.

4. Тиімді кодтар үшін, кодтық комбинацияның орташа ұзындығы белгілі бір шекке дейін қысқаруы мүмкін.

5. Тиімді кодттар негізгі қандай шарттарда қанағаттандырады?

Дәріс №12. Кедергіге тұрақты кодтау.

Кедергіге тұрақты кодтау Шенноның №2 теоремасы (кедергісі бар каналдар үшін) бойынша анықталады:

Каналдың өткізу қабілеттігінен кем ақпарат көзінің кез келген өнімділігінде, аз қателікті хабар көзімен құралған барлық ақпаратты өткізетін кодтау тәсілі бар.

Бұл символдар тізбегін беретін артықтықты кодтау кезіндегі енгізу бағасымен іске асырылады, себебі қабылдау бөлігінде қателерді тауып, түзеуге арналған қосымша шарттарды қанағаттандыру қажет.

Қазіргі кезде кездесетін көптеген кедергіге қарсы кодтарда көрсетілген шарттар олардың алгебралық код құрылымының тізбегі болып табылады.

Алгебралық кодтар 2 үлкен класқа бөлінеді:

1. Блоктық;

2. Үздіксіз.

Блоктық кодтар: хабардың әр әрпіне n символдан тұратын блок сәйкестендіріледі.

Егер n барлық әріптерге тұрақты болып қалса, онда блоктық кодты біркелкі деп атайды.

Блоктық кодтар бөлінетін және бөлінбейтін болады.

Бөлінбейтін кодтардың айырмашылығы символдарды шығу тізбегінде ақпараттық және тексерілетін символдарға ажыратуға болмайды.

Үздіксіз (бұтақ тәріздес) деп артықтық символдарды ақпараттық символдардың кодтау тізбегіне үздіксіз, яғни тәуелсіздерге бөлінбейтін егізу кодтарын айтамыз.

Үздіксіз кодтар да бөлінетін және бөлінбейтін бола алады.