27. Шеннон-Фано кодын құру қағидалары. Шеннон-Фано коды.
Әріптер альфавитінен құрылған хабарды әрбір әріпке келетін символдардың орташа санын азайтып кодалауға болатынын ағылшынғалымы Шеннон дәлелдеген. Өзара статистикалық байланысы жоқ өріптерден құрылған хабарды тиімді кодалау әдісін ең алғаш рет Шеннон және Фэно көрсеткен, сондықтан мұндай кода Шэннон - Фэно кодасы деп те аталады.
Шеннон-Фано коды былайша құрылады: хабар жазылған алфавит әріптері өздерінің сол хабарда пайда болу ықтималдығының ретіне сәйкес, алдымен, ықтималдығы көп әріптер, содан кейін сол ықтималдық кему ретімен кестеге жазылады. Одан кейін оларды екі топқа бөліп (әр топтағы ықтималдықтар қосындысы мүмкіндігінше бірдей немесе жақын), оның жоғарғы тобындағы әріптердің бірінші символын "0" деп, төмендегілердің бірінші символын "1" деп алады. Содан кейін әр топ тағы екі топқа бөлініп, ондағы әріптерге екінші символ белгіленеді. Сөйтіп ең соңғы топтарда бір-бір әріп қалғанша бөлініп ең соңғы символ беріледі. Сонда хабардағы жиі кездесетін, яғни ықтималдығы жоғары әріптерге берілетін символ саны аз, ал сирек кездесетін, яғни ықтималдығы аз өріптерге берілетін символдар саны көп болады.
Шеннон-Фано алгоритмінің Хаффман алгоритмінен айырмашылығы ,Хаффман алшоритмі жапырақтарынан түбіріне ұмтылатын болса, ал Фано түбірінен жапырақтарына ұмтылады
28. Ақпараттың құрылымдық өлшемдері: құрылымдық, геометриялық, аддитивті.
Ақпараттар теориясы– бұл ақпаратты алу, түрлендіру, жинау, өңдеу және беру жайлы ғылым.
Ақпараттық теориясының бағыттары: құрылымдық, статистикалық, семантикалық
Құрылымдық теория жеке ақпараттық хабарламаларды құру құрылымын қарастырады.
Статистикалық теория анықталмағандық өлшемі тұрғысынана ақпаратты бағалайды.
Семантикалық теория ақпараттың мағыналық сипаттамаларын оқытады: бағалылығы, пайдалылығы, тиімділігі, ақпаратты өткізу қабілеттілігі, ақпараттық бөгеуілге тосқауыл беруі және құрамы.
Құрылымдық теорияда ақпараттың геометриялық, комбинаторлық және аддитивтік өлшемдері қарастырылады. Ең кең тарағаны- екілік аддитивтік өлшем, ол Хартли өлшемі (1928ж.) деп те аталады. Ақпараттың саны екілік өлшеммен - битпен өлшенеді.
I=log2m,
мұндағы, I – ақпарат саны немесе көлемі
m – элементтер саны
Геометриялық өлшем ақпарат көлемін бағалайды.
Комбинаторлық өлшем ақпаратты әр түрлі комбинациялармен өрнектегенде қолданылады.
Мысалы, 1110 саны берілген. 0 саны орын ауыстырғаннан кейін комбинация өзгерді: 0111. Яғни, 14 саны 7-ге ауысты
Ақпараттың статистикалық өлшемінде (Шеннон өлшемі, 1947-1948жж) ақпарат кездейсоқ оқиға, ақпараттың көлемінде осы оқиғалардың ықтималдықтары қарастырылады. Оқиғалардың толық тобы ансамбль деп аталады. Ансамбльдердің энтропиясы оның анықсыздығының сандық өлшемін есептейді.
Энтропия (эн-тропе) грек тілінен аударғанда айналдыру, түрлендіру деген мағынаны береді. Энтропия былай есептеледі:
29. Кванттау. Уақыт бойынша дискреттеу.
Сигналдарды дискреттеу - Қазіргі байланыс техникасының даму кезеңінде сигналды импульс түрінде беру қолайлырақ болатындықтан, ақпараттық үзіліссіз сигналдарды үзілісті сигналдарға ауыстырады. Үзіліссіз сигналды уақыт бойынша үзілісті сигналдар тізбегіне айналдыруды "дискреттеу" деп атайды.
Үзіліссіз сигналды дискреттегенде оның әрбір мезгілдегі мәнін немесе сигнал деңгейінің әрбір сатылық деңгейлік мәнін алады. Соларға қарай оны уақыт бойынша үзілістеу (дискреттеу) немесе деңгейлік дәрежесіне карай үзілістеу дейді. Сигналдарды дискреттеудің бірқалыпты өзгеруіне байланысты оларды кванттау деп те атайды. Сөйтіп үзіліссіз сигналды үзілісті сигналдарға айналдырғанда, олар уақыт бойынша үзілістеу деңгейіне қарай үзілістеу және әрі уақыт бойынша, әрі деңгейіне карай үзілістеу болып бөлінеді.
Үзіліссіз сигналды уақыт бойынша үзілістегенде үзіліссіз сигналдың мәнін әрбір белгілі уақыт қадамында есептейді. Әрине ол уақыт қадамын белгілегенде қайтадан қалпына келтірілгенсигнал дәлдігіне әсерін ескереді. Сигналды деңгейіне қарай үзілістегенде үзіліссіз сигналдың мәндерін белгілі бір деңгейлік сатыға өскенде немесе кемігенде алады. Сигналды әрі уақыт бойынша, әрі деңгей бойынша үзілістенгенде, алдымен уақыт бойынша бір-бірінен белгілі қадам арасында орналасқан нүктелерді белгілеп, одан кейін осы уақыттагы сигналмәнінің белгіленген сигналдың сатылық қадамына жақын тұрған (жоғарғы немесе төменгі) деңгейін алады. Үзілістеу әдістерінің артықшылығы немесе кемшілігі бар.
Кванттау, дискреттеу– 1) кванттарға (порцияларға) бөлу; 2) қандай да бір шаманың жеке (дискретті) мәндерін белгілі бір заңға сәйкес тізбекті қатар түрінде көрсету (мысалы,энергия бойынша кванттау, қозғалыс мөлшері моментін шамасы мен бағыты бойынша кванттау, т.б.)