Канал бойынша шумен берілгендерді беру принциптері аҚпаратты беру жылдамдығы және шумен дискретті каналдың өткізгіштік қабілеттіл

Х хабарлама көзіне x₁, x₂, ...., x_n элементтерінен хабарлама көзі хабарлама жіберсін, ал хабарламаны алушы кейбір элементтерінен y₁, y₂, ...., y_n тұратын Y кейбір хабарламасын қабылдасын. Хабарлама канал бойынша шумен беріледі.

x ₁ y₁

x ₂ y₂

... ...

x _n y_n

Яғни, шумен канал бойынша хабарламаны беру кезінде қабылдайтын жақта берілді деп айтуға болмайды. Хабарлама берілді деген ықтималдылықпен айтуға болады.

Егер y_i қабылдасақ, онда әр-түрлі ықтималдылықпен x_i берілді деп айтамыз. Если принят, то можно лишь говорить, что с различными вероятностями были переданы, мұндағы i=1,...,n. Мұндай беріліс шартты p(x_i/y_j) ықтималдылық көмегімен математикалық түсіндіріледі.

Егер каналда шу болмаса, онда p(x₁/y₁) =1, p(x₁/y₂) =0 және қалған барлығы p(x₁/y_n) = 0.

Беріліске дейін хабарлама энтропиямен сипатталады H(x_i)=log 1/p(x_i)= -log p(x_i). (*)

H(x_i) шамасы шартсыз немесе априорлы энтропия деп аталады. Шу болған жағдайда хабарлама нәтижесінде энтропия нольге дейін азаяды, қалдықты энтропия шамасына дейін

H(x_i/y_j)=log 1/p(x_i/y_j) = -log p(x_i/y_j). (**)

H(x_i/y_j) шамасы шартсыз немесе априорлы энтропия деп аталады. Анықтаймыз

Ш(ч_ш.н_о)= Р(ч_ш) - Р(ч_ш.н_о) = дщп (з(ч_ш.н_о)).з(ч_ш)ю (1)

Қабылданған элементте y_j ақпарат мөлшері берілген элементке x_i қалай қатынасты. Орташаға келтіре отырып ақпараттың жекелеген мөлшерін I(x_i/y_j) – берілген хабарламаның барлық элементтерін p(x_i) есепке ала отырып және қабылданған хабарламаның барлық элементтері бойынша p(y_j), ақпарат мөлшерін аламыз (2)

Шу болған кездегі ақпаратты алу механизмі

БЕРГЕНГЕ ДЕЙІН БЕРГЕННЕН КЕЙІН

ЭНТРОПИЯ H(Х) H(Х/Y)

АҚПАРАТ 0 H(X)-H(X/Y)

Жағдайды қарастырамыз:

1. Шу болмаған жағдайды, яғни әрбір берілген символға бір ғана қабылданған сигнал сәйкес келеді.

p(x_i/y_j)=1 немесе 0, H(x_i/y_j) = 0 ізінше H(X/Y) =0 және I(X/Y)=H(X), яғни жоғалған ақпарат жоқ.

2. Шу деңгейі жоғары болғаны сондай, қабылданған хабарлама беретін хабарламамен байланыспайды.

p(x_i/y_j)= p(x_i), H(x_i/y_j)=H(x_i) ізінше H(X/Y) = H(X) и I(X/Y)=0, яғни толығымен ақпаратты жоғалту жүреді.

Сондықтан 0  I(X/Y)  H(X) =I(X).

Шумен дискретті канал бойынша ақпаратты беру жылдамдығы

R = V_к I(X/Y) бит/с.,

Мұнда

V_к – канал бойынша символдарды беру жылдамдығы;

I(X/Y) – бір сөзбен тасымалданатын, ақпараттың орташа мөлшері

С = max R – шу болған кездегі каналдың өткізгіштік қасиеті.

Көріп отырғандай, шу болған жағдайда каналдың өткізгіштік қасиеті кемиді.

Шумен дискретті канал бойынша Шеннон теоремасының өткізгіштік қасиеті

Тура теоремасы:

Если производительность источника сообщения P хабарлама көзінің өнімділігі С каналының өткізгіштік қабілеттілігінен аспайтын болса Р  С онда шудың болғанына қарамастан кодттаудың мынандай әдісі болады, беру кезінде ақпарат жоғалмайды, Р  С кезінде, ақпаратты беру жылдамдығы С (R  С) ұмтылады.

Кері теорема.

Егер Р > C, онда ақпаратты жоғалтусыз беру кодттау әдісі болмайды.

Бұл теоремада кодттаудың дәл бір әдісі көрсетілмеген, ақпарат нольге тең болатын бірақ оның бары дәлелденген.

Мысал.

Шусыз канал Шумен канал

V_к = 1000 дв.симв./c V_к = 1000 дв.симв./c

C_бп = 1000 бит/c C_п = 600 бит/c

Р_бп = 1000 бит/c Р_п = 600 бит/c

V_и^opt = 1000 дв.симв./c V_и^opt = 600 дв.симв./c

Каналад шу боған кезде канал бойынша 1000 дв.симв./c беріледі Оның 400 дв.симв./c артық ақпарат болып табылады, яғни C_бп - C_п = С.

Шеннона теоремасына сәйкес шумен канал бойынша ақпаратты қатесіз берудің жалғыз әдісі артықтықты енгізу.

Дәріс 9