Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Теория информации. Лабораторный практикум в MATLAB. Учебное пособие
.pdf
ȺɂɉɊɂɏɈȾɖɄɈ
ɌȿɈɊɂəɂɇɎɈɊɆȺɐɂɂ
ɅȺȻɈɊȺɌɈɊɇɕɃɉɊȺɄɌɂɄɍɆȼ0$7/$%
ɊɟɤɨɦɟɧɞɨɜɚɧɨɍɆɈɊȺȿɩɨɤɥɚɫɫɢɱɟɫɤɨɦɭɭɧɢɜɟɪɫɢɬɟɬɫɤɨɦɭ
ɢɬɟɯɧɢɱɟɫɤɨɦɭɨɛɪɚɡɨɜɚɧɢɸɜɤɚɱɟɫɬɜɟɭɱɟɛɧɨɝɨɩɨɫɨɛɢɹɞɥɹɫɬɭɞɟɧɬɨɜ
ɜɵɫɲɢɯɭɱɟɛɧɵɯɡɚɜɟɞɟɧɢɣɨɛɭɱɚɸɳɢɯɫɹɩɨɧɚɩɪɚɜɥɟɧɢɹɦɩɨɞɝɨɬɨɜɤɢ
©ɂɧɮɨɤɨɦɦɭɧɢɤɚɰɢɨɧɧɵɟɬɟɯɧɨɥɨɝɢɢɢɫɢɫɬɟɦɵɫɜɹɡɢª
©Ɋɚɞɢɨɬɟɯɧɢɤɚª
Ɇɨɫɤɜɚȼɨɥɨɝɞɚ
©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹª

ɍȾɄ
ȻȻɄ
ɉ
Ɋɟɰɟɧɡɟɧɬɵ
ɞɨɤɬɨɪɬɟɯɧɢɱɟɫɤɢɯɧɚɭɤɩɪɨɮɟɫɫɨɪɄ. ɋ. Ʉɨɪɨɬɤɨɜ
ɞɨɤɬɨɪɮɢɡɢɤɨɦɚɬɟɦɚɬɢɱɟɫɤɢɯɧɚɭɤɩɪɨɮɟɫɫɨɪɆ. ɏ. ɍɪɬɟɧɨɜ
ɉɪɢɯɨɞɶɤɨȺɂ
ɉ
ɌɟɨɪɢɹɢɧɮɨɪɦɚɰɢɢɅɚɛɨɪɚɬɨɪɧɵɣɩɪɚɤɬɢɤɭɦɜ0$7/$%ɭɱɟɛɧɨɟ
ɩɨɫɨɛɢɟ Ⱥ ɂ ɉɪɢɯɨɞɶɤɨ ± Ɇɨɫɤɜɚ ȼɨɥɨɝɞɚ ɂɧɮɪɚɂɧɠɟɧɟɪɢɹ
±ɫɢɥ
,6%1
ɉɪɢɜɨɞɹɬɫɹɨɫɧɨɜɧɵɟɩɨɥɨɠɟɧɢɹɬɟɨɪɢɢɢɧɮɨɪɦɚɰɢɢɋɨɞɟɪɠɚɬɫɹɬɟɨɪɟ
ɬɢɱɟɫɤɢɟɫɜɟɞɟɧɢɹɪɚɫɱɟɬɧɵɟɡɚɞɚɧɢɹ ɫɩɪɢɦɟɪɚɦɢPɮɚɣɥɨɜɚɬɚɤɠɟɦɟɬɨɞɢ
ɱɟɫɤɢɟɭɤɚɡɚɧɢɹɢɤɨɧɬɪɨɥɶɧɵɟɜɨɩɪɨɫɵ
Ⱦɥɹɫɬɭɞɟɧɬɨɜ ɨɛɭɱɚɸɳɢɯɫɹɩɨɧɚɩɪɚɜɥɟɧɢɹɦɩɨɞɝɨɬɨɜɤɢ©ɂɧɮɨɤɨɦɦɭ
ɧɢɤɚɰɢɨɧɧɵɟɬɟɯɧɨɥɨɝɢɢɢɫɢɫɬɟɦɵɫɜɹɡɢªɢ©ɊɚɞɢɨɬɟɯɧɢɤɚªɆɨɠɟɬɛɵɬɶɩɨ
ɥɟɡɧɨɩɪɟɩɨɞɚɜɚɬɟɥɹɦ
ɍȾɄ
ȻȻɄ
,6%1 ɉɪɢɯɨɞɶɤɨȺɂ
ɂɡɞɚɬɟɥɶɫɬɜɨ©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹª
Ɉɮɨɪɦɥɟɧɢɟɂɡɞɚɬɟɥɶɫɬɜɨ©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹª

ɉɊȿȾɂɋɅɈȼɂȿ
ɐɟɥɶɸɥɚɛɨɪɚɬɨɪɧɨɝɨɩɪɚɤɬɢɤɭɦɚɹɜɥɹɟɬɫɹɢɡɭɱɟɧɢɟ ɨɫɧɨɜ
ɧɵɯ ɩɨɥɨɠɟɧɢɣ ɬɟɨɪɢɢ ɢɧɮɨɪɦɚɰɢɢ ɢ ɩɪɢɨɛɪɟɬɟɧɢɟ ɩɪɚɤɬɢɱɟ
ɫɤɢɯɧɚɜɵɤɨɜɪɚɛɨɬɵɜɫɢɫɬɟɦɟɩɪɨɝɪɚɦɦɢɪɨɜɚɧɢɹ0$7/$%
Ɋɚɛɨɱɢɣ ɫɬɨɥ ɢɧɬɟɪɮɟɣɫ 0$7/$% ɫɨɞɟɪɠɢɬ ɫɥɟɞɭɸɳɢɟ
ɨɤɧɚ
± &RPPDQG:LQGRZ Ʉɨɦɚɧɞɧɨɟ ɨɤɧɨ ± ɨɫɧɨɜɧɨɟɨɤɧɨ ɫ
ɚɤɬɢɜɢɡɢɪɨɜɚɧɧɨɣɤɨɦɚɧɞɧɨɣɫɬɪɨɤɨɣ
±&XUUHQW)ROGHUɌɟɤɭɳɚɹɩɚɩɤɚ±ɨɤɧɨɜɤɨɬɨɪɨɦɩɨɤɚɡɚ
ɧɨɫɨɞɟɪɠɢɦɨɟɬɟɤɭɳɟɣɩɚɩɤɢ
±:RUNVSDFHɊɚɛɨɱɚɹɨɛɥɚɫɬɶ±ɨɤɧɨɜɤɨɬɨɪɨɦɜɵɜɨɞɢɬɫɹ
ɫɩɢɫɨɤ ɬɟɤɭɳɢɯ ɩɟɪɟɦɟɧɧɵɯ ɫɨɯɪɚɧɹɟɦɵɯ ɜ ɩɚɦɹɬɢ ɜɨ ɜɪɟɦɹ
ɜɵɱɢɫɥɟɧɢɣ
±&RPPDQG+LVWRU\ ɂɫɬɨɪɢɹ ɤɨɦɚɧɞ ±ɜɷɬɨɦɨɤɧɟɜɵɜɨ
ɞɢɬɫɹɢɫɬɨɪɢɹɜɵɩɨɥɧɟɧɢɹɩɪɨɝɪɚɦɦɧɨɝɨɤɨɞɚɫɝɪɭɩɩɢɪɨɜɚɧɧɚɹ
ɩɨɞɚɬɚɦ
Ɋɚɛɨɬɚɜ 0$7/$% ɦɨɠɟɬɩɪɨɜɨɞɢɬɶɫɹɥɢɛɨ ɜ ɪɟɠɢɦɟɩɪɹ
ɦɵɯɜɵɱɢɫɥɟɧɢɣɥɢɛɨ ɜ ɪɟɠɢɦɟ ɜɵɩɨɥɧɟɧɢɹ ɡɚɪɚɧɟɟ ɫɨɫɬɚɜɥɟɧ
ɧɵɯɩɪɨɝɪɚɦɦ
Ɋɟɠɢɦ ɩɪɹɦɵɯ ɜɵɱɢɫɥɟɧɢɣ ɪɟɠɢɦ ɞɢɚɥɨɝɚɩɨɥɶɡɨɜɚɬɟɥɹ ɫ
ɫɢɫɬɟɦɨɣɩɪɨɜɨɞɢɬɫɹɧɟɩɨɫɪɟɞɫɬɜɟɧɧɨɜ ɤɨɦɚɧɞɧɨɣɫɬɪɨɤɟɨɤɧɚ
&RPPDQG :LQGRZ ȼ ɜɟɪɯɧɟɦ ɥɟɜɨɦ ɭɝɥɭ ɨɤɧɚ ɧɚɯɨɞɹɬɫɹ ɞɜɚ
ɡɧɚɤɚ!!ɫɢɦɜɨɥɢɡɢɪɭɸɳɢɟɧɚɱɚɥɨɫɬɪɨɤɢȼɷɬɨɣɫɬɪɨɤɟɦɨɠɧɨ
ɧɚɛɢɪɚɬɶ ɮɨɪɦɭɥɵ ɢɥɢ ɤɨɦɚɧɞɵ ɭɞɨɜɥɟɬɜɨɪɹɸɳɢɟ ɫɢɧɬɚɤɫɢɫɭ
ɹɡɵɤɚ0$7/$%ɢɡɚɜɟɪɲɚɸɳɢɟɫɹɧɚɠɚɬɢɟɦɤɥɚɜɢɲɢ(QWHU!
Ɋɟɠɢɦ ɩɪɨɝɪɚɦɦɢɪɨɜɚɧɢɹ ɩɪɟɞɩɨɥɚɝɚɟɬ ɩɪɟɞɜɚɪɢɬɟɥɶɧɨɟ
ɫɨɫɬɚɜɥɟɧɢɟ ɩɪɨɝɪɚɦɦ Pɮɚɣɥɨɜ ɩɨɥɶɡɨɜɚɬɟɥɟɦ ɤɨɬɨɪɵɟ ɩɨɞ
ɪɚɡɞɟɥɹɸɬɫɹɧɚVFULSWɮɚɣɥɵɢIXQFWLRQɮɚɣɥɵ
6FULSWɮɚɣɥ±ɷɬɨɫɨɡɞɚɜɚɟɦɵɣɩɨɥɶɡɨɜɚɬɟɥɟɦPɮɚɣɥɩɪɟɞ
ɫɬɚɜɥɹɸɳɢɣ ɫɨɛɨɣ ɨɫɧɨɜɧɭɸ ɭɩɪɚɜɥɹɸɳɭɸ ɩɪɨɝɪɚɦɦɭ ɤɨɬɨ
ɪɚɹɫɨɞɟɪɠɢɬɩɨɫɬɪɨɱɧɨɡɚɩɢɫɚɧɧɵɟɨɩɟɪɚɬɨɪɵɹɡɵɤɚ0$7/$%
ɉɪɨɝɪɚɦɦɚ ɫɨɡɞɚɟɬɫɹ ɜ ɨɤɧɟ (GLWRU
Ɋɟɞɚɤɬɨɪ P
ɮɚɣɥɨɜ
ɤɨɬɨɪɨɟɨɬɤɪɵɜɚɟɬɫɹɜɪɟɡɭɥɶɬɚɬɟɧɚɠɚɬɢɹɧɚɤɧɨɩɤɭ1HZ6FULSW
ɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɢɥɢ ɫɨɱɟɬɚɧɢɹ ɤɥɚɜɢɲ &WUO1 ! ɉɨɫɥɟ
ɨɬɤɪɵɬɢɹɨɤɧɚɨɩɟɪɚɬɨɪɵɩɪɨɝɪɚɦɦɵɜɜɨɞɹɬɫɹɫɬɪɨɤɚɡɚɫɬɪɨɤɨɣ
ɩɪɢɱɟɦ0$7/$%ɚɜɬɨɦɚɬɢɱɟɫɤɢɧɭɦɟɪɭɟɬɧɨɜɭɸɫɬɪɨɤɭɤɚɠɞɵɣ
ɪɚɡɤɨɝɞɚɧɚɠɢɦɚɟɬɫɹɤɥɚɜɢɲɚ(QWHU!

ɉɪɟɞɢɫɥɨɜɢɟ
ɋɨɯɪɚɧɟɧɢɟVFULSWɮɚɣɥɚɨɫɭɳɟɫɬɜɥɹɟɬɫɹɫɩɨɦɨɳɶɸɤɧɨɩɤɢ
6DYH ɧɚɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɩɨɫɥɟɜɵɛɨɪɚ ɤɨɦɚɧɞɵ 6DYH $V«
ɢɡɨɬɤɪɵɜɚɸɳɟɝɨɫɹɦɟɧɸɉɪɢɫɨɯɪɚɧɟɧɢɢ0$7/$%ɩɪɢɛɚɜɥɹɟɬ
ɪɚɫɲɢɪɟɧɢɟPɤɢɦɟɧɢɮɚɣɥɚ ȼɵɩɨɥɧɟɧɢɟVFULSWɮɚɣɥɚɧɚɱɢɧɚ
ɟɬɫɹ ɜ ɪɟɡɭɥɶɬɚɬɟ ɧɚɠɚɬɢɹ ɤɧɨɩɤɢ 5XQ ɧɚɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ
ɢɥɢɮɭɧɤɰɢɨɧɚɥɶɧɨɣɤɥɚɜɢɲɢ)!
)XQFWLRQɮɚɣɥ ± ɷɬɨ ɫɨɡɞɚɜɚɟɦɵɣ ɩɨɥɶɡɨɜɚɬɟɥɟɦ Pɮɚɣɥ
ɩɪɟɞɫɬɚɜɥɹɸɳɢɣɫɨɛɨɣɜɧɟɲɧɸɸɮɭɧɤɰɢɸȽɥɚɜɧɚɹɨɫɨɛɟɧɧɨɫɬɶ
ɮɚɣɥɚɮɭɧɤɰɢɢ± ɷɬɨɬɨɱɬɨɭɧɟɟɟɫɬɶɜɜɨɞɢɜɵɜɨɞɗɬɨɨɡɧɚɱɚ
ɟɬ ɱɬɨ ɜɵɱɢɫɥɟɧɢɹ ɜ ɮɚɣɥɟ ɮɭɧɤɰɢɢ ɜɵɩɨɥɧɹɸɬɫɹ ɫ ɢɫɩɨɥɶɡɨ
ɜɚɧɢɟɦɜɯɨɞɧɵɯɞɚɧɧɵɯɚɪɟɡɭɥɶɬɚɬɵɜɵɱɢɫɥɟɧɢɣɩɟɪɟɞɚɸɬɫɹɢɡ
ɮɚɣɥɚ ɮɭɧɤɰɢɢ ɜ ɨɫɧɨɜɧɭɸ ɩɪɨɝɪɚɦɦɭ ɤɚɤ ɪɟɡɭɥɶɬɚɬ Ⱦɥɹ
ɫɨɡɞɚɧɢɹ ɮɚɣɥɚ ɮɭɧɤɰɢɢ ɧɟɨɛɯɨɞɢɦɨ ɧɚ ɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ
ɧɚɠɚɬɶɤɧɨɩɤɭ1HZ ɢɜɵɛɪɚɬɶɤɨɦɚɧɞɭ)XQFWLRQɎɚɣɥɮɭɧɤɰɢɢ
ɞɨɥɠɟɧ ɛɵɬɶ ɫɨɯɪɚɧɟɧ ɞɨ ɟɝɨ ɢɫɩɨɥɶɡɨɜɚɧɢɹ ɜ ɨɫɧɨɜɧɨɣ
ɩɪɨɝɪɚɦɦɟ ɗɬɨɞɟɥɚɟɬɫɹ ɬɚɤ ɠɟ ɤɚɤ ɢɫɨ VFULSWɮɚɣɥɨɦ ɨɞɧɚɤɨ
IXQFWLRQɮɚɣɥ ɧɟɨɛɯɨɞɢɦɨ ɫɨɯɪɚɧɹɬɶ ɫ ɢɦɟɧɟɦ ɫɨɜɩɚɞɚɸɳɢɦ ɫ
ɢɦɟɧɟɦɮɭɧɤɰɢɢɜɫɬɪɨɤɟɟɟɨɩɪɟɞɟɥɟɧɢɹ
ȼ ɧɟɤɨɬɨɪɵɯ ɫɥɭɱɚɹɯ ɨɤɚɡɵɜɚɟɬɫɹ ɭɞɨɛɧɵɦ ɢɫɩɨɥɶɡɨɜɚɧɢɟ
ɚɧɨɧɢɦɧɨɣ ɮɭɧɤɰɢɢ DQRQ\PRXV IXQFWLRQ ɤɨɬɨɪɚɹ ɨɩɪɟɞɟɥɟɧɚ ɢ
ɡɚɩɢɫɚɧɚɜɩɪɟɞɟɥɚɯɨɫɧɨɜɧɨɣ ɩɪɨɝɪɚɦɦɵ
Ʉɚɠɞɚɹɥɚɛɨɪɚɬɨɪɧɚɹɪɚɛɨɬɚɫɨɞɟɪɠɢɬɬɟɨɪɟɬɢɱɟɫɤɢɟɫɜɟɞɟ
ɧɢɹ ɪɚɫɱɟɬɧɵɟ ɡɚɞɚɧɢɹ ɫɩɪɢɦɟɪɚɦɢ Pɮɚɣɥɨɜ ɚ ɬɚɤɠɟɦɟɬɨɞɢ
ɱɟɫɤɢɟɭɤɚɡɚɧɢɹɢɤɨɧɬɪɨɥɶɧɵɟ ɜɨɩɪɨɫɵ

Ʌɚɛɨɪɚɬɨɪɧɚɹɪɚɛɨɬɚʋ
^`
A
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢɢ ɷɧɬɪɨɩɢɹ
ɐɟɥɶ ɪɚɛɨɬɵ ɂɡɭɱɢɬɶ ɩɨɧɹɬɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɢ
ɷɧɬɪɨɩɢɢ ɨɜɥɚɞɟɬɶ ɩɪɨɝɪɚɦɦɧɵɦɢ ɫɪɟɞɫɬɜɚɦɢ ɢɯ ɪɚɫɱɟɬɚ ɜ
0$7/$%
Ɍɟɨɪɟɬɢɱɟɫɤɢɟɫɜɟɞɟɧɢɹ
Ⱦɢɫɤɪɟɬɧɵɣɢɫɬɨɱɧɢɤɢɧɮɨɪɦɚɰɢɢ± ɷɬɨɢɫɬɨɱɧɢɤɤɨɬɨɪɵɣ
ɜɵɪɚɛɚɬɵɜɚɟɬ ɞɢɫɤɪɟɬɧɵɟ ɫɨɨɛɳɟɧɢɹ ɫɨɫɬɨɹɳɢɟ ɢɡ ɤɨɧɟɱɧɨɝɨ
ɦɧɨɠɟɫɬɜɚ ɫɢɦɜɨɥɨɜ Ɇɧɨɠɟɫɬɜɨ
ɦɨɠɧɵɯ ɫɢɦɜɨɥɨɜ
aa a
m
aa a
ɧɚɡɵɜɚɟɬɫɹ ɚɥɮɚɜɢɬɨɦ ɚɧɫɚɦ
ɜɫɟɯ ɜɨɡ
m
ɛɥɟɦ ɢɫɬɨɱɧɢɤɚ ɚ ɜɟɥɢɱɢɧɚ m ± ɨɛɴɟɦɨɦ ɚɥɮɚɜɢɬɚ Ʉɚɠɞɵɣ
ɫɢɦɜɨɥ
m
pa
¦
i
ɜɵɪɚɛɚɬɵɜɚɟɬɫɹ ɫ ɜɟɪɨɹɬɧɨɫɬɶɸ
a
i
ɩɨɫɤɨɥɶɤɭ ɜɫɟ ɫɢɦɜɨɥɵ ɫɨɫɬɨɹɧɢɹ ɢɫɬɨɱɧɢɤɚ ɫɨ
i
pa
i
ɩɪɢɱɟɦ
ɫɬɚɜɥɹɸɬɩɨɥɧɭɸɝɪɭɩɩɭɫɥɭɱɚɣɧɵɯɫɨɛɵɬɢɣ
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
ɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
ɨɩɪɟɞɟɥɹɟɬɫɹɜɵɪɚɠɟɧɢɟɦ
a
i
ORJ
Ia pa
ii
ɫɨɞɟɪɠɚɳɟɟɫɹ ɜ ɥɸɛɨɦ ɢɡ
Ia
i
Q
ɝɞɟȞ± ɨɫɧɨɜɚɧɢɟɥɨɝɚɪɢɮɦɚ
Ʌɨɝɚɪɢɮɦɢɱɟɫɤɚɹɦɟɪɚɢɦɟɟɬɫɥɟɞɭɸɳɢɟɫɜɨɣɫɬɜɚ
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
ɧɚɹɢɭɛɵɜɚɸɳɚɹɫɪɨɫɬɨɦ
pa
i
± ɜɟɥɢɱɢɧɚ ɧɟɨɬɪɢɰɚɬɟɥɶ
Ia
i
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɫɨɞɟɪɠɚɳɟɟɫɹ ɜ ɞɨɫɬɨɜɟɪɧɨɦ
ɫɢɦɜɨɥɟɩɟɪɟɞɚɜɚɟɦɨɦɫɜɟɪɨɹɬɧɨɫɬɶɸ
ORJ
IaQ
i
pa
ɪɚɜɧɨɧɭɥɸ
i
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢɫɨɞɟɪɠɚɳɟɟɫɹɜɥɸɛɨɦɱɢɫɥɟ N
ɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ ɪɚɜɧɨ ɫɭɦɦɟ ɤɨɥɢɱɟɫɬɜ ɢɧɮɨɪɦɚɰɢɢ ɫɨ
ɞɟɪɠɚɳɢɯɫɹɜɤɚɠɞɨɦɢɡɧɢɯ

Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
Ia aa pa aa
ɝɞɟ
pa aa p
a
ɧɢɹɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
ORJ
N
ORJ ORJ
QQ
i
Ni
NN
pa pa Ia
iii
N
i
Q
NN
¦¦
ii
± ɫɨɜɦɟɫɬɧɚɹ ɜɟɪɨɹɬɧɨɫɬɶɩɨɹɜɥɟ
a aa
N
Ɇɟɪɚ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɧɟ ɭɱɢɬɵɜɚɟɬ ɤɚɱɟ
ɫɬɜɟɧɧɨɟ ɫɨɞɟɪɠɚɧɢɟ ɩɟɪɟɞɚɜɚɟɦɨɝɨ ɫɨɨɛɳɟɧɢɹ ɜɚɠɧɨɫɬɶ ɞɥɹ
ɩɨɥɭɱɚɬɟɥɹ ɷɦɨɰɢɨɧɚɥɶɧɭɸ ɨɤɪɚɫɤɭ ɜɨɡɦɨɠɧɵɟ ɩɨɫɥɟɞɫɬɜɢɹ ɢ
ɬɞɚɨɬɪɚɠɚɟɬɥɢɲɶɫɬɟɩɟɧɶɟɝɨɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɢ
ȿɞɢɧɢɰɚ ɢɡɦɟɪɟɧɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɡɚɜɢɫɢɬ ɨɬ
ɜɵɛɨɪɚɨɫɧɨɜɚɧɢɹɥɨɝɚɪɢɮɦɚȞ
±
Q
ɩɪɢ ɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢ
Ia OJ pa
ii
ɢɡɦɟ
ɪɹɟɬɫɹɜ ɞɟɫɹɬɢɱɧɵɯ ɟɞɢɧɢɰɚɯ± ɞɢɬɚɯ ɢɥɢɏɚɪɬɥɢɷɬɚ ɟɞɢɧɢɰɚ
ɫɟɣɱɚɫɩɪɚɤɬɢɱɟɫɤɢɧɟɢɫɩɨɥɶɡɭɟɬɫɹ
±
ɩɪɢ ɤɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
eQ |
Ia OQ pa
ii
ɢɡɦɟɪɹɟɬɫɹɜɧɚɬɭɪɚɥɶɧɵɯɟɞɢɧɢɰɚɯ± ɧɚɬɚɯɷɬɚɟɞɢɧɢɰɚɨɛɵɱɧɨ
ɢɫɩɨɥɶɡɭɟɬɫɹɩɪɢɬɟɨɪɟɬɢɱɟɫɤɢɯɢɫɫɥɟɞɨɜɚɧɢɹɯ
± ɩɪɢ ɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢ ɢɡɦɟɪɹ
Q
ORJa
Ia
ii
ɟɬɫɹɜɞɜɨɢɱɧɵɯɟɞɢɧɢɰɚɯ± ɛɢɬɚɯɨɬɚɧɝɥELW±%,QDU\GLJL7ɷɬɚ
ɟɞɢɧɢɰɚ ɲɢɪɨɤɨɢɫɩɨɥɶɡɭɟɬɫɹ ɢ ɩɨ ɭɦɨɥɱɚɧɢɸ ɨɫɧɨɜɚɧɢɟ ɥɨɝɚ
ɪɢɮɦɚɨɩɭɫɤɚɟɬɫɹ
Ʌɨɝɚɪɢɮɦɢɱɟɫɤɚɹ ɦɟɪɚ ɫ ɨɫɧɨɜɚɧɢɟɦ ɥɨɝɚɪɢɮɦɚ
Q
ɞɥɹɫɥɭɱɚɹɤɨɝɞɚɜɫɟɫɢɦɜɨɥɵɪɚɜɧɨɜɟɪɨɹɬɧɵɢ
pa
i
m
ɜɩɟɪɜɵɟɩɪɟɞɥɨɠɟɧɚɚɧɝɥɢɣɫɤɢɦɭɱɟɧɵɦɊɅɏɚɪɬɥɢɜɝ
ɗɧɬɪɨɩɢɹɞɢɫɤɪɟɬɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɢɧɮɨɪɦɚɰɢɢɫɚɥɮɚɜɢɬɨɦ
ɷɬɨ±
Aa
^`
i
ɨɞɢɧɥɸɛɨɣɫɢɦɜɨɥ
HA
ɧɚɯɨɞɢɬɫɹ ɤɚɤ ɦɚɬɟɦɚɬɢɱɟɫɤɨɟ ɨɠɢɞɚɧɢɟɞɢɫɤɪɟɬɧɨɣ ɫɥɭ
ɱɚɣɧɨɣɜɟɥɢɱɢɧɵ
ɫɪɟɞɧɟɟɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢɩɪɢɯɨɞɹɳɟɟɫɹɧɚ
ɜɵɪɚɛɚɬɵɜɚɟɦɵɣɢɫɬɨɱɧɢɤɨɦɗɧɬɪɨɩɢɹ
a
i
ɨɩɪɟɞɟɥɹɸɳɟɣ ɤɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
Ia
i
ɫɨɞɟɪɠɚɳɟɟɫɹɜɨɞɧɨɦɫɥɭɱɚɣɧɨɜɵɛɪɚɧɧɨɦɫɢɦɜɨɥɟ
HA M^Ia
`
i

Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɢ ɷɧɬɪɨɩɢɹ
ɝɞɟ
± ɡɧɚɤɦɚɬɟɦɚɬɢɱɟɫɤɨɝɨ ɨɠɢɞɚɧɢɹ ɨɡɧɚɱɚɸɳɢɣ ɭɫɪɟɞ
M
^`
ɧɟɧɢɟɫɬɨɹɳɟɣɜɮɢɝɭɪɧɵɯɫɤɨɛɤɚɯɫɥɭɱɚɣɧɨɣɜɟɥɢɱɢɧɵɩɨ ɜɫɟɦ
ɟɟɜɨɡɦɨɠɧɵɦɪɟɚɥɢɡɚɰɢɹɦ
ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ ɧɟɡɚɜɢɫɢɦɵɯ ɫɢɦɜɨɥɨɜ ɫɨɝɥɚɫɧɨ
ɨɩɪɟɞɟɥɹɟɬɫɹɩɨɮɨɪɦɭɥɟ
m
ORJ
H A pa pa
¦
ii
i
ɗɧɬɪɨɩɢɹ ɢɡɦɟɪɹɟɬɫɹ ɜ ɟɞɢɧɢɰɚɯ ɛɢɬ ɧɚ ɫɢɦɜɨɥ ɛɢɬ ɧɚ
ɛɭɤɜɭɛɢɬɧɚɫɨɨɛɳɟɧɢɟ
ɋɜɨɣɫɬɜɚɷɧɬɪɨɩɢɢ
ɗɧɬɪɨɩɢɹɟɫɬɶɜɟɥɢɱɢɧɚɨɝɪɚɧɢɱɟɧɧɚɹɧɟɪɚɜɟɧɫɬɜɚɦɢ
ORJHA mdd
ɗɧɬɪɨɩɢɹ ɨɛɪɚɳɚɟɬɫɹ ɜ ɧɭɥɶ ɟɫɥɢ ɫɨɫɬɨɹɧɢɟ ɢɫɬɨɱɧɢɤɚ
ɩɨɥɧɨɫɬɶɸɨɩɪɟɞɟɥɟɧɨɬɟɨɞɢɧɫɢɦɜɨɥɢɦɟɟɬɜɟɪɨɹɬɧɨɫɬɶɪɚɜ
ɧɭɸɟɞɢɧɢɰɟɚɜɟɪɨɹɬɧɨɫɬɢɜɫɟɯɨɫɬɚɥɶɧɵɯɫɢɦɜɨɥɨɜɪɚɜɧɵɧɭ
ɥɸ
ɗɧɬɪɨɩɢɹɦɚɤɫɢɦɚɥɶɧɚɢɪɚɜɧɚ
ORJHA m
ɟɫɥɢɜɫɟɫɢɦɜɨɥɵɢɫɬɨɱɧɢɤɚɪɚɜɧɨɜɟɪɨɹɬɧɵɬɟ ɞɥɹɜɫɟɯ ɡɧɚɱɟ
ɧɢɣ i « m ɜɟɪɨɹɬɧɨɫɬɢɫɨɫɬɚɜɥɹɸɬ
pa m
i
ɗɧɬɪɨɩɢɹ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɫ ɱɢɫɥɨɦ ɫɢɦɜɨɥɨɜ m
ɩɪɢ
pa p
ɢ
pa p
ɫɨɝɥɚɫɧɨ ɨɩɪɟɞɟɥɹɟɬɫɹ ɜɵɪɚ
ɠɟɧɢɟɦ
ORJ ORJHA p p p p
ɂɡɮɨɪɦɭɥɵɫɥɟɞɭɟɬɱɬɨɷɧɬɪɨɩɢɹɞɜɨɢɱɧɨɝɨɢɫɬɨɱɧɢ
ɤɚɢɡɦɟɧɹɟɬɫɹɨɬ ɧɭɥɹ ɞɨɟɞɢɧɢɰɵɞɨɫɬɢɝɚɹɦɚɤɫɢɦɭɦɚɩɪɢɡɧɚ
ɱɟɧɢɢɚɪɝɭɦɟɧɬɚ
pp
Ɍɚɤɢɦɨɛɪɚɡɨɦ ɛɢɬ± ɷɬɨɤɨɥɢ
ɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢɫɨɞɟɪɠɚɳɟɟɫɹɜɨɞɧɨɦɢɡɞɜɭɯɪɚɜɧɨɜɟɪɨɹɬ
ɧɵɯɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
ɗɧɬɪɨɩɢɹ ɨɛɴɟɞɢɧɟɧɢɹ ɢɥɢ ɫɨɜɦɟɫɬɧɚɹ ɷɧɬɪɨɩɢɹ ɧɟ
ɫɤɨɥɶɤɢɯ ɫɬɚɬɢɫɬɢɱɟɫɤɢ ɧɟɡɚɜɢɫɢɦɵɯ ɢɫɬɨɱɧɢɤɨɜ ɫ ɚɥɮɚɜɢɬɚɦɢ
AA A
ɪɚɜɧɚɫɭɦɦɟɷɧɬɪɨɩɢɣɷɬɢɯɢɫɬɨɱɧɢɤɨɜ
N

Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
N
HAA A HA
¦
Nk
k
ɗɧɬɪɨɩɢɹ ɯɚɪɚɤɬɟɪɢɡɭɟɬ ɫɪɟɞɧɸɸ ɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɶ ɜɵ
ɛɨɪɚɨɞɧɨɝɨɫɢɦɜɨɥɚɢɡɚɥɮɚɜɢɬɚɢɫɬɨɱɧɢɤɚɉɪɢɟɟɨɩɪɟɞɟɥɟɧɢɢ
ɢɫɩɨɥɶɡɭɸɬɬɨɥɶɤɨɜɟɪɨɹɬɧɨɫɬɢɫɢɦɜɨɥɨɜɩɨɥɧɨɫɬɶɸ ɢɝɧɨɪɢɪɭɹ
ɢɯɫɨɞɟɪɠɚɬɟɥɶɧɭɸɫɬɨɪɨɧɭ
ɗɧɬɪɨɩɢɹ ɤɚɤ ɦɟɪɚ ɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɢ ɫɨɝɥɚɫɭɟɬɫɹ ɫ ɷɤɫ
ɩɟɪɢɦɟɧɬɚɥɶɧɵɦɢ ɞɚɧɧɵɦɢ ɩɨɥɭɱɟɧɧɵɦɢ ɩɪɢ ɢɡɭɱɟɧɢɢ ɩɫɢɯɨ
ɥɨɝɢɱɟɫɤɢɯ ɪɟɚɤɰɢɣ ɱɟɥɨɜɟɤɚ ɢ ɜ ɱɚɫɬɧɨɫɬɢ ɪɟɚɤɰɢɢ ɜɵɛɨɪɚ
Ɍɚɤ ɭɫɬɚɧɨɜɥɟɧɨ ɱɬɨɜɪɟɦɹɛɟɡɨɲɢɛɨɱɧɨɣ ɪɟɚɤɰɢɢ ɧɚɩɨɫɥɟɞɨ
ɜɚɬɟɥɶɧɨɫɬɶ ɛɟɫɩɨɪɹɞɨɱɧɨ ɱɟɪɟɞɭɸɳɢɯɫɹ ɪɚɜɧɨɜɟɪɨɹɬɧɵɯ ɪɚɡ
ɞɪɚɠɢɬɟɥɟɣɧɚɩɪɢɦɟɪ ɡɚɝɨɪɚɸɳɢɯɫɹɥɚɦɩɨɱɟɤɪɚɫɬɟɬ ɫ ɭɜɟɥɢ
ɱɟɧɢɟɦɢɯɤɨɥɢɱɟɫɬɜɚɬɚɤɠɟɤɚɤɷɧɬɪɨɩɢɹ
Ɍɟɪɦɢɧ ©ɷɧɬɪɨɩɢɹª ɜ ɬɟɨɪɢɢ ɢɧɮɨɪɦɚɰɢɢ ɢ ɜɵɪɚɠɟɧɢɟ
ɞɥɹ ɟɟɜɵɱɢɫɥɟɧɢɹ ɜɩɟɪɜɵɟ ɛɵɥɢ ɜɜɟɞɟɧɵ ɜɝ ɚɦɟɪɢ
ɤɚɧɫɤɢɦɭɱɟɧɵɦɄȿɒɟɧɧɨɧɨɦ ɂɦ ɛɵɥɨ ɜɵɫɤɚɡɚɧɨ ɭɬɜɟɪɠɞɟ
ɧɢɟɚ ɫɨɜɟɬɫɤɢɦɦɚɬɟɦɚɬɢɤɨɦ əȺɏɢɧɱɢɧɵɦ ɫɬɪɨɝɨɞɨɤɚɡɚɧɨ
ɱɬɨ ɮɨɪɦɭɥɚ ɹɜɥɹɟɬɫɹ ɟɞɢɧɫɬɜɟɧɧɵɦ ɮɭɧɤɰɢɨɧɚɥɨɦ ɭɞɨ
ɜɥɟɬɜɨɪɹɸɳɢɦɫɮɨɪɦɭɥɢɪɨɜɚɧɧɵɦɫɜɨɣɫɬɜɚɦ
Ɋɚɫɱɟɬɧɵɟɡɚɞɚɧɢɹ
Ɂɚɞɚɧɢɟɉɨɫɬɪɨɢɬɶ ɝɪɚɮɢɤɢ ɡɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ
ɢɧɮɨɪɦɚɰɢɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ ɩɨ ɮɨɪɦɭɥɟ ɩɪɢ ɪɚɡ
ɥɢɱɧɵɯɡɧɚɱɟɧɢɹɯȞ
%Script_1_1
%ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɨɜ ɡɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ
ɢɧɮɨɪɦɚɰɢɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ
clear all; close all; clc
%Ɂɧɚɱɟɧɢɹ ɜɟɪɨɹɬɧɨɫɬɢ
p=0:.001:1;
%Ɂɧɚɱɟɧɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ
I1=-log2(p);
I2=-log(p);
I3=-log10(p);
%ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɨɜ
plot(p,I1,p,I2,p,I3)

Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɢ ɷɧɬɪɨɩɢɹ
grid
xlabel('ȼɟɪɨɹɬɧɨɫɬɶ ɫɢɦɜɨɥɚ p(a)')
ylabel('Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ I(a), ɛɢɬ')
title('Ɂɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɨɬ
ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ')
legend('\nu = 2','\nu = e','\nu = 10')
ylim([0 8])
Ɂɚɞɚɧɢɟɉɨɫɬɪɨɢɬɶ ɝɪɚɮɢɤ ɡɚɜɢɫɢɦɨɫɬɢ ɷɧɬɪɨɩɢɢ ɞɜɨ
ɢɱɧɨɝɨɢɫɬɨɱɧɢɤɚɨɬɜɟɪɨɹɬɧɨɫɬɢɫɢɦɜɨɥɚɩɨɮɨɪɦɭɥɟ
%Script_1_2
%ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɚ ɷɧɬɪɨɩɢɢ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɜ
ɡɚɜɢɫɢɦɨɫɬɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ
clear all; close all; clc
%Ɂɧɚɱɟɧɢɹ ɜɟɪɨɹɬɧɨɫɬɢ
p=0:.001:1;
%Ɂɧɚɱɟɧɢɹ ɷɧɬɪɨɩɢɢ
H=-p.*log2(p)-(1-p).*log2(1-p);
%ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɚ
plot(p,H)
grid
xlabel('ȼɟɪɨɹɬɧɨɫɬɶ ɫɢɦɜɨɥɚ p')
ylabel('ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ H(A), ɛɢɬ/ɫɢɦɜɨɥ')
title('ɗɧɬɪɨɩɢɹ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɜ ɡɚɜɢɫɢɦɨɫɬɢ ɨɬ
ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ')
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɟɫɥɢ
ɚɫɢɦɜɨɥɵɚɥɮɚɜɢɬɚɪɚɜɧɨɜɟɪɨɹɬɧɵ
ɛ ɫɢɦɜɨɥɵ ɜɵɪɚɛɚɬɵɜɚɸɬɫɹ ɫ ɜɟɪɨɹɬɧɨɫɬɹɦɢ
pa
pa
pa
ɇɚ ɤɚɤɭɸ ɜɟɥɢɱɢɧɭ ɭɦɟɧɶɲɚɟɬɫɹ ɷɧɬɪɨɩɢɹ ɜɨ ɜɬɨɪɨɦ ɫɥɭ
ɱɚɟ"
%Script_1_3
%Ɋɚɫɱɟɬ ɷɧɬɪɨɩɢɢ ɞɢɫɤɪɟɬɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɛɟɡ ɩɚɦɹɬɢ
clear all; close all; clc
%Ɂɚɞɚɧɢɟ ɚɧɨɧɢɦɧɨɣ ɮɭɧɤɰɢɢ
%--------------------------fun=@(x) -x.*log2(x+(x==0));

Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
%--------------------------%Ɂɚɞɚɧɢɟ ɜɟɪɨɹɬɧɨɫɬɟɣ ɫɢɦɜɨɥɨɜ
p=[.25 .3 .45];
disp('ȼɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ:')
disp(p)
%ɋɭɦɦɚ ɜɟɪɨɹɬɧɨɫɬɟɣ ɫɢɦɜɨɥɨɜ
s=sum(p);
disp('Cɭɦɦɚ ɜɟɪɨɹɬɧɨɫɬɟɣ:')
disp(s)
%Ɉɩɪɟɞɟɥɟɧɢɟ ɨɛɴɟɦɚ ɚɥɮɚɜɢɬɚ (ɞɥɢɧɵ ɜɟɤɬɨɪɚ)
m=length(p);
disp('Ɉɛɴɟɦ ɚɥɮɚɜɢɬɚ:')
disp(m)
%Ɉɩɪɟɞɟɥɟɧɢɟ ɦɚɤɫɢɦɚɥɶɧɨɣ ɷɧɬɪɨɩɢɢ
H0=log2(m);
disp('Ɇɚɤɫɢɦɚɥɶɧɚɹ ɷɧɬɪɨɩɢɹ, ɛɢɬ/ɫɢɦɜɨɥ:')
disp(H0)
%ȼɵɱɢɫɥɟɧɢɟ ɷɧɬɪɨɩɢɢ ɢɫɬɨɱɧɢɤɚ
H=sum(fun(p));
disp('ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ, ɛɢɬ/ɫɢɦɜɨɥ:')
disp(H)
%Ɉɩɪɟɞɟɥɟɧɢɟ ɪɚɡɧɨɫɬɢ ɷɧɬɪɨɩɢɣ
dH=H0-H;
disp('Ɋɚɡɧɨɫɬɶ ɷɧɬɪɨɩɢɣ, ɛɢɬ/ɫɢɦɜɨɥ:')
disp(dH)
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɟɫɥɢ
ɚɫɢɦɜɨɥɵɜɵɪɚɛɚɬɵɜɚɸɬɫɹɫɨɞɢɧɚɤɨɜɵɦɢɜɟɪɨɹɬɧɨɫɬɹɦɢ
ɛ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ ɪɚɜɧɵ
pa
pa
pa
pa
ɇɚ ɤɚɤɭɸ ɜɟɥɢɱɢɧɭ ɭɦɟɧɶɲɚɟɬɫɹ ɷɧɬɪɨɩɢɹ ɜɨ ɜɬɨɪɨɦ ɫɥɭ
ɱɚɟ"
ɍɤɚɡɚɧɢɟɢɫɩɨɥɶɡɨɜɚɬɶScript_1_3
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɞɥɹɫɥɟɞɭɸɳɢɯɫɥɭɱɚɟɜ
ɚɫɢɦɜɨɥɵɜɵɪɚɛɚɬɵɜɚɸɬɫɹɫɨɞɢɧɚɤɨɜɵɦɢɜɟɪɨɹɬɧɨɫɬɹɦɢ
ɛ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ
pa
pa
pa
pa
pa
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
