Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Теория информации. Лабораторный практикум в MATLAB. Учебное пособие

.pdf
Скачиваний:
0
Добавлен:
07.09.2026
Размер:
1 Мб
Скачать
☆
ȺɂɉɊɂɏɈȾɖɄɈ
ɌȿɈɊɂəɂɇɎɈɊɆȺɐɂɂ
ɅȺȻɈɊȺɌɈɊɇɕɃɉɊȺɄɌɂɄɍɆȼ0$7/$%
ɊɟɤɨɦɟɧɞɨɜɚɧɨɍɆɈɊȺȿɩɨɤɥɚɫɫɢɱɟɫɤɨɦɭɭɧɢɜɟɪɫɢɬɟɬɫɤɨɦɭ ɢɬɟɯɧɢɱɟɫɤɨɦɭɨɛɪɚɡɨɜɚɧɢɸɜɤɚɱɟɫɬɜɟɭɱɟɛɧɨɝɨɩɨɫɨɛɢɹɞɥɹɫɬɭɞɟɧɬɨɜ ɜɵɫɲɢɯɭɱɟɛɧɵɯɡɚɜɟɞɟɧɢɣɨɛɭɱɚɸɳɢɯɫɹɩɨɧɚɩɪɚɜɥɟɧɢɹɦɩɨɞɝɨɬɨɜɤɢ
©ɂɧɮɨɤɨɦɦɭɧɢɤɚɰɢɨɧɧɵɟɬɟɯɧɨɥɨɝɢɢɢɫɢɫɬɟɦɵɫɜɹɡɢª
©Ɋɚɞɢɨɬɟɯɧɢɤɚª
©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹª

ɍȾɄ  ȻȻɄ 
ɉ
Ɋɟɰɟɧɡɟɧɬɵ
ɞɨɤɬɨɪɬɟɯɧɢɱɟɫɤɢɯɧɚɭɤɩɪɨɮɟɫɫɨɪɄ. ɋ. Ʉɨɪɨɬɤɨɜ
ɞɨɤɬɨɪɮɢɡɢɤɨɦɚɬɟɦɚɬɢɱɟɫɤɢɯɧɚɭɤɩɪɨɮɟɫɫɨɪɆ. ɏ. ɍɪɬɟɧɨɜ
ɉɪɢɯɨɞɶɤɨȺɂ
ɉ
ɌɟɨɪɢɹɢɧɮɨɪɦɚɰɢɢɅɚɛɨɪɚɬɨɪɧɵɣɩɪɚɤɬɢɤɭɦɜ0$7/$%ɭɱɟɛɧɨɟ
ɩɨɫɨɛɢɟ  Ⱥ ɂ ɉɪɢɯɨɞɶɤɨ ± Ɇɨɫɤɜɚ  ȼɨɥɨɝɞɚ  ɂɧɮɪɚɂɧɠɟɧɟɪɢɹ ±ɫɢɥ
,6%1
ɉɪɢɜɨɞɹɬɫɹɨɫɧɨɜɧɵɟɩɨɥɨɠɟɧɢɹɬɟɨɪɢɢɢɧɮɨɪɦɚɰɢɢɋɨɞɟɪɠɚɬɫɹɬɟɨɪɟ ɬɢɱɟɫɤɢɟɫɜɟɞɟɧɢɹɪɚɫɱɟɬɧɵɟɡɚɞɚɧɢɹ ɫɩɪɢɦɟɪɚɦɢPɮɚɣɥɨɜɚɬɚɤɠɟɦɟɬɨɞɢ ɱɟɫɤɢɟɭɤɚɡɚɧɢɹɢɤɨɧɬɪɨɥɶɧɵɟɜɨɩɪɨɫɵ
Ⱦɥɹɫɬɭɞɟɧɬɨɜ ɨɛɭɱɚɸɳɢɯɫɹɩɨɧɚɩɪɚɜɥɟɧɢɹɦɩɨɞɝɨɬɨɜɤɢ©ɂɧɮɨɤɨɦɦɭ ɧɢɤɚɰɢɨɧɧɵɟɬɟɯɧɨɥɨɝɢɢɢɫɢɫɬɟɦɵɫɜɹɡɢªɢ©ɊɚɞɢɨɬɟɯɧɢɤɚªɆɨɠɟɬɛɵɬɶɩɨ ɥɟɡɧɨɩɪɟɩɨɞɚɜɚɬɟɥɹɦ
ɍȾɄ ȻȻɄ
,6%1 ɉɪɢɯɨɞɶɤɨȺɂ
ɂɡɞɚɬɟɥɶɫɬɜɨ©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹªɈɮɨɪɦɥɟɧɢɟɂɡɞɚɬɟɥɶɫɬɜɨ©ɂɧɮɪɚɂɧɠɟɧɟɪɢɹª
ɉɊȿȾɂɋɅɈȼɂȿ
ɐɟɥɶɸɥɚɛɨɪɚɬɨɪɧɨɝɨɩɪɚɤɬɢɤɭɦɚɹɜɥɹɟɬɫɹɢɡɭɱɟɧɢɟ ɨɫɧɨɜ ɧɵɯ ɩɨɥɨɠɟɧɢɣ ɬɟɨɪɢɢ ɢɧɮɨɪɦɚɰɢɢ ɢ ɩɪɢɨɛɪɟɬɟɧɢɟ ɩɪɚɤɬɢɱɟ ɫɤɢɯɧɚɜɵɤɨɜɪɚɛɨɬɵɜɫɢɫɬɟɦɟɩɪɨɝɪɚɦɦɢɪɨɜɚɧɢɹ0$7/$%
Ɋɚɛɨɱɢɣɫɬɨɥɢɧɬɟɪɮɟɣɫ 0$7/$% ɫɨɞɟɪɠɢɬ ɫɥɟɞɭɸɳɢɟ ɨɤɧɚ
±&RPPDQG:LQGRZɄɨɦɚɧɞɧɨɟ ɨɤɧɨ ±ɨɫɧɨɜɧɨɟɨɤɧɨ ɫ ɚɤɬɢɜɢɡɢɪɨɜɚɧɧɨɣɤɨɦɚɧɞɧɨɣɫɬɪɨɤɨɣ
±&XUUHQW)ROGHUɌɟɤɭɳɚɹɩɚɩɤɚ±ɨɤɧɨɜɤɨɬɨɪɨɦɩɨɤɚɡɚ ɧɨɫɨɞɟɪɠɢɦɨɟɬɟɤɭɳɟɣɩɚɩɤɢ
±:RUNVSDFHɊɚɛɨɱɚɹɨɛɥɚɫɬɶ±ɨɤɧɨɜɤɨɬɨɪɨɦɜɵɜɨɞɢɬɫɹ ɫɩɢɫɨɤ ɬɟɤɭɳɢɯ ɩɟɪɟɦɟɧɧɵɯ ɫɨɯɪɚɧɹɟɦɵɯ ɜ ɩɚɦɹɬɢ ɜɨ ɜɪɟɦɹ ɜɵɱɢɫɥɟɧɢɣ
±&RPPDQG+LVWRU\ɂɫɬɨɪɢɹ ɤɨɦɚɧɞ ±ɜɷɬɨɦɨɤɧɟɜɵɜɨ ɞɢɬɫɹɢɫɬɨɪɢɹɜɵɩɨɥɧɟɧɢɹɩɪɨɝɪɚɦɦɧɨɝɨɤɨɞɚɫɝɪɭɩɩɢɪɨɜɚɧɧɚɹ ɩɨɞɚɬɚɦ
Ɋɚɛɨɬɚɜ 0$7/$% ɦɨɠɟɬɩɪɨɜɨɞɢɬɶɫɹɥɢɛɨ ɜ ɪɟɠɢɦɟɩɪɹ ɦɵɯɜɵɱɢɫɥɟɧɢɣɥɢɛɨ ɜ ɪɟɠɢɦɟ ɜɵɩɨɥɧɟɧɢɹ ɡɚɪɚɧɟɟ ɫɨɫɬɚɜɥɟɧ ɧɵɯɩɪɨɝɪɚɦɦ
Ɋɟɠɢɦ ɩɪɹɦɵɯ ɜɵɱɢɫɥɟɧɢɣ ɪɟɠɢɦ ɞɢɚɥɨɝɚɩɨɥɶɡɨɜɚɬɟɥɹ ɫ ɫɢɫɬɟɦɨɣɩɪɨɜɨɞɢɬɫɹɧɟɩɨɫɪɟɞɫɬɜɟɧɧɨɜ ɤɨɦɚɧɞɧɨɣɫɬɪɨɤɟɨɤɧɚ &RPPDQG :LQGRZ ȼ ɜɟɪɯɧɟɦ ɥɟɜɨɦ ɭɝɥɭ ɨɤɧɚ ɧɚɯɨɞɹɬɫɹ ɞɜɚ ɡɧɚɤɚ!!ɫɢɦɜɨɥɢɡɢɪɭɸɳɢɟɧɚɱɚɥɨɫɬɪɨɤɢȼɷɬɨɣɫɬɪɨɤɟɦɨɠɧɨ ɧɚɛɢɪɚɬɶ ɮɨɪɦɭɥɵ ɢɥɢ ɤɨɦɚɧɞɵ ɭɞɨɜɥɟɬɜɨɪɹɸɳɢɟ ɫɢɧɬɚɤɫɢɫɭ ɹɡɵɤɚ0$7/$%ɢɡɚɜɟɪɲɚɸɳɢɟɫɹɧɚɠɚɬɢɟɦɤɥɚɜɢɲɢ(QWHU!
Ɋɟɠɢɦ ɩɪɨɝɪɚɦɦɢɪɨɜɚɧɢɹ ɩɪɟɞɩɨɥɚɝɚɟɬ ɩɪɟɞɜɚɪɢɬɟɥɶɧɨɟ ɫɨɫɬɚɜɥɟɧɢɟ ɩɪɨɝɪɚɦɦ Pɮɚɣɥɨɜɩɨɥɶɡɨɜɚɬɟɥɟɦ ɤɨɬɨɪɵɟ ɩɨɞ ɪɚɡɞɟɥɹɸɬɫɹɧɚVFULSWɮɚɣɥɵɢIXQFWLRQɮɚɣɥɵ
6FULSWɮɚɣɥ±ɷɬɨɫɨɡɞɚɜɚɟɦɵɣɩɨɥɶɡɨɜɚɬɟɥɟɦPɮɚɣɥɩɪɟɞ ɫɬɚɜɥɹɸɳɢɣ ɫɨɛɨɣ ɨɫɧɨɜɧɭɸ ɭɩɪɚɜɥɹɸɳɭɸ ɩɪɨɝɪɚɦɦɭ ɤɨɬɨ ɪɚɹɫɨɞɟɪɠɢɬɩɨɫɬɪɨɱɧɨɡɚɩɢɫɚɧɧɵɟɨɩɟɪɚɬɨɪɵɹɡɵɤɚ0$7/$%
ɉɪɨɝɪɚɦɦɚ ɫɨɡɞɚɟɬɫɹ ɜ ɨɤɧɟ (GLWRU
Ɋɟɞɚɤɬɨɪ P
ɮɚɣɥɨɜ ɤɨɬɨɪɨɟɨɬɤɪɵɜɚɟɬɫɹɜɪɟɡɭɥɶɬɚɬɟɧɚɠɚɬɢɹɧɚɤɧɨɩɤɭ1HZ6FULSW ɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɢɥɢ ɫɨɱɟɬɚɧɢɹ ɤɥɚɜɢɲ  &WUO1 ! ɉɨɫɥɟ ɨɬɤɪɵɬɢɹɨɤɧɚɨɩɟɪɚɬɨɪɵɩɪɨɝɪɚɦɦɵɜɜɨɞɹɬɫɹɫɬɪɨɤɚɡɚɫɬɪɨɤɨɣ ɩɪɢɱɟɦ0$7/$%ɚɜɬɨɦɚɬɢɱɟɫɤɢɧɭɦɟɪɭɟɬɧɨɜɭɸɫɬɪɨɤɭɤɚɠɞɵɣ ɪɚɡɤɨɝɞɚɧɚɠɢɦɚɟɬɫɹɤɥɚɜɢɲɚ(QWHU!
 ɉɪɟɞɢɫɥɨɜɢɟ
ɋɨɯɪɚɧɟɧɢɟVFULSWɮɚɣɥɚɨɫɭɳɟɫɬɜɥɹɟɬɫɹɫɩɨɦɨɳɶɸɤɧɨɩɤɢ
6DYH ɧɚɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɩɨɫɥɟɜɵɛɨɪɚ ɤɨɦɚɧɞɵ 6DYH $V« ɢɡɨɬɤɪɵɜɚɸɳɟɝɨɫɹɦɟɧɸɉɪɢɫɨɯɪɚɧɟɧɢɢ0$7/$%ɩɪɢɛɚɜɥɹɟɬ ɪɚɫɲɢɪɟɧɢɟPɤɢɦɟɧɢɮɚɣɥɚ ȼɵɩɨɥɧɟɧɢɟVFULSWɮɚɣɥɚɧɚɱɢɧɚ ɟɬɫɹ ɜ ɪɟɡɭɥɶɬɚɬɟ ɧɚɠɚɬɢɹ ɤɧɨɩɤɢ 5XQ ɧɚɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɢɥɢɮɭɧɤɰɢɨɧɚɥɶɧɨɣɤɥɚɜɢɲɢ)!
)XQFWLRQɮɚɣɥ ± ɷɬɨ ɫɨɡɞɚɜɚɟɦɵɣ ɩɨɥɶɡɨɜɚɬɟɥɟɦ Pɮɚɣɥ ɩɪɟɞɫɬɚɜɥɹɸɳɢɣɫɨɛɨɣɜɧɟɲɧɸɸɮɭɧɤɰɢɸȽɥɚɜɧɚɹɨɫɨɛɟɧɧɨɫɬɶ ɮɚɣɥɚɮɭɧɤɰɢɢ± ɷɬɨɬɨɱɬɨɭɧɟɟɟɫɬɶɜɜɨɞɢɜɵɜɨɞɗɬɨɨɡɧɚɱɚ ɟɬ ɱɬɨ ɜɵɱɢɫɥɟɧɢɹ ɜ ɮɚɣɥɟ ɮɭɧɤɰɢɢ ɜɵɩɨɥɧɹɸɬɫɹ ɫ ɢɫɩɨɥɶɡɨ ɜɚɧɢɟɦɜɯɨɞɧɵɯɞɚɧɧɵɯɚɪɟɡɭɥɶɬɚɬɵɜɵɱɢɫɥɟɧɢɣɩɟɪɟɞɚɸɬɫɹɢɡ ɮɚɣɥɚ ɮɭɧɤɰɢɢ ɜ ɨɫɧɨɜɧɭɸ ɩɪɨɝɪɚɦɦɭ ɤɚɤ ɪɟɡɭɥɶɬɚɬ Ⱦɥɹ ɫɨɡɞɚɧɢɹ ɮɚɣɥɚ ɮɭɧɤɰɢɢ ɧɟɨɛɯɨɞɢɦɨ ɧɚ ɩɚɧɟɥɢ ɢɧɫɬɪɭɦɟɧɬɨɜ ɧɚɠɚɬɶɤɧɨɩɤɭ1HZ ɢɜɵɛɪɚɬɶɤɨɦɚɧɞɭ)XQFWLRQɎɚɣɥɮɭɧɤɰɢɢ ɞɨɥɠɟɧ ɛɵɬɶ ɫɨɯɪɚɧɟɧ ɞɨ ɟɝɨ ɢɫɩɨɥɶɡɨɜɚɧɢɹ ɜ ɨɫɧɨɜɧɨɣ ɩɪɨɝɪɚɦɦɟ ɗɬɨɞɟɥɚɟɬɫɹ ɬɚɤ ɠɟ ɤɚɤ ɢɫɨ VFULSWɮɚɣɥɨɦ ɨɞɧɚɤɨ IXQFWLRQɮɚɣɥ ɧɟɨɛɯɨɞɢɦɨ ɫɨɯɪɚɧɹɬɶ ɫ ɢɦɟɧɟɦ ɫɨɜɩɚɞɚɸɳɢɦ ɫ ɢɦɟɧɟɦɮɭɧɤɰɢɢɜɫɬɪɨɤɟɟɟɨɩɪɟɞɟɥɟɧɢɹ
ȼ ɧɟɤɨɬɨɪɵɯ ɫɥɭɱɚɹɯ ɨɤɚɡɵɜɚɟɬɫɹ ɭɞɨɛɧɵɦ ɢɫɩɨɥɶɡɨɜɚɧɢɟ ɚɧɨɧɢɦɧɨɣ ɮɭɧɤɰɢɢ DQRQ\PRXV IXQFWLRQ ɤɨɬɨɪɚɹ ɨɩɪɟɞɟɥɟɧɚ ɢ ɡɚɩɢɫɚɧɚɜɩɪɟɞɟɥɚɯɨɫɧɨɜɧɨɣ ɩɪɨɝɪɚɦɦɵ
Ʉɚɠɞɚɹɥɚɛɨɪɚɬɨɪɧɚɹɪɚɛɨɬɚɫɨɞɟɪɠɢɬɬɟɨɪɟɬɢɱɟɫɤɢɟɫɜɟɞɟ ɧɢɹɪɚɫɱɟɬɧɵɟ ɡɚɞɚɧɢɹ ɫɩɪɢɦɟɪɚɦɢ Pɮɚɣɥɨɜ ɚ ɬɚɤɠɟɦɟɬɨɞɢ ɱɟɫɤɢɟɭɤɚɡɚɧɢɹɢɤɨɧɬɪɨɥɶɧɵɟ ɜɨɩɪɨɫɵ
Ʌɚɛɨɪɚɬɨɪɧɚɹɪɚɛɨɬɚʋ
^`
A
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢɢ ɷɧɬɪɨɩɢɹ
ɐɟɥɶ ɪɚɛɨɬɵ ɂɡɭɱɢɬɶ ɩɨɧɹɬɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɢ
ɷɧɬɪɨɩɢɢ ɨɜɥɚɞɟɬɶ ɩɪɨɝɪɚɦɦɧɵɦɢ ɫɪɟɞɫɬɜɚɦɢ ɢɯ ɪɚɫɱɟɬɚ ɜ
0$7/$%
Ɍɟɨɪɟɬɢɱɟɫɤɢɟɫɜɟɞɟɧɢɹ
Ⱦɢɫɤɪɟɬɧɵɣɢɫɬɨɱɧɢɤɢɧɮɨɪɦɚɰɢɢ± ɷɬɨɢɫɬɨɱɧɢɤɤɨɬɨɪɵɣ
ɜɵɪɚɛɚɬɵɜɚɟɬ ɞɢɫɤɪɟɬɧɵɟ ɫɨɨɛɳɟɧɢɹ ɫɨɫɬɨɹɳɢɟ ɢɡ ɤɨɧɟɱɧɨɝɨ ɦɧɨɠɟɫɬɜɚ ɫɢɦɜɨɥɨɜ Ɇɧɨɠɟɫɬɜɨ
ɦɨɠɧɵɯ ɫɢɦɜɨɥɨɜ

aa a

m
 
aa a

ɧɚɡɵɜɚɟɬɫɹ ɚɥɮɚɜɢɬɨɦ ɚɧɫɚɦ
ɜɫɟɯ ɜɨɡ
m
ɛɥɟɦ ɢɫɬɨɱɧɢɤɚ ɚ ɜɟɥɢɱɢɧɚ m ± ɨɛɴɟɦɨɦ ɚɥɮɚɜɢɬɚ Ʉɚɠɞɵɣ ɫɢɦɜɨɥ
m

pa
¦
i
ɜɵɪɚɛɚɬɵɜɚɟɬɫɹ ɫ ɜɟɪɨɹɬɧɨɫɬɶɸ
a
i
 ɩɨɫɤɨɥɶɤɭ ɜɫɟ ɫɢɦɜɨɥɵ ɫɨɫɬɨɹɧɢɹ ɢɫɬɨɱɧɢɤɚ ɫɨ
i

pa
i
 ɩɪɢɱɟɦ
ɫɬɚɜɥɹɸɬɩɨɥɧɭɸɝɪɭɩɩɭɫɥɭɱɚɣɧɵɯɫɨɛɵɬɢɣ
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
ɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
ɨɩɪɟɞɟɥɹɟɬɫɹɜɵɪɚɠɟɧɢɟɦ
a
i
 ORJ 
Ia pa
ii
 ɫɨɞɟɪɠɚɳɟɟɫɹ ɜ ɥɸɛɨɦ ɢɡ

Ia
i
Q
 
ɝɞɟȞ± ɨɫɧɨɜɚɧɢɟɥɨɝɚɪɢɮɦɚ
Ʌɨɝɚɪɢɮɦɢɱɟɫɤɚɹɦɟɪɚɢɦɟɟɬɫɥɟɞɭɸɳɢɟɫɜɨɣɫɬɜɚ Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
ɧɚɹɢɭɛɵɜɚɸɳɚɹɫɪɨɫɬɨɦ

pa

i
± ɜɟɥɢɱɢɧɚ ɧɟɨɬɪɢɰɚɬɟɥɶ

Ia
i
 Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɫɨɞɟɪɠɚɳɟɟɫɹ ɜ ɞɨɫɬɨɜɟɪɧɨɦ
ɫɢɦɜɨɥɟɩɟɪɟɞɚɜɚɟɦɨɦɫɜɟɪɨɹɬɧɨɫɬɶɸ
 ORJ
IaQ 
i

pa

ɪɚɜɧɨɧɭɥɸ
i
 Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢɫɨɞɟɪɠɚɳɟɟɫɹɜɥɸɛɨɦɱɢɫɥɟ N ɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜɪɚɜɧɨ ɫɭɦɦɟ ɤɨɥɢɱɟɫɬɜ ɢɧɮɨɪɦɚɰɢɢ ɫɨ ɞɟɪɠɚɳɢɯɫɹɜɤɚɠɞɨɦɢɡɧɢɯ
 Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
Ia aa pa aa
ɝɞɟ
pa aa p
 a 

ɧɢɹɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
  ORJ  
 
N
ORJ  ORJ  
QQ
i
Ni
NN
pa pa Ia
iii
N
i
Q
NN
¦¦
ii

± ɫɨɜɦɟɫɬɧɚɹ ɜɟɪɨɹɬɧɨɫɬɶɩɨɹɜɥɟ
 
a aa


N

 Ɇɟɪɚ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ  ɧɟ ɭɱɢɬɵɜɚɟɬ ɤɚɱɟ
ɫɬɜɟɧɧɨɟ ɫɨɞɟɪɠɚɧɢɟ ɩɟɪɟɞɚɜɚɟɦɨɝɨ ɫɨɨɛɳɟɧɢɹ ɜɚɠɧɨɫɬɶ ɞɥɹ ɩɨɥɭɱɚɬɟɥɹ ɷɦɨɰɢɨɧɚɥɶɧɭɸ ɨɤɪɚɫɤɭ ɜɨɡɦɨɠɧɵɟ ɩɨɫɥɟɞɫɬɜɢɹ ɢ ɬɞɚɨɬɪɚɠɚɟɬɥɢɲɶɫɬɟɩɟɧɶɟɝɨɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɢ
 ȿɞɢɧɢɰɚ ɢɡɦɟɪɟɧɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɡɚɜɢɫɢɬ ɨɬ
ɜɵɛɨɪɚɨɫɧɨɜɚɧɢɹɥɨɝɚɪɢɮɦɚȞ
±
Q 
ɩɪɢ ɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢ
Ia OJ pa
ii
ɢɡɦɟ
ɪɹɟɬɫɹɜ ɞɟɫɹɬɢɱɧɵɯ ɟɞɢɧɢɰɚɯ± ɞɢɬɚɯ ɢɥɢɏɚɪɬɥɢɷɬɚ ɟɞɢɧɢɰɚ ɫɟɣɱɚɫɩɪɚɤɬɢɱɟɫɤɢɧɟɢɫɩɨɥɶɡɭɟɬɫɹ
±
ɩɪɢ ɤɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
 eQ |
Ia OQ pa
ii
ɢɡɦɟɪɹɟɬɫɹɜɧɚɬɭɪɚɥɶɧɵɯɟɞɢɧɢɰɚɯ± ɧɚɬɚɯɷɬɚɟɞɢɧɢɰɚɨɛɵɱɧɨ ɢɫɩɨɥɶɡɭɟɬɫɹɩɪɢɬɟɨɪɟɬɢɱɟɫɤɢɯɢɫɫɥɟɞɨɜɚɧɢɹɯ
± ɩɪɢ ɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢ ɢɡɦɟɪɹ
Q
 ORJa 
Ia
ii
ɟɬɫɹɜɞɜɨɢɱɧɵɯɟɞɢɧɢɰɚɯ± ɛɢɬɚɯɨɬɚɧɝɥELW±%,QDU\GLJL7ɷɬɚ ɟɞɢɧɢɰɚ ɲɢɪɨɤɨɢɫɩɨɥɶɡɭɟɬɫɹ ɢ ɩɨ ɭɦɨɥɱɚɧɢɸ ɨɫɧɨɜɚɧɢɟ ɥɨɝɚ ɪɢɮɦɚɨɩɭɫɤɚɟɬɫɹ
 Ʌɨɝɚɪɢɮɦɢɱɟɫɤɚɹ ɦɟɪɚ  ɫ ɨɫɧɨɜɚɧɢɟɦ ɥɨɝɚɪɢɮɦɚ
Q
ɞɥɹɫɥɭɱɚɹɤɨɝɞɚɜɫɟɫɢɦɜɨɥɵɪɚɜɧɨɜɟɪɨɹɬɧɵɢ
pa
i
m
ɜɩɟɪɜɵɟɩɪɟɞɥɨɠɟɧɚɚɧɝɥɢɣɫɤɢɦɭɱɟɧɵɦɊɅɏɚɪɬɥɢɜɝ
ɗɧɬɪɨɩɢɹɞɢɫɤɪɟɬɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɢɧɮɨɪɦɚɰɢɢɫɚɥɮɚɜɢɬɨɦ
ɷɬɨ±
Aa
^`
i
ɨɞɢɧɥɸɛɨɣɫɢɦɜɨɥ
HA
ɧɚɯɨɞɢɬɫɹ ɤɚɤ ɦɚɬɟɦɚɬɢɱɟɫɤɨɟ ɨɠɢɞɚɧɢɟɞɢɫɤɪɟɬɧɨɣ ɫɥɭ
ɱɚɣɧɨɣɜɟɥɢɱɢɧɵ
ɫɪɟɞɧɟɟɤɨɥɢɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢɩɪɢɯɨɞɹɳɟɟɫɹɧɚ
ɜɵɪɚɛɚɬɵɜɚɟɦɵɣɢɫɬɨɱɧɢɤɨɦɗɧɬɪɨɩɢɹ
a
i
ɨɩɪɟɞɟɥɹɸɳɟɣ ɤɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ
Ia
i
ɫɨɞɟɪɠɚɳɟɟɫɹɜɨɞɧɨɦɫɥɭɱɚɣɧɨɜɵɛɪɚɧɧɨɦɫɢɦɜɨɥɟ
HAM^Ia

`
i
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɢ ɷɧɬɪɨɩɢɹ 
ɝɞɟ
± ɡɧɚɤɦɚɬɟɦɚɬɢɱɟɫɤɨɝɨ ɨɠɢɞɚɧɢɹ ɨɡɧɚɱɚɸɳɢɣ ɭɫɪɟɞ
M
^`
ɧɟɧɢɟɫɬɨɹɳɟɣɜɮɢɝɭɪɧɵɯɫɤɨɛɤɚɯɫɥɭɱɚɣɧɨɣɜɟɥɢɱɢɧɵɩɨ ɜɫɟɦ ɟɟɜɨɡɦɨɠɧɵɦɪɟɚɥɢɡɚɰɢɹɦ
ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ ɧɟɡɚɜɢɫɢɦɵɯ ɫɢɦɜɨɥɨɜ ɫɨɝɥɚɫɧɨ  ɨɩɪɟɞɟɥɹɟɬɫɹɩɨɮɨɪɦɭɥɟ
m
 ORJ 
H A pa pa
¦
ii
i
 
ɗɧɬɪɨɩɢɹ ɢɡɦɟɪɹɟɬɫɹ ɜ ɟɞɢɧɢɰɚɯ ɛɢɬ ɧɚ ɫɢɦɜɨɥ ɛɢɬ ɧɚ ɛɭɤɜɭɛɢɬɧɚɫɨɨɛɳɟɧɢɟ
ɋɜɨɣɫɬɜɚɷɧɬɪɨɩɢɢ
 ɗɧɬɪɨɩɢɹɟɫɬɶɜɟɥɢɱɢɧɚɨɝɪɚɧɢɱɟɧɧɚɹɧɟɪɚɜɟɧɫɬɜɚɦɢ
ORJHA mdd
 
 ɗɧɬɪɨɩɢɹ ɨɛɪɚɳɚɟɬɫɹ ɜ ɧɭɥɶ ɟɫɥɢ ɫɨɫɬɨɹɧɢɟ ɢɫɬɨɱɧɢɤɚ
ɩɨɥɧɨɫɬɶɸɨɩɪɟɞɟɥɟɧɨɬɟɨɞɢɧɫɢɦɜɨɥɢɦɟɟɬɜɟɪɨɹɬɧɨɫɬɶɪɚɜ ɧɭɸɟɞɢɧɢɰɟɚɜɟɪɨɹɬɧɨɫɬɢɜɫɟɯɨɫɬɚɥɶɧɵɯɫɢɦɜɨɥɨɜɪɚɜɧɵɧɭ ɥɸ
 ɗɧɬɪɨɩɢɹɦɚɤɫɢɦɚɥɶɧɚɢɪɚɜɧɚ
 ORJHA m
 
ɟɫɥɢɜɫɟɫɢɦɜɨɥɵɢɫɬɨɱɧɢɤɚɪɚɜɧɨɜɟɪɨɹɬɧɵɬɟ ɞɥɹɜɫɟɯ ɡɧɚɱɟ ɧɢɣ i «m ɜɟɪɨɹɬɧɨɫɬɢɫɨɫɬɚɜɥɹɸɬ

pa m
i

 ɗɧɬɪɨɩɢɹ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɫ ɱɢɫɥɨɦ ɫɢɦɜɨɥɨɜ m  
ɩɪɢ
pa p
ɢ
pa p
ɫɨɝɥɚɫɧɨ  ɨɩɪɟɞɟɥɹɟɬɫɹ ɜɵɪɚ
ɠɟɧɢɟɦ
 ORJ ORJHA p p p p  
 
ɂɡɮɨɪɦɭɥɵɫɥɟɞɭɟɬɱɬɨɷɧɬɪɨɩɢɹɞɜɨɢɱɧɨɝɨɢɫɬɨɱɧɢ ɤɚɢɡɦɟɧɹɟɬɫɹɨɬ ɧɭɥɹ ɞɨɟɞɢɧɢɰɵɞɨɫɬɢɝɚɹɦɚɤɫɢɦɭɦɚɩɪɢɡɧɚ ɱɟɧɢɢɚɪɝɭɦɟɧɬɚ
pp
Ɍɚɤɢɦɨɛɪɚɡɨɦ ɛɢɬ± ɷɬɨɤɨɥɢ
ɱɟɫɬɜɨɢɧɮɨɪɦɚɰɢɢɫɨɞɟɪɠɚɳɟɟɫɹɜɨɞɧɨɦɢɡɞɜɭɯɪɚɜɧɨɜɟɪɨɹɬ ɧɵɯɧɟɡɚɜɢɫɢɦɵɯɫɢɦɜɨɥɨɜ
 ɗɧɬɪɨɩɢɹ ɨɛɴɟɞɢɧɟɧɢɹ ɢɥɢ ɫɨɜɦɟɫɬɧɚɹ ɷɧɬɪɨɩɢɹ ɧɟ ɫɤɨɥɶɤɢɯ ɫɬɚɬɢɫɬɢɱɟɫɤɢ ɧɟɡɚɜɢɫɢɦɵɯ ɢɫɬɨɱɧɢɤɨɜ ɫ ɚɥɮɚɜɢɬɚɦɢ

AA A

ɪɚɜɧɚɫɭɦɦɟɷɧɬɪɨɩɢɣɷɬɢɯɢɫɬɨɱɧɢɤɨɜ
N
 Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
N
 
HAA A HA

¦
Nk
k
 
ɗɧɬɪɨɩɢɹ ɯɚɪɚɤɬɟɪɢɡɭɟɬ ɫɪɟɞɧɸɸ ɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɶ ɜɵ
ɛɨɪɚɨɞɧɨɝɨɫɢɦɜɨɥɚɢɡɚɥɮɚɜɢɬɚɢɫɬɨɱɧɢɤɚɉɪɢɟɟɨɩɪɟɞɟɥɟɧɢɢ ɢɫɩɨɥɶɡɭɸɬɬɨɥɶɤɨɜɟɪɨɹɬɧɨɫɬɢɫɢɦɜɨɥɨɜɩɨɥɧɨɫɬɶɸ ɢɝɧɨɪɢɪɭɹ ɢɯɫɨɞɟɪɠɚɬɟɥɶɧɭɸɫɬɨɪɨɧɭ
ɗɧɬɪɨɩɢɹ ɤɚɤ ɦɟɪɚ ɧɟɨɩɪɟɞɟɥɟɧɧɨɫɬɢ ɫɨɝɥɚɫɭɟɬɫɹ ɫ ɷɤɫ ɩɟɪɢɦɟɧɬɚɥɶɧɵɦɢ ɞɚɧɧɵɦɢ ɩɨɥɭɱɟɧɧɵɦɢ ɩɪɢ ɢɡɭɱɟɧɢɢ ɩɫɢɯɨ ɥɨɝɢɱɟɫɤɢɯ ɪɟɚɤɰɢɣ ɱɟɥɨɜɟɤɚ ɢ ɜ ɱɚɫɬɧɨɫɬɢ ɪɟɚɤɰɢɢ ɜɵɛɨɪɚ Ɍɚɤ ɭɫɬɚɧɨɜɥɟɧɨ ɱɬɨɜɪɟɦɹɛɟɡɨɲɢɛɨɱɧɨɣ ɪɟɚɤɰɢɢ ɧɚɩɨɫɥɟɞɨ ɜɚɬɟɥɶɧɨɫɬɶ ɛɟɫɩɨɪɹɞɨɱɧɨ ɱɟɪɟɞɭɸɳɢɯɫɹ ɪɚɜɧɨɜɟɪɨɹɬɧɵɯ ɪɚɡ ɞɪɚɠɢɬɟɥɟɣɧɚɩɪɢɦɟɪ ɡɚɝɨɪɚɸɳɢɯɫɹɥɚɦɩɨɱɟɤɪɚɫɬɟɬ ɫ ɭɜɟɥɢ ɱɟɧɢɟɦɢɯɤɨɥɢɱɟɫɬɜɚɬɚɤɠɟɤɚɤɷɧɬɪɨɩɢɹ
Ɍɟɪɦɢɧ ©ɷɧɬɪɨɩɢɹª ɜ ɬɟɨɪɢɢ ɢɧɮɨɪɦɚɰɢɢ ɢ ɜɵɪɚɠɟɧɢɟ  ɞɥɹ ɟɟɜɵɱɢɫɥɟɧɢɹ ɜɩɟɪɜɵɟ ɛɵɥɢ ɜɜɟɞɟɧɵɜɝ ɚɦɟɪɢ
ɤɚɧɫɤɢɦɭɱɟɧɵɦɄȿɒɟɧɧɨɧɨɦ ɂɦ ɛɵɥɨ ɜɵɫɤɚɡɚɧɨ ɭɬɜɟɪɠɞɟ ɧɢɟɚ ɫɨɜɟɬɫɤɢɦɦɚɬɟɦɚɬɢɤɨɦ əȺɏɢɧɱɢɧɵɦ ɫɬɪɨɝɨɞɨɤɚɡɚɧɨ ɱɬɨ ɮɨɪɦɭɥɚ  ɹɜɥɹɟɬɫɹ ɟɞɢɧɫɬɜɟɧɧɵɦ ɮɭɧɤɰɢɨɧɚɥɨɦ ɭɞɨ ɜɥɟɬɜɨɪɹɸɳɢɦɫɮɨɪɦɭɥɢɪɨɜɚɧɧɵɦɫɜɨɣɫɬɜɚɦ
Ɋɚɫɱɟɬɧɵɟɡɚɞɚɧɢɹ
Ɂɚɞɚɧɢɟɉɨɫɬɪɨɢɬɶ ɝɪɚɮɢɤɢ ɡɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ ɩɨ ɮɨɪɦɭɥɟ  ɩɪɢ ɪɚɡ ɥɢɱɧɵɯɡɧɚɱɟɧɢɹɯȞ
%Script_1_1 %ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɨɜ ɡɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ clear all; close all; clc %Ɂɧɚɱɟɧɢɹ ɜɟɪɨɹɬɧɨɫɬɢ p=0:.001:1; %Ɂɧɚɱɟɧɢɹ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ I1=-log2(p); I2=-log(p); I3=-log10(p); %ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɨɜ plot(p,I1,p,I2,p,I3)
Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ ɢ ɷɧɬɪɨɩɢɹ
grid xlabel('ȼɟɪɨɹɬɧɨɫɬɶ ɫɢɦɜɨɥɚ p(a)') ylabel('Ʉɨɥɢɱɟɫɬɜɨ ɢɧɮɨɪɦɚɰɢɢ I(a), ɛɢɬ') title('Ɂɚɜɢɫɢɦɨɫɬɢ ɤɨɥɢɱɟɫɬɜɚ ɢɧɮɨɪɦɚɰɢɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ') legend('\nu = 2','\nu = e','\nu = 10') ylim([0 8])
Ɂɚɞɚɧɢɟɉɨɫɬɪɨɢɬɶ ɝɪɚɮɢɤ ɡɚɜɢɫɢɦɨɫɬɢ ɷɧɬɪɨɩɢɢ ɞɜɨ
ɢɱɧɨɝɨɢɫɬɨɱɧɢɤɚɨɬɜɟɪɨɹɬɧɨɫɬɢɫɢɦɜɨɥɚɩɨɮɨɪɦɭɥɟ
%Script_1_2 %ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɚ ɷɧɬɪɨɩɢɢ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɜ ɡɚɜɢɫɢɦɨɫɬɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ clear all; close all; clc %Ɂɧɚɱɟɧɢɹ ɜɟɪɨɹɬɧɨɫɬɢ p=0:.001:1; %Ɂɧɚɱɟɧɢɹ ɷɧɬɪɨɩɢɢ H=-p.*log2(p)-(1-p).*log2(1-p); %ɉɨɫɬɪɨɟɧɢɟ ɝɪɚɮɢɤɚ plot(p,H) grid xlabel('ȼɟɪɨɹɬɧɨɫɬɶ ɫɢɦɜɨɥɚ p') ylabel('ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ H(A), ɛɢɬ/ɫɢɦɜɨɥ') title('ɗɧɬɪɨɩɢɹ ɞɜɨɢɱɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɜ ɡɚɜɢɫɢɦɨɫɬɢ ɨɬ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɚ')
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɟɫɥɢ
ɚɫɢɦɜɨɥɵɚɥɮɚɜɢɬɚɪɚɜɧɨɜɟɪɨɹɬɧɵ ɛ ɫɢɦɜɨɥɵ ɜɵɪɚɛɚɬɵɜɚɸɬɫɹ ɫ ɜɟɪɨɹɬɧɨɫɬɹɦɢ
pa
 
pa
 
pa
 
ɇɚ ɤɚɤɭɸ ɜɟɥɢɱɢɧɭɭɦɟɧɶɲɚɟɬɫɹ ɷɧɬɪɨɩɢɹ ɜɨ ɜɬɨɪɨɦ ɫɥɭ
ɱɚɟ"
%Script_1_3 %Ɋɚɫɱɟɬ ɷɧɬɪɨɩɢɢ ɞɢɫɤɪɟɬɧɨɝɨ ɢɫɬɨɱɧɢɤɚ ɛɟɡ ɩɚɦɹɬɢ clear all; close all; clc %Ɂɚɞɚɧɢɟ ɚɧɨɧɢɦɧɨɣ ɮɭɧɤɰɢɢ %--------------------------­fun=@(x) -x.*log2(x+(x==0));
 Ʌɚɛɨɪɚɬɨɪɧɚɹ ɪɚɛɨɬɚ ʋ 1
%--------------------------­%Ɂɚɞɚɧɢɟ ɜɟɪɨɹɬɧɨɫɬɟɣ ɫɢɦɜɨɥɨɜ p=[.25 .3 .45]; disp('ȼɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ:') disp(p) %ɋɭɦɦɚ ɜɟɪɨɹɬɧɨɫɬɟɣ ɫɢɦɜɨɥɨɜ s=sum(p); disp('Cɭɦɦɚ ɜɟɪɨɹɬɧɨɫɬɟɣ:') disp(s) %Ɉɩɪɟɞɟɥɟɧɢɟ ɨɛɴɟɦɚ ɚɥɮɚɜɢɬɚ (ɞɥɢɧɵ ɜɟɤɬɨɪɚ) m=length(p); disp('Ɉɛɴɟɦ ɚɥɮɚɜɢɬɚ:') disp(m) %Ɉɩɪɟɞɟɥɟɧɢɟ ɦɚɤɫɢɦɚɥɶɧɨɣ ɷɧɬɪɨɩɢɢ H0=log2(m); disp('Ɇɚɤɫɢɦɚɥɶɧɚɹ ɷɧɬɪɨɩɢɹ, ɛɢɬ/ɫɢɦɜɨɥ:') disp(H0) %ȼɵɱɢɫɥɟɧɢɟ ɷɧɬɪɨɩɢɢ ɢɫɬɨɱɧɢɤɚ H=sum(fun(p)); disp('ɗɧɬɪɨɩɢɹ ɢɫɬɨɱɧɢɤɚ, ɛɢɬ/ɫɢɦɜɨɥ:') disp(H) %Ɉɩɪɟɞɟɥɟɧɢɟ ɪɚɡɧɨɫɬɢ ɷɧɬɪɨɩɢɣ dH=H0-H; disp('Ɋɚɡɧɨɫɬɶ ɷɧɬɪɨɩɢɣ, ɛɢɬ/ɫɢɦɜɨɥ:') disp(dH)
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɟɫɥɢ
ɚɫɢɦɜɨɥɵɜɵɪɚɛɚɬɵɜɚɸɬɫɹɫɨɞɢɧɚɤɨɜɵɦɢɜɟɪɨɹɬɧɨɫɬɹɦɢ
ɛ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ ɪɚɜɧɵ
pa
 
pa
 
pa
 
pa
 
ɇɚ ɤɚɤɭɸ ɜɟɥɢɱɢɧɭɭɦɟɧɶɲɚɟɬɫɹ ɷɧɬɪɨɩɢɹ ɜɨ ɜɬɨɪɨɦ ɫɥɭ ɱɚɟ"
ɍɤɚɡɚɧɢɟɢɫɩɨɥɶɡɨɜɚɬɶScript_1_3
ɁɚɞɚɧɢɟȾɢɫɤɪɟɬɧɵɣ ɢɫɬɨɱɧɢɤ ɢɦɟɟɬ ɨɛɴɟɦ ɚɥɮɚɜɢɬɚ
m Ɉɩɪɟɞɟɥɢɬɶɷɧɬɪɨɩɢɸɢɫɬɨɱɧɢɤɚɞɥɹɫɥɟɞɭɸɳɢɯɫɥɭɱɚɟɜ
ɚɫɢɦɜɨɥɵɜɵɪɚɛɚɬɵɜɚɸɬɫɹɫɨɞɢɧɚɤɨɜɵɦɢɜɟɪɨɹɬɧɨɫɬɹɦɢ
ɛ ɜɟɪɨɹɬɧɨɫɬɢ ɫɢɦɜɨɥɨɜ
pa

 
pa
 
pa
 
pa
 
pa
 
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]