mishev / Копия В.В. Лидовский - Теория Информации

2)P (X2 = 1) = 1=3, P (X2 = 0) = 1=3, P (X2 = 1) = 1=3;

3)P (X3 = n) = 2 n; n = 1; 2; : : :

eMKOSTX KANALA SWQZI S [UMOM RAWNA 4000 BOD. wY^ISLITX MAKSIMALXNU@ SKOROSTX PEREDA^I DANNYH PO \TOMU KANALU KAVDYM IZ PEREDAT^I- KOW, OBESPE^IWA@]U@ SKOLX UGODNO WYSOKU@ NADEVNOSTX PEREDA^I.

20. pOMEHOZA]ITNOE KODIROWANIE

pROSTEJ[IJ KOD DLQ BORXBY S [UMOM | \TO KONTROLX ^ETNOSTI, ON, W ^ASTNOSTI, [IROKO ISPOLXZUETSQ W MODEMAH. kODIROWANIE ZAKL@^AETSQ W DOBAWLENII K KAVDOMU BAJTU DEWQTOGO BITA TAKIM OBRAZOM, ^TOBY DOPOLNITX KOLI^ESTWO EDINIC W BAJTE DO ZARANEE WYBRANNOGO DLQ KODA ^ETNOGO (even) ILI NE^ETNOGO (odd) ZNA^ENIQ. iSPOLXZUQ \TOT KOD, MOVNO LI[X OBNARUVIWATX BOLX[INSTWO O[IBOK.

pROSTEJ[IJ KOD, ISPRAWLQ@]IJ O[IBKI, | \TO TROJNOE POWTORENIE KAVDOGO BITA. eSLI S O[IBKOJ PROIZOJDET PEREDA^A ODNOGO BITA IZ TREH, TO O[IBKA BUDET ISPRAWLENA, NO ESLI SLU^ITSQ DWOJNAQ ILI TROJNAQ O[IBKA, TO BUDUT POLU^ENY NEPRAWILXNYE DANNYE. ~ASTO KODY DLQ ISPRAWLENIQ O[IBOK ISPOLXZU@T SOWMESTNO S KODAMI DLQ OBNARUVENIQ O[IBOK. pRI TROJNOM POWTORENII DLQ POWY[ENIQ NADEVNOSTI TRI BITA RASPOLAGA@T NE PODRQD, A NA FIKSIROWANNOM RASSTOQNII DRUG OT DRUGA. iSPOLXZOWANIE TROJNOGO POWTORENIQ ZNA^ITELXNO SNIVAET SKOROSTX PEREDA^I DANNYH.

dWOI^NYJ SIMMETRI^NYJ KANAL REALIZUET SHEMU bERNULLI, PO\TO-

MU WEROQTNOSTX PEREDA^I n BIT PO DWOI^NOMU SIMMETRI^NOMU KANALU S k O[IBKAMI RAWNA Pn(k) = Cnkpn kqk.

pRIMER. wEROQTNOSTX PEREDA^I ODNOGO BITA INFORMACII S O[IBKOJ RAWNA q = 0:01 I NAS INTERESUET WEROQTNOSTX BEZO[IBO^NOJ PEREDA^I

1000 BIT (125 BAJT). iSKOMU@ WEROQTNOSTX MOVNO PODS^ITATX PO FOR-

MULE P1000(0) = C10000 p1000q0 = 0:991000 4:32 10 5, T.E. ONA NI^TOVNO

MALA.

dOBITXSQ MINIMALXNOSTI WEROQTNOSTI O[IBKI PRI PEREDA^E DANNYH MOVNO ISPOLXZUQ SPECIALXNYE KODY. oBY^NO ISPOLXZU@T SISTEMATI^ESKIE POMEHOZA]ITNYE KODY. iDEQ SISTEMATI^ESKIH KODOW SOSTOIT W DOBAWLENII K SIMWOLAM ISHODNYH KODOW, PREDNAZNA^ENNYH DLQ PEREDA^I W KANALE, NESKOLXKIH KONTROLXNYH SIMWOLOW PO OPREDELENNOJ SHEME KODIROWANIQ. pRINQTAQ TAKAQ UDLINENNAQ POSLEDOWATELXNOSTX KODOW DEKODIRUETSQ PO SHEME DEKODIROWANIQ W PERWONA^ALXNO PEREDANNU@.

50

pRIEMNIK SPOSOBEN RASPOZNAWATX I/ILI ISPRAWLQTX O[IBKI, WYZWANNYE [UMOM, ANALIZIRUQ DOPOLNITELXNU@ INFORMACI@, SODERVA]U@SQ W UDLINENNYH KODAH.

dWOI^NYM (m; n)-KODOM NAZYWAETSQ PARA, SOSTOQ]AQ IZ SHEMY KODIROWANIQ E: Zm2 ! Zn2 I SHEMY DEKODIROWANIQ D: Zn2 ! Zm2 , GDE Zn2 | MNOVESTWO WSEH DWOI^NYH POSLEDOWATELXNOSTEJ DLINY n, m < n (SLU^AJ m = n RASSMATRIWAETSQ W KRIPTOGRAFII).

fUNKCII D I E WYBIRA@TSQ TAK, ^TOBY FUNKCIQ H = D T E, GDE T | FUNKCIQ O[IBOK, S WEROQTNOSTX@, BLIZKOJ K EDINICE, BYLA TOVDESTWENNOJ. fUNKCII D I E S^ITA@TSQ BEZO[IBO^NYMI, T.E. FUNKCIQ D E | TOVDESTWENNAQ (SM. RIS. 14).

rIS. 14

I uPRAVNENIE 34

pUSTX DWOI^NYJ SIMMETRI^NYJ KANAL ISPOLXZUETSQ DLQ PEREDA^I STROK IZ DWUH BIT. pOSTROITX TABLICU WEROQTNOSTEJ PRIEMA.

I uPRAVNENIE 35

pO DWOI^NOMU SIMMETRI^NOMU KANALU PEREDA@TSQ STROKI DLINY 14. kAKOWA WEROQTNOSTX TOGO, ^TO ROWNO PQTX SIMWOLOW BUDUT PRINQTY NEPRAWILXNO? kAKOWA WEROQTNOSTX TOGO, ^TO MENEE PQTI SIMWOLOW BUDUT PRINQTY NEPRAWILXNO? sKOLXKO IMEETSQ STROK, OTLI^A@]IHSQ OT DANNOJ NE BOLX[E, ^EM W ^ETYREH POZICIQH?

21. mATEMATI^ESKAQ MODELX SISTEMY SWQZI

kODY DELQTSQ NA DWA BOLX[IH KLASSA. kODY S ISPRAWLENIEM O[I- BOK IME@T CELX@ WOSSTANOWITX S WEROQTNOSTX@, BLIZKOJ K EDINICE, POSLANNOE SOOB]ENIE. kODY S OBNARUVENIEM O[IBOK IME@T CELX@ WYQWITX S WEROQTNOSTX@, BLIZKOJ K EDINICE, NALI^IE O[IBOK.

pROSTOJ KOD S OBNARUVENIEM O[IBOK OSNOWAN NA SHEME PROWERKI ^ETNOSTI, PRIMENIMOJ K SOOB]ENIQM a1 : : : am L@BOJ FIKSIROWANNOJ DLINY m. sHEMA KODIROWANIQ OPREDELQETSQ SLEDU@]IMI FORMULAMI:

51

sOOTWETSTWU@]AQ SHEMA DEKODIROWANIQ TRIWIALXNA:

pRIMER. pROWERKA ^ETNOSTI PRI m = 2 REALIZUETSQ SLEDU@]IM KODOM (FUNKCIEJ E): 00 ! 000, 01 ! 011, 10 ! 101, 11 ! 110. w DWOI^-

NOM SIMMETRI^NOM KANALE DOLQ NEWERNO PRINQTYH SOOB]ENIJ DLQ \TOGO KODA (HOTQ BY S ODNOJ O[IBKOJ) RAWNA q3 + 3pq2 + 3p2q (TRI, DWE ILI ODNA O[IBKA SOOTWETSTWENNO). iZ NIH NEZAME^ENNYMI OKAVUTSQ TOLXKO O[IBKI TO^NO W DWUH BITAH, NE IZMENQ@]IE ^ETNOSTI. wEROQTNOSTX TAKIH O[IBOK 3pq2. wEROQTNOSTX O[IBO^NOJ PEREDA^I SOOB]ENIQ IZ DWUH BITOW RAWNA 2pq + q2. pRI MALYH q WERNO, ^TO 3pq2 2pq + q2.

rASSMOTRIM (m; 3m)-KOD S TROJNYM POWTORENIEM. kODY S POWTORENIQMI O^ENX NE\FFEKTIWNY, NO POLEZNY W KA^ESTWE TEORETI^ESKOGO PRIMERA KODOW, ISPRAWLQ@]IH O[IBKI. l@BOE SOOB]ENIE RAZBIWAETSQ NA BLOKI DLINOJ m KAVDOE I KAVDYJ BLOK PEREDAETSQ TRIVDY | \TO OPREDELQET FUNKCI@ E. fUNKCIQ D OPREDELQETSQ SLEDU@]IM OBRAZOM. pRINQTAQ STROKA RAZBIWAETSQ NA BLOKI DLINOJ 3m. bIT S NOMEROM i (1 6 i 6 m) W DEKODIROWANNOM BLOKE POLU^AETSQ IZ ANALIZA BITOW S NOMERAMI i, i+m, i+2m W POLU^ENNOM BLOKE: BERETSQ TOT BIT IZ TREH, KOTORYJ WSTRE^AETSQ NE MENEE DWUH RAZ. wEROQTNOSTX TOGO, ^TO BIT W DANNOJ POZICII BUDET PRINQT TRIVDY PRAWILXNO RAWNA p3. wEROQTNOSTX ODNOJ O[IBKI W TROJKE RAWNA 3p2q. pO\TOMU WEROQTNOSTX PRAWILXNOGO PRIEMA ODNOGO BITA RAWNA p3 + 3p2q. aNALOGI^NYM OBRAZOM POLU^AETSQ, ^TO WEROQTNOSTX PRIEMA O[IBO^NOGO BITA RAWNA q3 + 3pq2.

pRIMER. pREDPOLOVIM q = 0:1. tOGDA WEROQTNOSTX O[IBKI PRI PEREDA^I ODNOGO BITA | 0.028, T.E. \TOT KOD SNIVAET WEROQTNOSTX O[IBKI S 10% DO 2.8%. pODOBNYM OBRAZOM ORGANIZOWANNAQ PEREDA^A S PQTIKRATNYM POWTORENIEM DAST WEROQTNOSTX O[IBKI NA BIT

q5 + 5pq4 + 10p2q3 = 0:00856 = 0:856%;

T. E. MENEE 1%. w REZULXTATE WEROQTNOSTX PRAWILXNOJ PEREDA^I STROKI DLINOJ 10 WOZRASTET S 0:910 35% DO 0:97210 75% PRI TROJNYH POWTORENIQH I DO 0:9914410 92% PRI PQTIKRATNYH POWTORENIQH.

tROJNOE POWTORENIE OBESPE^IWAET ISPRAWLENIE ODNOJ O[IBKI W KAVDOJ POZICII ZA S^ET TREHKRATNOGO UWELI^ENIQ WREMENI PEREDA^I.

rASSMOTRIM (2048; 2313)-KOD, ISPOLXZUEMYJ PRI ZAPISI DANNYH NA MAGNITOFONNU@ LENTU KOMPX@TERAMI Apple II. k KAVDOMU BAJTU ISHODNYH DANNYH PRIBAWLQETSQ BIT ^ETNOSTI I, KROME TOGO, POSLE KAVDYH TAKIH RAS[IRENNYH BITOM ^ETNOSTI 256 BAJT DOBAWLQETSQ SPECIALXNYJ BAJT, TAKVE RAS[IRENNYJ BITOM ^ETNOSTI. |TOT SPECIALXNYJ

52

BAJT, KOTORYJ NAZYWA@T KONTROLXNOJ SUMMOJ (check sum), ESTX REZULXTAT PRIMENENIQ PORAZRQDNOJ LOGI^ESKOJ OPERACII \ISKL@^A@]EE ili" (XOR) K 256 PRED[ESTWU@]IM RAS[IRENNYM BAJTAM. |TOT KOD SPOSOBEN KAK OBNARUVIWATX O[IBKI NE^ETNOJ KRATNOSTI W KAVDOM IZ OTDELXNYH BAJTOW, TAK I ISPRAWLQTX DO 8 O[IBOK W BLOKE DLINOJ 256 BAJT. iSPRAWLENIE O[IBOK OSNOWANO NA TOM, ^TO ESLI W ODNOM IZ BIT ODNOGO IZ BAJT 256 BAJTOWOGO BLOKA PROIZOJDET SBOJ, OBNARUVIWAEMYJ PROWERKOJ ^ETNOSTI, TO \TOT VE SBOJ PROQWITSQ I W TOM, ^TO REZULXTAT OPERACII \ISKL@^A@]EE ili" NAD WSEMI SOOTWETSTWU@]IMI BITAMI BLOKA NE BUDET SOOTWETSTWOWATX SOOTWETSTWU@]EMU BITU KONTROLXNOJ SUMMY. sBOJNYJ BIT ODNOZNA^NO OPREDELQETSQ PERESE^ENIEM SBOJNYH KOLONKI BAJTA I STROKI BITA KONTROLXNOJ SUMMY. nA RIS. 15 IZOBRAVENA SHEMA U^ASTKA LENTY, SODERVA]EGO ROWNO 9 O[IBOK W POZICIQH, OBOZNA^ENNYH p1, p2, : : :, p9. rAS[IRENNYJ BAJT KONTROLXNOJ SUMMY OBOZNA^EN CS, A BIT PARITETA (W DANNOM SLU^AE ^ETNOSTI) | PB (parity bit). o[IBKA W POZICII p1 MOVET BYTX ISPRAWLENA. o[IBKI W POZICIQH p4, p5, p6, p7 MOVNO OBNARUVITX, NO NE ISPRAWITX. o[IBKI W POZICIQH p2, p3, p8, p9 NEWOZMOVNO DAVE OBNARUVITX.

rIS. 15

pRIWEDENNYE RANEE PRIMERY PROSTEJ[IH KODOW PRINADLEVAT K KLASSU BLO^NYH. pO OPREDELENI@, BLO^NYJ KOD ZAMENQET KAVDYJ BLOK IZ m SIMWOLOW BOLEE DLINNYM BLOKOM IZ n SIMWOLOW. sLEDOWATELXNO, (m; n)-KODY QWLQ@TSQ BLO^NYMI. sU]ESTWU@T TAKVE DREWOWIDNYE ILI POSLEDOWATELXNYE KODY, W KOTORYH ZNA^ENIE O^EREDNOGO SIMWOLA ZAWISIT OT WSEGO PRED[ESTWU@]EGO FRAGMENTA SOOB]ENIQ. rABOTA S DREWOWIDNYM [UMOZA]ITNYM KODOM IMEET SHODSTWO S RABOTOJ S ARIFMETI- ^ESKIM KODOM DLQ SVATIQ INFORMACII.

rASSTOQNIEM (h\MMINGA) MEVDU DWOI^NYMI SLOWAMI DLINY n NA-

ZYWAETSQ KOLI^ESTWO POZICIJ, W KOTORYH \TI SLOWA RAZLI^A@TSQ. |TO ODNO IZ KL@^EWYH PONQTIJ TEORII KODIROWANIQ. eSLI OBOZNA^ITX DWO- I^NYE SLOWA KAK a = a1 : : : an I b = b1 : : : bn, TO RASSTOQNIE MEVDU NIMI OBOZNA^AETSQ d(a; b).

53

wESOM DWOI^NOGO SLOWA a = a1 : : : an NAZYWAETSQ KOLI^ESTWO EDINIC

Pn

W NEM. oBOZNA^ENIE w(a). mOVNO SKAZATX, ^TO w(a) = i=1 ai.

pRIMER. pUSTX a = 1001 I b = 0011, TOGDA w(a) = w(b) = 2, d(a; b) =

2.

dALEE OPERACIQ + PRI PRIMENENII K DWOI^NYM SLOWAM BUDET OZNA- ^ATX PORAZRQDNOE SLOVENIE BEZ PERENOSA, T. E. SLOVENIE PO MODUL@ 2 ILI \ISKL@^A@]EE ili" (XOR).

rASSTOQNIE MEVDU DWOI^NYMI SLOWAMI a I b RAWNO WESU IH PORAZRQDNOJ SUMMY, T.E. d(a; b) = w(a + b).

eSLI DWA SLOWA RAZLI^A@TSQ W KAKOM-LIBO RAZRQDE, TO \TO DOBAWIT EDINICU K WESU IH PORAZRQDNOJ SUMMY.

sLEDOWATELXNO, ESLI a I b | SLOWA DLINY n, TO WEROQTNOSTX TOGO, ^TO SLOWO a BUDET PRINQTO KAK b, RAWNA pn d(a;b)qd(a;b).

nARIMER, WEROQTNOSTX TOGO, ^TO SLOWO 1011 BUDET PRINQTO KAK 0011, RAWNA p3q.

dLQ WOZMOVNOSTI OBNARUVENIQ O[IBKI W ODNOJ POZICII MINIMALXNOE RASSTOQNIE MEVDU SLOWAMI KODA DOLVNO BYTX BOLX[IM 1.

iNA^E O[IBKA W ODNOJ POZICII SMOVET PREWRATITX ODNO KODOWOE SLOWO W DRUGOE, ^TO NE DAST EE OBNARUVITX.

dLQ TOGO, ^TOBY KOD DAWAL WOZMOVNOSTX OBNARUVIWATX WSE O[IBKI KRATNOSTI, NE BOLX[EJ k, NEOBHODIMO I DOSTATO^NO, ^TOBY NAIMENX[EE RASSTOQNIE MEVDU EGO SLOWAMI BYLO k + 1.

dOSTATO^NOSTX DOKAZYWAETSQ KONSTRUKTIWNO: ESLI USLOWIE UTWERVDENIQ WYPOLNENO NA E, TO W KA^ESTWE DEKODIRU@]EJ FUNKCII D SLEDUET WZQTX FUNKCI@, SOOB]A@]U@ OB O[IBKE, ESLI DEKODIRUEMOE SLOWO OTLI^AETSQ OT L@BOGO IZ SLOW IZ OBRAZA E. nEOBHODIMOSTX DOKAZYWAETSQ OT PROTIWNOGO: ESLI MINIMALXNOE RASSTOQNIE k0 < k + 1, TO O[IBKA W k0 POZICIQH SMOVET PREWRATITX ODNO KODOWOE SLOWO W DRUGOE.

dLQ TAKOGO KODA WEROQTNOSTX TOGO, ^TO O[IBKI W SOOB]ENII OSTANUTSQ NEOBNARUVENNYMI, RAWNA

n

X

Cni pn iqi = Cnk+1pn k 1qk+1 + + Cnn 1pqn 1 + qn

i=k+1

[PRI MALYH q I NE SLI[KOM MALENXKIH k] Cnk+1pn k 1qk+1.

dLQ TOGO ^TOBY KOD DAWAL WOZMOVNOSTX ISPRAWLQTX WSE O[IBKI KRATNOSTI, NE BOLX[EJ k, NEOBHODIMO I DOSTATO^NO, ^TOBY NAIMENX[EE RASSTOQNIE MEVDU EGO SLOWAMI BYLO 2k + 1.

54

nORBERT wINER

dOSTATO^NOSTX DOKAZYWAETSQ KONSTRUKTIWNO: ESLI USLOWIE UTWERVDENIQ WYPOLNENO NA E, TO W KA^ESTWE DEKODIRU@]EJ FUNKCII D SLEDUET WZQTX FUNKCI@, WOZWRA]A@]U@ BLIVAJ[EE K DEKODIRUEMOMU SLOWO IZ OBRAZA E. nEOBHODIMOSTX DOKAZYWAETSQ OT PROTIWNOGO. pUSTX RASSTOQNIE MEVDU WYBRANNYMI SLOWAMI W KODE RAWNO 2k. tOGDA ESLI PRI PEREDA^E KAVDOGO IZ \TIH SLOW SLU- ^ITSQ k O[IBOK, KOTORYE IZMENQT BITY, W KOTORYH RAZLI^A@TSQ \TI SLOWA, TO PRIEMNIK POLU^IT DWA IDENTI^NYH SOOB]ENIQ, ^TO SWIDETELXSTWUET O TOM, ^TO W DANNOJ SITUACII ISPRAWLENIE k O[IBOK NEWOZMOVNO. sLEDOWATELXNO, MINIMALXNOE RASSTOQNIE MEVDU SLOWAMI KODA DOLVNO BYTX BOLX[IM 2k.

pRIMER. rASSMOTRIM (1; 3)-KOD, SOSTOQ]IJ IZ E, ZADA@]EJ OTOBRAVENIE 0 ! 000 I 1 ! 111, I D, ZADA@]EJ OTOBRAVENIE 000 ! 0; 001 !

0; 010 ! 0; 011 ! 1; 100 ! 0; 101 ! 1; 110 ! 1; 111 ! 1. |TOT KOD (S TROJNYM POWTORENIEM) ISPRAWLQET O[IBKI W ODNOJ POZICII, T.K. MINIMALXNOE RASSTOQNIE MEVDU SLOWAMI KODA RAWNO 3.

eSLI KOD ISPRAWLQET WSE O[IBKI KRATNOSTI k I MENX[EJ, TO WEROQTNOSTX O[IBO^NOGO PRIEMA SLOWA DLINY n O^EWIDNO NE PREWOSHODIT

pEREDA^U DANNYH ^ASTO UDOBNO RASSMATRIWATX SLEDU@]IM OBRAZOM. pUSTX ISHODNOE SOOB]ENIE a = a1 : : : am KODIRUETSQ FUNKCIEJ E W KODOWOE SLOWO b = b1 : : : bn. kANAL SWQZI PRI PEREDA^E DOBAWLQET K NEMU FUNKCIEJ T STROKU O[IBOK e = e1 : : : en TAK, ^TO PRIEMNIK POLU^AET SOOB]ENIE r = r1 : : : rn, GDE ri = bi + ei (1 6 i 6 n). sISTEMA, ISPRAWLQ@]AQ O[IBKI, PEREWODIT r W NEKOTOROE (OBY^NO BLIVAJ[EE) KODOWOE SLOWO. sISTEMA, TOLXKO OBNARUVIWA@]AQ O[IBKI, LI[X PROWERQET, QWLQETSQ LI PRINQTOE SLOWO KODOWYM, I SIGNALIZIRUET O NALI^II O[IBKI, ESLI \TO NE TAK.

pRIMER. pUSTX PEREDAWAEMOE SLOWO a = 01 KODIRUETSQ SLOWOM b = 0110, A STROKA O[IBOK | e = 0010. tOGDA BUDET PRINQTO SLOWO r = 0100. sISTEMA, ISPRAWLQ@]AQ O[IBKI, PEREWEDET EGO W 0110 I ZATEM WOSSTANOWIT PEREDANNOE SLOWO 01.

eSLI SISTEMA TOLXKO OBNARUVIWAET O[IBKI I RASSTOQNIE MEVDU L@BYMI KODOWYMI SLOWAMI k > 2, TO L@BAQ STROKA O[IBOK e S EDINSTWENNOJ EDINICEJ PRIWEDET K SLOWU r = b + e, KOTOROE NE QWLQETSQ KODOWYM.

pRIMER. rASSMOTRIM (2; 3)-KOD S PROWERKOJ ^ETNOSTI. mNOVESTWO KODOWYH SLOW | f000; 011; 101; 110g. nI ODNA IZ STROK O[IBOK 001, 010, 100, 111 NE PEREWODIT ODNO KODOWOE SLOWO W DRUGOE. pO\TOMU ODNOKRATNAQ I TROJNAQ O[IBKI MOGUT BYTX OBNARUVENY.

55

pRIMER. sLEDU@]IJ (2; 5)-KOD OBNARUVIWAET DWE O[IBKI:

|TOT VE KOD SPOSOBEN ISPRAWLQTX ODNOKRATNU@ O[IBKU, POTOMU ^TO L@BYE DWA KODOWYH SLOWA OTLI^A@TSQ PO MENX[EJ MERE W TREH POZICIQH. iZ TOGO, ^TO d(bi; bj) > 3 PRI i 6= j, SLEDUET, ^TO ODNOKRATNAQ O[IBKA PRIWEDET K PRIEMU SLOWA, KOTOROE NAHODITSQ NA RASSTOQNII 1 OT KODOWOGO SLOWA, KOTOROE BYLO PEREDANO. pO\TOMU SHEMA DEKODIROWANIQ, SOSTOQ]AQ W TOM, ^TO PRINQTOE SLOWO PEREWODITSQ W BLIVAJ[EE K NEMU KODOWOE, BUDET ISPRAWLQTX ODNOKRATNU@ O[IBKU. w DWOI^NOM SIMMETRI^NOM KANALE WEROQTNOSTX PRAWILXNOJ PEREDA^I ODNOGO BLOKA BUDET NE MENX[E ^EM p5 + 5p4q.

uSTANOWLENO [20], ^TO W (n r; n)-KODE, MINIMALXNOE RASSTOQNIE MEVDU KODOWYMI SLOWAMI KOTOROGO 2k + 1, ^ISLA n, r (^ISLO DOPOLNITELXNYH RAZRQDOW W KODOWYH SLOWAH) I k DOLVNY SOOTWETSTWOWATX

NERAWENSTWU

r > log2(Cnk + Cnk 1 + + Cn1 + 1);

NAZYWAEMOMU NERAWENSTWOM ILI NIVNEJ GRANICEJ h\MMINGA. kROME TOGO, ESLI ^ISLA n, r I k SOOTWETSTWU@T NERAWENSTWU

r > log2(Cn2k 11 + Cn2k 12 + + Cn1 1 + 1);

NAZYWAEMOMU NERAWENSTWOM ILI WERHNEJ GRANICEJ wAR[AMOWA-gILX-

BERTA, TO SU]ESTWUET (n r; n)-KOD, ISPRAWLQ@]IJ WSE O[IBKI WESA k I MENEE [20].

nIVNQQ GRANICA ZADAET NEOBHODIMOE USLOWIE DLQ POMEHOZA]ITNOGO KODA S ZADANNYMI HARAKTERISTIKAMI, T.E. L@BOJ TAKOJ KOD DOLVEN EMU SOOTWETSTWOWATX, NO NE WSEGDA MOVNO POSTROITX KOD PO PODOBRANNYM, UDOWLETWORQ@]IM USLOWI@ HARAKTERISTIKAM. wERHNQQ GRANICA ZADAET DOSTATO^NOE USLOWIE DLQ SU]ESTWOWANIQ POMEHOZA]ITNOGO KODA S ZADANNYMI HARAKTERISTIKAMI, T. E. PO L@BYM PODOBRANNYM, UDOWLETWORQ@- ]IM USLOWI@ HARAKTERISTIKAM MOVNO POSTROITX IM SOOTWETSTWU@]IJ KOD.

I uPRAVNENIE 36

iMEETSQ (8; 9)-KOD S PROWERKOJ ^ETNOSTI. wY^ISLITX WEROQTNOSTX TOGO, ^TO W SLU^AE O[IBKI \TOT KOD EE NE OBNARUVIT, ESLI WEROQTNOSTX O[IBKI PRI PEREDA^E KAVDOGO BITA RAWNA 1%. wY^ISLITX TAKVE WEROQTNOSTX O[IBO^NOJ PEREDA^I BEZ ISPOLXZOWANIQ KODA. sDELATX ANALOGI^NYE RAS- ^ETY DLQ SLU^AQ, KOGDA WEROQTNOSTX O[IBKI W DESQTX RAZ MENX[E.

56

I uPRAVNENIE 37

wY^ISLITX MINIMALXNU@ I MAKSIMALXNU@ OCENKI KOLI^ESTWA DOPOLNITELXNYH RAZRQDOW r DLQ KODOWYH SLOW DLINY n, ESLI TREBUETSQ, ^TOBY MINIMALXNOE RASSTOQNIE MEVDU NIMI BYLO d. rASSMOTRETX SLU^AI n = 32, d = 3 I n = 23, d = 7.

22. mATRI^NOE KODIROWANIE

rANEE KAVDAQ SHEMA KODIROWANIQ OPISYWALASX TABLICAMI, ZADA@- ]IMI KODOWOE SLOWO DLINY n DLQ KAVDOGO ISHODNOGO SLOWA DLINY m. dLQ BLOKOW BOLX[OJ DLINY \TOT SPOSOB TREBUET BOLX[OGO OB_EMA PA-

MQTI I PO\TOMU NEPRAKTI^EN. nAPRIMER, DLQ (16; 33)-KODA POTREBUETSQ

33 216 = 2 162 688 BIT.

gORAZDO MENX[EGO OB_EMA PAMQTI TREBUET MATRI^NOE KODIROWANIE. pUSTX E MATRICA RAZMERNOSTI m n, SOSTOQ]AQ IZ \LEMENTOW eij, GDE i | \TO NOMER STROKI, A j | NOMER STOLBCA. kAVDYJ IZ \LEMENTOW MATRICY eij MOVET BYTX LIBO 0, LIBO 1. kODIROWANIE REALIZUETSQ OPERACIEJ b = aE ILI bj = a1e1j + a2e2j + + amemj, GDE KODOWYE SLOWA RASSMATRIWA@TSQ KAK WEKTORY-STROKI, T.E KAK MATRICY RAZMERA 1 n.

pRIMER. rASSMOTRIM SLEDU@]U@ 3 6-MATRICU:

tOGDA KODIROWANIE ZADAETSQ TAKIMI OTOBRAVENIQMI: 000 ! 000000, 001 ! 001111, 010 ! 010011, 011 ! 011100, 100 ! 100110, 101 ! 101001, 110 ! 110101, 111 ! 111010.

rASSMOTRENNYJ PRIMER POKAZYWAET PREIMU]ESTWA MATRI^NOGO KODIROWANIQ: DOSTATO^NO ZAPOMNITX m KODOWYH SLOW WMESTO 2m SLOW. |TO OB]IJ FAKT.

kODIROWANIE NE DOLVNO PRIPISYWATX ODNO I TO VE KODOWOE SLOWO RAZNYM ISHODNYM SOOB]ENIQM. pROSTOJ SPOSOB DOBITXSQ \TOGO SOSTOIT W TOM, ^TOBY m STOLBCOW (W PREDYDU]EM PRIMERE | PERWYH) MATRICY E OBRAZOWYWALI EDINI^NU@ MATRICU. pRI UMNOVENII L@BOGO WEKTORA NA EDINI^NU@ MATRICU POLU^AETSQ \TOT VE SAMYJ WEKTOR, SLEDOWATELXNO, RAZNYM WEKTORAM-SOOB]ENIQM BUDUT SOOTWETSTWOWATX RAZNYE WEKTORA SISTEMATI^ESKOGO KODA.

mATRI^NYE KODY NAZYWA@T TAKVE LINEJNYMI KODAMI. dLQ LINEJNYH (n r; n)-KODOW S MINIMALXNYM RASSTOQNIEM h\MMINGA d SU]ESTWUET NIVNQQ GRANICA pLOTKINA (Plotkin) [14] DLQ MINIMALXNOGO KOLI^E- STWA KONTROLXNYH RAZRQDOW r PRI n > 2d 1,

r > 2d 2 log2 d:

57