книги из ГПНТБ / Кавалеров, Г. И. Введение в информационную теорию измерений

Предположим теперь, что функция w (хк+ г) может быть разложена в ряд Тейлора по г в окрестностях точ­ ки г = 0, т. е. представлена в виде

w (хк+ г) = w (х,г)'+ rw' (хк) + ...

запишем левую часть уравнения (6-49) в виде двойного ряда по возрастающим степеням t/K/i и г/і;(/і-и)-'

TT (*+,)“ к) [ w (■**) + ^ ft®' ХО+ •••

•••+5ІГ^кі1ги<П)^ + - ]+ Г Г Г ^.°и + і) +

+^®'(х>г) + Ук?£Щ,'(ЛТ) + --. + (п_ !)[" У",,' X

Xw‘">(Xft)+ ...l + . - + ѳ я л ( й г+1) + 0 X

X

243

Рассуждения, которые излагаются ниже, не являют­ ся строгими; они представляют собой эскиз вывода тре­ буемых приближенных формул (в них опущены детали, связанные с оценкой погрешности приводимых прибли­ жений), так как точное доказательство довольно гро­ моздко. Читателю, желающему более глубоко освоить соответствующую технику, можно порекомендовать озна­ комиться с приложением к статье [Л. 6-24], в котором производится обоснование приближенного решения урав­ нений оптимального квантования в случае Ѳ= 2.

Возвращаясь к уравнению (6-53), предположим, что N велико. Тогда ввиду того, что плотность вероятностей w(x) подразумевалась гладкой и положительной функ­ цией, уцк малы при всех k = l , . . Поэтому в правой части (6-53) можно отбросить все члены, кроме содер­ жащих укі, и г/К(й+і) в степени не более чем Ѳ+1, т. е. записать:

-j - v (xh) Д® (ft+1) - yik) + ѳ+Т w' (Xn) X

X ( C „ + C l + Т Ю' W t o C r Ий> ~ 0 . (6-54)

Так как последний член в правой части (6-54) имеет более высокий порядок малости по сравнению с осталь­ ными, то, отбрасывая его, приходим к следующему при­ ближенному уравнению в конечных разностях:

Далее можно, переходя от функций дискретного аргу­ мента Xk и yKk к функциям непрерывного аргумента, за­ менить разностное уравнение (6-55) дифференциальным. Точнее, рассмотрим при фиксированном N пару функ­ ций xN(x) и уих{т), t ö [0 , 1], таких что

причем х(х) монотонно возрастает. Тогда при больших//

244

Учитывая (6-58), получаем:

dyKN (х)

245

т. е.

где С — некоторая постоянная. Для ее определения за­ метим, что из (6-60) следует приближенное равенство

Поэтому, обозначая через х(х) функцию, обратную ,ѵ(т) (таковая существует ввиду предположенной моно­ тонности А'(т)), получаем:

РМР)

ат ( а )

Заметим теперь, что т(х0)= 0 , а t(jCjv) = 1, поэтому

Из соотношений (6-69), (6-70) находятся приближен­ ные значения для параметров оптимального квантовате­ ля [основное отличие этой системы от исходной состоит, естественно, в том, что в каждое из уравнений (6-70) вхо­ дит единственная неизвестная переменная, а это сущест­ венно облегчает их решение].

246

Теперь оказывается возможным вывести также при­ ближенную формулу для среднего штрафа, соответст­ вующего оптимальному способу квантования. Будем попрежнему предполагать, что число уровней квантования N' велико, а плотность вероятностей квантуемого сигнала w(x) меняется «не слишком быстро». Тогда не внося существенной погрешности, можно считать, что опти­ мальные точки отнесения совпадают с серединами кван­ тов, и записать следующее приближенное выражение для минимального среднего штрафа 'квантования с N, уров­ нями:

то, подставляя (6-72) и (6-73) в (6-71), получаем:

j tw (x)]'^9+I*rfx I N—I

A*n

247

Приближенная формула (6-74) впервые была полу­ чена в (Л. 6-13] для случая Ѳ= 2. Изложенная выше ме­ тодика применялась в статьях [Л. 6-21, 6-24, 6-25]. В [Л. 6-25] отмечено, что формула, аналогичная (6-74), справедлива и для более общего вида функций штра­ фов, на которых основаны критерии оптимальности; до­ статочно потребовать, чтобы в окрестностях точки x = z штрафная функция допускала представление вида

Рассмотрим теперь другой подход к выводу прибли­ женных формул типа (6-74), основанный на соображе­ ниях, развитых в '[Л. 6-20], позволяющий более отчетливо представить структуру оптимальных квантователей.

Пусть w(x) — плотность вероятностей квантуемого

Мы потребуем, чтобы для достаточно больших N су­ ществовали ступенчатые функции gN{x), приближаю­

Легко видеть,что сформулированному требованию удовлетворяет широкий класс функций; в частности, оно выполняется для любой функции, для которой справед­ ливо условие Гельдера с показателем а> 0: существует постоянная k>0, такая что для произвольных х, у

и (6-20), тогда для любых параметров квантования {xfe}, {zb} разница в средних штрафах при квантовании вели­

чин с плотностями w(x) и gN(x) имеет порядок 0(N~9) .

248

Таким образом, если построить оптимальный способ квантования для g+(x) и вычислить соответствующий средний штраф, то можно получить приближенную фор­ мулу для минимального среднего штрафа, соответст­ вующего квантованию сигнала с плотностью w(x), при­

чем порядок остаточного члена будет равным 0(N~e) . Обозначим через U, длины ступеней функ­ ции gN{x) и через рі — соответствующие вероятности. Тогда, учитывая, что N^>'m, можно заметить, что «очень близкий» к оптимальному для gx(x) квантователь име­ ет следующий вид: участки длины Ц разбиваются на Ni равных частей, а точками отнесения являются середины квантов [мы пренебрегаем возможностью делать некото­ рые кванты такими, чтобы они «захватывали» интерва­ лы, соответствующие разным значениям gN(x)\ ввиду условия (6-77) связанный с этим эффект имеет порядок

0 ( О і - Это замечание сводит нашу задачу к выбору Ni, г —I, , т, минимизирующих форму

ІП

где А— неопределенный множитель.

.Продифференцировав выражение (6-82) по Ni и при­ равняв частные производные нулю (то обстоятельство, что Ni обязаны быть целыми числами, здесь малосу-

249

щественно по причинам, отмеченным выше), получим:

Подставляя (6-84) в (6-80) и разрешая последнее уравнение относительно К, имеем:

Тогда средина штраф, соответствующий этому раз­ биению, есть

250

Получаем, что минимальный средний штраф при кванто­ вании случайной величины с плотностью вероятности gN(x) равен:

любой ступенчатой функции. Этот факт важен для прак­ тического применения методов оптимального квантова­ ния: в большинстве случаев априорные сведения о плот­ ности вероятности измеряемого сигнала представляют в виде гистограммы. В этом случае уравнения (6-25) и (6-26) непосредственно неприменимы (требуется пред­ варительное сглаживание), формулы же (6-85) и (6-89) при 'больших N дают весьма точное решение задачи.

Соотношение (6-85) демонстрирует интересное свой­ ство (разумеется, асимптотическое) оптимальных раз­ биений: все кванты вносят одинаковый «вклад» в сум­ марный штраф, т. е. погрешность квантования одинако­ ва независимо от того, в какой интервал квантования по­ падает значение измеряемого сигнала.

Возвращаясь теперь к задаче оптимального кванто­ вания сигнала с плотностью вероятности до(х), оценим по модулю разность

j \®{x)]mB+l)d x - jU r*(*)]I/(e+,,d* = 0 (N~ e),

(6-91)

251

но тогда

ние (6-89) отличается от минимального среднего штра­

деления минимального среднего штрафа при квантова­

должны удовлетворять функции для справедливости проводимых приближений; в то же время, возможно, что метод, связанный с составлением разностных уравнений, в некоторых случаях дает лучшую оценку остаточного члена.

Мы вкратце опишем еще один, вероятно, самый перспективный с точки зрения требований к общности результатов, путь. В [Л. 6-29J была рассмотрена следую­ щая задача: по заданной плотности распределения сиг­ нала w(x) найти разбиение диапазона сигнала на N квантов, так чтобы минимизировать величину

где F(x) — интегральная функция распределения кван­ туемого сигнала, т. е. Ѳ-й момент длины интервала, в ко­ торый попадает измеряемая величина. В этой формули­ ровке задача оптимального квантования проще, чем изу-

252