3.3.1 Пример 1

Х(t)Заданный сигналНайти обеспечивающее максимальную

Уровень А энтропию (Н(х)=max[– р(х)logр(х)dx])

t распределениер(х)дляположительного

сигнала, с заданным средним значением А (средняя во времени величина мгновенного линейного значения сигнала).

Поиск начнём с уточнения оговоренных теоремой ограничений.

Первоеограничение: р(х)dx =1, – дежурное ограничение в задачах такого рода. Нижний предел выбран на основании того, что заданположительный сигнал, и, следовательно, описывающая его функция целиком лежит в верней части системы координат.

Второеограничение задано в условии: xр(х)dx = А (ибо это – формула математического ожидания, по которой и вычисляют среднее значение).

Теперь выявляем основной и вспомогательные функционалы.

F(p,x)= –plogp –функционал от которого зависит наш интеграл,.

φ₁(p, x)= p –функционал из условия нормировки вероятностей,

φ₂(p, x)= xp –функционал из формулы математического ожидания.

Дифференцируем выявленные функционалы.

[ F(p,x)] = [– plogp)] = – (1+ logp),

[ φ₁(p, x)] = 1 и [φ₂(p, x)] = x

И на основе полученных соотношений конструируем основное уравнение:

[F(p,x)] +λ_k [φ_k(p, x)] = 0 дляk =1 и 2 (у нас только два дополнительных условия), которое в банном случае имеет вид:

– (1+ logp)+ λ₁ + λ₂ x = 0 или

logр = λ₁ – 1+ λ₂x откуда:

р = exp[λ₁ – 1+ λ₂x] = exp[λ₁ – 1]х exp[λ₂x] = Схexp[λ₂x].

(для краткости независящий от хкоэффициент здесь обозначен одним символом: С = exp[λ₁ – 1]).

р = exp[λ₂x]– это и естьпервое приближениедля искомой функции распределения, с которым теперь мы «входим» в условие нормировки вероятностей.

р(х)dx=1 Сexp[λ₂x]dx= Сexp[λ₂ x]dx=1

Интеграл, который существует только при отрицательных λ₂, вычисляем отдельно - без коэффициента С: exp[λ x]dx=

=[1/λ₂] exp[λ₂x] ^{(подставляем верхний предел х=}_{отнимаем нижний предел х=0)} =

=[1/λ₂].

Восстанавливая С_, получаем_: Сexp[λ₂ x]dx= – С/λ₂=1. Отсюда:С = –λ₂ .

Подставляя это в первое приближение для искомой функции, получаем второе её приближение: р = С exp[λ₂x]= – λ₂exp[λ₂x].

С этим значением для искомой функции «входим» вовтрое ограничительное условие xр(х)dx=А – λ₂xexp[λ₂x]dx=А.

Интеграл – λ₂ xexp[λ₂x]dx =(вычисляется по частям)= –1/ λ_2.

Следовательно, А = –1/ λ_{2 ,} откудаλ₂ = –1/А.Окончательно имеем:

р = – λ₂ exp[λ₂x]= (1/А) exp[–x /А]. р = (1/А) e^{[-x /А]}.

При таком распределении для амплитуд, предложенный в этом примере сигнал (см. рисунок выше) будет иметь максимальную энтропию, которую здесь можно вычислить по обычной её формуле.

Н(х)=–р(х)logр(х)dx,

Н(х)=–р(х)log{(1/А) e^{[-x /А]}} dx=–[р(х)log{(1/А) + [–x/А] loge] dx=

= –р(х)[ – logА– x/А loge] dx = logА р(х)d x + loge/Ахр(х) dx .

По условию задачи р(х)dx =1 и хр(х)dx = А. Поэтому

Н(х)= logА + loge = log(eА).