metodichka_EKI
.pdf20
Очевидно |
~ 1. Сведения о системе сводятся в таблицу вида (2.1) |
||
|
|
|
Таблица 2.1 |
Xi |
XI |
x2 |
xn |
Pi |
Pi |
P2 |
Pn |
В качестве меры априорной неопределенности системы в теории информации принимается специальная характеристика, называемая энтропией.
Н(Х) = - £ л - log Pi = Ъl( Pi), |
(2.2) |
|
i=i |
/=1 |
|
или |
|
|
Н(Х) = £ t j ( P i ) , |
где n ( P i ) = "Pi logPi |
(2.3) |
/—I |
|
|
Свойства энтропии
1.Если одно из состояний системы достоверно, а другие невозможны,
то Н(Х)=0.
2.При заданном числе состояний Н(Х) обращается в max , когда эти состояния равновероятны, при увеличении числа состояний энтропия увеличивается.
3.Свойство аддитивности, т. е. если несколько независимых систем объединяется, и их энтропии складываются.
Логарифм в (2.2) может быть взят при любом основании, чаще всего при двойке (энтропию измеряют в двоичных единицах), т. е. за единицу измерения энтропии принимается энтропия простейшей системы X, которая имеет два
равновозможных состояния.
XT |
X, |
X2 |
|
|
Pi |
0.5 |
0.5 |
|
|
В этом случае^эн гропия оценивается как |
|
|||
Н(х) |
= ~(0.5log(l/2) |
+ 0.5log(l/2)) = 1 |
(2.4) |
|
20 |
|
|
|
|
4. |
Энтропия |
системы |
с равновозможными |
состояниями равна |
логарифму числа состояний |
|
|
||
Н(х |
) = -\/nlog\/n |
= -log\ |
+ logn = logn |
(2.5) |
Пример. Фирма планирует производство новой продукции быстрого питания в национальном масштабе. Исследовательский отдел убежден в большом успехе новой продукции и хочет внедрить её немедленно, без рекламной кампании на рынках сбыта фирмы. Отдел маркетинга положение вещей оценивает иначе и предлагает провести интенсивную рекламную компанию. Такая компания обойдется в 105у.е., а в случае успеха принесет 95*104 у.е. годового дохода. В случае неуспеха рекламной кампании (вероятность - 30%), годовой доход оценивается в 2*105 у.е. Если рекламная
кампания не проводится вовсе, годовой доход оценивается в 400000 при условии, что покупателям понравится продукция ( с вероятностью 0,8) и 1500000, если покупатели останутся равнодушными. Оценить энтропию этой системы, если руководство фирмы оценивает шансы одинаково. Сведем исходные данные в следующую таблицу
|
|
|
|
Таблица 2.2 |
|
950000 |
200000 |
400000 |
150000 |
Рі |
0,35 |
0,15 |
0,4 |
0,1 |
|
,я |
п |
|
|
Н{х) = - ^ Р і * \ 0 % р І = ^ (РІ)П, |
где |
Т]{рі) = - р і \ о % р і |
||
|
і=1 |
і=1 |
|
|
4
Н(х) = X ПІРІ ) = 77(0.35) + /7(0.15) + 77(0.4) + т;(0.1) = 0.53 + 0.41 + 0.528 + 0.33 = 1.86
і = І
Энтропия сложной системы
Под сложной системой понимается система, полученная объединением двух или более простых систем. Под объединением двух систем X и У с возможными состояниями х2,--,х„ и у\,уг,—,ут понимается система (X,У), состояния которой (х,-,^) представляют собой все возможные комбинации
20 |
|
|
|
состояний хі |
И уі систем X |
и Г. Число возможных состояний будет равно |
|
п*т. Тогда |
- вероятность |
того, что система (XX) |
будет находится в |
состоянии |
|
|
|
Рц = Р((X ~ х, )(У ~ У])) |
|
(2.6) |
|
Вероятности ру удобно расположить в виде таблицы. |
|
||
|
|
|
Таблица 2.3 |
ХІ |
ХІ |
Х2 |
ХП |
УІ |
|
|
|
Уі |
Ри |
Р12 |
Ріп |
У2 |
Р21 |
Р22 |
Р2п |
Ут |
Рті |
Рт2 |
Ртп |
Теорема: Энтропия сложной системы
п т
H(X,Y) = - ^ ( P v l o g P y ) (2.7) i=U=l
|
Свойства энтропии сложной системы |
|
1. |
При объединении независимых систем их энтропии складываются. |
|
|
H(X,Y) = H(X) + H(Y) |
|
2. |
Энтропии складываются и при |
объединении произвольного числа |
|
|
л |
|
независимых систем Н(Xl ,...,Xn ) = |
X t ) |
i=i
3.При объединении зависимых систем их энтропия определяется как
Н(Х, Y) = Н(Х) + Н(У/Х)
4.При объединении произвольного числа зависимых систем
Н(Х1,Х2,...,Хп) = Н(Х1)+Н(Х2/Х1) + Н(ХЗ/Х1 ,Х2) + ...+ Н(Хп/Х1,Х2,...,Хп-1)
5. Полная условная энтропия системы Y относительно X/
и |
т |
H(Y/X) = -% |
ogPtyj/Xi) |
i=1 |
7=1 |
и наоборот |
|
20
пт
<•=1 у=1
Пример. При наблюдении за фирмой-конкурентом, которая может находиться в одном из четырех состояний (вероятности этих состояний приведены в таблице 2.4), состояния х1 и х2 неразличимы, состояния хЗ и х4
также неразличимы. Сообщение о системе X указывает, находится ли она в одном из состояний х1, х2 или хЗ, х4. Получено сообщение, указывающее в
каком из состояний х1, |
х2 или |
хЗ, х4 |
находится система. Определить |
|
информацию, заключенную в этом сообщении. |
||||
В данном примере мы наблюдаем не саму систему X, а подчиненную ей |
||||
систему У, которая принимает состояние уг - |
если система X в X/, х2, или у2 |
|||
если система X в хЗ,х4, т.е |
|
|
|
|
г,=Р(У~ У 1 ) = 0.3; |
г 2 =Р( ¥ ~ у 2 ) = 0.7 |
|
||
|
|
|
Таблица 2.4 |
|
XI |
XI |
Х2 |
ХЗ |
Х4 |
Р1 |
0.1 |
0.2 |
0.4 |
0.3 |
|
|
Таблица 2.5 |
|
|
Ю |
У1 |
У2 |
|
|
Рг |
0.3 |
0.7 |
|
|
Находим взаимную информацию, т. е. энтропию подчиненной системы. |
||||
1у<->х = г](0.3) + т](0.7) «0.88 |
ед. |
|
||
Задание 1:
Система из двух объектов задана таблицей вероятностей Р (х,у).
а) найти полную энтропию системы; б) найти энтропию составляющих;
в) найти полные условные энтропии Н (х/у) и Н (у/х);
г) проверить правильность вычислений а/-Ь/ по теореме сложения энтропии;
д) найти частные условные энтропии Н (у/х/) и Н (х/у2).
№1 |
|
|
|
№2 |
4 |
|
2 |
2.1 |
|
— |
|
|
|
0.1 |
0.14 |
||
1 |
0.05 |
0.1 |
|
||
|
0.2 |
0.3 |
|||
1.3 |
0.1 |
0.15 |
|
||
|
0.3 |
0.1 |
|||
1.5 |
0.2 |
0.14 |
|
||
|
|
|
|||
№3 |
1 |
1.5 |
2 |
|
|
|
|
|
|||
1 |
0.4 |
0.2 |
0.1 |
|
|
1.2 |
0.1 |
0.05 |
0.15 |
|
|
№4 |
1 |
2 |
3 |
|
|
|
|
|
|||
0.1 |
0.4 |
0.1 |
0.1 |
|
|
0.2 |
0.1 |
0.17 |
0.13 |
|
|
№5 |
|
|
|
|
|
— |
1 |
2 |
3 |
4 |
|
1 |
0.05 |
0.1 |
0.2 |
0.1 |
|
1.5 |
0.1 |
0.2 |
0.1 |
0.15 |
|
№6 |
1 |
2 |
2.5 |
3 |
|
|
|
||||
0.5 |
0.1 |
0.01 |
0.2 |
0.2 |
|
1 |
0.2 |
0.15 |
0.05 |
0.09 |
|
№7 |
|
|
|
|
|
£ |
1 |
2 |
4 |
|
|
0.1 |
0.2 |
0.1 |
0.03 |
|
|
0.2 |
0.1 |
0.5 |
0.07 |
|
|
№8 |
10.2 |
0.4 |
0.6 |
|
|
|
|
|
|||
1 |
0.2 |
0.1 |
0.3 |
|
|
3 |
0.1 |
0.15 |
0.15 |
№10 |
|
№9 |
|
|
|
|
|
Л; |
0.1 |
1 |
|
г/ |
1 |
1 |
0.3 |
0.1 |
|
3 |
0.01 |
2 |
0.1 |
0.25 |
|
4 |
0.2 |
3 |
0.05 |
0.2 |
|
7 |
0.08 |
|
|
|
|
8 |
0.15 |
№11 |
|
|
|
|
|
|
0.1 |
0.2 |
0.8 |
|
|
2 |
0.1 |
0.2 |
0.3 |
|
|
/э
5
0.3
0.1
0.06
2
0.1
0.3
0.01
0.15
20 |
|
|
|
|
|
|
3 |
0.2 |
0.1 |
0.1 |
|
|
|
№12 |
0.4 |
0.8 |
0.12 |
|
|
|
-J |
|
|
|
|||
0.1 |
0.3 |
0.4 |
0.05 |
|
|
|
0.2 |
0.01 |
0.08 |
0.05 |
|
|
|
0.3 |
0.02 |
0.02 |
0.07 |
|
|
|
№13 |
1 |
2 |
3 |
4 |
|
|
|
|
|
||||
0.3 |
0.1 |
0.05 |
0.1 |
0.3 |
|
|
0.4 |
0.2 |
0.1 |
0.05 |
0.1 |
|
|
№14 |
2 |
4 |
6 |
|
|
|
|
|
|
|
|||
3 |
0.1 |
0.01 |
0.3 |
|
|
|
5 |
0.08 |
0.5 |
0.01 |
|
|
|
№15 |
|
|
|
№16 |
|
|
|
0.1 |
0.5 |
|
— |
0.7 |
1 |
1 |
0.05 |
0.1 |
|
2 |
0.15 |
0.12 |
10 |
0.4 |
0.25 |
|
3 |
0.3 |
0.05 |
12 |
0.15 |
0.05 |
|
4 |
0.35 |
0.03 |
№17 |
3 |
3.5 |
4 |
|
|
|
— й |
|
|
|
|||
2 |
0.1 |
0.3 |
0.3 |
|
|
|
2.5 |
0.2 |
0.09 |
0.01 |
|
|
|
№18 |
|
|
|
№19 |
|
|
|
2 |
8 |
|
£ |
3 |
6 |
3 |
0.25 |
0.05 |
|
10 |
0.25 |
0.1 |
5 |
0.2 |
0.05 |
|
14 |
0.15 |
0.05 |
7 |
0.4 |
0.05 |
|
18 |
0.32 |
0.13 |
№20 |
2 |
5 |
8 |
|
|
|
0.4 |
|
|
|
|||
0.15 |
0.3 |
0.35 |
|
|
|
|
0.8 |
0.05 |
0.12 |
0.03 |
|
|
|
№21 |
2 |
3 |
4 |
|
|
|
|
5 |
|
|
|||
2 |
0.05 |
0.12 |
0.08 |
0.04 |
|
|
|
|
|
|
|
|
20 |
7 |
0.09 |
0.3 |
0.11 |
0.21 |
|
|
№22 |
3 |
10 |
12 |
|
|
|
|
|
|
|
|||
4 |
0.17 |
0.13 |
0.25 |
|
|
|
5 |
0.1 |
0.3 |
0.05 |
|
|
|
№23 |
|
|
|
№24 |
|
|
|
0.1 |
0.5 |
|
— £ |
2 |
20 |
2 |
0.2 |
0.1 |
|
1 |
0.32 |
0.14 |
4 |
0.3 |
0.05 |
|
10 |
0.36 |
0.18 |
6 |
0.15 |
0.2 |
|
|
|
|
№25 |
1 |
2 |
3 |
|
|
|
|
|
|
|
|||
4 |
0.1 |
0.1 |
0.2 |
|
|
|
6 |
0.3 |
0.2 |
0.1 |
|
|
|
Задание 2:
Задана система из двух объектов (см. задание 1). Найти:
а) полную взаимную информацию о состоянии одного объекта от
сообщения о состоянии другого объекта;
б) частную информацию о состоянии объекта у от сообщения, что объект
Хв состоянии хI;
в) частную информацию о состоянии х„ объекта х от сообщения, что
объект У в состоянии ут .
Задание 3:
Объект х может находиться в одном из 5 состояний, вероятности которых
известны (исходные данные для задания 3 приведены в таблице 2.6):
Таблица 2.6 |
|
|
|
|
|
Номер |
Р1 |
Р2 |
РЗ |
Р4 |
Р5 |
1 |
0,5 |
0,1 |
0,1 |
0,1 |
0,2 |
2 |
0,15 |
0,15 |
0,2 |
0,2 |
0,3 |
3 |
0,2 |
од |
0,4 |
0,1 |
0,2 |
4 |
од |
0,1 |
0,7 |
0,05 |
0,05 |
5 |
0,2$ |
0,05 |
0,2 |
0,2 |
0,3 |
6 |
0,15 |
0,2 |
0,5 |
0,1 |
0,05 |
7 |
0,2 |
0,2 |
0,5 |
0,05 |
0,05 |
8 |
0,3 |
0,05 |
0,4 |
0,15 |
од |
20 |
|
|
|
|
|
9 |
0,5 |
0,05 |
0,05 |
0,3 |
од |
10 |
0,4 |
0,2 |
0,1 |
0,2 |
од |
11 |
0,3 |
0,2 |
0,25 |
0,2 |
0,05 |
12 |
0,5 |
0,15 |
од |
0,15 |
од |
13 |
0,4 |
0,1 |
0,05 |
0,05 |
0,4 |
14 |
0,15 |
0,3 |
0,35 |
од |
од |
15 |
0,25 |
од |
0,2 |
0,35 |
од |
16 |
0,3 |
0,1 |
0,1 |
0,3 |
0,2 |
17 |
0,45 |
0,2 |
од |
0,15 |
од |
18 |
0,15 |
0,5 |
од |
од |
0,15 |
19 |
од |
0,4 |
0,4 |
0,05 |
0,05 |
20 |
0,1 |
0,2 |
од |
0,2 |
0,4 |
21 |
0,2 |
0,05 |
0,25 |
од |
0,4 |
22 |
0,3 |
0,15 |
0,15 |
0,3 |
од |
23 |
0,4 |
0,1 |
од |
0,3 |
од |
24 |
0,5 |
0,1 |
0,05 |
0,25 |
од |
25 |
0,55 |
0,15 |
од |
од |
од |
Наблюдение за объектом ведется с большого расстояния, вследствие чего
некоторые состояния неразличимы. |
|
|
|
|
|
|
||
Номер варианта |
|
1 |
2 |
3 |
4 |
5 |
|
6 |
Неразличимые |
1,2 и 3,5 2, 3,4 |
1,2 |
1,2 и 4,5 1,2,3 |
1.3 |
и 2,4 |
|||
состояния |
|
|
|
|
|
|
|
|
Номер варианта |
7 |
8 |
|
9 |
10 |
11 |
|
12 |
Неразличимые |
3,4,5 |
1,4 и 2,5 |
2,4,5 |
1,3,5 |
1,2 и 3,5 |
2,4 |
и 3,5 |
|
состояния |
|
|
|
|
|
|
|
|
Номер варианта |
13 |
14 |
|
15 |
16 |
17 |
|
18 |
Неразличимые |
2,3,4 |
1,2,5 |
3,4 и 2,5 |
1,5 |
2,4 и 1,5 |
1,4 |
и 2,5 |
|
состояния |
|
|
|
|
|
|
|
|
Номер варианта |
19 |
20 |
|
21 |
22 |
23 |
24 |
25 |
Неразличимые |
2,4,5 |
1,2 и 4,5 |
1,3 и 2,5 |
1,5 |
1,4 и 3,5 |
3,2 |
2,4 |
|
состояния |
|
|
|
|
|
|
|
|
Найти количество информации, полученной от результатов такого наблюдения (с частично неразличимыми состояниями) и количество информации, необходимой для полного распознавания объекта.
20
Лабораторная работа № 3
ИССЛЕДОВАНИЕ ЭЛЕМЕНТОВ ЭКОНОМИЧЕСКОЙ СИСТЕМЫ.
СПРОС КАК ОБЪЕКТ УПРАВЛЕНИЯ
Цель работы: приобретение практических навыков при анализе спроса как функции от цен и дохода с оценками эластичности. Определение тенденции ежегодного изменения спроса.
|
Теоретические сведения |
|
|
Спрос на г-ое благо является функцией от цен и дохода: |
|
||
Ч,=/{Р„Р2,...,РЯ,М) |
|
(3.1) |
|
где: <7, - спрос на продукт /'; |
|
|
|
Р\,Р2, -.,Рп - |
цены на продукты в положении рыночного равновесия; |
|
|
М- доход потребителей. |
|
|
|
Пропорциональное изменение цен и доходов не изменяет спрос, т.е. для |
|||
любого достаточного числа Р выполняется зависимость: |
|
||
ч, =/{Р1/Р;Р2 |
Р;...;^/Р;М |
Р)=/{1],Р2,...,РП,М) |
(3.2) |
где: Р - индекс цен.
Коэффициентом эластичности функции (3.1) называется величина, полученная в результате деления относительного прироста функции на относительный прирост аргумента. Можно вычислять эластичность по ценам и
доходам. |
|
|
|
|
|
|
|
|
с |
= |
У' |
У' —41 |
Р} |
••—11 |
/1 |
(3.3) |
|
|
Р. |
: —= |
р. |
—; |
1,1 — 1,2... „п. |
|
||
У |
|
Р. |
а- |
|
|
|
||
|
|
) |
1 |
1 ] |
Чг |
|
|
|
|
|
а, |
<7; |
а, |
М |
|
|
|
|
|
ММ |
М |
|
|
|
|
|
Величины Ед показывают, на сколько процентов изменится спрос на 1-ый продукт, если при других неизменных условиях цена на у-ый продукт изменится на 1%.\. При [=) величины Ец называются коэффициентами эластичности по ценам, если ~ перекрестными коэффициентами эластичности.
20
Эластичность блага, по отношению к собственной цене, является отрицательной величиной (Еи<0), т.е. когда цена на нее увеличивается, то спрос
на благо уменьшается. Если Еу<0, то считают, что продукты i |
и j |
|||
взаимодополняют друг друга. При Е^Х) продукты i |
и j взаимозаменяемые; если |
|||
Еу=0, то продукты i и j независимые. |
|
|
||
|
Между эластичностью по ценам и доходу существует соотношение |
|
||
|
i 4 + Еш=<> |
|
|
(3.5) |
|
н |
|
|
|
|
Наиболее распространены на практике два типа функций спроса: |
|
||
|
а) линейная |
|
|
|
|
q, = a + p,^+p2 P2 +... + p„JP„+CM |
|
(3.6) |
|
|
б) показательная или линейно-логарифмическая |
|
||
|
q,=аРЬр12...Р?"Мс,т.е. |
|
|
|
|
log q, =log a + p, logPx |
+ p2 logP1 +... + p. log P |
+ Clog M |
(3.7) |
|
В формулах (3.6) и (3.7) параметры а, Р и С являются константами. |
|
||
|
|
Примеры выполнения |
|
|
|
Пример 1. Рассмотрим спрос на масло как функцию от цены и дохода |
|||
потребителей по данным наблюдений за 18 лет. |
|
|
||
|
Таблица 3.1 Исходные данные |
|
|
|
|
Количество |
Цена потребителя за 1 |
Доход на душу населения |
|
Год |
потребления масла |
кг (условная денежная |
(условная денежная |
|
|
на душу населения |
единица), |
единица), пересчитанный |
|
|
(кг) |
пересчитанная с учетом |
с учетом индекса цен |
|
|
|
индекса цен |
|
|
1 |
5,46 |
3,53 |
978 |
|
2 |
5,73 |
3,64 |
1091 |
|
3 |
5,58 |
3,75 |
1121 |
|
4 |
5,87 |
3,71 |
1171 |
|
5 |
5,12 |
3,74 |
1201 |
|