18. Сложность проблем. Pn-полная и Pn-сложная задачи.

Проблемы, которые можно решить с помощью алгоритмов с полиномиальным временем, называются решаемыми, потому что для разумных входных данных обычно могут быть решены за разумное время (Точное определение «разумности» зависит от конкретных обстоятельств). Проблемы, которые невозможно решить за полиномиальное время, называются нерешаемыми, потому что вычисление их решений быстро становится невозможным. Нерешаемые проблемы иногда называют трудными. Проблемы, которые могут быть решены только с помощью суперполиномиальных алгоритмов, вычислительно нерешаемы, даже при относительно малых значениях n.

Проблемы можно разбить на классы в соответствии со сложностью их решения. Самые важные классы и их предполагаемые соотношения:

Стивен Кук доказал, что проблема Выполнимости (существует ли способ присвоить правильные значения входящим в него переменным так, чтобы все выражение стало истиной?) является NP-полной. Это означает, что, если проблема выполнимости решается за полиномиальное время, то P = NP. Наоборот, если может быть доказано, что для любой проблемы класса NP не существует детерминированного алгоритма с полиномиальным временем решения, доказательство покажет, что и для проблемы выполнимости не существует детерминированного алгоритма с полиномиальным временем решения. В NP нет проблемы труднее, чем проблема выполнимости.

NP-полные проблемы:

– Проблема путешествующего коммивояжера. Путешествующему коммивояжеру нужно посетить различные города, используя только один бак с горючим (существует максимальное расстояние, которое он может проехать). Существует ли маршрут, позволяющий ему посетить каждый город только один раз, используя этот единственный бак с горючим?

– Проблема тройного брака. В комнате n мужчин, n женщин и n чиновников. Есть список разрешенных браков, записи которого состоят из одного мужчины, одной женщины и одного регистрирующего чиновника. Дан этот список троек, возможно ли построить n браков так, чтобы любой либо сочетался браком только с одним человеком или регистрировал только один брак?

11. Поток информации источника сообщений. (+22)

При работе источника сообщений на его выходе отдельные символы появляются через некоторые интервалы времени; в этом смысле можно говорить о длительности отдельных символов, и, следовательно, может быть поставлен вопрос о количестве информации, вырабатываемой источником в единицу времени. Длительность выдачи знаков источником в каждом состоянии в общем случае может быть различной. Тогда средняя длительность выдачи источником одного знака:

где P(S_k) – вероятность того, что источник сообщений находится в состоянии S_k, P(x_i) – вероятность появления символа x_i в состоянии S_k; – длительность выдачи знака x_i источником в состоянии S_k.

Энтропия источника, приходящаяся на единицу времени, может быть названа скоростью создания сообщений или потоком информации, т.е.

Если длительность выдачи знака не зависит от состояния источника, для всех знаков одинакова и равна τ, то . Выражение для (X) принимает вид:

В этом случае поток информации максимальный, если энтропия источника на символ максимальна. Для увеличения потока информации необходимо по возможности уменьшить среднюю длительность символов . С этой целью, например, необходимо, чтобы длительность тех символов, вероятность появления которых больше, была меньше, чем для символов, вероятность появления которых относительно велика. Для получения большого потока информации на выходе источника необходимо не только обеспечить по возможности большую энтропию на символ, но и правильно выбрать длительность разных символов.