Практическое занятие 2. Системный анализ и синтез информационных систем. Цель занятия: ознакомление с методами анализа и синтеза информационных процессов и систем.

В последнее время широко используются три системных понятия: “системный анализ”, “теория систем” и “системный подход”. Между ними часто ставят знак тождества, что приводит к некоторой путанице. Слова “система” и связанные с ним термины получили в последнее время очень широкое распространение. Это связана с тем, что на передний план все более и более выступает необходимость изучения сложных комплексов (систем). токая необходимость определяется резким усложнением создаваемых технических конструкции, устройств, технологий и всех совокупностей хозяйственных связей.

Подробность изучения биологических объектов и проблем экологии, которые с каждым годом становятся все более и более актуальными, также приводит исследователя к сложнейшим системам.

Системный анализ изучает развитие сложных систем. сложность изучаемых и проектируемых систем приводит к необходимости создания специальной, качественно новой технике исследования, именуемой системами имитации – специально организованными системами математических моделей, воспроизводящих в ЭВМ функционирование проектируемого или изучаемого комплекса. На исследование динамики процесса, позволяющие увидеть перспективы и наметить цели, - это лишь один из аспектов системного анализа.

Один из трудных вопросов, который изучается в рамках системного анализа, относится к проблемам проектирования иерархической организации. Любые более или менее сложные системы всегда организованы по иерархическому принципу, связи с тем, что централизованная обработка информации и принятие решений часто бывают невозможными из-за большого объема информации, которую следует собирать и перерабатывать, из-за возникающих при этом задержан и искажений и т.д. Если речь идет о проектировании технических систем, то задача исследования систем состоит прежде всего в разработке самой функциональной схемы, которая может быть реализована заведомо не единственным способом, и в определении частных целей. Значительно сложнее обстоит дело, когда речь идет о народно - хозяйственных комплексах, функционирование элементов которых зависит от того, как управляют ими люди. В отличие от машины человек всегда имеет собственные цели и интересы, и проектировщику системы уже недостаточно только формулировать цели для нижних звеньев.

Теория иерархических систем, которая занимается некоторыми из аспектов этой проблемы является одной из важнейших частей системного анализа.

Таким образом, системный анализ – это техническая дисциплина, развивающая методы проектирования сложных технических народно-хозяйственных систем, организационных структур и т.д. Системный анализ как дальнейшее развитие теории исследования операции включает в себя последнюю со всем арсеналом средств, развитых в ее рамках. Поскольку любой анализ сложных систем невозможен без использования ЭВМ, то когда говорят о методах системного анализа, имеют обычно в виду процедуры, основанные на использовании ЭВМ.

Наряду с термином “системный анализ” большое распространение получил термин “теория систем”.

Возникновение “теории систем”связывает с именем известного биолога Людвига фон Бертеланфи, который в 50-х годах в Канаде организовал центр системных исследований и опубликовал большое количество книг. Теория систем в отличие от системного анализа относится скорее к методологии науки.

Методы системного анализа опираются не описание тех или иных фактов, явлений, процессов. В настоящее время очень широкое распространение получило слово “модель”. Если при описании моделей используется язык математики, то имеются в виду математические модели. Построение математических моделей является основой всего системного анализа. Это центральный этап исследования или проектирования любой системы. От качества модели зависит судьба всего последующего анализа. Проблеме математического моделирования состоит в описание этих принципов отбора в терминах и тех переменных, которые согласно взглядом исследователя наиболее полно характеризуют изучаемый предмет. Принципы отбора сужают множество допустимых движений, отбрасывая те, которые не могут быть реализованы. Чем более совершена модель, тем точнее оказывается наш прогноз. В различных областях знания принципы отбора движений разные.

Современная наука рассматривает три уровня организации материи: неживая материя, и самая высокая организация материи мыслящая, познающая себя материя – общество.

На самом нижнем уровне – уровне неживой материи – основными принципами отбора является законы сохранения: вещества, импульса, энергии и т.д. Любое моделирование должно начинаться с выбора основных переменных, с помощью которых он записывает законы сохранения. Необходимо учитывать второй закон термодинамики, принципы минимума диссипации энергии, устойчивости. Очень важны всякого рода условия (ограничения): граничные, начальные и т.д. поэтому процесс моделирования начинается с записи законов сохранения.

На общественном уровне организации материи появляется совершенно новые явление – трудовая деятельность. Поэтому для описания моделей в этом области мы должны пользоваться терминами трудовой деятельности людей, экономическими терминами. В качестве примера рассмотрим известные балансовые соотношения. Обозначим через х -вектор производимой продукции. Например х1 – количество выплавленной стали, х2 - цветных металлов, х3 – металлорежущих станков и т.д. Через [[a ij ]] – матрицу прямых затрат, т.е. величина a ij определяет количество продукции вида i, необходимого для производства единицы продукции вида j.

Тогда очевидно следующее балансовое соотношение:

Хi = E a ij Xi+Yi, или иначе Ч=ФЧ+Н,

где вектор Y={Y1, … , Yn} носит название вектора конечного продукта. Он может быть использован на инвестиции, потребление, отправлен на склад и т.д.

Практическое занятие 3. Понятие и структура информационного процесса. Математические модели сигнала.

Цель занятия: Ознакомление со структурой информационного процесса и математическими моделями сигнала.

Рассмотрим теперь ситуацию, когда в процессе передачи сигнал искажается шумом , т.е. некоторым случайным процессом. Предположим, что в соответствии с обозначениями, что Z - ансамбль сигналов на входе дискретного канала, а Z^* - ансамбль сигналов на его выходе. Наличие в канале шума приводит к тому, что по сигналу Z^* нельзя однозначно определить сигнал Z. С точки зрения теории информации этот эффект характеризуется наличием потерь информации или ненадежностью канала H(Z/Z^*)>0 и описывается соотношением I(Z,Z^*)=H(Z)-H(Z/Z^*), где I(Z,Z^*) - информация переданная по каналу, H(Z)-энтропия или собственная информация ансамбля сигналов на входе канала. Переходя к информационным характеристикам, отнесенным к единице времени последнее выражение можно переписать в виде Iў(Z,Z^*)=H ў(Z)-H(Z/Z^* ) (2.13), где Iў (Z,Z^*)-скорость передачи информации по каналу, Hў (Z)-производительность ансамбля на входе канала, H ў(Z/Z^* )-потери информации в единицу времени. При этом пропускная способность канала С хоть и уменьшается по сравнению со случаем канала без шума см.(1.25б), но в общем случае принимает конечное значение (за исключением не принимаемого здесь во внимание экстремального случая обрыва канала). Положим далее, что имеется некоторый дискретный источник с производительностью Hў(U) < C сообщения которого необходимо передать по каналу. Для решения этой задачи по-прежнему воспользуемся системой передачи изображенной на рисунке 2.1. Функции выполняемые кодером и декодером в этом случае будут ясны из дальнейших рассуждений. Поскольку Hў(U) < C возможна передача информации I(Z,Z^*) по каналу со скоростью Iў (Z,Z^*)=Hў (U) (2.14), т.к. по определению С- максимально возможная скорость передачи информации по каналу. Приравнивая правые части неравенств (2.13-14), приходим к соотношению Hў (Z)-Hў(Z/Z^*)=H ў(U). Из которого следует, что Hў(Z)=H ў(U)+Hў (Z/Z^*)> Hў(U). Последнее неравенство означает, что производительность ансамбля сигналов Z (назовем его кодом) на входе канала должна быть выше производительности источника сообщений U, и следовательно Z , кроме информации об U должен содержать дополнительную собственную информацию. При этом если бы удалось ввести дополнительную информацию таким образом, чтобы при прохождении сигнала Z по каналу с шумом вследствие ненадежности канала терялась бы именно она, а не полезная информация о сообщении U, то оказалось бы возможным обеспечить безошибочную передачу сообщений U по каналу с шумом с конечной скоростью H ў(U)< C. Таким образом задачей кодера в данной ситуации является согласование источника с каналом, заключается во внесении в сообщение источника избыточности , обладающей описанной выше свойством. Однако не тривиальным является вопрос, а возможно ли в принципе построение такого кодера ? Идея борьбы с мешающим влиянием шума за счет введения избыточности, при кодировании дискретных сообщений, существовала и до появления Теории Информации и трактовалась следующим образом: предполагалось сообщение двоичного источника U₁ =0 и U₂ =1 передавать по симметричному двоичному каналу (см. п1.6) с вероятностями ошибок Р< 0,5 двумя кодовыми комбинациями, содержащими соответственно n единиц или n нулей. ; . Если в месте приема регистрировать 1 или 0 по большинству принятых знаков в комбинации т.е. принимать так называемое мажоритарное декодирование , то ясно, что ошибка произойдет при условии, если в кодовой комбинации не верно будет принято n/2 или более символов. Согласно закону больших чисел вероятность уклонения числа ошибок m в кодовой комбинации длины n от их математического ожидания nЧp (см. задачу 1.11) стремится к 0 при n® ?, т.е.

e ® 0.

Поскольку nЧp < 0,5n при n®? вход обеспечит безошибочный прием. Однако передачу одного символа необходимо будет осуществлять бесконечно долго, т.е. скорость передачи информации по каналу будет стремится к 0. Таким образом на основании приведенных ранее рассуждений полагалось, что без ошибочная передача информации в канале с шумом возможна лишь в пределе при нулевой скорости передачи. Поэтому положительные решения сформулированного выше вопроса позволяют существенно изменить представление о потенциальных возможностях систем передачи дискретной информации и имеет принципиальное значение в развитии теории и практики связи. Ответ на данный вопрос содержится в теореме Шеннона для дискретного канала с шумом.

Практическое занятие 4. Модели процесса передачи. Измерение информации. Модель непрерывного и дискретного каналов связи.

Цель занятие: Ознакомление моделями процесса передачи информации.

Задача согласования дискретного источника с дискретным каналом без шума. Эффективное или статистическое кодирование

Предположим, что мы имеем дискретный канал вероятность возникновения ошибки, в котором близка к нулю (в идеале = 0). Такой канал называют идеальным каналом или каналом без шума. Пропускная способность канала определяется . При наличии идеального канала естественно поставить вопрос о возможности передаче по нему без потерь информации от произвольного дискретного источника U характеризуемого производительностью H'(U) со скоростью равной пропускной способности канала. Схема построения такой системы передачи информации должна выглядеть, так как на рисунке 2.1. Необходимость включения устройства кодер, а так же декодера, выполняющего обратные ему операции. Состав этой системы обусловлен следующими обстоятельствами. Как говорилось в пункте 1.6. для того чтобы скорость передачи информации в канале была равна его пропускной способности, на входе канала должен действовать дискретный источник с определенными статистическими свойствами, максимизирующими величину I(Z,Z*). В частности, в интересующем нас здесь случае идеального канала без помех такой источник должен просто обладать максимальной энтропией или нулевой избыточностью, т.е. выдавать независимые равновероятные сообщения. В то же время своей постановки задачи мы пожелали иметь возможность передавать сообщения от произвольного источника с любыми статистическими свойствами, т.е. имеющего ненулевую избыточность. Таким образом функции кодера являются согласованием в статическом смысле сообщений источника со входом канала. Задача этого согласования в конечном итоге сводится к устранению избыточности сообщений. Кодер осуществляет кодирование сообщений, т.е. каждому дискретному сообщению по определенному правилу ставят в соответствие последовательность символов из алфавита объемом М. При этом по отношению к входу каналом выдаваемые кодером символы сами являются дискретными элементами сообщений, статические свойства которых должны отличаться от статических свойств сообщений исходного источника. Возможность построения кодера полностью устраняющего избыточность произвольного исходного источника сообщений и определяет возможность решения поставленной задачи без ошибочной передачи информации со скоростью, равной пропускной способности канала. При полном ее решении оказывается справедливым равенство Hў(U) = u_C ЧH(U) = u_K Чlog M = C (2.1), откуда имеем h = u_K / u_C = H(U) / log M (2.1а), где H(U) - энтропия источника передаваемых сообщений, u_K и u _C - средние количества символов соответственно сообщения и кода передаваемых в единицу времени. h = u_K/ u_C - среднее количество символов кода приходящиеся на одно сообщение. Степень приближения к точному выполнению равенств (2.1) и (2.1а) зависит от степени уменьшения избыточности источника сообщений. Кодирование позволяющее устранять избыточность источников сообщений называется эффективным или статистическим. Коды, получаемые в результате такого кодирования, называются эффективными или статистическими. Рассмотрим основные идеи, которые могут быть положены в основу эффективного кодирования. Как отмечалось в пункте 1.4. избыточность дискретных источников обуславливается двумя причинами:

1) памятью источника; 2) неравномерностью сообщений.

Универсальным способом уменьшения избыточности обусловленной памятью источника является укрупнение элементарных сообщений. При этом кодирование осуществляется длинными блоками. Вероятностные связи между блоками меньше чем между отдельными элементами сообщений и чем длиннее блоки, тем меньше зависит между ними. Смысл укрупнения поясним на примере буквенного текста: если вероятностные связи между буквами в любом языке относительно сильны, то между словами они значительно меньше, еще меньше между фразами, еще меньше между абзацами. Поэтому, применяя кодирование слов, фраз, абзацев мы можем достаточно полно устранить избыточность обусловленную вероятностными связями. Однако при этом возрастает задержка передачи сообщений, так как сначала нужно дождаться формирования всего длинного блока сообщений и лишь затем его закодировать и передавать. Уменьшение избыточности обусловленной неравномерностью сообщений может быть достигнута применением неравномерных кодов. Основная идея построения таких кодов состоит в том, что наиболее вероятным сообщениям ставятся в соответствие наиболее короткие блоки кодовых символов (кодовые комбинации), а наименее вероятным более длинные. В силу неравномерности таких кодов и случайного характера сообщения U передача без потерь информации с постоянной скоростью следования кодовых символов u_K может быть обеспечено лишь при наличии буферного накопителя с большой памятью, и, следовательно, при допустимости больших задержек.