Клод Шеннон и его вклад в науку

Работы этого американского инженера и математика, являются синтезом математических идей с конкретным анализом чрезвычайно сложных проблем их технической реализации.

Шеннон является основателем теории информации, нашедшей применение в современных высокотехнологических системах связи. Шеннон внес огромный вклад в теорию вероятностных схем, теорию автоматов и теорию систем управления — области наук, входящие в понятие «кибернетика». В 1948 году предложил использовать слово «бит» для обозначения наименьшей единицы информации

Сначала Шеннон задался простой целью: улучшить процесс передачи информации по телеграфному или телефонному каналу, находящемуся под воздействием электрических возмущений или шума. Он пришел к выводу, что наилучшее решение заключается не в техническом усовершенствовании линий связи, а в более эффективной упаковке информации.

Что такое информация? Оставляя в стороне вопрос о содержании этого понятия, Шеннон показал, что это измеримая величина: количество информации, содержащейся в данном сообщении, есть функция вероятности, что из всех возможных сообщений будет выбрано данное. Он назвал общий потенциал информации в системе сообщений как ее “энтропию”. В термодинамике это понятие означает степень случайности (или, если угодно, “перемешанности”) системы. (Однажды Шеннон сказал, что понятием энтропии ему посоветовал воспользоваться математик Джон фон Нейман, указавший, что, т. к. никто не знает, что это такое, у Шеннона всегда будет преимущество в спорах, касающихся его теории.)

На этом математическом фундаменте Шеннон затем показал, что любой канал связи имеет свою максимальную пропускную способность для надежной передачи информации. В действительности он доказал, что, хотя можно приблизиться к этому максимуму за счет искусного кодирования, достичь его невозможно.

Этот максимум получил известность как предел Шеннона, Каким образом можно приблизиться к пределу Шеннона? Первый шаг заключается в том, чтобы воспользоваться избыточностью кода. Подобно тому как влюбленный мог бы лаконично написать в своей любовной записке “я лбл вс”, путем эффективного кодирования можно сжать информацию, представив ее в наиболее компактной форме. С помощью специальных методов кодирования, позволяющих проводить коррекцию ошибок, можно гарантировать, что сообщение не будет искажено шумом.

Идеи Шеннона были слишком провидческими, чтобы иметь немедленный практический эффект. Схемы на вакуумных электронных лампах просто не могли еще вычислять сложные коды, требовавшиеся для того, чтобы при близиться к пределу Шеннона. На самом деле только в начале 70-х годов с появлением быстродействующих интегральных микросхем инженеры начали в полной мере пользоваться теорией информации.

Теория Шеннона-Уивера

В конце 40-х годов, будучи сотрудником знаменитой лаборатории "Белл Телефон", Клод Шеннон занимался решением прикладных инженерно-технических задач, связанных с проблемами передачи информации по различным каналам связи. Тем не менее, графическая интерпретация коммуникационного процесса, предложенная им и его коллегой У. Уивером применительно к вопросам технико-технологического характера, практически сразу привлекла внимание политологов и специалистов в области средств массовой информации.

Модель Шеннона - Уивера описывает коммуникацию как линейный и однонаправленный процесс. Вначале источник информации создает сообщение (в более общем случае - последовательность сообщений), которое затем поступает в передатчик, где принимает форму сигнала, адаптированного для передачи по каналу связи, ведущему к приемнику. Приемник восстанавливает сообщение из полученного сигнала. Затем восстановленное сообщение достигает адресата. В процессе передачи сигнал обычно искажается шумом, или помехами, которые возникают, например, при одновременной передаче нескольких сообщений по одному каналу. Наложение помех приводит к тому, что переданный и полученный сигнал будут в большей или меньшей степени отличаться друг от друга. Соответственно, сообщение, созданное источником информации, и сообщение, которое получил адресат как сигнал, восстановленный приемником, так или иначе будут иметь разное содержание, вплоть до того, что иногда они даже могут не совпадать в смысловом отношении.

Помимо этих терминов, Шеннон ввел еще понятия шума (в дальнейшем это стали связывать с понятием энтропии и, наоборот, негэнтропии) и избыточности.

Энтропия (шум) в теории коммуникации связана с теми внешними факторами, которые искажают сообщение, нарушают его целостность и возможность восприятия приемником. Негэнтропия (отрицательная энтропия) связана с теми случаями, когда неполное или искаженное сообщение все же получено приемником благодаря его способности распознать сообщение, несмотря на искажения и недостающую информацию.

Понятие же избыточности, повторения элементов сообщения для предотвращения коммуникативной неудачи, то есть, средства против энтропии, чаще всего демонстрируют именно на примере естественных человеческих языков. Считается, что все языки приблизительно наполовину избыточны: можно залить кляксами половину слов текста или стереть половину слов в радиовыступлении, но при этом все же сохранится возможность понять их. Разумеется, есть предел допустимого шума, за порогом которого возможность понимания резко снижается. В особенности трудно понимать в условиях шума сообщение, использующее малознакомый код. Так например, для изучения иностранного языка полезно слушать речь не только в стерильных условиях учебной аудитории, но и под аккомпанемент уличного или производственного шума, произносимую разными голосами и даже с другим акцентом (иностранный акцент – это тоже шум, препятствия для восприятия).

В отличие от формулы Ласвелла, модель, созданная Шенноном, оказывается значительно ближе к действительности. Она наглядно демонстрирует, что передаваемые по каналам связи сообщения отнюдь не всегда приводят к ожидаемому результату.

Однако позже, статичная и однонаправленная модель Шеннона - Уивера была восполнена понятием обратной связи (feedback). Это понятие позволяло сделать модель более близкой к реальности человеческого взаимодействия в коммуникации. Его введение было связано с проникновением идей кибернетики, в частности одноименной работы Норберта Винера, ‘отца’ этой науки. Модель стала более динамичной. В дальнейшем, для того, чтобы модель коммуникации в большей степени соответствовала потребностям в других областях, помимо телеграфной, выдвигались и другие динамические теории коммуникации. Например, психологом Теодором М. Нькомом была разработана еще более подвижная модель коммуникации, отражавшая взаимодействие участников коммуникативного акта, в особенности в отношении их когнитивного, эмоционального и артистического аспекта.

Однако, если говорить о недостатках представленной модели, в ней так же, как и в формуле Ласвелла, отсутствуют принципиально важные для ‘управленческих’ отношений элементы обратной связи. В результате процесс управления предстает лишь как единичный и далеко не всегда эффективный акт: "источник информации" не имеет возможности контролировать действия "адресата" и, соответственно, корректировать свои последующие управляющие воздействия таким образом, чтобы поведение "управляемого" все более и более приближалось к заданному.

Энтропия (шум)– набор факторов, искажающих сообщение

Негэнтропия – шум есть, но сообщение не искажено/искажено не сильно