Измерение и меры информации. Энтропия

Измеряется не сама информация, а ее материальное представление. Условно все подходы к измерению информации можно разделить на энтропийный, алгоритмический, семантический и прагматический. Первые два претендуют на количественное определение, два последних - лишь на качественное.

Энтропийный подход был предложен К. Шенноном по аналогии с принятым в физике определением для характеристики перехода тепловой энергии в механическую. Он назвал энтропией количество информации, передаваемой отправителем, и считал ее мерой неупорядоченности системы, тогда как информация служит мерой ее упорядоченности. Нулевой энтропии соответствует максимальная информация. Энтропийный подход в теории информации Шеннона позволяет ответить на вопрос: "Сколько информации содержит объект Y относительно объекта Х?". В рамках алгоритмического подхода, предложенного А. Н. Колмогоровым, можно ответить на вопрос: "Сколько нужно информации, чтобы описать объект Х?". В этом способе измерение количества информации в последовательности нулей и единиц сводится к измерению минимальной длины программы, необходимой для воспроизведения этой последовательности.

Эти и другие количественные способы измерения информации (вероятностный, комбинаторный), по существу, оценивают объем данных, в которых содержится информация. Они не позволяют оценить смысловое содержание сообщения, его семантику. Многочисленные попытки формального описания и оценки интеллектуальных процессов информационного взаимодействия не выходят за пределы более или менее удачных попыток. Наиболее известен семантический подход И. Бар-Хиллела (США) и Р. Карнапа (Австрия), в котором семантическая информация в сообщении понимается как логическое высказывание и измеряется числом состояний универсума, при которых это высказывание оказывается ложным. Этот подход реализует давнюю идею Г. В. Лейбница о том, что логически истинные высказывания, верные во всех возможных мирах, не могут содержать фактической информации.

Прагматический подход, предложенный А. А. Харкевичем, оценивает информацию через изменение вероятности достижения определенной цели, возникающее под воздействием сообщения. Наиболее удачным представляется подход Ю. А. Шрейдера, который оценивал семантическую информацию сообщения любой природы как степень изменения системы знаний (тезауруса) человека в результате восприятия данного сообщения. Эта мера, хотя и не может быть выражена численно, оценивает новизну и доступность сообщения для адресата. Отправитель сообщения в процессе информационного взаимодействия также получает новое знание о состоянии тезауруса адресата по тому, понял или не понял он смысл сообщения.

Лекция 2: Документальные потоки и коммуникация Неформальные и формальные каналы коммуникации

Под научной коммуникацией мы понимаем совокупность процессов представления, передачи и получения научной информации, образующих основной механизм существования и развития науки. Во всех процессах научной коммуникации участвуют ученые и специалисты. Степень их участия различна в зависимости от каналов коммуникации, которые делят на формальные и неформальные.

К неформальным каналам относят непосредственный диалог между учеными и специалистами о проводимых ими исследованиях и разработках, посещение лабораторий коллег и научно-технических выставок, выступления перед аудиторией, обмен письмами и препринтами.

К формальным каналам относят процессы обмена научной информацией посредством литературы. В них непосредственное участие ученых и специалистов, создавших научную информацию, значительно меньше, так как эти процессы оформились в самостоятельные виды деятельности: научно-информационную, библиотечно-библиографическую, архивную, редакционно-издательскую, журналистскую.

Следует отметить, что лишь первый канал специфичен для научной коммуникации, а остальные исполняют роль общих информационных каналов для всех видов семантической информации. В этом направлении развивается и научно-информационнаядеятельность, методы и средства которой все шире используются во всей сфере информационной коммуникации.

В коммуникационном процессе обычно выделяют ряд этапов, которые соответствуют его основным функциям (или задачам). Прежде всего, необходимо с максимальной полнотой осуществить сбор выявленной заранее информации. Это значит, что из всей массы сведений должны быть отобраны и систематически пополняться все те и только те сведения, которые могут понадобиться для научной или практической работы по нескольким отраслям, одной отрасли, направлению или даже теме какому-либо специалисту, коллективу или учреждению.

Затем необходимо выполнить аналитико-синтетическую переработку информации. Каждую группу сведений, имеющихся в издании или документе, нужно проанализировать с точки зрения содержания, а сам документ - с точки зрения его формы.

Результаты этого анализа записываются кратко: они синтезируются в специально разработанных для этого условных обозначениях (при помощи слов естественного языка, букв и/или цифр, формул, таблиц, графиков). Переработанная таким образоминформация становится удобной для ее последующего хранения и поиска, а также для использования в творческой работе.

Следующая задача - долговременное хранение информации. Ее нужно решить так, чтобы собранные сведения занимали как можно меньше места. Материальные носители, на которых они записаны, нужно сохранять как можно дольше и организовать в стройную систему, позволяющую быстро и без затруднений находить необходимые сведения.

Информационный поиск - следующий этап и одна из важнейших проблем информационной деятельности. Она представляет собой ряд логических операций, обеспечивающих нахождение необходимой информации. Решение этой задачи с помощью соответствующего процесса позволяет в любой момент найти в массе собранных сведений те и только те из них, которые являются прямым ответом на вопрос потребителя.

Поскольку результаты всех предыдущих процессов (и особенно информационного поиска) могут представлять интерес одновременно для большого числа специалистов, возникает задача распространения информации. Издания и документы (или их части) с необходимыми сведениями должны быть репродуцированы в достаточном количестве идентичных экземпляров и распределены в кратчайшие сроки между всеми заинтересованными потребителями.

Наконец, для информационной деятельности небезразлично, как применяются ее результаты, хотя использование информации с целью создания новой информации, строго говоря, в задачи этой деятельности не входит. Однако в ее задачи входит пропаганда достижений науки и техники, наиболее рациональных методов работы с документами, оценка эффективности применения этих документов и изучение того влияния, которое информационная работа оказывает на науку, технику, производство и все народное хозяйство. Ясно, что вопросы технологии создания и использования информации, входящие в сферу организации умственного труда, играют важнейшую роль для всей информационной деятельности.