Тема 2.2. Теория информации – направления исследований

Основные теоретические положения. Философские аспекты теории информации.

Количественный и качественный подходы к изучению информации.

Метрическая теория информации: подходы к оценке количества информации, меры информации.

Синтаксический, семантический и прагматический подходы к изучению и оценке информации.

Семиотика как наука о знаковых системах.

История возникновения семиотики, первоначальная связь с философией, последующая диверсификация направлений развития, интерпретация знаковых систем (semiosis), сфера действия знаков (semiosphere).

Модели знаковых систем Ч.Пёрса (Charles S. Peirce) и Ф.Соссюра (Ferdinand de Saussure), классы и свойства знаков, обобщения, расширенные интерпретации термина “знак” невербальные знаковые системы. Области применения концепций и моделей семиотики в настоящее время:

искусство (representation, arts), литература (literary semiotics), филология и лингвистика (lexical semiotics), когнитивные исследования и представление знаний (knowledge representation), естественные и прикладные науки (biosemiotics, zoosemiotics, geosemiotics), медицина, вычислительная семиотика (сomputational semiotics, algebraic semiotics), эргономический дизайн (диспетчерские пункты, схемы навигации, знаковые системы ориентации в пространственной среде), проектирование человеко-машинных интерфейсов (computer-human interaction, user interface design), проектирование рекламной продукции.

Формальные языки и грамматики.

Языки общения и описания – естественные языки, искусственные языки, их свойства. Языки программирования, алгоритмические языки, примеры. Формальные языки, способы их описания, порождающие правила, металингвистические переменные, нормальные формы Бэкуса-Наура (Bachus-Naur). Формальные грамматики, алфавиты, правила вывода, язык, порождаемый грамматикой. Классификация грамматик. Формальные системы.

Измерение информации в информационных системах.

Тема 2.3. Детерминированные оценки количества информации

Алгоритмический подход: оценки сложности строки знаков по минимальному объему кода программы генерации такой строки в “Алгоритмической теории информации”, мера информации Г.Хайтина (Gregory Chaitin), оценка сложности алгоритма А.Н. Колмогорова (Kolmogorov complexity, algorithmic entropy, program-size complexity, descriptive complexity).

Оценка информации мерой разнообразия. Концепция У. Эшби (William R. Ashby): мерой разнообразия (неоднородности) наблюдаемых объектов или явлений служит число несовпадений элементов множества, отражающих их свойства.

Структурный подход к количественной оценке информации: геометрическая, комбинаторная и аддитивная (логарифмическая) меры информации единицы измерения.

Геометрическая оценка количества информации на основе дискретного представления n-мерного информационного комплекса, различные шкалы оценок, кванты информации.

Комбинаторная оценка количества информации: комбинаторные меры. Элементы комбинаторного анализа, разделы комбинаторики, “перечислительная” комбинаторника (enumerative combinatorics), комбинаторные соединения (перестановки, сочетания, размещения). Классификация порядков величин по У. Эшби (практические, астрономические и комбинаторные числа). Примеры комбинаторных расчетов для оценки количества информации. Мультипликативность результатов расчетов при объединении множеств исходных элементов.

Логарифмическая мера Р.Хартли (Ralph Hartley). Единицы измерения (bit, dit, nit). Примеры подсчета количества информации, содержащейся в принятых сигналах или сообщениях. Аддитивность результатов расчетов при объединении множеств исходных элементов.