1.2. Кількість інформації

У теорії інформації кількість інформації часто вимірюють у бітах (binary digital), де біт визначається як цінність I інформації про результат двох рівноймовірносних подій. Наприклад, ця інформація про те, що зараз день, а не ніч.

Імовірність кожного з подій

Р(Д) = 0,5; Р(Н) = 0,5;

I = log₂ , (1.5)

де Р₁(х) – апостеріорна ймовірність; Р₂(х) – апріорна ймовірність.

Для приклада:

Крім бітов (термін увів Тьюки) використовуються

«нат»

і

«діт» .

1.3. Класифікація систем

Існує досить велика кількість класифікаційних ознак (властивостей) систем, зокрема:

- відкритість - замкнутість (відсутність зв'язку із зовнішнім середовищем);

- детермінованість (визначеність) - стохастичність (випадковість);

- простота - складність;

- наявність мети - відсутність мети;

• субстанціональні ознаки (по цих ознаках виділяють: природні, концептуальні, штучні системи);

• наявність спрямованості зв'язків і характер зв'язків: не спрямовані, зворотні, лінійні, нелінійні;

• наявність або відсутність ієрархії елементів у системі;

• що еволюціонують - не еволюціонують (жорсткі, не адаптуємі) системи;

• безперервні - дискретні;

• по фізичному наповненню: речовинні, енергетичні, інформаційні й т.д.;

• по потужності зв'язків: коефіцієнти зв'язку, інтенсивності, чутливості, коефіцієнти кореляції й т.д.;

• по ролі зв'язку: обмежуюча, координуюча, позитивна, негативна.

Для характеристики властивостей систем виділяють фактори:

- системоутворюючі;

- системоруйннуючі;

- системозначимі (властивості, що характеризують клінік якість, у тому числі поза системою);

- системовизначаючі (властивості визначають інтегративну якість системи) і ін.

По ознаці «складність» виділяються два типи систем (прості - складні).

Існує кілька аспектів, по яких система може класифікуватися як проста або складна.

Досить загальне із практичної точки зору визначення складної системи: це така система, аналіз і прогноз зміни стану якої неможливий із заданою точністю за заданий час.

Для штучних систем, до яких ставиться переважна більшість систем, створюваних людиною, виділяють три основних рівні формулювання мети:

1) мета не дуже ясна (цілеспрямовані системи);

2) мета ясна й намічені шляхи її досягнення (цілеспрямовані системи);

3) мета визначена й формалізована на рівні математичної постановки, є алгоритм досягнення мети (алгоритмічні системи).

Реальні постановки проблем можуть являти собою проміжні варіанти перерахованих випадків.

2. Елементи теорії множин

Найбільш загальні формальні описи елементів і систем опираються на мову теорії множин. Розглянемо деякі елементи цієї теорії.

2.1. Основні поняття й терміни

Множина – сукупність елементів, об'єднаних по якій-небудь ознаці.

Через « » позначається відношення приналежності, тобто «х А» означає, що х належить множині А. Якщо х не є елементом А, те пишеться «х А».

Множини А и В уважаються рівними, якщо вони складаються з тих самих елементів: А = В. У противному випадку А ≠ В.

Елементами множини можуть бути будь-які об'єктивні й суб'єктивні поняття, поєднувані відповідно до деякого закону, правилом, ознакою й т.д.

Множини можуть містити підмножини, наприклад, якщо В - підмножину А, то воно записується через відношення включення «В А», тобто кожний елемент А є елементом В (але не навпаки, див. мал. 2.1).

Рис. 2.1

Якщо В А и А ≠ В, те В є власною підмножиною А, тобто В А.

Множина, що не містить елементів, називається порожньою, наприклад, В = .

Сімейство всіх підмножин множини А позначається як Р(А).

Множини, елементами якого є множини, звичайно називають класом.

Завдання множини можна здійснювати в такий спосіб:

1) перерахуванням А := {a₁, a₂, … , a_n};

2) характеристичним предикатом (правилом):

А:= {x | P(x)} ,

наприклад, елементами А є всі значення х такі, що sin(x)  0.

3) процедурою, що породжує:

А:= {x | x := f},

наприклад, А := {n | for n = 1 to 9 do yield}.

Потужність множини А позначається як .

Потужністю множини А називається клас всіх множин, еквівалентних А. Еквівалентність (~), на відміну від рівності – це можливість установити взаємно однозначну відповідність між елементами множин А и В: А ~ В.

Використовуються наступні основні градації потужності:

а) n-кінцеві множини - це потужність множин з набору будь-яких n елементів; множина кінцева;

б) якщо елементів нескінченна кількість, але їх можна перелічити (наприклад, множина чисел), потужність такої кількості позначають через χ_0. Воно називається рахунковим.

в) якщо множина еквівалентна множині всіх натуральних чисел, його потужність позначається через С и воно називається континуальним (потужність континуума). Множина не рахункова.

Потужності довільних множин називаються кардинальними числами.

Очевидно, що С «більше» χ₀, а χ₀ «більше» n.

Виникає ряд питань: чи може потужність бути більше С? Наприклад, яка потужність множини комплексних чисел? Як оцінити цю потужність?

Уведемо в розгляд так зване прямий (декартовий) добуток множин А и В:

М = А х В:= {(a, b) | a  A, b  B }.

Це множина впорядкованих пар елементів множин А и В.

Якщо множина дійсних чисел R має потужність С, множина уявних чисел I також має потужність С. Тоді здається, що . Однак можна показати, що .

Для відповіді на подібні питання приведемо властивості потужності:

n₁ + n₂ = n₁ + n₂, χ₀ + C = C, χ₀ χ₀ = χ₀,

n + χ₀ = χ₀, C + C = C, χ₀C = C,

χ₀ + χ₀ = χ₀, n₁n₂ = n₁n₂, CC = C.

Бінарним відношенням між множинами А и В називається будь-яка підмножина R  A × В. Наприклад, якщо А = В - множини парних дійсних чисел від 0 до 8, тоді А х В - це множина пар парних чисел: 00, 02, 04, ... 88.