1.3.4. Роз'яснення прийнятого рішення

Питання про те, як допомогти користувачеві зрозуміти структуру і функції деякого складного компонента програми, пов'язане з порівняно новою областю взаємодії людини і машини, яка з'явилася на перетині таких областей, як штучний інтелект, промислова технологія, фізіологія і ергономіка. На сьогодні внесок в цю область дослідників, що займаються експертними системами, полягає в розробці методів представлення інформації про поведінку програми в процесі формування ланцюжка логічних висновків при пошуку рішення.

Представлення інформації про поведінку експертної системи важливе з багатьох причин.

• Користувачі, що працюють з системою, потребують підтвердження того, що в кожному конкретному випадку висновок, до якого прийшла програма, в основному коректний.

• Інженери, що мають справу з формуванням бази знань, повинні пересвідчитися, що сформульовані ними знання застосовані правильно, в тому числі і у випадку, коли існує прототип.

• Експертам в предметній області бажано прослідити хід міркувань і спосіб використання тих відомостей, які з їх слів були введені в базу знань. Це дозволить оцінити, наскільки коректно вони застосовуються в даній ситуації.

• Програмістам, які супроводжують, налагоджують і модернізують систему, треба мати в своєму розпорядженні інструмент, що дозволяє заглянути в "її нутро" на рівні більш високому, ніж виклик окремих мовних процедур.

• Менеджер системи, що використовує експертну технологію, який зрештою несе відповідальність за наслідки рішення, прийнятого програмою, також потребує підтвердження, що ці рішення досить обгрунтовані.

Здатність системи пояснити методику прийняття рішення іноді називають прозорістю системи. Під цим розуміється, наскільки просто персоналу з'ясувати, що робить програма і чому. Цю характеристику системи потрібно розглядати в сукупності з режимом управління, про який йшла мова в попередньому розділі, оскільки послідовність етапів прийняття рішення тісно пов'язана із заданою стратегією поведінки. Більш детально зв'язок цих характеристик буде розглянутий в розділі 16.

Відсутність достатньої прозорості поведінки системи не дозволить експерту вплинути на її продуктивність або дати пораду, як можна її підвищити. Дослідження і оцінка поведінки системи – завдання досить складне і для його рішення необхідні спільні зусилля експерта і фахівця з інформатики (детально це питання розглядається в розділах 3, 13 і 17).

1.4. Загадка одного портрета

У одній відомій загадці людина дивиться на портрет і говорить:

"У мене немає братів і сестер, але батько цієї людини – це син мого батька".

Питання: "Хто зображений на портреті?" По-перше, витратьте пару хвилин і вирішіть цю загадку. По-друге, уявіть собі, як ви будете пояснювати хід рішення кому-небудь сторонньому, але при цьому не можна користуватися ніякими допоміжними засобами на зразок олівця і паперу. Для багатьох ця загадка є головоломною, причому немало і таких, які не можуть прослідити за ходом вже описаного рішення [Smullyan, 1978].

Відповідь проста: батько дивиться на портрет сина (людина, яка дивиться на портрет, – батько людини, зображеної на портреті). Як ми прийшли до такого висновку, стане ясно після того, як ми скористаємося логічним представленням. Нехай Піт – людина на портреті, а Люк чоловік, який дивиться на портрет.

“…це син мого батька".

син(батько(люк)), батько(піт).

"У мене немає братів і сестер... "

for all X,

if син(батько(люк), X)

then Х=люк

Тут син – це відносини між двома людьми, а батько – функція, оскільки кожний має тільки одного батька. З цього твердження після підстановки абсолютно очевидно слідує

батько(піт) = люк.

Таким чином, Люк дивиться на портрет свого сина.

Правильне логічне представлення часто значно спрощує рішення задачі і робить його більш зрозумілим. Але сформувати таке представлення це в значній мірі мистецтво. Пояснення не завжди має форму доказу, як в цьому випадку, про що буде детально розказано в розділі 16.