17.Закон Амдала

Практично в будь-якій програмі є деякий відсоток операцій, що не допускають паралельного виконання. Позначимо його через α. Очевидно, відсоток операцій, що допускають паралельне виконання, дорівнює 1-α. Максимальний приріст продуктивності, який можна одержати від паралельного виконання програми з такими характеристиками на машині з N процесорами в порівнянні з однопроцесорної ЕОМ, виражається законом Амдала:

Випадок α=0 відповідає повністю паралельній програмі й ми одержуємо N-кратний приріст, випадок α=1 – повністю послідовної, і в цьому випадку приросту немає. Закон Амдала деякою мірою допомагає відчути складність паралельного програмування: наприклад, для прискорення виконання програми в 100 разів, необхідно, щоб 99,99% операцій в програмі можливо було б виконувати з 100-кратним розпаралеленням.

Устремління числа процесорів N у нескінченність приводить до очевидного результату: S(∞,α) = 1/α, тобто принципово неможливо одержати прискорення більше 1/α при будь-якій кількості використовуваних процесорів.

18.Закон Густавсона – Барсиса

Оцінимо максимально досяжне прискорення виходячи з наявної частки послідовних розрахунків у виконуваних паралельних обчисленнях:

де (n) і (n) є часи послідовної і паралельної частин виконуваних обчислень відповідно, тобто

З урахуванням введеної величини g можна отримати

що дозволяє побудувати оцінку для прискорення

Спрощення останньої оцінки для прискорення

Оцінку прискорення, що отримується відповідно до закону Густавсона-барсиса, ще називають прискоренням масштабування (scaled speedup), оскільки дана характеристика може показати, наскільки ефективно можуть бути організовані паралельні обчислення при збільшенні складності вирішуваних завдань

19 Паралельний алгоритм називають масштабованим (scalable), якщо при зростанні числа процесорів він забезпечує збільшення прискорення при збереженні постійного рівня ефективності використання процесорів

Якщо складність вирішуваного завдання є фіксованою (T1=const), то при зростанні числа процесорів ефективність, як правило, убуватиме за рахунок зростання накладних витрат T0

При фіксації числа процесорів ефективність використання процесорів можна поліпшити шляхом підвищення складності вирішуваного завдання T1

При збільшенні числа процесорів в більшості випадків можна забезпечити певний рівень ефективності за допомогою відповідного підвищення складності вирішуваних завдань.

20.Навести основні принципи, яких необхідно дотримуватись при розробці паралельних алгоритмів.

Розробка алгоритмів (а особливо методів паралельних обчислень) для вирішення складних науково-технічних завдань часто є значною проблемою. Для зниження складності даної теми залишимо осторонь математичні аспекти розробки та докази збіжності алгоритмів - ці питання тією чи іншою мірою вивчаються в ряді "класичних" математичних навчальних курсів. Тут же ми будемо вважати, що обчислювальні схеми вирішення завдань, що розглядаються далі в якості прикладів, вже відомі урахуванням висловлених припущень наступні дії для визначення ефективних способів організації паралельних обчислень можуть полягати в наступному:

• виконати аналіз наявних обчислювальних схем та здійснити їх поділ (декомпозицію) на частини (підзадачі), які можуть бути реалізовані в значній мірі незалежно один від одного;

• виділити для сформованого набору підзадач інформаційні взаємодії, які повинні здійснюватися в ході розв'язання вихідної поставленого завдання;

• визначити необхідну (або доступну) для вирішення завдання обчислювальну систему і виконати розподіл має набору підзадач між процесорами системи.