42 Сурет. Графтағы микро және макропараллельділік

Қандай да бір тәсілдермен (2.13) алгоритміндегі баяу жадтың қолданылу тиімділігін арттыруға болады ма, егер болса қалай? Бұл сұрақтың жауабын алгоритм графын тереңірек зерттеу арқылы ала аламыз. Алгоритм графында 42, а горизонталь ярустарымен параллель формадан бөлек, көлбеу ярустарымен жалпыланған параллель формалар да бар. Мысалы жалпыланған параллель формаларды i + j = const және i - j = const түзулерінде ярустарға төбелерді жинақтау арқылы алуға болады. Осындай ярустардың кейбірі 42, б-суретте пунктирлі сызықтармен көрсетілген. Белгіленген ярустар графтың берілу облысын көпқырларға бөледі. Енді (2.13) алгоритмін алынған көпқырлар бойынша параллель іске асыруға болады. Сонымен қатар, бір көпқырға қатысты барлық операциялардың орындалуы барлық уақытта бір процессорға жүктеледі. Параллель орындалу кезінде ең алдымен 44, б-суретіндегі штрихталған төмендегі көпқырларға сәйкес операциялар орындалады. Одан кейін жанындағы көрші штрихталмаған көпқырларға сәйкес келетін операциялар параллель орындалады және т.с.с.

Жаңа процесте бір көпқырдың операциялары макрооперацияға айналады. Макрооперацияның орындалу уақыты көпқырдағы төбелердің санымен анықталады, ол шамамен көпқырдың ауданына пропорционал. Көпқырлар өзара ақпараттық байланысты шекара маңында жатқан төбелер арқылы жүзеге асырады. Яғни, макрооперацияның орындалуы үшін қажетті ақпаратты жадтан алу уақыты, көпқырдың шекарасының ұзындығымен анықталады. Көпқырлардың өлшемдерін еркін таңдауға болады. Олар тек жалпыланған параллель формалардың қандай ярустары олардың шекараларын құрайтынына байланысты болады.

Әрқашанда графтың берілу облысын бөлуді, ондағы көпқырлардың басым көпшілігінің шекара ұзындықтарының олардың аудандарына қатынастары өте аз болатындай етіп таңдауға болады. Бұндай макрооперациялардың орындалуы кезінде баяу жадқа қатынасу уақытының әсері өте қатты төмендейді.

Осы уақытқа дейін алгоритмдердің параллель формалары негізінен тәуелсіз операциялардың жиынын анықтау үшін қолданылып келді десе болады. Осы мысал көрсеткендей, олар баяу жадтың тиімді пайдаланылу мүмкіндіктерін зерттеу үшін де пайдасы болуы мүмкін екені анық. Айта кету керек, жоғарыда жасалған ой, пікірлер параллель компьютерлер және кәдімгі қарапайым компьютерлер үшін де бірдей орынды болады.

Жоғарыда қарастырылған мысалдар көрсеткендей, көптеген алгоритмдерде шынында да параллельділіктің үлкен қорлары бар. Параллельділікті анықтау үшін немесе оның жоқ екенін бекіту үшін алгоритмдердің графтарын және олардың параллель формаларын білу үлкен роль атқарады. Сонымен қатар, алгоритмдер графтарын және олардың параллель формаларын, компьютерлерде (параллель болуы міндетті емес) алгоримдерді іске асыруға қатысты көптеген басқа сұрақтарды шешу үшін де тиімді қолдануға болатыны белгілі.

Сұрақтар және тапсырмалар

Келесі алгоритмдерден ішкі параллельділікті зерттеңіздер:

1. Нүктедегі көпмүшеліктің мәнін есептеудің Горнер схемасы.

2. Нүктедегі көпмүшеліктің мәнін тез параллель есептеу.

3. Сызықты алгебралық теңдеулер жүйесін шешудің Крамер әдісі.

4. Сызықты алгебралық теңдеулер жүйесін шешудің Гаусс әдісі.

5. Сызықты алгебралық теңдеулер жүйесін шешудің Жордан әдісі.

6. Екі матрицаны көбейту.

7. (В + В^Т ) А - есептеу, мұндағы А, В - квадрат матрицалар.

8. А^Т (В + В^Т ) А - есептеу, мұндағы А, В - квадрат матрицалар.

9. А^Т (В + В^Т ) - есептеу, мұндағы А, В - квадрат матрицалар.

10. (А + А^Т )В^Т - есептеу, мұндағы А, В - квадрат матрицалар.

2-ШІ ТАРАУ. ПАРАЛЛЕЛЬ ПРОГРАММАЛАУ ТЕХНОЛОГИЯСЫ

Сонымен, сіз параллель бағдарламаны құруды бастадыңыз делік. Есепті түсініп, шешу әдісін таңдап, қажетті компьютер анықталғаннан кейін, барлық ойды компьютерге түсінікті формада өрнектеу ғана қалады. Әрине, айта салғанға оңай. Егер өзіңіздің бұл саладағы тәжірибеңіз әзірше аздау, ал қол жетімді параллель бағдарламалау технологиялары туралы ақпарат айқын жеткіліксіз болса, нені басшылыққа аласыз? Бұл туралы бағыттаушы ой-пікірлер көп болуы мүмкін, бірақ нәтижесінде, сіз бағдарламаны құрастыру уақыты, оның тиімділігі және көшірілуі, бағдарламаның келесі жолы пайдалану интенсивтілігі, оны одан ары дамыту қажеттілігі арасында таңдау жасауыңызға тура келеді. Таңдаудың мәнін жете түсінуге тырыспай тұрып, алдымен келесі үш сипаттаманың сіз үшін қаншалықты маңызды екенін бағалап көріңіз.

Параллель компьютерлердің басты қызметі – ол есептерді жылдам шешу. Егер бағдарламалау технологиясы әртүрлі себептермен есептеу жүйесінің толық қуатын пайдалануға мүмкіндік бермесе, онда оны игеруге күш жұмсаудың қажеті бар ма? Қандай себептер екеніне қазір тоқталмаймыз. Әрине, тиімді бағдарламалар құру мүмкіндігі, бағдарламалау құралдарын таңдауда негізгі аргументтердің бірі екені анық.

Технология пайдаланушыға есептеу жүйесінің ресурстарын пайдалануға және бағдарламаның орындалу процесіне толық бақылау жасауға мүмкіндік бере алады. Ол үшін пайдаланушыға бірнеше жүздеген конструкциялар мен функциялардан тұратын жиынтық ұсынылады. Егер осы ұсынылған құралдарды дұрыс пайдалана алса, онда ол әрине тиімділігі жоғары болатын бағдарлама құрастыра алуы мүмкін. Бірақ, пайдаланушы оны істейді ме? Бұл жерде пайдаланушының өз пәндік аймағынан өзінің есебін шығару керек екенін және онда өздерінің де мәселелері жеткілікті екенін естен шығармауымыз керек. Ол, физик, химик, геолог немесе эколог бола тұрып параллель бағдарламалауға қатысты жаңа мамандықты игеруге үлкен құлшыныс танытады деп айта алмаймыз, оның ықтималдығы төмен. Параллель бағдарламаны тез құрастыру мүмкіндігі басқа факторлармен есепке қатар алынуы керек.

Есептеуіш техника өте тез өзгерістерге түсуде. Осыдан бірнеше жыл бұрын тиімді де тез параллель бағдарлама құрастыруға мүмкіндік беретін «керемет» технология табылды делік. Бүгінгі күні компьютерлердің жаңа буыны дүиеге келгенде не болуы мүмкін, не күтеміз? Мұнда мүмкін болатын екі нұсқаны айта кетелік. Бірінші нұсқа – бұрынғы құрастырылған бағдарламалар бүгінде ешкімді қызықтырмайды, яғни уақтысында пайдаланылды, ал қазір керек емес. Бұндай да болуы мүмкін. Алайда, параллель бағдарламалар құрастыруға өте көп уақыт, күш, қаражат және т.б. қосымшы шығындар жұмсалатындықтан, оларды осылайша жай ұмыта салып, басқа жаңаша құрастыруды бастау әрқашан тиімді ме? Әрине, кім де болса жиналған багажды жаңа компьютер платформасына толық көшіруді қалайды. Бұл ескі бағдарламалар жаңа компьютерде ерте ме кеш пе жұмыс істеп, дұрыс нәтижелер беруі де мүмкін. Бірақ, бір компьютерден екіншісіне көшірілгенде бұл таңдалған технология параллель бағдарламаның тиімділігіне дәл сондай кепілдік бере ала ма? Әрине, жоқ. Жаңа платформа үшін бағдарламаны қайта жаңарту, жетілдіру қажет. Өз кезегінде, жаңа платформаны құрастырушылар керемет тиімді параллель бағдарламаны құрастырудың кезекті жаңа технологиясын ұсынулары да мүмкін. Осылайша көптеген жылдар бойы бағдарламалар көшіріліп жазылуда және айналыста жүруде.

Параллель бағдарламалау технологиясын дұрыс таңдау – бұл шынында да күрделі сұрақ. Егер, параллель компьютерде есептерді шығаруға көмектесе алатын құралдарға үстіртін шолу жасап көретін болсақ, онда ол тізімге 100–ден аса аттарды енгізуге болады [10]: НОРМА, Т-система, ARCH, А++/Р++, ABCL, Adl, Ada, ATLAS, Aztec, BIP, BLACS, BSPlib, BlockSolve95, BERT 77, CVM, Counterpoint, CC++, Charm/Charm++, Cilk, CFX, Cray MPP Fortran, Concurrent Clean, Converse, CODE, DOUG, DEEP, DVM, Erlang, EDPEPPS, F1DAP, FFTW, FLUENT, FM, F—, Fortran 90/95, Fortran D95, Fortran M, Fx, FORGE, GA, GALOPPS, GAMESS, Guassian, GRADE, Haskell, HPVM, HPF, HPC, HPC++, HeNCE, 1CC, JIAJIA, JOSTLE, KELP, КАР, LAPACK, LPARX, Linda, Maisie, Mentat, mpC, MPC++, MP1, MPL, Modula-3, NAG, Nastran, NESL, NAMD, OOMP1, OpenMP, Occam, Orca, Opus, P4, Para++, ParJava, Parsec, Parallaxis, Phantom, Phosphorus, Pict, pC++, P-Sparslib, P1M, ParMETIS, PARPACK, PBLAS, PETSc, PGAPack, PLAPACK, PIPS, Pthreads, PVM, Quarks, Reactor, ShMem, SVMlib, Sisal, SR, sC++, ScaLAPACK, SPRNG, TOOPS, TreadMan, Treadmarks, TRAPPER, uC++, Vienna Fortran, VAST, ZPL.

Кейбір жағдайларда таңдау тез анықталады. Мысалы, қолжетімді компьютерде не орнатылса сіз соны ғана пайдалана алатын жағдайлар болуы мүмкін. Басқа аргумент келесі түрде айтылуы мүмкін: "... барлығы МРI пайдаланады, сондықтан мен де ...". Егер мүмкіндік болса және өзіңіз қаласаңыз, әрине оны орындауға болады. Бұл жерде мамандармен ақылдасқан артық болмайды. Проблемалар бәрібір туындайды, бірақ қашан, қандай көлемде. Егер таңдау дұрыс болса, туындайтын проблемалар да көп болмайтыны анық. Егер таңдауыңыз дұрыс болмаса, үміт үзбеңіз, басқа таңдау мүмкіндігін ойланыңыз. Осылайша бірнеше рет таңдау жасай отырып, сіз осы облыстың маманы болып кетуіңіз де ғажап емес және өзіңіздің жаңа технологияңызды ұсынуыңыз да мүмкін.

Әртүрлі параллель бағдарламалау жүйелерімен танысу барысында келесі мәселеге міндетті түрде көңіл бөлу керек. Егер сіз қарапайым немесе шағын көлемдегі оқу болмаса өндірістік есептерді шешетін болсаңыз, онда параллель есептеу техникасын тиімді пайдалану туралы ойлаудың да қажеті жоқ болуы мүмкін. Бұл жағдайда бағдарламалау жүйесін таңдаудың мағынасы да болмайды. Қалай үлкен есептерді шешу мәселесі басталса, солай тиімді пайдалану сұрағы да туындай бастайды.

Тағы да бір есте болатын нәрсе, кезкелген параллель бағдарламалау жүйесін пайдалануда есептеу жүйесінің өнімділігін арттыру тілегі (берілген есепте) өз кезегінде сізден есеп, бағдарлама немесе алгоритм туралы қандай да жаңа мәліметтерді көптеп талап ете бастайды. Ешқандай параллель бағдарламалау жүйесі, қосымша мәліметтерсіз, есептеу процесінің жоғары тиімділігіне кепілдік бере алмайды.