Vango algoritmo analizė

Transcription

1 VILNIAUS GEDIMINO TECHNIKOS UNIVERSITETAS 2017 m. balandžio 18 d.

2 Problemos formulavimas Nagrinėkime lygtį u t = i 2 u, t [0, T ], x Ω x 2 u t=0 = u 0 (x). (1) Problema Realybėje Ω (, ), kas verčia įvesti idealizuotos schemos ir skaitinio modelio supaprastinimus. Sprendimas Sukonstruoti specialias (pralaidžias) kraštines sąlygas

3 Yra žinoma 1, kad kraštinių sąlygų parinkimą galima suvesti įoptimizavimo uždavinį: E c = ( min S m(a,d) max 1 j M ( )) max u j ũ j. (2) x [A j,b j ], t [0,T j ] Kur M yra lygties sprendinių u j, j = 1, 2,..., M su skirtingomis pradinėmis sąlygomis skaičius. Šis uždavinys yra labai didelės apimties. 1 A. Bugajev, R. Čiegis, R. Kriauzienė, T. Leonaviˇcienė and J. Žilinskas (2017). On the Accuracy of Some Absorbing Boundary Conditions for the Schrödinger Equation. Mathematical Modelling and Analysis, 1-16.

4 Šis uždavinys yra labai didelės apimties, nes: 1 Taikant simplekso lokalios optimumo paieškos metodą dažnai tenka spręsti lygtis 1000 ir daugiau kartų. 2 Nagrinėjama parametrų erdvė gali būti 7-matė 1, todėl reikalingas didelis pradinių taškų ("restartų") skaičius. Imant tinklelį po 2 taškus kiekviena kryptimi reikėtų skaičiuoti 128 kartus. 3 Lygties sprendinio ir paklaidos reikšmių skaičiavimas gali trukti apie minutę (skaičiuojant nuosekliai). Tokių lygčių yra M, pvz. M = 4. Kitaip tariant, šito uždavinio sprendimui yra normalu trukti apie minučių arba 89 dienas. 1 A. Bugajev, R. Čiegis, R. Kriauzienė, T. Leonaviˇcienė and J. Žilinskas (2017). On the Accuracy of Some Absorbing Boundary Conditions for the Schrödinger Equation. Mathematical Modelling and Analysis, 1-16.

5 Uždavinio diskretizacija Diskretizuojame uždavinio sritį Ω: erdvinio kintamojo diskretizacija Ω h = { x j : x j = x 0 + jh, j = 0,..., J }, x 0 = a, x J = b, laiko kintamojo diskretizacija ω τ = {t n : t n = nτ, n = 0,..., N, Nτ = T }. Apibrėžiame skirtumines išvestines: x Uj n = (Uj+1 n Uj n )/h, x Uj n = (Uj n Uj 1)/h n tu n j = (U n j U n 1 j )/τ, U n 1+θ j = θu n j + (1 θ)u n 1 j.

6 Aproksimuojame diferencialinę lygtį tu n j = (c R + i c I ) x x U n 0.5 j, x j Ω h, n > 0. (3) Pridėjus kraštines sąlygas ir gavus papildomas lygtis sprendinys randamas kiekviename laiko žingsnyje n sprendžiant triįstrižainę lygčių sistemą perkelties metodu. Skaitinis uždavinys lygˇcių sistema b 0 x 0 + c 0 x 1 = d 0, a i x i 1 + b i x i + c i x i+1 = d i, i = 1,..., N 2 a N 1 x N 2 + b N 1 x N 1 = d N 1, kur a i, b i, c i, d i yra kompleksiniai skaičiai, x i yra nežinomieji. (4) Ją galime efektyviai spręsti perkelties (Thomaso) algoritmu, kuris yra nuoseklus, tačiau galime nagrinėti ir kitokią alternatyvą...

7 Vango algoritmas b 0 c d 0 a 1 b 1 c d 1 0 a 2 b 2 c d a 3 b 3 c d a 4 b 4 c d a 5 b 5 c d a 6 b 6 c d a 7 b 7 c d a 8 b 8 c d a 9 b 9 c d a 10 b 10 c d a 11 b 11 b d a 12 b 12 b d a 13 b 13 b 13 0 d a 14 b 14 b 14 d a 15 b 15 d 15 Toliau vaizduosime nulinius elementus balta spalva, nenulinius kitokiomis spalvomis

8 Vango algoritmas 1 Generuojama matrica

9 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine

10 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės

11 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv

12 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai

13 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai

14 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai 5 Send/Recv

15 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai 5 Send/Recv, sprendžiama LS perkelties metodu

16 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai 5 Send/Recv, sprendžiama LS perkelties metodu 6 Send/Recv

17 Vango algoritmas 1 Generuojama matrica 2 Šalinami elementai po įstrižaine 3 Šalinami elementai virš įstrižainės 4 Send/Recv, šalinami elementai 5 Send/Recv, sprendžiama LS perkelties metodu 6 Send/Recv, paskaiˇciuojamas sprendinys

18 Vang vs Thomas 1 Vango algoritmo bendras aritmetinių veiksmų skaičius yra 17N + 8p + O(1) (p procesų skaičius), kai tuo tarpu perkelties algoritmo veiksmų skaičius yra 8N + O(1). 2 Net jeigu N p, su p = 2 kiekvienas procesas Vango algoritmu atliks 17N = 8.5N veiksmų per C8.5N laiko, kur 2 C yra konstanta. 3 Perkelties algoritmu darbas bus atliktas per C 8N laiko. 4 Su p = 2 Vango algoritmo skaičiavimai truks ilgiau už perkelties algoritmo skaičiavimus. Bet ar tikrai?

19 Pastebėjimai 1 17N veiksmų reiškia efektyviai spręsti lygčių sistemą juodosios dėžės principu nepavyks. Koeficientų nuskaitymas/gavimas ir paskirstymas tarp procesorių gali būti sudėtingesnė operacija nei pats Vango algoritmas. 2 Vienos sistemos sprendimas paprastai nesudaro iššūkio, kalba eina apie didelio tokių sistemų skaičiaus generavimą ir sprendimą. 3 Bet kurie O(N) veiksmai yra tokie pat svarbūs kaip ir algoritmo veiksmai. Išvada Lygčių generavimą būtina įtraukti į sudėtingumo įvertinimą!

20 Generavimo dalis skaiˇciavimuose 1 Generavimas 16% 84% pav.: Generavimo kodas Perkelties metodas N = Tai reiškia, kad perkelties metodo skaičiavimų laikas yra T T (N) = C(8N N) = C9.48N. O Vango: T W (N) = C(17N N + 8p) = C(18.48N + 8p)

21 Generavimo dalis skaiˇciavimuose 2 Generavimas 18% 82% pav.: Generavimo kodas Perkelties metodas N = Tai reiškia, kad perkelties metodo skaičiavimų laikas yra T T (N) = C(8N N) = C9.74N. O Vango: T W (N) = C(17N N + 8p) = C(18.74N + 8p)

22 Generavimo dalis skaiˇciavimuose 3 Perkelties metodas 4% 96% pav.: Generavimo kodas Generavimas N = Tai reiškia, kad perkelties metodo skaičiavimų laikas yra T T (N) = C(8N + 171N) = C179N. O Vango: T W (N) = C(17N + 171N + 8p) = C(188N + 8p)

23 Išpleˇciamumo analizė CPU Buvo naudojami Xeon E (16 cores), klasterio "Saulėtekis" du mazgai N Thomas 7.01E E E E-02 p=2 6.11E E E E-02 S p lentelė: Wang ir Thomas palyginimas

24 Išpleˇciamumo analizė CPU Buvo naudojami Xeon E (16 cores), klasterio "Saulėtekis" du mazgai N Thomas 7.01E E E E E-04 p=2 6.11E E E E E-04 S p lentelė: Wang ir Thomas palyginimas

25 Išpleˇciamumo analizė CPU Buvo naudojami Xeon E (16 cores), klasterio "Saulėtekis" du mazgai N Thomas 7.01E E E E E-04 p=2 6.11E E E E E-04 S p lentelė: Wang ir Thomas palyginimas nodes N p lentelė: Vango algoritmo laikai

26 Išpleˇciamumo analizė N nodes p lentelė: Vango algoritmo pagreitėjimas N nodes p lentelė: Vango algoritmo efektyvumas

27 Skaiˇciavimai su GPU (CUDA) 1 Skaičiavimams sinchronizuoti jie išskaidyti į 4 GPU funkcijas: 1 genkernel generavimas 2 WangKernel1 veiksmai iki pirmųjų "siuntimu" 3 WangKernel2 p lygčių sistemos sudarymas 4 WangKernel3 sprendinio galutinis skaičiavimas 2 Vietoje Send/Recv cudadevicesynchronize() tarp GPU funkcijų ir nuskaitymas reikalingų duomenų. 3 p lygčių sistemai spręsti ją kopijuojame į CPU, po to sprendinius kopijuojame atgal į GPU.

28 Vango algoritmo problema: žingsniai pav.: Duomenų nuskaitymo žingsnis per du elementus pav.: Atminties efektyvumo priklausomybė nuo žingsnių Vango algoritme žingsnis yra N p = m

29 Rezultatai su GPU Naudokime sveikuosius (double) skaičius, imkime N = CPU Xeon E (16 cores), klasterio "Saulėtekis" mazgas GPU GTX 760 (1152 CUDA Cores), 192 GB/s, compute capability 3.0

30 Rezultatai su GPU Naudokime sveikuosius (double) skaičius, imkime N = CPU Xeon E (16 cores), klasterio "Saulėtekis" mazgas GPU GTX 760 (1152 CUDA Cores), 192 GB/s, compute capability 3.0 Skaičiavimų ištekliai laikas 1 CPU (p=16) GPU naive (p=6144)

31 Rezultatai su GPU Naudokime sveikuosius (double) skaičius, imkime N = CPU Xeon E (16 cores), klasterio "Saulėtekis" mazgas GPU GTX 760 (1152 CUDA Cores), 192 GB/s, compute capability 3.0 Skaičiavimų ištekliai laikas 1 CPU (p=16) GPU naive (p=6144) GPU optimized (p=6144)

32 Išvados Įtraukiant į analizę sistemos generavimo kaštus Vango algoritmas netenka savo trūkumų dalies Vango algoritmo veikimo laikas mažas, dėl ko bendras laikas tampa jautrus MPI siuntimų kaštams, net kai N = (pakankamai didelis) Po tinkamos modifikacijos Vango algoritmas gerai tinka skaičiavimams su GPU

33 Ačiū už dėmesį