UNIVERZA V MARIBORU FAKULTETA ZA NARAVOSLOVJE IN MATEMATIKO. Oddelek za matematiko in računalništvo MAGISTRSKA NALOGA. Tina Lešnik

UNIVERZA V MARIBORU FAKULTETA ZA NARAVOSLOVJE IN MATEMATIKO Oddelek za matematiko in računalništvo MAGISTRSKA NALOGA Tina Lešnik Maribor, 2014

UNIVERZA V MARIBORU FAKULTETA ZA NARAVOSLOVJE IN MATEMATIKO Oddelek za matematiko in računalništvo Magistrska naloga POPOLNOMA POZITIVNE MATRIKE Mentor: izr prof dr Dominik Benkovič Kandidatka: Tina Lešnik Maribor, 2014

ZAHVALA Prihodnost pripada tistim, ki verjamejo v lepoto svojih sanj (Eleanor Roosevelt) Iskreno se zahvaljujem svojemu mentorju, izr prof dr Dominiku Benkoviču, za vso pomoč in korektno vodenje pri izdelavi magistrske naloge ter čas, ki mi ga je posvetil Zahvalila bi se rada svoji družini, ki mi je z vso ljubeznijo in potrpljenjem stala ob strani Hvala tudi fantu in prijateljem za nepozabne trenutke, ki smo jih preživeli skupaj tekom študija ter za vso moralno pomoč pri izdelavi magistrske naloge

UNIVERZA V MARIBORU FAKULTETA ZA NARAVOSLOVJE IN MATEMATIKO IZJAVA Podpisana Tina Lešnik, rojena 22 aprila 1989, študentka Fakultete za naravoslovje in matematiko Univerze v Mariboru, smer finančna matematika, izjavljam, da je magistrsko delo z naslovom POPOLNOMA POZITIVNE MATRIKE pri mentorju izr prof dr Dominiku Benkoviču avtorsko delo V magistrskem delu so uporabljeni viri in literatura korektno navedeni; teksti niso uporabljeni brez navedbe avtorjev Maribor, 5 december 2014 Tina Lešnik

Program magistrskega dela: Popolnoma pozitivne matrike Matrika A M n (R) je pozitivno semidefinitna, če je simetrična A T = A in velja x T Ax 0 za vsak x R n Vsaka realna pozitivna semidefinitna matrika A M n n (R) se lahko zapiše v obliki A = BB T, kjer je B realna matrika dimenzije n k Če so vsi elementi matrike B nenegativni, pravimo, da je A popolnoma pozitivna matrika V magistrskem delu naj bodo opisane osnovne lastnosti popolnoma pozitivnih matrik Osnovna vira: [1] A Berman, N Shaked-Monderer, Completely Positive Matrices, World Scientific Publishing, 2003 [2] R A Horn, C R Johnson, Matrix Analysis, Cambridge University Press, 2005 izr prof dr Dominik Benkovič

LEŠNIK, T: Popolnoma pozitivne matrike Magistrsko delo, Univerza v Mariboru, Fakulteta za naravoslovje in matematiko, Oddelek za matematiko in računalništvo, 2014 IZVLEČEK Glavna tema magistrske naloge so popolnoma pozitivne matrike, ki so posebni primer pozitivno semidefinitnih matrik Vsaka realna pozitivno semidefinitna matrika A se lahko zapiše kot A = BB T, kjer je B realna matrika V primeru, da je B nenegativna matrika, je matrika A popolnoma pozitivna Na začetku predstavimo osnovne pojme in definicije realnih matrik, s poudarkom na pozitivno semidefinitnih matrikah Podamo nekaj primerov in dokažemo osnovne lastnosti teh matrik V nadaljevanju obravnavamo popolnoma pozitivne matrike Definiramo Hadamardov in Kroneckerjev produkt ter dokažemo, da sta oba produkta popolnoma pozitivnih matrik popolnoma pozitivni matriki Spoznamo eno izmed metod, s katero pokažemo, da je dvojno nenegativna matrika popolnoma pozitivna Definiramo pojem konveksni stožec ter dokažemo, da je množica popolnoma pozitivnih matrik zaprt konveksni stožec Na algebraični in geometrijski način dokažemo, da je dvojno nenegativna matrika A velikosti n n za n 4 popolnoma pozitivna Nazadnje obravnavamo diagonalno dominantne matrike ter dokažemo, da so nenegativne simetrične diagonalno dominantne matrike popolnoma pozitivne Prav tako definiramo primerjalno matriko in dokažemo, da je matrika A popolnoma pozitivna, če je simetrična nenegativna matrika ter je njena primerjalna matrika pozitivno semidefinitna Ključne besede: pozitivno semidefinitna matrika, popolnoma pozitivna matrika, Hadamardov produkt, Kroneckerjev produkt, konveksni stožec, diagonalno dominantna matrika, primerjalna matrika Math Subj Class (2010): 15B48

LEŠNIK, T: Completely positive matrices Master Thesis, University of Maribor, Faculty of Natural Scicences and Mathematics, Department of Mathematics and Computer Science, 2014 ABSTRACT The main topic of the master thesis are completely positive matrices, which are the special case of a positive semidefinite matrix Every real positive semidefinite matrix A can be written in the form A = BB T, where B is a real matrix In the case of a nonnegative matrix B the matrix A is completely positive The first chapter includes some basic terms and definitions of specific real matrices with an emphasis on positive semidefinite matrices We present some examples and prove the basic properties of these matrices In the next chapter we consider completely positive matrices We define Hadamard and Kronecker product and show that both of these products of completely positive matrices are completely positive We introduce one method which enables us to verify whether the doubly nonnegative matrix is completely positive We define the concept of a convex cone and show that the set of all completely positive matrices is a closed convex cone With algebraic and geometric approach we show that the doubly nonnegative matrix A of order n, n 4, is completely positive At the end of the thesis we treat diagonally dominant matrices and show that nonnegative symmetric diagonally dominant matrices are completely positive We also define a comparison matrix and show that the matrix A is completely positive if it is a symmetric nonnegative matrix and if its comparison matrix is positive semidefinite Keywords: positive semidefinite matrix, completely positive matrix, Hadamard product, Kronecker product, convex cone, diagonally dominant matrix, comparison matrix Math Subj Class (2010): 15B48

Kazalo Uvod 1 1 Osnovni pojmi in definicije 3 11 Algebraične operacije na matrikah 3 12 Posebni primeri matrik in njihove lastnosti 5 13 Skalarni produkt, norma in metrični prostor 8 14 Pozitivno semidefinitne matrike 9 15 Hadamardov in Kroneckerjev produkt 14 2 Popolnoma pozitivne matrike 17 21 Definicije in osnovni pojmi 17 22 Lastnosti popolnoma pozitivnih matrik 27 23 Konveksni stožci 31 24 Majhne matrike 36 25 Primerjalne matrike 40 Literatura 45 ix

Uvod Glavna tema magistrske naloge so popolnoma pozitivne matrike, ki so posebni primer pozitivno semidefinitnih matrik Matrika A M n n (R) je pozitivno semidefinitna, če je simetrična A T = A in velja x T Ax 0 za vsak x R n Vsaka realna pozitivno semidefinitna matrika A se lahko zapiše kot A = BB T, kjer je B realna matrika V primeru, da je B nenegativna matrika, je matrika A popolnoma pozitivna Popolnoma pozitivne matrike se pojavljajo v nekaterih primerih ekonomskega modeliranja, v kombinatoriki in verjetnosti, v raznih aplikacijah statističnih podatkov in v markovskih modelih za razvoj DNK V magistrski nalogi bomo popolnoma pozitivne matrike obravnavali izključno s teoretičnega vidika Očitno je vsaka popolnoma pozitivna matrika simetrična in nenegativna, prav tako pa mora očitno biti pozitivno semidefinitna Pozitivno semidefinitne in nenegativne matrike imenujemo dvojno nenegativne matrike Vsaka matrika ranga r se lahko zapiše kot vsota najmanj r matrik ranga 1 Če je A = BBT, potem lahko matriko A predstavimo kot vsoto matrik b i b T i ranga 1, kjer je b i i-ti stolpec matrike B Če je rang matrike A enak r, potem je A = BBT, kjer matrika B vsebuje r stolpcev Minimalno število stolpcev matrike B, da lahko A zapišemo kot A = BB T, se imenuje cp-rang matrike A V teoriji popolnoma pozitivnih matrik se pojavljata dva glavna problema: (a) prepoznati, ali je dana matrika popolnoma pozitivna, (b) določiti cp-rang dane popolnoma pozitivne matrike Čeprav sta oba problema še zmeraj odprta, je o obeh že veliko raziskanega V magistrski nalogi se bomo ukvarjali le s prvim problemom in ga deloma tudi rešili Rezultate v zvezi z drugim problemom najdemo v literaturi [1, 2, 7] V prvem poglavju predstavimo osnovne pojme in definicije realnih matrik za nadaljnje lažje razumevanje Definiramo algebraične operacije na matrikah ter predstavimo posebne primere matrik in njihove osnovne lastnosti Večji poudarek je na pozitivno semidefinitnih matrikah Podali bomo nekaj primerov in lastnosti teh matrik, ki nam bodo v pomoč pri nadaljnjem obravnavanju popolnoma pozitivnih matrik V zadnjem podpoglavju definiramo 1

2 Hadamardov in Kroneckerjev produkt in v nadaljevanju dokažemo, da je tako Hadamardov kot Kroneckerjev produkt popolnoma pozitivnih matrik popolnoma pozitivna matrika Drugo poglavje je namenjeno popolnoma pozitivnim matrikam Videli bomo, da popolnoma pozitivnih matrik ni težko konstruirati - težje je prepoznati, ali je dana kvadratna matrika popolnoma pozitivna Spoznali bomo eno izmed metod, s katero pokažemo, da je dvojno nenegativna matrika popolnoma pozitivna, pri čemer uporabimo Gram-Schmidtovo ortogonalizacijo Pri sami konstrukciji opazimo, da ne obstaja enoličen razcep popolnoma pozitivnih matrik Za iskanje takšne matrike B, da je A = BB T, uporabimo Schurov komplement, ki ga bomo tudi podrobneje prikazali Potreben pogoj, da je matrika popolnoma pozitivna je, da je matrika dvojno nenegativna - vendar bomo ugotovili, da v splošnem to ni zadosten pogoj V enem izmed podpoglavij bomo definirali pojem konveksni stožec in predstavili osnovne rezultate na konveksnih stožcih v končno dimenzionalnem evklidskem prostoru s skalarnim produktom ter dokazali, da je množica popolnoma pozitivnih matrik zaprt konveksni stožec Predstavili bomo majhne matrike, ki so matrike velikosti največ 4 4 Na algebraični in geometrijski način bomo dokazali, da je dvojno nenegativna matrika A velikosti n n za n 4 popolnoma pozitivna V zadnjem podpoglavju definiramo diagonalno dominantne matrike ter dokažemo, da so nenegativne simetrične diagonalno dominantne matrike popolnoma pozitivne Dokazali bomo, da za simetrično M-matriko A obstaja takšna pozitivno diagonalna matrika D, da je DAD diagonalno dominantna matrika Nazadnje predstavimo primerjalne matrike in dokažemo, da je matrika A popolnoma pozitivna, če je simetrična nenegativna matrika in je njena primerjalna matrika M(A) pozitivno semidefinitna Temeljni vir, po katerem je nastala magistrska naloga, je knjiga [1] Osnovni pojmi in definicije v prvem poglavju so definirani s pomočjo zapiskov s predavanj pri predmetih Vektorji in matrike, Linearna algebra, zapiskov [4], knjig [1, 3] ter skripte [5] Drugo poglavje je v večji meri povzeto po knjigi [1] Nekatere izreke in dokaze smo povzeli po magistrskih nalogah [2, 7] V podpoglavju 23 smo si za razumevanje konveksnih množic pomagali s skripto [6]

Poglavje 1 Osnovni pojmi in definicije Namen tega poglavja je predstaviti osnovne pojme, definicije in izreke povezane z realnimi matrikami, ki jih bomo potrebovali za razumevanje naslednjih poglavij Definicija Naj bosta m, n N Matrika je pravokotna shema m n elementov, ki so razporejeni v m vrstic in n stolpcev Dimenzijo (red) matrike označimo z m n Množico vseh matrik z m vrsticami, n stolpci in realnimi elementi označimo z M m n (R) Matrike označujemo z velikimi tiskanimi črkami V splošnem je zapis matrike a 11 a 12 a 1n a 21 a 22 a 2n A = = [a ij ] m n a m1 a m2 a mn Element a ij matrike A lahko zapišemo tudi kot a ij = (A) ij Matriki A in B sta enaki natanko tedaj, ko njuna reda in istoležni elementi sovpadajo, kar pomeni (A) ij = (B) ij, za vsak i = 1,, m in j = 1,, n 11 Algebraične operacije na matrikah Definicija Naj bosta A, B M m n (R) Potem je njuna vsota definirana s predpisom a 11 + b 11 a 12 + b 12 a 1n + b 1n a 21 + b 21 a 22 + b 22 a 2n + b 2n A + B = a m1 + b m1 a m2 + b m2 a mn + b mn 3

11 Algebraične operacije na matrikah 4 Množica M m n (R) je skupaj z operacijo + : M m n (R) M m n (R) Abelova grupa, kar pomeni (i) (A + B) + C = A + (B + C) za vse A, B, C M m n (R), (ii) A + B = B + A za vse A, B M m n (R), (iii) obstaja 0 M m n (R), da je A + 0 = A = 0 + A, (iv) za vsak A M m n (R) obstaja A M m n (R), da je A + ( A) = 0 Definicija Naj bo α R poljuben skalar in matrika A M m n (R) Produkt matrike s skalarjem defniramo kot αa 11 αa 12 αa 1n αa 21 αa 22 αa 2n α A = αa m1 αa m2 αa mn Za množenje matrik s skalarjem veljajo lastnosti (i) α(a + B) = αa + αb za vse A, B M m n (R) in α R, (ii) (α + β)a = αa + βa za vsak A M m n (R) in α, β R, (iii) (α β)a = α(β A) za vsak A M m n (R) in α, β R, (iv) 1A = A za vsak A M m n (R) Prostor M m n (R) opremljen s seštevanjem in skalarnim množenjem je vektorski prostor, kjer veljajo zgoraj naštete lastnosti Definicija Naj bosta A M m n (R) in B M n p (R) matriki, za kateri je število stolpcev v matriki A enako številu vrstic v matriki B Potem je njun produkt A B M m p (R) definiran s predpisom n k=1 a n 1kb k1 k=1 a 1kb k2 n k=1 a 1kb kp n k=1 AB = a n 2kb k1 k=1 a 2kb k2 n k=1 a 2kb kp n k=1 a n mkb k1 k=1 a mkb k2 n k=1 a mkb kp Element (AB) ij je enak skalarnemu produktu i-te vrstice matrike A z j-tim stolpcem matrike B, torej

12 Posebni primeri matrik in njihove lastnosti 5 n (AB) ij = a ik b kj = a i1 b 1j + a i2 b 2j + + a in b nj k=1 Za množenje matrik veljajo lastnosti (i) (AB)C = A(BC) za vse A M m n (R), B M n p (R) in C M p q (R), (ii) obstajata I n M n n (R) in I m M m m (R), da velja A I n = A in I m A = A za vsak A M m n (R), (iii) A(B + C) = AB + AC za vse A M m n (R) in B, C M n p (R), (A + B)C = AC + BC za vse A, B M m n (R) in C M n p (R), (iv) α(ab) = (αa)b = A(αB) za vse A M m n (R), B M n p (R) in α R 12 Posebni primeri matrik in njihove lastnosti Definicija Matriko z enakim številom vrstic in stolpcev imenujemo kvadratna matrika Definicija Matriko oblike a 11 a 12 a 13 a 1n 0 a 22 a 23 a 2n 0 0 a 33 a 3n, 0 0 0 a nn za katero je a ij = 0 za vsak i > j, imenujemo zgornje-trikotna matrika Definicija Diagonalna matrika D je kvadratna matrika, za katero je a ij = 0 za vsak i j in jo zapišemo kot a 11 0 0 0 a 22 0 D = diag(a 11, a 22,, a nn ) = 0 0 a nn Definicija Pozitivno diagonalna matrika je diagonalna matrika, ki ima vse elemente pozitivne Definicija Naj bo A matrika reda m n Tedaj je njena transponirana matrika reda n m Označimo jo z A T in velja (A T ) ij = (A) ji, za vse i = 1,, m in j = 1,, n

12 Posebni primeri matrik in njihove lastnosti 6 Za transponiranje matrik veljajo lastnosti (i) (A + B) T = A T + B T za vse A, B M m n (R), (ii) (αa) T = αa T za vse A M m n (R) in α R, (iii) (AB) T = B T A T za vse A M m n (R), B M n p (R), (iv) (A T ) T = A za vsak A M m n (R) Definicija Kvadratna matrika A je simetrična matrika, če velja A T simetrična, če velja A T = A = A in je poševno Primera simetrične matrike A in poševno simetrične matrike A reda 3 3 sta a b c 0 a b A = b d e in A = a 0 c c e f b c 0 Definicija Rang matrike A M m n (R) je število linearno neodvisnih vrstic oziroma stolpcev Definicija Kvadratna matrika B je obratna ali inverzna matrika kvadratne matrike A, če velja AB = BA = I Rečemo tudi, da je A obrnljiva ali nesingularna Obratno matriko matrike A označimo z A 1 Kvadratna matrika A je obrnljiva natanko tedaj, ko je det(a) 0 Kvadratna matrika A reda n je obrnljiva natanko tedaj, ko je rang(a) = n Za poljubni obrnljivi matriki A, B M n n (R) veljajo lastnosti (i) (A 1 ) 1 = A, (ii) (A T ) 1 = (A 1 ) T, (iii) (AB) 1 = B 1 A 1 Definicija Kvadratno matriko P, ki je dobljena iz identične matrike s permutacijo njenih vrstic in stolpcev, imenujemo permutacijska matrika Množenje s permutacijskimi matrikami povzroči permutacijo vrstic ali stolpcev množene matrike

12 Posebni primeri matrik in njihove lastnosti 7 Primer 1 0 1 0 1 2 3 3 4 1 P A = 1 0 0 3 4 1 = 1 2 3, 0 0 1 1 5 1 1 5 1 1 2 3 0 1 0 2 1 3 A P = 3 4 1 1 0 0 = 4 3 1 1 5 1 0 0 1 5 1 1 Za vse premutacijske matrike P velja P 1 = P T Definicija Kvadratno matriko z natanko enim neničelnim elementom v vsaki vrstici in v vsakem stolpcu imenujemo posplošena permutacijska matrika Definicija Kvadratno matriko z realnimi elementi, katere vrstice in stolpci so medsebojno pravokotni enotski vektorji imenujemo ortogonalna matrika Definicija Če je matrika A M m n(r) in sta α in β množici indeksov, α {1,, m} in β {1,, n}, potem je A [α β] podmatrika matrike A, ki vsebuje presek vrstic matrike A, ki jih določajo indeksi iz α in stolpcev matrike A, ki jih določajo indeksi iz β Če je A kvadratna matrika, potem matriko A [α α] imenujemo glavna podmatrika Namesto A [α α] lahko krajše zapišemo A [α] Definicija Matrika A M m n (R) je nenegativna, če so vsi njeni elementi nenegativna števila, kar označimo z A 0 in je pozitivna, če so vsi njeni elementi pozitivna števila, kar označimo z A > 0 Definicija Naj bo podana matrika A M n n (R) Realno število λ imenujemo lastna vrednost za A, če obstaja tak neničelni vektor v R n, da je Av = λv Vektor v imenujemo lastni vektor za A pripadajoč lastni vrednosti λ Definicija Matrika, katere elementi so matrike (in ne skalarji), se imenuje bločna matrika Bločna matrika A je oblike A 11 A 12 A 1n A 21 A 22 A 2n A =, A m1 A m2 A mn kjer matrike A 11, A 12,, A mn imenujemo bloki matrike A

13 Skalarni produkt, norma in metrični prostor 8 13 Skalarni produkt, norma in metrični prostor Definicija Naj bo V vektorski prostor nad komutativnim poljem F ( R ali C) Preslikava, : V V F, ki vektorjema x, y V priredi skalar x, y F, se imenuje skalarni produkt, če veljajo lastnosti (i) pozitivna definitnost x, x 0 za vsak 0 x V in x, x = 0 x = 0, (ii) konjugirana simetričnost x, y = y, x za vse x, y V, (iii) linearnost v prvem faktorju αx + βy, z = α x, z + β y, z za vse x, y, z V in α, β F Realni vektorski prostor, v katerem je definiran skalarni produkt, se imenuje evklidski prostor Definicija Naj bo V vektorski prostor Norma je preslikava : V F z lastnostmi (i) x 0 za vsak x V in x = 0 x = 0, (ii) αx = α x za vse x V in α F, (iii) x + y x + y za vse x, y V Vektorski prostor v katerem je vpeljana norma se imenuje normiran prostor Dolžina vektorja x je enaka x = x, x Dolžino vektorja x imenujemo tudi norma vektorja x Kot med vektorjema x in y izračunamo po formuli (x, y) = arccos x,y x y Definicija Metrični prostor je neprazna množica M s preslikavo d : M M R, ki zadošča pogojem (i) d(x, y) 0 za vse x, y M in d(x, y) = 0 x = y, (ii) d(x, y) = d(y, x) za vse x, y M, (iii) d(x, z) d(x, y) + d(y, z) za vse x, y, z M Metrični prostor M z metriko d označimo z (M, d) Preslikavo d imenujemo razdalja ali metrika Trditev 11 Preslikava d : R n R n R s predpisom d(x, y) = x y je metrika

14 Pozitivno semidefinitne matrike 9 Definicija V metričnem prostoru (M, d) je odprta krogla K(x, r) s središčem v x M in polmerom r > 0 množica točk, ki so od x oddaljene za manj kot r, K(x, r) = {y M d(x, y) < r} Definicija Naj bo K R n poljubna množica definiramo s predpisoma Notranjost in zaprtje množice K v R n Not(K) = {x K r > 0 : K(x, r) K}, K = {y R n r > 0 : K(y, r) K 0} Notranjost množice K je največja odprta množica, ki je vsebovana v K, njeno zaprtje pa najmanjša zaprta množica, ki vsebuje K Rob množice A označimo z δa in velja x δa, če za vsak r > 0 velja K r (x) A 0 in K r (x) A C 0 Poglejmo nekaj klasifikacij odprte in zaprte množice: A je odprta A = Not(A), A je zaprta A C odprta, δa A, A = Not(A) δa, vsebuje vse limite svojih konvergentnih zaporedij Definicija Naj bosta X in Y metrična prostora z metriko d X in d Y Izometrija metričnih prostorov X in Y je bijektivna preslikava f : X Y, ki ohranja razdaljo: d X (a, b) = d Y (f(a), f(b)) za vse a, b X 14 Pozitivno semidefinitne matrike V tem podpoglavju bomo definirali pozitivno semidefinitne matrike in opredelili njihove osnovne lastnosti Definicija Matrika A M n n (R) je pozitivno semidefinitna (A 0), če je simetrična in velja x T Ax 0 za vsak x R n Osnovna primera pozitivno semidefinitnih matrik sta identična matrika in kvadratna ničelna matrika Spoznajmo še en preprost primer pozitivno semidefinitne matrike

14 Pozitivno semidefinitne matrike 10 Primer 2 Naj bo [ ] 1 1 A = 1 1 Hitro vidimo, da velja A T = A Preverimo še, da je x T Ax 0 za vsak x R 2 [ ] [ ] ] 1 1 x1 [x 1 x 2 = (x 1 x 2 ) 2 0 1 1 x 2 Definicija Matrika je dvojno nenegativna, če je hkrati pozitivno semidefinitna in nenegativna Trditev 12 Vsota dveh pozitivno semidefinitnih matrik je pozitivno semidefinitna matrika Dokaz Naj bosta A in B pozitivno semidefinitni matriki Po definiciji velja x T Ax 0 in x T Bx 0, za vsak x R n, zato je tudi njuna vsota x T Ax + x T Bx = x T (A + B)x 0 za vsak x R n Očitno velja tudi (A + B) T = A T + B T = A + B Trditev 13 Če je matrika A pozitivno semidefinitna in je a R +, potem je tudi aa pozitivno semidefinitna matrika Dokaz Naj bo A pozitivno semidefinitna matrika Po definiciji velja x T Ax 0 za vsak x R n in ker je a > 0, sledi ax T Ax = x T aax 0 za vsak x R n Seveda velja tudi (aa) T = aa T = aa Trditev 14 Naj bo matrika A M n n (R) pozitivno semidefinitna in S M n m (R) poljubna matrika, potem je tudi matrika S T AS pozitivno semidefinitna Dokaz Naj bo A pozitivno semidefinitna matrika Po definiciji velja x T Ax 0 za vsak x R n, kjer je vektor x dimenzije n 1 Vzemimo poljubno matriko S M n m (R) Dokazati želimo, da velja y T S T ASy 0 za vsak vektor y dimenzije m 1 Naj bo x = Sy M n 1 Potem je x T = y T S T M 1 n, od koder sledi x T Ax 0 Ker velja (S T AS) T = ((S T A)S) T = S T (S T A) T = S T A T S = S T AS, je S T AS simetrična matrika Trditev 15 Vsaka glavna podmatrika pozitivno semidefinitne matrike je pozitivno semidefinitna

14 Pozitivno semidefinitne matrike 11 Dokaz Naj bo A M n n (R) pozitivno semidefinitna matrika in naj bo A [α], α {1, 2,, n} glavna podmatrika matrike A Dokazati želimo, da velja y T A [α] y 0 za vsak y R α Vzemimo tak x R n, da velja y = x [α] in x i = 0 za vsak i / α Potem velja y T A [α] y = x T Ax 0 Vsaka realna simetrična pozitivno semidefinitna matrika A reda n n ima n lastnih vrednosti in je ortogonalno diagonalizabilna matrika, kar pomeni, da obstaja takšna ortogonalna matrika U, da velja D = U T AU, kjer je D diagonalna matrika lastnih vrednosti matrike A Za ortogonalno matriko U velja UU T = I = U T U Rang matrike A je enak rangu matrike D, ta pa je enak številu neničelnih lastnih vrednosti matrike A Definicija Naj bo V evklidski prostor in v 1,, v n V Matriko skalarnih produktov v 1, v 1 v 1, v 2 v 1, v n v 2, v 1 v 2, v 2 v 1, v n v n, v 1 v n, v 2 v n, v n imenujemo Gramova matrika vektorjev v 1,, v n in jo označimo z Gram(v 1,, v n ) Vsako dvojno nenegativno matriko A reda n lahko izrazimo kot Gramovo matriko n vektorjev x 1, x 2, x n R k, kjer je k rang matrike A in za vsak par vektorjev velja x i, y i 0 Izrek 16 Naj bo A M n n (R) simetrična matrika Naslednje trditve so ekvivalentne (i) Matrika A je pozitivno semidefinitna (ii) Vse lastne vrednosti matrike A so nenegativne (iii) Obstaja takšna realna simetrična matrika C M n n (R), da je A = C 2 (iv) Obstaja takšna realna matrika B M n k (R), da je A = BB T (v) Obstaja takšen k-dimenzionalen evklidski vektorski prostor V in vektorji v 1,, v n V, da je A = Gram(v 1,, v n ) (vi) Obstajajo takšni vektorji b 1,, b k R n, da je A = k i=1 b ib T i Dokaz Dokazali bomo (i) (ii) (iii) (iv) (v) (i) in (i) (vi) (i) (ii) Dokažimo, da ima pozitivno semidefinitna matrika A le nenegativne lastne vrednosti Naj bo Ax = λx za neničelni vektor x R n Ker je matrika A pozitivno semidefinitna, velja x T Ax 0 za vsak x R n, od koder sledi

14 Pozitivno semidefinitne matrike 12 x T Ax = x T λx = λx T x 0 Ker je x T x 0, lahko enakost x T Ax = λx T x delimo z x T x in dobimo λ = xt Ax x T x 0 (ii) (iii) Matrika A ima le nenegativne lastne vrednosti, zato se lahko zapiše v obliki A = UDU T za neko ortogonalno matriko U in nenegativno diagonalno matriko D = diag(d 1,, d n ) Velja A = UDU T = U D DU T = U DI DU T = U DU T U DU T Če s C označimo U DU T, dobimo želeni rezultat A = C 2 (iii) (iv) Ker je matrika C simetrična velja C = C T Zato se lahko matrika A zapiše v obliki A = CC T (iv) (v) Naj bo A = BB T, kjer je B M n k (R), naj bo V = R k in naj vektorji vi T predstavljajo i-to vrstico matrike B Potem je v 1, v 1 v 1, v 2 v 1, v n v 2, v 1 v 2, v 2 v 1, v n A = = Gram(v 1,, v n ) v n, v 1 v n, v 2 v n, v n (v) (i) Naj bo A = Gram(v 1,, v n ) in x R n Potem je n n x T Ax = a ij x i x j = v i, v j x i x j i,j=1 = = i,j=1 n x i v i, x j v j i,j=1 n x i v i, n n x j v j = x i v i 2 0 i=1 j=1 i=1 Očitno je matrika A simetrična (i) (vi) Naj bo A = BB T, kjer je B M n k (R) pozitivno semidefinitna matrika Z b i, i = 1,, k označimo stolpce matrike B Potem je (a ij ) = k b il b lj = b i1b 1j + b i2 b 2j + + b ik b kj l=1 = (b 1 b T 1 ) ij + (b 2 b T 2 ) ij + + (b k b T k ) ij,

14 Pozitivno semidefinitne matrike 13 s čimer je dokaz izreka končan Trditev 17 Če je matrika A pozitivno semidefinitna in je k naravno število, potem je tudi matrika A k pozitivno semidefinitna Dokaz Dokazali smo že, da je matrika A pozitivno semidefinitna natanko tedaj, ko obstaja takšna realna simetrična matrika C M n n (R), da je A = C 2 Od koder sledi, da je matrika A k = (C 2 ) k = (C k ) 2 pozitivno semidefinitna Posledica 18 Če je f(x) = m i=0 a ix i polinom z nenegativnimi koeficienti in je matrika A pozitivno semidefinitna, potem je tudi matrika f(a) = m i=0 a ia i pozitivno semidefinitna Dokaz Dokaz sledi iz trditev 12, 13 in 17 Če je matrika A pozitivno semidefinitna in a R +, je tudi matrika aa pozitivno semidefinitna Če je matrika A pozitivno semidefinitna, je za vsak k N tudi matrika A k pozitivno semidefinitna Vsota pozitivno semidefinitnih matrik je pozitivno semidefinitna matrika Od koder sledi, da je vsota matrik a i A i pozitivno semidefinitna S tem smo dokazali, da je matrika f(a) pozitivno semidefinitna Lema 19 Naj bo A M n n (R) pozitivno semidefinitna matrika Če je element a ii = 0 za nek i {1,, n}, sledi a ij = a ji = 0 za vsak j {1,, n} Dokaz Naj bo i {1,, n} takšen, da je a ii = 0 Izberimo j {1,, n} in λ i, λ j R Naj bo x = λ i e i + λ j e j, kjer sta e i, e j standardna bazna vektorja Potem je [ ] [ ] [ ] x T a ii a ij λi Ax = λ i λ j a ij a jj λ j = a }{{} ii λ 2 i + 2a ij λ i λ j + a jj λ 2 j 0 = 2a ij λ i λ j + a jj λ 2 j Matrika A je pozitivno semidefinitna, zato je 2a ij λ i λ j + a jj λ 2 j 0 za vsak λ i, λ j R Predpostavimo, da je a ij 0 in vzemimo λ i = a jj + 1 2a ij, λ j = 1

15 Hadamardov in Kroneckerjev produkt 14 Potem je x T Ax = 1, od koder sledi a ij = 0 Lema 110 Diagonala pozitivno semidefinitne matrike je nenegativna Dokaz Naj bo A M n n (R) pozitivno semidefinitna matrika in e i, i {1,, n}, i-ti standardni bazni vektor Pozitivno semidefinitna matrika A je simetriča in velja x T Ax 0 za vsak x R n Sledi e T i Ae i = a ii 0 Lema 111 Naj bo A M n n (R) pozitivno semidefinitna matrika in matrika C M 2 2 (R) oblike [ ] aii a ij C = a ij a jj za vsak 1 i < j n Potem je det C nenegativna Dokaz Po lemi 19 je matrika C pozitivno semidefinitna, kar pomeni, da ima same nenegativne lastne vrednosti Od koder sledi, da je determinanta matrike C, ki je produkt lastnih vrednosti, nenegativna 15 Hadamardov in Kroneckerjev produkt Definicija Hadamardov produkt matrik A, B M m n (R) je matrika C = A B, ki jo dobimo z množenjem istoležnih elementov a 11 b 11 a 1n b 1n A B = (a ij b ij ) = M m n(r) a m1 b m1 a mn b mn Za Hadamardov produkt veljajo lastnosti (i) A B = B A, (ii) A (B C) = (A B) C, (iii) A (B + C) = A B + A C za vse A, B, C M m n (R) Definicija Naj bo k N Hadamardovo k-to potenco matrike A označimo z A (k) in je enaka Hadamardovemu produktu k-kopij matrike A, torej A (k) = A A A

15 Hadamardov in Kroneckerjev produkt 15 Posledica 112 Naj bo matrika A pozitivno semidefinitna in k N Potem je tudi A (k) pozitivno semidefinitna Dokaz Hadamardova k-ta potenca matrike A je enaka A (k) = A A A Matrika A je pozitivno semidefinitna, zato velja x T Ax 0 za vsak x R n Torej x T Ax x T Ax x T Ax = x } T x T {{ x T } (A A A) x } x {{ x } = y T A (k) y y T y Matrika A je simetrična, kar pomeni A = A T Torej je A (k) = A A A = A T A T A T = (A A A) T = (A (k) ) T Od koder sledi, da je A (k) pozitivno semidefinitna Definicija Kroneckerjev produkt matrik A M m n (R) in B M p q (R) je definiran kot bločna matrika a 11 B a 1n B A B = M mp nq(r) a m1 B a mn B Kroneckerjev produkt, znan tudi kot direktni ali tenzorski produkt, označimo z A B Primer 3 Oglejmo si primer Kroneckerjevega produkta dveh poljubnih 2 2 realnih matrik [ ] b11 b 12 a [ ] [ ] 11 a11 a 12 b11 b b 21 b 22 12 = a 21 a 22 b 21 b 22 [ ] b11 b 12 a 21 b 21 b 22 ] [ b11 b 12 a 12 b 21 b 22 [ ] b11 b 12 a 22 b 21 b 22 a 11 b 11 a 11 b 12 a 12 b 11 a 12 b 12 = a 11 b 21 a 11 b 22 a 12 b 21 a 12 b 22 a 21 b 11 a 21 b 12 a 22 b 11 a 22 b 12 a 21 b 21 a 21 b 22 a 22 b 21 a 22 b 22 Za Kroneckerjev produkt veljajo lastnosti (i) A B B A za vse A M m n (R), B M p q (R),

15 Hadamardov in Kroneckerjev produkt 16 (ii) (αa) B = α(a B), A (αb) = α(a B) za vse A M m n (R), B M p q (R), α R, (iii) (A + B) C = A C + B C, A (B + C) = A B + A C za vse A M m n (R), B, C M p q (R), (iv) (A B) C = A (B C) za vse A M m n (R), B M p q (R), C M r s (R) Lema 113 Naj bodo A M m n (R), B M q r (R), C M n p (R), D M r s (R) poljubne matrike Potem velja (A B)(C D) = AC BD Dokaz a 11 B a 1n B c 11 D c 1p D (A B)(C D) = a m1 B a mn B c n1 D c np D ( n i a 1ic i1 )BD ( n i a 1ic ip )BD = ( n i a mic i1 )BD ( n i a mic ip )BD = AC BD Lema 114 Naj bosta A M m n (R) in B M p q (R) Potem velja (A B) T = A T B T Dokaz a 11 B a 1n B (A B) T = a m1 B a mn B T a 11 B T a m1 B T = a 1n B T a mn B T a 11 a m1 = BT = A T B T a 1n a mn

Poglavje 2 Popolnoma pozitivne matrike V tem poglavju bomo definirali popolnoma pozitivne matrike Predstavili bomo osnovne pojme in definicije, dokazali nekaj trditev, izrekov in posledic ter za lažjo predstavo določene trditve podkrepili tudi s primeri 21 Definicije in osnovni pojmi Definicija Matrika A je popolnoma pozitivna, če jo lahko zapišemo kot A = BB T, kjer je B nenegativna matrika (ne nujno kvadratna) Očitno je vsaka popolnoma pozitivna matrika simetrična in nenegativna, prav tako pa je jasno, da mora biti pozitivno semidefinitna Torej je vsaka popolnoma pozitivna matrika dvojno nenegativna Primer 4 Primer popolnoma pozitivne matrike s takšno faktorizacijo je matrika [ ] [ ] 1 3 2 5 1 1 0 A = = 5 38 3 2 5 1 2 0 5 Matriko A lahko zapišemo tudi kot [ ] 2 5 2 0 2 5 2 A = = 2 5 38 0 5 2 2 51 2 51 2 Vidimo, da pri popolnoma pozitivnih matrikah ni enoličnega razcepa 17

21 Definicije in osnovni pojmi 18 Nenegativni oktant prostora R n označimo z R n + in velja R n + = {x R n x i 0 za i = 1,, n} Naj bodo v 1, v n vektorji m-dimenzionalnega evklidskega prostora V Ali so lahko vektorji vpeti v nenegativni oktant nekega evklidskega prostora? Z drugimi besedami, ali obstaja naravno število k in izometrija T : V R k, tako da vektorji T v 1, T v 2,, T v n pripadajo nenegativnemu oktantu? Naj bo A = Gram(v 1,, v n ) in naj bo a ij = v i, v j, pri čemer sta i, j = 1,, n Odgovor na zgornje vprašanje je pritrdilen natanko tedaj, ko je matrika A Gramova matrika nenegativnih vektorjev Naravno število k in izometrija T : V R k obstajata natanko tedaj, ko je matrika Gram(v 1, v n ) popolnoma pozitivna Tukaj k predstavlja število stolpcev matrike B, T v i pa i-to vrstico matrike B Popolnoma pozitivne matrike ni težko konstruirati - težje je prepoznati, ali je dana kvadratna matrika popolnoma pozitivna ali ne Potreben pogoj, da je matrika popolnoma pozitivna je, da je matrika dvojno nenegativna - vendar bomo ugotovili, da v splošnom to ni zadosten pogoj Začnimo s preprostim primerom Primer 5 Vse pozitivno diagonalne matrike so popolnoma pozitivne Naj bo D pozitivno diagonalna matrika Diagonalne matrike so simetrične, zato velja D = D T Matriko D lahko zapišemo kot d 1 0 0 d1 0 0 0 d 2 0 0 d2 0 D = = 0 0 d n 0 0 dn d1 0 0 0 d2 0 0 0 od koder sledi, da je D popolnoma pozitivna Preprost primer popolnoma pozitivne matrike je tudi identična matrika Primer 6 Dvojno nenegativne matrike ranga 1 so popolnoma pozitivne matrike Če je A M n n (R) dvojno nenegativna matrika ranga 1, jo lahko zapišemo kot A = bb T za nek b R n (glej izrek 16) Ker je A 0, mora biti b nujno nenegativen, nakar sledi, da je A popolnoma pozitivna Izrek 21 Dvojno nenegativne matrike ranga 2 so popolnoma pozitivne matrike dn,

21 Definicije in osnovni pojmi 19 Dokaz Naj bo A M n n (R) dvojno nenegativna matrika ranga 2 Potem lahko A predstavimo z Gramovo matriko vektorjev v 1,, v n R 2 Ker je matrika A nenegativna, je kot med dvema poljubnima vektorjema največ π/2, v i, v j = v i v j cos ϕ > 0 ϕ π 2 Vektorja, ki izmed vseh tvorita največji kot, lahko zarotiramo tako, da oba ležita v prvem kvadrantu R 2 Tako tudi ostali vektorji ležijo v prvem kvadrantu Spoznajmo eno izmed metod, kako pokazati, da je dvojno nenegativna matrika A popolnoma pozitivna Matrika A mora biti hkrati pozitivno semidefinitna in Gramova matrika vektorjev v 1, v n v k-dimenzionalnem evklidskem prostoru V Če lahko najdemo takšno ortonormirano bazo E prostora V, da so koordinatni vektorji [v 1 ] E, [v 2 ] E,, [v n ] E nenegativni, potem je T v = [v] E izometrična vpetost vektorjev v 1, v n v R k + in je matrika A popolnoma pozitivna Glavna ideja dokaza je vzeti bazo E, dobljeno z Gram-Schmidtovo metodo dveh vektorjev, ki tvorita skupaj največji kot Gram-Schmidtova ortogonalizacija transformira bazo v 1, v n v ortonormirano bazo e 1, e n Najprej normirajmo vektor e 1, e 1 = v 1 v 1, nato izračunajmo e 2 = v 2 v 1, e 1 e 1 in normirajmo e 2, e 2 = e 2 Postopek ponovimo za vse vektorje iz baze V splošnem zapišemo e 2 e i+1 = v i+1 v i+1, e i e i v i+1, e 1 e 1, e i+1 = e i+1 e i+1 Iskanje takšne matrike B, da je A = BB T, poteka s pomočjo Schurovega komplementa Definicija Naj bo matrika A M n n (R) oblike [ ] A11 A 12 A =, A 21 A 22 kjer je A 11 M k k (R), 1 k n, obrnljiva matrika Schurov komplement bloka A 11 matrike A je matrika A/A 11 = A 22 A 21 A 1 11 A 12 Lema 22 Naj bo A M n n (R) pozitivno semidefinitna matrika oblike [ ] A11 A 12 A = A 21 A 22 Če je A 11 obrnljiva matrika, potem je A 22 A 21 A 1 11 A 12 pozitivno semidefinitna matrika

21 Definicije in osnovni pojmi 20 Dokaz Naj bo matrika A M n n (R) pozitivno semidefinitna in S M n m (R) poljubna matrika V trditvi 14 smo pokazali, da je potem tudi matrika S T AS pozitivno semidefinitna Očitno je tudi matrika A 22 pozitivno semidefinitna zaradi bločne sestave Vsota pozitivno semidefinitnih matrik je pozitivno semidefintina matrika, od koder sledi, da je matrika A 22 A 21 A 1 11 A 12 pozitivno semidefinitna Uporaba Schurovega komplementa je na nek način običajna vrstična in stolpčna eliminacija, ki poteka na naslednji način Naj bo a 11 a 12 a 1n a 12 a 22 a 2n A = a 1n a 2n a nn in naj bo v 1 vektor, ki predstavlja prvi stolpec matrike A pomnožen s številom 1 a11 da je a 11 > 0) Izračunajmo (vemo, a 11 a 1n v 1 v1 T = 1 a 12 1 [ ] a a11 11 a 12 a 1n a11 = 1 a 11 a 2 11 a 11 a 12 a 11 a 1n a 11 a 12 a 1n a 11 a 12 a 2 12 a 12 a 1n a a 2 12 12 a = 11 a 11 a 11 a 1n a 12 a 1n a 2 a 1n a 12 a 1n 1n a 11 a 12 a 1n Dobimo matriko, katere prvi stolpec in vrstica sovpadata s prvim stolpcem in vrstico matrike A, zato je matrika A v 1 v1 T oblike 0 0 0 A v 1 v1 T 0 a 22 a 2n = 0 a 2n a nn a 2 1n a 11 Prva vrstica in stolpec te matrike sta ničelna Ta postopek nadaljujemo Če je a 22 = 0, ima matrika A rang 1 in je postopek zaključen, torej je A = v 1 v1 T Če je a 22 0, za vektor v 2 vzamemo drugi stolpec matrike A v 1 v1 T 1 pomnožen s številom in izračunamo novo a 22

21 Definicije in osnovni pojmi 21 matriko A v 1 v1 T v 2v2 T Če je slednja matrika ničelna, smo s postopkom zaključili, sicer nadaljujemo Po k korakih (rang matrike A = k) dobimo A v 1 v1 T v 2v2 T v kvk T = 0 Naj matriko B = [v 1 v 2 v k ] določajo vektorji v i, ki so zapisani v stolpce Tedaj je B iskana matrika in velja A = BB T Primer 7 Naj bo 8 12 16 4 6 12 20 28 6 10 A = 16 28 40 8 14 4 6 8 2 3 6 10 14 3 5 Preverimo, da je A popolnoma pozitivna matrika Iščemo torej takšno nenegativno matriko B, da je A = BB T Naj bo v 1 = 1 ] T [ [8 12 16 4 6 = 2 2 3 2 4 2 ] T 3 2 8 2 2 Potem je v 1 v T 1 = 1 8 8 12 16 4 6 1 ] [8 12 16 4 6 = 8 8 12 16 4 6 12 18 24 6 9 16 24 32 8 12 4 6 8 2 3 9 6 9 12 3 2 Sedaj izračunajmo A v 1 v1 T 8 12 16 4 6 8 12 16 4 6 0 0 0 0 0 12 20 28 6 10 12 18 24 6 9 0 2 4 0 1 16 28 40 8 14 16 24 32 8 12 = 0 4 8 0 2 4 6 8 2 3 4 6 8 2 3 0 0 0 0 0 9 1 6 10 14 3 5 6 9 12 3 2 0 1 2 0 2 Naj bo v 2 = 1 [0 2 2 4 0 ] T [ 1 = 0 2 2 2 0 ] T 2 2 Potem je

21 Definicije in osnovni pojmi 22 v 2 v T 2 = 1 2 0 2 4 0 1 1 ] [0 2 4 0 1 = 2 0 0 0 0 0 0 2 4 0 1 0 4 8 0 2 0 0 0 0 0 1 0 1 2 0 2 Sledi, da je A v 1 v T 1 v 2v T 2 = 0 Dobimo matriko 2 2 0 3 2 2 B = [v 1 v 2 ] = 4 2 2 2 2 0 3 2 2 1 2 2 [ ] 2 2 3 2 4 2 2 in B T 3 = 2 2 0 2 2 2 0 1 2 2 Potem je 2 2 0 3 2 2 BB T = 4 2 2 [ ] 2 2 3 2 4 2 2 3 2 2 2 2 0 0 2 2 2 0 1 2 2 3 2 2 1 2 2 8 12 16 4 6 12 20 28 6 10 = 16 28 40 8 14 = A 4 6 8 2 3 6 10 14 3 5 Velja torej A = v 1 v1 T + v 2v2 T A popolnoma pozitivna = BBT in ker je B nenegativna matrika, sledi, da je matrika Po primeru 6 in izreku 21 sledi, da je vsaka 2 2 dvojno nenegativna matrika popolnoma pozitivna, kar bomo v naslednjem primeru potrdili z algebraičnim pristopom Primer 8 Naj bo [ ] a b A =, b c

21 Definicije in osnovni pojmi 23 a, b, c R, dvojno nenegativna matrika Če je c = 0, potem poiščemo karakteristično enačbo matrike A, det(a λi) = 0 Rešitvi karakteristične enačbe λ 2 λa b 2 = 0 sta λ 1,2 = a ± a 2 + 4b 2 2 0 a ± a 2 + 4b 2 0 Od tod sledi, da mora biti a a 2 + 4b 2, kar velja natanko tedaj, ko je b = 0 Imamo torej B = [ a ] 0 0 a in velja A = BB T Če je c > 0, potem je A = BBT, kjer je a 0 B = b c b2 a a V tem primeru matriko B dobimo s pomočjo Schurovega komplementa Zavedati se moramo, da vsaka dvojno nenegativna matrika ni popolnoma pozitivna Oglejmo si naslednji primer Primer 9 Vzemimo matriko 1 1 0 0 1 1 2 1 0 0 A = 0 1 2 1 0 0 0 1 2 1 1 0 0 1 6 Naj bo v 1 = Potem je 1 1 v 1 v1 T = 0 0 1 [ 1 1 0 0 1] T [ ] 1 1 0 0 1 = 1 1 0 0 1 1 1 0 0 1 0 0 0 0 0 0 0 0 0 0 1 1 0 0 1 Izračunajmo A v 1 v T 1

21 Definicije in osnovni pojmi 24 1 1 0 0 1 1 1 0 0 1 0 0 0 0 0 1 2 1 0 0 1 1 0 0 1 0 1 1 0 1 0 1 2 1 0 0 0 0 0 0 = 0 1 2 1 0 0 0 1 2 1 0 0 0 0 0 0 0 1 2 1 1 0 0 1 6 1 1 0 0 1 0 1 0 1 5 Naj bo v 2 = [ 0 1 1 0 1] T Potem je v2 v T 2 = 0 0 0 0 0 0 1 1 0 1 0 1 1 0 1 0 0 1 2 1 0 1 1 0 1 Izračunajmo A v 1 v1 T v 2v2 T 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 0 1 1 0 1 0 0 0 0 0 0 1 2 1 0 0 1 1 0 1 = 0 0 1 1 1 0 0 1 2 1 0 0 1 2 1 0 0 1 2 1 0 1 0 1 5 0 1 1 0 1 0 0 1 1 4 Naj bo v 3 = [ 0 0 1 1 1] T Potem je v3 v T 3 = 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 1 1 1 0 0 1 1 1 Izračunajmo A v 1 v1 T v 2v2 T v 3v3 T 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 0 0 1 1 1 = 0 0 0 0 0 0 0 1 2 1 0 0 1 1 1 0 0 0 1 0 0 0 1 1 4 0 0 1 1 1 0 0 0 0 3

21 Definicije in osnovni pojmi 25 Naj bo v 4 = [ 0 0 0 1 0] T Potem je v4 v T 4 = 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 Izračunajmo A v 1 v1 T v 2v2 T v 3v3 T v 4v4 T 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 = 0 0 0 0 0 0 0 0 1 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 3 0 0 0 0 0 0 0 0 0 3 Naj bo v 5 = 1 3 [0 0 0 0 3] T Potem je 0 0 0 0 0 0 0 0 0 0 v 5 v5 T = 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 = 0 0 0 0 0 3 0 0 0 0 0 0 0 0 0 0 0 0 0 0 9 0 0 0 0 3 Sledi, da je A v 1 v1 T v 2v2 T v 3v3 T v 4v4 T v 5v5 T = 0 Dobili smo matriko 1 0 0 0 0 1 1 0 0 0 B = [v 1 v 2 v 3 v 4 v 5 ] = 0 1 1 0 0 0 0 1 1 0 1 1 1 0 3 Ker matrika B vsebuje negativen element, A ni popolnoma pozitivna matrika Naslednja trditev vsebuje ekvivalentno definicijo popolne pozitivnosti Trditev 23 Matrika A je popolnoma pozitivna natanko tedaj, ko se lahko zapiše kot vsota

21 Definicije in osnovni pojmi 26 A = k b i b T i, i=1 (21) kjer je b i nenegativen vektor iz R n za vsak i = 1,, k Dokaz Matriko A lahko zapišemo kot ] A = BB T k = [b 1 b 2 b k bt1 = b i b T i, kjer b i predstavlja i-ti stolpec matrike B b T k i=1 V enakosti (21) je matrika A predstavljena kot vsota dvojno nenegativnih (popolnoma pozitivnih) matrik ranga 1 Primer 10 Naj bo [ ] a b A =, b 1 a, b R Potem je matrika A zapisana s pomočjo matrik ranga 1 v obliki vsote [ ] [ ] a b 0 0 A = + b b 2 a 0 1 b2 a Poglejmo, kako pridemo do takšnega zapisa Ker je element a 22 > 0, je matrika a 0 a B = in B T b = a b a 1 b2 a 0 1 b2 a Označimo b 1 = [ ] a b a 0 in b 2 = 1 b2 a Potem je [ ] [ ] a b 0 0 b 1 b T 1 =, b b b 2 2 b T 2 = a 0 1 b2 a in je A = b 1 b T 1 + b 2b T 2

22 Lastnosti popolnoma pozitivnih matrik 27 22 Lastnosti popolnoma pozitivnih matrik Trditev 24 Vsota popolnoma pozitivnih matrik je popolnoma pozitivna matrika Dokaz Naj bosta A = k i=1 b ib T i in C = k+l i=k+1 b ib T i C Potem je A + C = k+l i=1 b ib T i predstavitvi ranga 1 matrik A in Lema 25 Naj bo matrika A popolnoma pozitivna Potem je za vsak α R + tudi αa popolnoma pozitivna matrika Dokaz Naj bo matrika A popolnoma pozitivna Potem jo lahko zapišemo kot A = BB T, za B 0 in velja αa = (βb)(βb) T, kjer je β = α Za vsak α 0 je tudi β 0, od koder sledi, da je matrika βb nenegativna Trditev 26 Hadamardov produkt popolnoma pozitivnih matrik je popolnoma pozitivna matrika Dokaz Radi bi pokazali A B = k l i=1 j=1 (c i d j )(c i d j ) T Naj bosta a 11 a 12 a 1n b 11 b 12 b 1n a 21 a 22 a 2n b 21 b 22 b 2n A n n = in B n n = a n1 a n2 a nn b n1 b n2 b nn ter A = k i=1 c ic T i in B = l j=1 d jd T j predstavitvi ranga 1 matrik A in B Potem velja (a pr ) = c p1 c 1r + c p2 c 2r + + c pk c kr = (c 1 c T 1 ) pr + (c 2 c T 2 ) pr + + (c k c T k ) pr, (b pr ) = d p1 d 1r + d p2 d 2r + + d pl d lr za vse 1 p, r n = (d 1 d T 1 ) pr + (d 2 d T 2 ) pr + + (d k d T k ) pr (A B) pr = a pr b pr = k l (c i c T i ) pr (d j d T j ) pr = i=1 j=1 k l (c i d j ) pr (c T i d T j ) pr, i=1 j=1 kjer je c i d j pr-ti element Hadamardovega produkta (c i d j ) in c T i dt j pr-ti element Hadamardovega produkta (c i d j ) T

22 Lastnosti popolnoma pozitivnih matrik 28 Primer 11 Na preprostem primeru preverimo, da velja enakost A B = k l (c i d j )(c i d j ) T i=1 j=1 Naj bosta [ ] [ ] 1 3 2 5 1 1 0 A = = 5 38 3 2 5 1 2, 0 5 [ ] [ ] [ ] 5 2 2 1 2 0 B = = 2 4 0 2 1 2 popolnoma pozitivni matriki Očitno velja [ ] 10 10 A B = 10 152 Po vpeljanih oznakah je [ ] [ ] [ ] 1 1 0 c 1 =, c 2 =, c 3 = 3 2 5 [ ] [ ] 2 1 ter d 1 =, d 2 = 0 2 Potem je = k i=1 j=1 l (c i d j )(c i d j ) T [ ] 2 [ 2 0 0 ] + [ ] 1 [ 1 6 6 ] + [ ] 2 [ 2 0 0 ] + [ ] 1 [ 1 4 4 ] + [ 0 10 ] [ ] 0 10 [ ] 10 10 = 10 152 Posledica 27 Hadamardova potenca A (k) = A A A popolnoma pozitivnih matrik je popolnoma pozitivna Dokaz Sledi direktno iz trditve 26, kjer smo dokazali, da je Hadamardov produkt dveh popolnoma pozitivnih matrik popolnoma pozitivna matrika Trditev 28 Če je matrika A M n n(r) popolnoma pozitivna in je matrika C M m n (R) nenegativna, potem je tudi produkt CAC T popolnoma pozitivna matrika Dokaz Naj bo A = BB T, B 0 Potem je CAC T = CBB T C T = (CB)(CB) T

22 Lastnosti popolnoma pozitivnih matrik 29 Trditev 29 Naj bo A popolnoma pozitivna matrika Potem je za vsak k N matrika A k popolnoma pozitivna Dokaz Matrika A je popolnoma pozitivna, zato jo lahko zapišemo kot A = BB T, B 0 in velja A T = BB T = A (i) (ii) Če je k = 2l, potem je A k = (A 2l ) = (A l ) 2 = A l A l = A l (A T ) l = A l (A l ) T Če je k = 2l + 1, potem je A k = A 2l+1 = A 2l A = A l A l A = A l AA l = (A l )BB T (A l ) T = (A l B)(A l B) T Posledica 210 Če je f(x) realni polinom z nenegativnimi koeficienti in je matrika A popolnoma pozitivna, potem je tudi matrika f(a) popolnoma pozitivna Dokaz Če je matrika A popolnoma pozitivna je za vsak c 0 tudi matrika ca popolnoma pozitivna (lema 25) in je za vsak k N tudi matrika A k popolnoma pozitivna (trditev 29) Dokazali smo tudi, da je vsota popolnoma pozitivnih matrik popolnoma pozitivna (trditev 24), od tod sledi, da je vsota matrik c k A k popolnoma pozitivna Matrika f(a) je torej popolnoma pozitivna Trditev 211 Kroneckerjev produkt A B popolnoma pozitivnih matrik A in B je popolnoma pozitivna matrika Pri dokazu zgornje trditve nam bosta v pomoč lemi 113 in 114 Dokaz Naj bo A = CC T, C 0 in B = DD T, D 0 Potem velja A B = CC T DD T = (C D)(C T D T ) = (C D)(C D) T, kar pomeni, da je Kroneckerjev produkt popolnoma pozitivnih matrik popolnoma pozitivna matrika Trditev 212 Glavne podmatrike popolnoma pozitivnih matrik so popolnoma pozitivne Dokaz Naj bo A = BB T, B 0 popolnoma pozitivna matrika in A [α] glavna podmatrika matrike A Potem je A [α] = CC T, kjer je C takšna podmatrika matrike B, ki vsebuje natanko tiste vrstice in stolpce matrike B, ki jih določajo indeksi iz α Trditev 213 Naj bo A M n n (R) in P M n n permutacijska matrika Naslednji trditvi sta ekvivalentni

22 Lastnosti popolnoma pozitivnih matrik 30 (i) A je popolnoma pozitivna matrika; (ii) P AP T je popolnoma pozitivna matrika Dokaz Če je matrika A popolnoma pozitivna, je tudi matrika P AP T popolnoma pozitivna, saj velja P AP T = P BB T P T = (P B)(P B) T Pokažimo še obrat Matrika P T AP je popolnoma pozitivna, zato velja P T AP = BB T Ker je P permutacijska matrika, velja P P T = P T P = I Enakost P T AP = BB T z leve strani pomnožimo s P T in z desne s P Dobimo A = P T BB T P = (P T B)(P T B) T, kar pomeni, da je matrika A popolnoma pozitivna Trditev 214 Naj bo A M n n (R) in naj bo D M n n (R) pozitivno diagonalna matrika Naslednji trditvi sta ekvivalentni (i) Matrika A je popolnoma pozitivna; (ii) DAD je popolnoma pozitivna matrika Dokaz saj velja Če je matrika A popolnoma pozitivna, je tudi matrika DAD popolnoma pozitivna, DAD = DBB T D = DBB T D T = (DB)(DB) T Pokažimo še obrat Matrika DAD je popolnoma pozitivna, zato velja DAD = BB T Diagonalni elementi matrike D so pozitivni Matrika D 1 = diag(1/d 1,, 1/d n ) je pozitivno diagonalna Enakost DAD = BB T z leve in desne strani pomnožimo z D 1 Dobimo A = D 1 BB T D 1 = (D 1 B)(D 1 B) T Matrika A je torej popolnoma pozitivna Trditev 215 Zapišimo simetrično matriko A v obliki A = A 1 A 2 A m Matrika A je popolnoma pozitivna natanko tedaj, ko je vsaka matrika A i za i = 1,, m popolnoma pozitivna Dokaz Zaradi bločne sestave očitno velja trditev

23 Konveksni stožci 31 23 Konveksni stožci V tem podpoglavju bomo predstavili osnovne rezultate na konveksnih stožcih v končno dimenzionalnem evklidskem prostoru V s skalarnim produktom in dokazali, da je množica popolnoma pozitivnih matrik zaprt konveksni stožec Definicija Množica K v evklidskem prostoru V je konveksna, če za vse x, y K in vsak a [0, 1] velja ax + (1 a)y K Očitno je vsak linearen podprostor prostora V konveksna množica Drug preprost primer konveksne množice predstavlja zaprta krogla v R n s središčem v 0 in polmerom 1 B = {x R n x 1} Definicija Množica K v evklidskem prostoru V je stožec, če za vsak x K in vsak a 0 velja ax K S kombinacijo zgornjih dveh definicij dobimo naslednjo definicijo Definicija Množica K v evklidskem prostoru V je konveksni stožec, če za vse x, y K in a, b 0 velja ax + by K Primer 12 Vzemimo množici K 1 = R 2 + = { (x, y) R 2 x 0, y 0 }, K 2 = { (x, y) R 2 0 y x } Slika 21: Primera zaprtih konveksnih stožcev Pokažimo, da je K 1 zaprt konveksni stožec v R 2 Naj bosta (x 1, y 1 ), (x 2, y 2 ) K 1 Potem velja x 1, y 1, x 2, y 2 0 Za vse (x 1, y 1 ), (x 2, y 2 ) K 1 in a, b 0 velja

23 Konveksni stožci 32 a(x 1, y 1 ) + b(x 2, y 2 ) = (ax 1, ay 1 ) + (bx 2, by 2 ) = (ax 1 + bx }{{} 2, ay 1 + by 2 ) K }{{} 1 0 0 Podobno velja za množico K 2 Naj bosta (x 1, y 1 ), (x 2, y 2 ) K 2 Potem velja 0 y 1 x 1 in 0 y 2 x 2 Za vse (x 1, y 1 ), (x 2, y 2 ) K 2 in a, b 0 velja a(x 1, y 1 ) + b(x 2, y 2 ) = (ax 1, ay 1 ) + (bx 2, by 2 ) = (ax 1 + bx 2, ay 1 + by 2 ) Ker velja 0 y 1 x 1 in 0 y 2 x 2, sledi 0 ay 1 + by 2 ax 1 + bx 2 Opomba 216 Za vsak n N je R n + = {x R n x i 0 za vsak i = 1,, n} zaprt konveksni stožec Omeniti velja, da je K 1 posebni primer tega stožca Primer 13 Naj bo podan enotski vektor u R n in kot 0 θ π/2 Naj bo K u,θ množica takšnih vektorjev x R n, da je kot med vektorjema x in u največ θ Pokažimo, da je K u,θ = {x R n x, u x cos θ} zaprt konveksni stožec Očitno je množica K u,θ zaprta za množenje z nenegativnim skalarjem Naj bosta x, y K u,θ Potem velja x + y, u = x, u + y, u x cos θ + y cos θ = ( x + y ) cos θ x + y cos θ Za vsako množico D V s conv(d) označujemo najmanjšo konveksno množico, ki vsebuje D Množica conv(d) se imenuje konveksna ovojnica ali konveksna ogrinjača Konveksna ogrinjača je presek vseh konveksnih množic, ki vsebujejo D Trditev 217 Konveksna ovojnica množice D je množica vseh konveksnih kombinacij točk iz D Dokaz Preverimo, da je množica { m S = λ i x i m N, x i D, λ i 0, i=1 } m λ i = 1 i=1 konveksna

23 Konveksni stožci 33 Vzemimo x, y S Potem sta x in y naslednji konveksni kombinaciji elementov iz D : x = m n λ i x i, y = µ j y j i=1 j=1 za m, n N, λ i, µ j 0 ter m i=1 λ i = n j=1 µ j = 1 Za λ [0, 1] je λx + (1 λ)y = λ m λ i x i + (1 λ) i=1 n µ j y j S, j=1 saj velja λλ i [0, 1] in (1 λ)µ j [0, 1] za vse λ i, µ j 0 in m i=1 λ i = n j=1 µ j = 1 Velja λλ i + (1 λ)µ j [0, 1] za vsak λ [0, 1] in vse λ i, µ j 0 ter m i=1 λ i = n j=1 µ j = 1, kar pa ustreza definiciji konveksnosti množice S Vsak x D lahko zapišemo v obliki x = 1 i=1 1x, zato je D S Ker je vsak x S konveksna kombinacija elementov iz D in ker vsaka konveksna množica vsebuje vse konveksne kombinacije svojih elementov, je S conv(d) Množica S je torej konveksna in ker velja D S conv(d), sledi S = conv(d) Trditev 218 Naj bodo K, K 1 in K 2 konveksni stožci v evklidskem prostoru V Potem je (i) zaprtje množice K konveksni stožec, (ii) notranjost množice K konveksni stožec, (iii) presek K 1 K 2 konveksni stožec, (iv) vsota K 1 + K 2 = {x 1 + x 2 x 1 K 1, x 2 K 2 } konveksni stožec Dokaz (i) Naj bosta x, y K Pokazati moramo, da je tudi ax + by K Obstajata limiti lim x n = x; x n K, n lim y n = y; y n K n Zaradi konveksnosti velja ax n + by n K Če gre n, potem zaporedje ax n + by n konvergira proti ax + by To pa je res v zaprtju množice K, namreč zaprta množica vsebuje vse limite svojih kovergentnih zaporedij (ii) Naj bosta x, y Not(K) Potem obstajata polmera r 1 in r 2, da je

23 Konveksni stožci 34 K r1 (x) K, K r2 (y) K Vzemimo r = min {r 1, r 2 } Dokazujemo, da je K r (x + y) K Naj bo z K r (x + y), potem je z x y < r Označimo z y = z x, potem je y y < r Sledi, da je z = }{{} x + y K }{{} K K Dokazali smo implikacijo x, y Not(K) x + y Not(K) Če je množica K konveksna, je tudi Not(K) konveksna Naj bo x Not(K) in a > 0, potem je tudi K ra (ax) K (iii) Naj bosta x, y K 1 K 2 Zaradi definicije velja x, y K 1 ter x, y K 2 Ker sta K 1 in K 2 konveksna stožca, velja λx + βy K 1 in λx + βy K 2, od koder sledi λx + βy K 1 K 2 (iv) Naj bosta x, y K 1 + K 2 Zaradi definicije velja x = x 1 + x 2 in y = y 1 + y 2, pri čemer sta x 1, y 1 K 1 ter x 2, y 2 K 2 Sedaj lahko zapišemo αx + βy = α(x 1 + x 2 ) + β(y 1 + y 2 ) = (αx 1 + βy 1 ) + (αx 2 + βy 2 ) = u + v, pri čemer sta u K 1, v K 2 Vsota zaprtih konveksnih stožcev ni nujno zaprta Oglejmo si naslednji primer Primer 14 Naj bo K 1 stožec takšnih vektorjev v R 3, da je kot med njimi in vektorjem (1, 0, 1) največ π/4 Označimo x 0 = (1, 0, 1) 1 2 in x = (x 1, x 2, x 3 ) Z naslednjim računom določimo enega izmed pogojev za množico K 1 x, x 0 x x 0 cos π 4 1 2 (x 1 + x 3 ) x 2 1 + x2 2 + x2 3 2 2 x 2 1 + 2x 1 x 3 + x 2 3 x 2 1 + x 2 2 + x 2 3 2x 1 x 2 x 2 2 Torej je K 1 = { (x 1, x 2, x 3 ) x 1 0, x 3 0, 2x 1 x 2 x 2 2} Za K2 vzemimo x-os v R 3 Poglejmo, ali je (0, 1, 0) K 1 + K 2 Zapišimo (0, 1, 0) = (x 1, x 2, x 3 ) + ( x 1, 0, 0) Očitno mora