Maticové algoritmy II systém lineárnych rovníc riešenie SLR pomocou Gaussovej eliminačnej metódy (GEM) determinanty výpočet determinantu pomocou GEM

Transcription

1 Maticové algoritmy II systém lineárnych rovníc riešenie SLR pomocou Gaussovej eliminačnej metódy (GEM) determinanty výpočet determinantu pomocou GEM Priesvitka 1

2 M. C. Escher: Relativity Priesvitka 2

3 Systém lineárnych rovníc Systém lineárnych rovníc, ktorý obsahuje m rovníc o n neznámych a x + a x a x = b n n 1 a x + a x a x = b n n 2... a x + a x a x = b m1 1 m2 2 mn n m Zavedením matíc a11 a a1 n x1 b1 a21 a a 2n x 2 b 2 A=, x =, b = a a... a x b m1 m2 mn n m Priesvitka 3

4 prepíšeme systém do kompaktného maticového tvaru Ax = b kde A sa nazýva matica koeficientov, x sa nazýva vektor neznámych a b sa nazýva vektor konštantných členov (alebo vektor pravých strán) Riešenie systému môže byť reprezentované stĺpcovým vektorom c c1 c... cn 2 = ktorý keď dosadíme do Ax = b, x = c, dostaneme maticovú identitu Ac= b. Priesvitka 4

5 y ax+ay = b 1 2 y ax+ay +a z= b x x A B Geometrická interpretácia rovnice zo systému lineárnych rovníc pre (A) n = 2, rovnica je interpretovaná priamkou, (B) n = 3, rovnica je interpretovaná rovinou. z Priesvitka 5

6 Riešenie systému Ax = b je potom určené prienikom týchto geometrických útvarov priradených jednotlivým rovniciam. Označme nadrovinu priradenú i-tej lineárnej rovnici z Ax = b symbolom σ i, potom riešenie je zadané ich prienikom X = σ σ σm Z geometrického pohľadu vyplýva, že tento prienik buď obsahuje (i) len jeden element, (ii) má nekonečne mnoho elementov, (iii) je prázdny. Jeden z hlavných cieľov teórie systémov lineárnych rovníc je rozhodnúť za ktorých podmienok majú alebo nemajú riešenie a v prípade, že ho majú, tak ako ho zostrojiť. Priesvitka 6

7 Definícia. Štvorcová matica A, typu t(a) = (n,n), sa nazýva regulárna vtedy a len vtedy, keď je hodnosť h(a) = n. Rozšírená matica Definujme rozšírenú maticu (koeficientov) A' tak, že matica koeficientov A je rozšírená o stĺpcový vektor konštantných členov a11 a a1 n b1 a21 a a2n b2 A = ( A, b ) = am 1 a m2... amn b m Pomocou hodností matice koeficientov A a rozšírenej matice A môžeme stanoviť, kedy systém lineárnych rovníc má alebo nemá riešenie. Priesvitka 7

8 Veta (Frobeniova veta). Systém lineárnych rovníc Ax = b má riešenie vtedy a len vtedy, ak h( A) = h ( A ) Pričom, podrobnejšou analýzou tejto podmienky zistíme, že (1) ak h( A) h ( A ), potom systém nemá riešenie, (2) ak h( A) = h( A ) = n, potom systém má práve jedno riešenie, h A = h A < n, potom systém má nekonečne mnoho riešení. (3) ak ( ) ( ) Táto veta patrí medzi fundamentálny teoretický výsledok teórie lineárnych rovníc, špecifikuje nutné a postačujúce podmienky pre existenciu riešenia. Priesvitka 8

9 Systém lineárnych rovníc Príklad + x = x1 x2 = 0 Matica koeficientov a rozšírená matica majú tvar A=, 1 1 A = Hodnosti týchto matíc vyhovujú podmienke h A = h A = ( ) ( ) 2 To znamená, že systém má práve jedno riešenie, = (, ) x x 1212 T. Priesvitka 9

10 Systém lineárnych rovníc Príklad 1 2 x1 x2 = 1 Matica koeficientov a rozšírená matica majú tvar A =, A 1 1 = Hodnosti týchto matíc vyhovujú podmienke h A = h A = < x + x = ( ) ( ) 1 2 To znamená, že systém má nekonečne mnoho riešení, ( 1 ) 1 x = t, t, t R. T Priesvitka 10

11 Systém lineárnych rovníc Príklad + x = x1+ x2 = 2 Matica koeficientov a rozšírená matica majú tvar A =, A 1 1 = Hodnosti týchto matíc vyhovujú podmienke h( A) = 1 h ( A ) = 2 To znamená, že systém nemá riešenie. x Priesvitka 11

12 Komentár Frobeniova veta nám len zabezpečuje či systém Ax = b má alebo nemá riešenie, ale v prípade, že existuje, neumožňuje nám toto riešenie nájsť. Aplikácia vety vyžaduje stanovenie hodností tak matice koeficientov A, ako aj rozšírenej matice A, tento problém môže byť uskutočnený súčasne tak, že stanovíme hodnosť rozšírenej matice, pričom nebudeme používať elementárne operácie transpozície stĺpcových vektorov (menovite stĺpcového vektora konštantných členov b so stĺpcovými vektormi matice koeficientov, a taktiež, aj stĺpcových vektorov z matice A samotne). Upravená rozšírená matica v trojuholníkovom tvare je vhodná na konštrukciu riešenia pomocou metódy spätných substitúcií. Tento prístup tvorí obsah Gaussovej eliminačnej metódy (GEM), ktorá tvorí jeden z najefektívnejších algoritmov pre riešenie systému lineárnych rovníc. Priesvitka 12

13 Riešenie systému lineárnych rovníc Gaussovou eliminačnou metódou (GEM) Nad rozšírenou maticou A' sa vykonáva postupnosť nasledujúcich elementárnych operácií nad jej riadkami: (1) transpozícia dvoch riadkov, (2) vynásobenie riadku nenulovým číslom a (3) pripočítanie násobku vybraného riadku k inému riadku. Cieľom týchto úprav je pretransformovať rozšírenú maticu na trojuholníkový tvar. Riešenie získame z takto upravenej rozšírenej matice metódou spätných substitúcií. Priesvitka 13

14 Príklad Použitím Gaussovej eliminačnej metódy riešte systém 2x 3x + x = x + 2x x = x1+ x2 + x3 = 12 Rozšírená matica má tvar A = krok. Vykonáme vynulovanie prvkov pod diagonálou v prvom stĺpci Priesvitka 14

15 2. krok. Vykonáme vynulovanie prvku pod diagonálou v druhom stĺpci K tretiemu riadku pripočítame druhý riadok Posledná matica znamená, že pôvodný systém rovníc bol pretransformovaný do tvaru 2x1 3x2 + x3 = 0 7x2 + 3x3 = 6 3x = 15 x T = 3 ( 135,, ) Priesvitka 15

16 Príklad Použitím Gaussovej eliminačnej metódy riešte systém 2x x + 5x + 3x = 5 Rozšírená matica má tvar x + x + 4x + 3x = x + 3x + 2x = x + x + x = A = Priesvitka 16

17 1. krok, nulujeme prvky v 1. stĺpci pod diagonálou (i) Vynásobíme 2. a 3. riadok rozšírenej matice číslom 2 (ii) K druhému a tretiemu riadku pripočítame prvý riadok (iii) Posledné tri riadky sú lineárne závislé, tak napr. 2. a 3. riadok získame vynásobením 4. riadku číslom 3 resp. 1, môžeme teda vynechať 2. a 3. riadok. Priesvitka 17

18 2x x + 5x + 3x = x + x + x = Máme dve rovnice pre štyri neznáme, t. j. dve neznáme môžu byť charakterizované ako volné parametre, x3 = u,x4 = v, potom upravený systém prepíšeme do formálneho tvaru dvoch lineárnych rovníc pre dve neznáme 2x x = 5 5u 3v 1 2 x = 3 u v 2 Dosadením druhej rovnice do prvej dostaneme konečné riešenie pre neznámu x 1 1 x1 = ( 5 5 u 3 v+ ( 3 u v) ) = 4 3 u 2 v 2 Priesvitka 18

19 Stĺpcový vektor riešenia má tvar 4 3u 2v u v x = = u v = a ub vc u v a b c Môžeme teda uzavrieť, že systém má nekonečne mnoho riešení, ktoré tvoria množinu X = { a ub v c;u,v R}. Ak napríklad položíme u = v = 1, potom vektor riešení má tvar x = = a b c Priesvitka 19

20 Pseudopascalovský program pre riešenie systému lineárnych rovníc algoritmom GEM procedure GEM; begin for k:=1 to N-1 do {index through columns} begin for i:=k+1 to N do begin σ:=-a ik /A kk ; for j:=k to N do A ij :=A ij +σ*a kj ; b i :=b i +σ*b k ; end; end; x N :=b N /A NN ; for i:=n-1 downto 1 do begin σ:=b i ; for k:=i+1 to N do σ:= σ-a ik *x k ; x i := σ/a ii ; end; end {of procedure GEM}; Priesvitka 20

21 Poznámky Algoritmus GEM obsahuje len základné operácie, ktoré sú nutné k jeho implementácii. o Prvý vonkajší cyklu (s premennou k) obsahuje tzv. priamu fázu algoritmu, ktorá spočíva v nulovaní elementov pod diagonálou. o Druhý vonkajší cyklus obsahuje tzv. spätnú fázu algoritmu (s premennou i) v ktorej sa metódou spätných substitúcii počíta riešenie systému. Použiteľný algoritmus GEM musí ešte obsahovať v rámci priamej fáze (vonkajší cyklus premennou k) vyhľadávanie maximálneho elementu v k- tom stĺpci pod diagonálou (včítane aj diagonálneho elementu). Ak takýto element existuje (v l-tom riadku, kde l k), potom sa vykoná transpozícia k-teho a l-teho riadku. Týmto máme zabezpečené, že ak matica koeficientov je regulárna, potom maticový element A kk je nenulový. Ak sa nám nepodarí zaistiť nenulovosť tohto diagonálneho elementu, potom matica A je singulárna (t.j. systém lineárnych rovníc nemá jednoznačné riešenie). Priesvitka 21

22 Odhad zložitosti algoritmu GEM V priamej fáze algoritmu pre každý index k=1,2,...,n-1 existuje (k-1)k súčinov, potom celkový počet súčinov v tejto fáze je 1 1 k k k k N N N N N 6 2 N 1 N 1 N 1 2 ( 1) = = ( 1) ( 2 1) ( 1) k= 1 k= 1 k= 1 V nepriame fáze algoritmus je celkový počet súčinov určený formulou N 1 N 1 N 1 ( j 1) = j 1= N( N 1) ( N 1) i= 1 i= 1 i= 1 To znamená, že zložitosť GEM algoritmu asymptoticky pre N rastie kubicky s dimenziou problému 3 N tcpu 1 2 Priesvitka 22

23 Príklad x + 2x + 3x + 4x = x + 3x + 4x + x = x + 4x + x + 2x = x + x + 2x + 3x = A = Priesvitka 23

24 1.krok. 2.krok. 3.krok. ( ) r2 = r2 + 2 r ( ) r3 = r3 + 3 r ( ) r4 = r4 + 4 r Priesvitka 24

25 4. krok. 5. krok. 6. krok. ( ) r3 = r3 + 2 r ( ) r4 = r4 + 7 r ( 1) r = r + r Priesvitka 25

26 7. krok Výpočet neznámych pomocou metódy spätných substitúcií x4 = b 4 A 44 = = 4 x ( ) 3 = b 3 x4a 34 A33 = ( 4 4 4) ( 4) = 3 x = b x A x A A ( ) ( ( ) ( )) ( ) = = 2 x= b xa xa xa A ( ) ( ) = = 1 Priesvitka 26

27 Determinanty Nech A je množina všetkých možných matíc. Hodnosť matice môžeme formálne chápať ako zobrazenie množiny matíc A na množinu kladných celých čísel { } h : A 1,2,... Analogicky, pod pojmom determinant budeme rozumieť zobrazenie množiny štvorcových matíc A A na množinu reálnych čísel det : A R Determinant matice A z R priradené štvorcovej matici A. A budeme označovať symbolom A, je to reálne číslo Priesvitka 27

28 Prv než pristúpime k definícii determinantu uvedieme základné skutočnosti o permutáciách. Permutáciu P priradenú n objektom budeme vyjadrovať symbolom P = ( p 1, p 2,..., pn ) kde elementy p 1, p 2,..., p n sú prirodzené čísla z množiny { 12,,...,n}, ktoré vyhovujú podmienke i j p p i j Celkový počet permutácií n objektov je n!, tieto permutácie tvoria symetrickú grupu (množinu) permutácií S n. Priesvitka 28

29 Ku každej permutácii môžeme priradiť nezáporné celé číslo, ktoré sa nazýva počet inverzií: hovoríme, že prvky p i a p j tvoria inverziu v permutácia P = (p 1,...,p i,...,p j,...,p n ), vtedy a len vtedy, ak platí i < j p > p Celkový počet inverzií v permutácii P je označený I(P). Príklad Zostrojte všetky permutácie pre n = 2 a n = 3, charakterizujte každú permutáciu počtom inverzií. Permutácie pre n=2 majú tvar ( ) ( ) ( ) ( ) P = 12,, I P = 0 P = 21,, I P = 1 i j Priesvitka 29

30 Permutácie pre n=3 majú tvar ( 123) ( ) 0 ( 132) ( ) 1 ( 3 2) ( 213) ( ) 1 ( 2 1) ( 231) ( ) 2 ( ) ( 312) ( ) 2 ( ) ( 321) ( ) 3 ( ) P =,,, I P = Definícia 9.1. Nech = ( A ij ) matice je P =,,, I P = > P =,,, I P = > P =,,, I P = >, > P =,,, I P = >, > P =,,, I P = >, >, > A je štvorcová matica typu (n,n), determinant tejto P S n I ( ) ( P 1 ) A = A A...A (9.10) p p np kde sumácia obsahuje všetky možné permutácie z S n. Alternatívne označenie determinantu je det(a) alebo D(A). n Priesvitka 30

31 Determinant matice je podľa definície určený takto A Príklad A A = A21 A 22 A = P S 2 I ( 1) ( P ) A A 1p 2p 1 2 I ( ) ( 12, ) I ( ) ( 21, 1 A A 1 ) = + A A = A11A22 A12 A21 Diagramatická interpretácia výpočtu determinantu matice typu 2 2 A11 A12 A11A22 A12 A21 A A = Priesvitka 31

32 Determinant matice A Príklad A A A = A21 A22 A 23 A31 A32 A 22 je podľa definície určený v tvare, ktorý môžeme jednoducho vyjadriť pomocou diagramatickej interpretácie (Sarrusove pravidlo) A A A A A A A A A A A A A A A = A A A + A A A + A A A A A A A A A A A A Priesvitka 32

33 Základné vlastnosti determinantov (1) Nech A je štvorcová matica, potom T A = A Dôsledok tejto vlastnosti je, že ľubovolná vlastnosť, ktorá platí pre riadky determinantu musí platiť aj pre jeho stĺpce (a naopak). (2) Nech A je štvorcová matica a nech matica B vznikne z A výmenou dvoch stĺpcov (riadkov) A = s,..., s,..., s,..., s B= s,..., s,..., s,..., s potom ( 1 i j n) ( 1 j i n) B = A Priesvitka 33

34 Nech matica A obsahuje dva rovnaké stĺpce v polohe i a j A = ( s1,..., si,... sj 1, si, sj + 1,..., s n) Potom jednoduchým dôsledkom vlastnosti je, že táto matica je nulová A = 0 (3) Nech A je štvorcová matica a nech matica B vznikne z A tak, že jeden stĺpec (riadok) vynásobíme číslom α A = ( s1,..., si,..., sn) B= ( s1,..., αsj,..., s n) potom B = α A Dôsledok tejto vlastnosti je, že ak matica A obsahuje nulový stĺpec (riadok), potom determinant matice je nulový. Priesvitka 34

35 (4) Nech A je štvorcová matica a nech matica B vznikne z A tak, že násobok vybraného stĺpca (riadka) pripočítame k inému stĺpcu (riadku) A = s,..., s,..., s,..., s B = s,..., s +αs,..., s,..., s potom ( 1 i j n) ( 1 i j j n) B = A (5) Nech A je štvorcová matica a nech pre jej vybraný stĺpec platí s i = s i + s i A = ( s1,..., s i + si,..., s n) potom A = A + A kde matica A' (A'') vznikne z pôvodnej matice tak, že i-tý stĺpec s i je nahradený stĺpcovým vektorom s i ( s i ) A = s,..., s,..., s, A = s,..., s,..., s ( ) ( ) 1 i n 1 i n Priesvitka 35

36 Veta. Nech A je štvorcová matica typu n n. A =0 vtedy a len vtedy, ak h(a)<n. Dôsledkom tejto vety je, že štvorcová matica A má nenulový determinant vtedy a len vtedy, ak jej hodnosť sa rovná počtu riadkov A 0 h A = n ( ) ( ( ) ) Priesvitka 36

37 Príklad Dokážte, že vektory a = ( ), a = ( ) a = ( ) a sú lineárne nezávislé.. Tieto vektory môžeme formálne chápať ako riadkové vektory matice A typu A = Ak determinant tejto matice je nenulový, potom h(a)=3, t.j. jej riadkové vektory sú lineárne nezávislé = = Priesvitka 37

38 Veta. Nech A je štvorcová trojuholníková matica (nepožaduje sa, aby každý diagonálny element bol nenulový) A11 A A1 n 0 A A 2n A = Ann Determinant matice sa rovná súčinu jej diagonálnych elementov A = A11A 22...Ann Dôsledok tejto vety je, že determinant jednotkovej matice E sa rovná jednej E =1 Priesvitka 38

39 Táto veta umožňuje zostrojiť efektívny algoritmus pre výpočet determinantov ľubovolnej dimenzii n. Použijeme jednoduchý algoritmus, ktorý je veľmi podobný algoritmu stanovenia hodnosti matice a ktorý je založený na vlastnostiach determinantov. To znamená, že nad stĺpcami a riadkami budeme vykonávať jednoduché elementárne operácie tak, aby sme dostali trojuholníkovú maticu (t. j. nulujeme elementy pod diagonálou). Na rozdiel od stanovenia hodnosti matice, pri tomto výpočte determinantu jeho hodnota sa môže meniť, tak napríklad po transpozícii dvoch stĺpcov (riadkov) dochádza k zmene znamienka determinantu, alebo ak riadok vynásobíme číslom α, tak potom pred determinant musíme vytknúť číslo 1 α. To znamená, že súčasťou algoritmu musí byť aj premenná v ktorej sa kumuluje táto zmena numerickej hodnoty determinantu v priebehu aplikácií elementárnych operácií. Priesvitka 39

40 Vypočítajte determinant matice s n = 4 Príklad A = Postup transformácie determinantu na trojuholníkový tvar je prezentovaný na tejto schéme: Priesvitka 40

41 A = = = = 68 = A A A A = 683 = = A 5 6 A Priesvitka 41

42 Pseudopascalovský program pre výpočet determinantu metódou GEM function DET : real; begin for k:=1 to N-1 do {index through columns} begin for i:=k+1 to N do begin σ:=-a ik /A kk ; for j:=k to N do A ij :=A ij +σ*a kj ; end; end; σ:=1; for i:=1 to N do σ:=σ*a ii ; DET:= σ; end {of procedure DET}; Priesvitka 42

43 Poznámky Podobne, ako aj pre systém lineárnych rovníc, GEM algoritmus musí obsahovať hľadanie maximálneho elementu v každom stĺpci pod diagonálou. V prípade, ak maximálny prvok v nejakom stĺpci pod diagonálou je nulový, potom algoritmus sa môže zastaviť, determinant matice je nulový. Zložitosť algoritmu je podobná, ako pre systém lineárnych rovníc tcpu N 3 Priesvitka 43

44 Príklad A=, det( A ) = ? 1.krok. 2.krok. ( ) r2 = r2 + 2 r ( ) r3 = r3 + 3 r Priesvitka 44

45 3. krok. 4. krok. 5.krok. ( ) r4 = r4 + 4 r ( ) r3 = r3 + 2 r ( ) r4 = r4 + 7 r Priesvitka 45

46 6. krok. 7.krok. ( 1) r = r + r det ( A ) = 1 ( 1) ( 4) 40= Priesvitka 46

47 Veta. Nech A a B sú štvorcové matice rovnakého typu t( ) = t( ) = ( n,n) A B, potom determinant súčinu týchto matíc sa rovná súčinu ich determinantov AB = A B Jednoduchý dôsledok tejto vety je formula pre determinant inverznej matice A = 1 1 A 1 A Veta. Matica A je regulárna vtedy a len vtedy, ak jej determinant je nenulový A 0 Priesvitka 47

48 The End M. C. Escher: Waterfall Priesvitka 48