Statistika SIIT / IIS. školska 2017/18

Transcription

1 Statistika SIIT / IIS školska 2017/18

2 Literatura [1] Ghileza et. al., Zbirka rešeih zadataka iz Verovatoće i statistike, CMS, NS, [2] Stojaković M., Matematička statistika, Uiverzitet u Novom Sadu, Fakultet tehičkih auka, Novi Sad, [3] Chihara L., Hesterberg T, Mathematical Statistics with Resamplig ad R by Joh Wiley & Sos, Ltd [4] Grbić T., Nedović Lj., Zbirka odabraih rešeih ispitih zadataka iz Verovatoće, Statistike i Slučajih procesa, Novi Sad, Fakultet tehičkih auka, Bodovi i datumi Kol. 1 Kol. 2 Rač. k. 1 Rač. k. 2 Rač. k. 3 Pris. Test Usm. Σ MAX MIN XI 21. I (redom u 12 i 9 časova, amfiteatri)

3 Prostor verovatoće σ-polje doga daja DEFINICIJA 1 Ako je Ω = (epraza skup ishoda), F P(Ω) i važi: (i) Ω F, (ii) A F, A = Ω\A F, (iii) za prebrojivu familiju A 1, A 2,... F, A j F, j=1 oda za F kažemo da je σ-polje doga daja (ad Ω). Elemete F azivamo doga daji. Ω je sigura doga daj. Za doga daj A, jegov komplemet A je suprota doga daj. PRIMER 1 Partitivi skup F 1 = P(Ω) i F 2 = {,Ω} su σ-polja doga daja ad Ω. PRIMER 2 Za skup Ω = {1,2,3,4,5,6}, F = {,Ω,{1,2},{3,4,5,6}} je σ-polje doga daja.

4 Osobie σ-polja doga daja F. A 1, A 2,..., A F A 1 A 2 A = A j F. A, B F A B F, A B = A B F, A\B F, A B = (A\B) (B\A) F. A 1, A 2,... F A j F. j=1 Ako je A B =, kažemo da su doga daji A i B disjukti. Ako za prebrojivu familiju A 1, A 2,... važi k, j {1,2,...},k = j A k A j =, kažemo da su doga daji te familije disjukti po parovima. j=1

5 Verovatoća DEFINICIJA 2 Za σ-polje F ad eprazim skupom Ω, verovatoća je fukcija P : F R koja zadovoljava 1. A F, P(A) Za prebrojivu familiju doga daja disjuktih po parovima A 1, A 2,... F, ( ) P A k = P(A k ). k=1 k=1 3. P(Ω) = 1. Ure deu trojku (Ω, F, P) azivamo prostor verovatoće. PRIMER 3 Za skup Ω = {1,2,3,4,5,6} i F = {,Ω,{1,2},{3,4,5,6}}, fukcija ( ) Ω {1,2} {3,4,5,6} P = 0 1 1/3 2/3 je verovatoća, odoso, (Ω, F, P) je prostor verovatoće.

6 Osobie verovatoće Za proizvolje doga daje A i B: 4. P(A) 1 5. P( ) = 0 6. P(A) = 1 P(A) 7. P(A B) = P(A) + P(B) P(AB) 8. A B P(A) P(B) Za prebrojivu familiju doga daja A 1, A 2,... i doga daj A 9. A k A ili A k A P(A k ) P(A) ( ) 10. P A k P(A k ) k=1 k=1

7 PRIMER 4 Neka je skup ishoda koača: Ω = {ω 1,ω 2,...,ω }, i eka je σ-polje skup svih podskupova F = P(Ω). Neka je p k = P({ω k }) 0, k = 1,2,..., i k=1 p k = 1. Verovatoća je defiisaa P(A) = p k. k:ω k A Ovaj prostor zovemo diskreti prostor verovatoće. PRIMER 5 Ako u primeru 4 važi i p 1 = p 2 = = p = 1/, dobijamo P(A) = #A/#Ω, to je klasiča defiicija verovatoće. U klasičoj defiiciji verovatoće se kaže da je verovatoća broj povoljih podelje sa brojem mogućih ishoda. Klasiča defiicija verovatoće se koristi kada imamo koačo mogo jedako verovatih ishoda, odoso, kada se vrši slučaja izbor. PRIMER 6 Neka je Ω R Euklidski prostor. Neka je F skup podskupova od Ω koji su merljivi merom m i eka je m(ω) > 0. Geometrijsku verovatoću za A Ω defiišemo: P(A) = m(a)/m(ω). Oda je (Ω,F, P( )) prostor verovatoće.

8 Skup čija verovatoća je 0 zovemo emoguć doga daj. Na primer, je emoguć doga daj. Ako podskupovi emogućeg doga daja pripadaju F, kažemo da je prostor kompleta. Ako ije kompleta, prostor se može kompletirati proširivajem. Ako je P(A) = 1, kažemo da je A skoro sigura skup. Ako ešto važi a skupu verovatoće 1, kažemo da skoro siguro važi. PRIMER 7 Tri dečaka i tri devojčice sedaju a slučaja ači u red sa 6 mesta. (Svi rasporedi sedeja su jedako verovati.) Kolika je verovatoća da ema dve osobe istog pola koje sede jeda do druge? PRIMER 8 Iz špila od 52 karte a slučaja ači se izvlači jeda karta. Kolika je verovatoća da je izvučea karta dama ili herc? Ako u prostoru verovatoće (Ω,F, P( )) za doga daje A, B F važi P(A B) = P(A) P(B), kažemo da su A i B ezavisi. Familija doga daja A 1, A 2,... je ezavisa u ukuposti ako za proizvolja skup ideksa i 1,i 2,...i k važi P(A i1 A i2 A ik ) = P(A i1 ) P(A i2 ) P(A ik ). PRIMER 9 Novčić se baca tri puta. Bacaja su azavisa. Izračuati verovatoće p k da će pasti k grbova za k = 0,1,2,3.

9 PRIMER 10 Novčić se baca dok se e dobije grb. Izračuati ver. da bude para broj bacaja. PRIMER 11 (Berulijeva shema) Pozitiva realizacija eksperimeta u svim pokušajima ima istu verovatoću p (0,1). Eksperimet se vrši puta. Kolika je verovatoća da će biti k, za 0 k pozitivih realizacija? PRIMER 12 U odeljeju od 30 daka ima 12 dečaka. Na slučaja ači se bira petočlaa komisija. Kolika je verovatoća da u komisiji ima (barem) 2 dečaka? PRIMER 13 Oko kocke je opisaa lopta. Na slučaja ači se bira tačka u lopti. Kolika je verovatoća da je izabraa tačka u kocki? PRIMER 14 Na slučaja ači se biraju brojevi a i b u itervalu [0,1]. Kolika je verovatoća da će jedačia x 2 + ax + b = 0 imati reala rešeja? PRIMER 15 Dve osobe dolaze a sastaak a dogovoreo mesto u slučajo odabraom mometu izme du 12 i 13 časova. Dogovor je da se čeka 20 miuta. Kolika je verovatoća da će se sresti? PRIMER 16 (Bertraov paradoks) Izračuati verovatoću da slučajo izabraa tetiva kružice bude veća od straice jedakostraičog trougla upisaog u kružicu.

10 (a) Ako se jeda kraj tetive fiksira, a drugi se bira slučajo. (b) Ako se fiksira pravac tetive. (c) Ako se slučajo bira središte tetive (uutar kružice). Uslova verovatoća Neka je (Ω,F, P( )) prostor verovatoće i eka je A F i P(A) > 0. Defiišemo za B F verovatoću pod uslovom da se desio doga daj A: P(A B) P(B A) = P(A). Oda je (Ω, F, P( A)) prostor verovatoće. Prebrojiva familija doga daja H 1, H 2,... čii potpu sistem doga daja ako su doga daji disjukti po parovima i ako važi H j = Ω. j=1 Formula totale verovatoće za potpui sistem doga daja H 1, H 2,... i doga daj A: P(A) = j=1 P(H j ) P(A H j ).

11 Bejzova (Bayes) formula: P(H j A) = P(H j) P(A H j ). P(H j ) P(A H j ) j=1 PRIMER 17 Simptom X se pojavljuje usled bolesti A, B i C. Pozato je da se bolest A, B i C pojavljuju kod redom 10%, 5%, 20% populacije. Bolesti A, B i C isključuju jeda drugu. Simptom X se u slučaju bolesti A razvija u 90% slučajeva, u slučaju bolesti B razvija se u 95% slučajeva, i u slučaju bolesti C razvija u 75% slučajeva. Kolika je verovatoća da će se kod slučajo odabraog čoveka pojaviti simptom X? Ako se pojavio simptom X, kolika je verovatoća da ima bolest A, B, odoso C? PRIMER 18 O ovčića jeda je eisprava: ima grb sa obe strae. Na slučaja ači se bira ovčić i baca k puta. Kolika je verovatoća da svih k puta pade grb? Ako je svih k puta pao grb, kolika je verovatoća da je u pitaju eisprava ovčić? PRIMER 19 Osobe A, B, C i D preose iformaciju koju dobiju u obliku iskaza DA ili NE u jedom od tri slučaja. Osoba A dobija iformaciju, preosi je osobi B, zatim oa osobi C, zatim oa osobi D i a kraju osoba D saopštava iformaciju. Kolika je verovatoća da je prva osoba preela početu iformaciju ako se za da je posledja osoba preela početu iformaciju?

12 Uopštea formula preseka: P(A 1 A 2 A ) = P(A 1 ) P(A 2 A 1 ) P(A 3 A 1 A 2 ) P(A A 1 A 2 A 1 ) PRIMER 20 Koliko treba da ima osoba u ekoj grupi pa da verovatoća da barem dve osobe iz grupe imaju ro deda istog daa bude veća od 1 2? PRIMER 21 Koliko osoba treba da pitam za ro deda da bih sreo osobu koja ima ro deda istog daa kad i ja sa verovatoćom većom od 1 2? Uopštea formula uije: P(A 1 A 2 A ) = 1 i 1 P(A i1 ) 1 i 1 <i 2 P(A i1 A i2 ) + + ( 1) ( 1) P(A 1 A 2 A ) 1 i 1 <i 2 <i 3 P(A i1 A i2 A i3 ) PRIMER 22 Nestalo je struje u pozorištu i svih lica su u mraku (a slučaja ači) uzeli kaput u garderobi. Kolika je verovatoća da je barem jedo lice uzelo svoj kaput? Kojem broju teži dobijea verovatoća kad?

13 PRIMER 23 Dokazati osobiu 9. Za prebrojivu familiju doga daja A 1, A 2,... uvodimo ozaku limsup A k = A k. =1 k= Kažemo da je limsup A k skup ishoda koji se pojavljuju u beskoačo mogo doga daja: limsup A k = {ω : #{ N : ω A } = }. Borel - Katelijeva Lema 1 Za familiju doga daja A 1, A 2,..., ako red k=1 P(A k) kovergira, oda P(limsup A k ) = 0. Borel - Katelijeva Lema 2 Za familiju doga daja A 1, A 2,..., ezavisu u ukuposti, ako red k=1 P(A k) divergira, oda P(limsup A k ) = 1.

14 Slučaje promeljive Ako X : Ω R, za S R, iverza sliku od S je X 1 (S) = {ω Ω : X(ω) S}. Defiicija Ako je (Ω,F, P) prostor verovatoće i X : Ω R zadovoljava: kažemo da je X slučaja promeljiva. x R, X 1 ((, x]) F, PRIMER 24 Za prostor verovatoće iz primera 3, možemo defiisati slučaju promeljivu koja registruje sa 1 da li je broj veći od 2 (iače je ula): ( ) X = Vidimo da je X 1 ((, x]) =, x < 0 {1,2}, 0 x < 1 {1,2,3,4,5,6}, x 1

15 Fukcija raspodele Za slučaju promeljivu X ad (Ω, F, P) defiišemo fukciju raspodele: ( ) F(x) = P X 1 ((, x]) = P ({ω : X(ω) x}) = P(X x). PRIMER 25 Za slučaju promeljivu X iz primera 24 fukcija raspodele je 0, x < 0 1 F(x) = 3, 0 x < 1 1, x 1 Osobie fukcije raspodele 1. lim x F(x) = 0 2. lim x F(x) = 1 3. x 1 < x 2 F(x 1 ) F(x 2 ) 4. a R, lim F(x) = F(a) x a + 5. P(a < X b) = F(b) F(a)

16 Diskrete slučaje promeljive Neka je X slučaja promeljiva ad (Ω,F, P). Sliku skupa ishoda Ω ozačavamo sa R X. Kažemo da je X diskreta slučaja promeljiva ako je slika R X koača ili prebrojiv skup. Ako je R X = {x 1, x 2,...} oda Ω = (X = x ) sledi da je 1 = P(X = x ). =1 =1 Možemo uvesti ozake p = P(X = x ). Fukciju x p zovemo zako raspodele slučaje promeljive X i zapisujemo X : ( x1 x 2 p 1 p 2 Berulijeva raspodela sa parametrom p (0,1) je X : ). Važi F(x) = ( p p :x x Bioma raspodela sa parametrima p (0,1) i N u ozaci B(, p): ( ) P(X = k) = p k (1 p) k, k {0,1,...,},. k Poasoova raspodela sa parametrom λ (0, ) u ozaci P(λ): P(X = k) = λk k! e λ, k = 0,1,... Geometrijska raspodela sa parametrom p (0, 1) u ozaci G(p): P(X = k) = p (1 p) k 1, k = 1,2,... ). p.

17 Neprekide slučaje promeljive Kažemo da je slučaja promeljiva apsoluto eprekidog tipa ako postoji fukcija ϕ : R [0, ) takva da je x R, F(x) = x ϕ(t)dt. Fukciju ϕ azivamo fukcija gustie raspodele slučaje promeljive X. Osobie gustie raspodele 1. Ako je ϕ eprekido u x, oda ϕ(x) = F (x) 2. ϕ(t)dt = 1 3. P(a < X < b) = P(a X < b) = P(a X b) = F(b) F(a) = b a ϕ(x)dx Uiforma raspodela U(a,b), a < b R ima gustiu i fukciju raspodele { 1 ϕ(x) = b a, x (a,b), 0, x < a, x a F(x) = 0, x / (a,b); b a, a x < b, 1, x b.

18 Ekspoecijala raspodela E(λ), λ (0, ) { 0, x < 0, ϕ(x) = λe λx, x 0 { F(x) = Normala (Gausova) raspodela N (m,σ), m,σ R, σ > 0 ϕ(x) = 1 σ (x m)2 e 2σ 2, x R; F(x) = 1 2π σ 2π 0, x < 0, 1 e λx, x 0. x (t m)2 e 2σ 2 dt. Specijalo, za m = 0 i σ = 1, vredosti fukcije raspodele N (0,1) možemo očitati iz tablica sa kraja kjige. Fukciju koja je tabeliraa obeležavamo Φ(x) = x 1 2π e x2 2 dx. PRIMER 26 Ako X : N (0,1), iz tablica fukcije Φ očitati vredosti P(X 0.55), P(X > 1), P( X < 2) i aći vredost x za koju je P(X x) = F(x) = Trasformacija slučaje promeljive Neka je X : Ω R slučaja promeljiva ad prostorom verovatoće (Ω,F, P). Neka f : R R i eka je Y = f X slučaja promeljiva. (ω Ω,Y(ω) = f (X(ω))) Ako je f eprekida fukcija, oda je Y slučaja promeljiva.

19 Obeležavamo Y = f (X). Zadatak je aći raspodelu slučaje promeljive Y kada je pozata raspodela slučaje promeljive X i fukcija f. X je diskreta slučaja promeljiva Aka je X diskreta slučaja promeljiva sa raspodelom X : diskreta slučaja promeljiva. Neka je {y 1,y 2...} skup slika za Y. Oda je zako raspodele za Y: Y : ( y1 y 2 q 1 q 2 ), gde je q i = m y i = f (xm) p m. ( x1 x 2 p 1 p 2 ), oda je Y PRIMER 27 Neka je X slučaja promeljiva koja predstavlja broj koji pade a kockici za igru. Naći raspodelu slučaje promeljive Y = (X 3) 2. ( X : ) ( , Y : ).

20 X je eprekida slučaja promeljiva Neka je X slučaja promeljiva sa gustiom raspodele ϕ X. Neka je f rastuća ili opadajuća eprekida fukcija. Oda je iverza fukcija f 1 rastuća, odoso, opadajuća fukcija. Oda je gustia za Y: ϕ Y (y) = ϕ X ( f 1 (y)) ( f 1 (y)), y Y(Ω) = f (X(Ω)). PRIMER 28 Neka X : U(0,1) i eka je Y = l X. Naći raspodelu za Y. PRIMER 29 Neka X : N (0,1) i eka je Y = ax + b, a = 0. Naći raspodelu za Y. PRIMER 30 Neka X : N (0,1) i eka je Y = X 2. Naći raspodelu za Y. PRIMER 31 Neka X : N (0.5,2). Izračuati verovatoće P(X 0.55), P(X > 1), P( X < 2) i aći vredost x za koju je P(X x) = F(x) = Dvodimezioale slučaje promeljive Kažemo da je (X, Y) dvodimezioala slučaja promeljiva, odoso dvodimezioali slučaji vektor, ad prostorom verovatoće (Ω,F, P), ako su X i Y slučaje promeljive ad (Ω,F, P).

21 Fukcija raspodele slučajog vektora (X, Y) je F(x,y) = P ({ω : X(ω) x} {ω : Y(ω) y}) = P(X x,y y). Osobie fukcije raspodele dvodimezioalog vektora 1. F(,y) = F(x, ) = 0 2. F(, ) = 1 3. F(x, y) je eprekida s desa po obe promeljive. 4. F(x, y) je eopadajuća po obe promeljive. 5. F(a < X b, c < Y d) = F(b,d) F(a,d) F(b,c) + F(a,c). Margiale raspodele slučajog vektora (X, Y) su raspodele slučajih promeljivih X i Y čije fukcije raspodele dobijamo: F X (x) = F(x, ), F Y (y) = F(,y).

22 Diskreta dvodimezioala slučaja promeljiva Neka je (X,Y) slučaji vektor ad (Ω,F, P). Neka je R (X,Y) = (X,Y)(Ω) R prebrojiv skup. Preslikavaje koje elemetima slike R (X,Y) pridružuje verovatoće (x i,y j ) p i,j defiisao: zovemo zako raspodele vektora (X, Y). p i,j = P({ω : X(ω) = x i Y(ω) = y j }) Često zako raspodele zadajemo tabelom a čijim margiama možemo izračuati verovatoće margialih raspodela. p i = j p i,j, p j = i p i,j, i, j = 1,2,... X\Y y 1 y 2 x 1 p 1,1 p 1,2 p 1 x 2 p 2,1 p 2,2 p p 1 p 2 X : ( x1 x 2 p 1 p 2 ) ( y1 y, Y : 2 p 1 p 2 ). PRIMER 32 Tri puta se baca ovčić. Neka X predstavlja broj grbova, a Y broj promea. Naći zako raspodele slučajog vektora (X, Y) i margiale zakoe raspodele.

23 Neprekida dvodimezioala slučaja promeljiva Neka je (Ω,F, P) prostor verovatoće i (X,Y) slučaji vektor sa fukcijom raspodele F(x,y). Ako postoji itegrabila fukcija ϕ(x,y) : R 2 [0, ] takva da je (x,y) R 2 F(x,y) = D x,y ϕ(u,v) dudv, gde je D x,y = (, x] (,y], kažemo da je (X, Y) eprekida dvodimezioala slučaja promeljiva i da je ϕ(x, y) jea gustia raspodele. Posledji dvostruki itegral se račua preko poovljeih (esvojstveih) itegrala: F(x,y) = x y ϕ(u, v)dv du. Osobie dvodimezioale gustie raspodele 1. Ako je ϕ(x,y) eprekida u (x,y), oda je ϕ(x,y) = 2 F(x,y) x y.

24 2. ϕ(x,y) dxdy = 1 R 2 3. P((X,Y) S) = ϕ(x,y) dxdy S Gustie margialih raspodela slučajog vektora (X, Y) su ϕ X (x) = ϕ(x,y) dy, ϕ Y (y) = ϕ(x,y) dx. Uslove raspodele Neka je (X,Y) slučaji vektor ad prostorom verovatoće (Ω,F, P) i eka je P(X S) > 0. Uslova fukcija raspodele slučaje promeljive Y X S u (Ω,F, P( X S)) je F Y X S (y) = P({ω : Y(ω) y} X S) = P(Y y, X S). P(X S)

25 Diskrete uslove raspodele Neka je dat zako raspodele diskretog slučajog vektora (X,Y). Ako je p j > 0, uslovi zako raspodele slučaje promeljive X ako je Y = y j je p(x i y j ) = p i,j /p j : ( ) x1 x 2 X Y = y j : p 1,j p 2,j p j p j ( ) y1 y 2 sličo Y X = x i : p i,1 p i,2, p(y p i p i j x i ) = p i,j p i PRIMER 33 Za diskretu slučaju promeljivu iz prethodog primera aći uslove zakoe raspodele Y X = 2 i X Y = 1. Neprekide uslove raspodele Za eprekidi slučaji vektor (X, Y) sa gustiom ϕ(x, y) fukciju raspodele slučaje promeljive Y X = x defiišemo: F Y X=x (y) = lim h 0 P(Y y x X < x + h).

26 Može se dokazati da je F Y X=x (y) = y ϕ(x, v) ϕ X (x) dv, za ϕ X(x) > 0, odoso, ϕ(y x) := ϕ(x,y) ϕ X (x) za ϕ X(x) > 0 je uslova gustia raspodele za Y X = x. PRIMER 34 X se a slučaja ači bira iz itervala (0,1). Potom se Y bira a slučaja ači iz itervala (X,1). Naći gustiu raspodele za (X,Y) i margialu raspodelu za Y. Nezavisost slučajih promeljivih Neka je (X,Y) slučaji vektor ad prostorom (Ω,F, P) sa fukcijom raspodele F(x,y) i eka su F X (x) i F Y (y) margiale fukcije raspodele. Kažemo da su X i Y ezavise slučaje promeljive ako x,y R, F(x,y) = F X (x) F Y (y). Diskrete slučaje promeljive X i Y su ezavise ako i samo ako je p i,j = p i p j za sve i, j, gde je p i,j zajedički zako raspodele za (X,Y), a p i i p j margiali zakoi raspodele. Neprekide slučaje promeljive X i Y su ezavise ako i samo ako je ϕ(x,y) = ϕ X (x) ϕ Y (y) za sve x,y, gde je ϕ(x,y) zajedička gustia, a ϕ X (x) i ϕ Y (y) margiale gustie.

27 Trasformacija dvodimezioale slučaje promeljive Posmatraćemo trasformacije R 2 R 2 i R 2 R. Diskrete slučaje promeljive Ako je (X,Y) diskreti slučaji vektor sa zakoom raspodele (x i,y j ) p i,j i trasformacija (X,Y) (U, Z) = ( f 1 (X,Y), f 2 (X,Y)), oda je zako raspodele (U, Z) : (u k,z l ) q k,l, q k,l = P(U = u k, Z = z l ) = za sve vredosti (u k,z l ) iz slike R (U,Z). Sličo ako je Z = f (X,Y). p i,j, (i,j) (u k,z l )=( f 1 (x i,y j ), f 2 (x i,y j )) PRIMER 35 Nezavise slučaje promeljive X i Y imaju istu Poasoovu raspodelu P(λ). Naći raspodelu slučaje promeljive Z = X + Y.

28 Neprekide slučaje promeljive Nalažeje raspodele trasformisae slučaje promeljive ćemo pokazati za Z = X + Y (tzv. kovolucija slučajih promeljivih X i Y). Neka je (X, Y) dvodimezioali eprekidi slučaji vektor sa gustiom raspodele ϕ(x, y). Gustia raspodele slučaje promeljive Z = X + Y je ϕ Z (z) = ϕ(z y,y) dy. PRIMER 36 Neka ( su slučaje ) promeljive X 1, X 2,..., X ezavise sa istom Berulijevom 0 1 raspodelom. Naći raspodelu slučaje promeljive Y = X 1 p p 1 + X X.

29 Numeričke karakteristike slučajih promeljivih Matematičko očekivaje Za diskretu slučaju promeljivu X : ( x1 x 2 p 1 p 2 Za eprekidu slučaju promeljivu X : ϕ(x), defiišemo E(X) = (Ako suma, odoso itegral, apsoluto kovergira.) ), defiišemo E(X) = x i p i. i=1 x ϕ(x) dx. Osobie matematičkog očekivaja 1. X = c, c = cost E(X) = c 2. Y = f (X), E(Y) = E( f (X)) = f (x i ) p i, i=1 f (x) ϕ(x) dx, X diskreta X eprekida

30 3. Z = f (X,Y), E(Z) = ( i=1 j=1 f (x i,y j ) p i,j, ) f (x,y) ϕ(x,y) dy dx, (X,Y) diskreta (X, Y) eprekida 4. E(X + Y) = E(X) + E(Y) 5. E(c X) = c E(X) 6. X i Y ezavise E(X Y) = E(X) E(Y) 7. a X b a E(X) b Disperzija (Varijasa) (Ako postoji.) D(X) = E ( (X E(X)) 2) = E ( X 2) (E(X)) 2

31 Osobie disperzije 1. X = c, c = cost D(X) = 0 2. D(X) 0 3. c = cost D(cX) = c 2 D(X), D(X + c) = D(X) 4. X i Y ezavise D(X + Y) = D(X) + D(Y) Stadarda devijacija σ(x) = D(X) Stadardizacija slučaje promeljive X = X E(X) σ(x) E(X ) = 0, D(X ) = 1

32 Medijaa P(X < Me) = P(X > Me) Modus X diskreta Mo je vredost sa ajvećom verovatoćom. X eprekida Mo je vredost za koju gustia dostiže maksimum. Mometi Običi: m k (X) = E(X k ) = xi k p i, i=1 x k ϕ(x) dx, X diskreta X eprekida Cetrali: µ k (X) = m k (X E(X)) = E ( (X E(X)) k). (Ako postoji.)

33 Numeričke karakteristike dvodimezioale slučaje promeljive Očekivaje i disperzija: E(X,Y) = (E(X), E(Y)), D(X,Y) = (D(X), D(Y)) Mešoviti mometi: m k, (X,Y) = E(X k Y ) = ( i=1 j=1 x k y ϕ(x,y) dy xi k y j p i,j, ) dx, (X,Y) diskreta (X, Y) eprekida Kovarijasa: cov(x,y) = E ((X E(X)) (Y E(Y))) = E(X Y) E(X) E(Y) Koeficijet korelacije: ρ X,Y = cov(x,y ) = cov Osobie: 1. X i Y ezavise ρ X,Y = 0 2. ρ X,Y 1 3. ρ X,Y = 1 Y = ax + b, a,b R, a = 0 ( X E(X), Y E(Y) ) E(X Y) E(X) E(Y) = D(X) D(Y) D(X) D(Y)

34 Regresija Za diskretu dvodimezioalu slučaju promeljivu (X, Y) defiišemo uslovo matematičko očekivaje za X ako je Y = y j : E(X Y = y j ) = x i p(x i y j ) = 1 i=1 p j x i p i,j i=1 Fukciju y j E(X Y = y j ) azivamo regresija X po Y, obeležavamo r 1 (y). Regresija defiiše ovu slučaju promeljivu koju obeležavamo E(X Y) = r 1 (Y), čija je raspodela: ( ) E(X Y = y1 ) E(X Y = y E(X Y) : 2 ). Važi E(E(X Y)) = E(X). p 1 p 2 Za eprekidu dvodimezioalu slučaju promeljivu (X, Y) defiišemo uslovo matematičko očekivaje za X ako je Y = y: E(X Y = y) = x ϕ(x y) dx = 1 ϕ Y (y) Fukciju y E(X Y = y) azivamo regresija X po Y, obeležavamo r 1 (y). Regresija defiiše ovu slučaju promeljivu koju obeležavamo E(X Y) = r 1 (Y). Važi E(E(X Y)) = E(X). PRIMER 37 Naći regresiju X po Y za primer 32. x ϕ(x,y) dx

35 Graiče teoreme Nejedakost Čebiševa Neka za slučaju promeljivu X postoji E(X 2 ) i eka je ε > 0. Oda P( X ε) E(X2 ) ε 2. Ako za slučaju promeljivu X postoji D(X), oda za ε > 0, P( X E(X) ε) D(X) ε 2. Primea: Ako X : B(, p), ε > 0, oda P( X p ε) Zakoi velikih brojeva p (1 p) ε 2. Ako ( je X 1, X 2 ),... iz ezavisih slučajih promeljivih sa istom Berulijevom raspodelom 0 1 i ε > 0, oda 1 p p lim P ( 1 k=1 ) X k p ε = 0. (Berulijev slabi zako velikih brojeva)

36 Za iz slučajih promeljivih X 1, X 2,... kažemo da važi ( 1 slabi zako velikih brojeva ako ε > 0, lim P jaki zako velikih brojeva ako P ( lim 1 k=1 k=1 (X k E(X k )) = 0 ) (X k E(X k )) > ε = 0, Za iz ezavisih slučajih promeljivih sa istom raspodelom i koačim očekivajem važi slabi zako velikih brojeva. (Hiči) Ako postoji kostata C > 0 tako da za iz ezavisih slučajih promeljivih X 1, X 2,... važi D(X k ) < C,k = 1,2,..., oda za taj iz važi slabi zako velikih brojeva. (Čebišev) ( ) 0 1 Za iz ezavisih slučajih promeljivih X 1, X 2,... sa Berulijevom raspodelom 1 p p ({ }) 1 važi jaki zako velikih brojeva: P ω : lim X k (ω) = p = 1. (Beruli, Borel) k=1 Za iz ezavisih, jedako raspore deih, slučajih promeljivih sa koačim očekivajem važi jaki zako velikih brojeva. (Kolmogorov) ) = 1.

37 Normala raspodela PRIMER 38 Naći očekivaje i varijasu za ormalu raspodelu N (m, σ). X : N (m,σ) X m σ : N (0,1) X i Y ezavise i X : N (m 1,σ 1 ), Y : N (m 2,σ 2 ) X ± Y : N ( ) m 1 ± m 2, σ1 2 + σ2 2 PRIMER 39 U jedoj školi težia dečaka [kg] ima raspodelu: X : N (50,2.5), a devojčice: Y : N (45,3). Na slučaja ači je odabra dečak i, ezaviso, devojčica. Kolika je verovatoća da će dečak imati barem 3 kg više od devojčice? Ako ezavise slučaje promeljive imaju raspodelu X k : N (m k,σ k ),k = 1,2,...,, oda slučaja promeljive Y = a 1 X 1 + a 2 X a X ima ormalu raspodelu N (m,σ), gde je m = a 1 m 1 + a 2 m a m i σ 2 = a 2 1 σ2 1 + a2 2 σ a2 σ 2.

38 Cetrale graiče teoreme Ako je X 1, X 2,... iz ezavisih slučajih promeljivih sa istom raspodelom čije su očekivaje i disprezija redom E(X k ) = a i D(X k ) = s 2,0 < s <, oda za svako x ( ) lim P X k E X k k=1 k=1 ( ) < x = lim P X k a k=1 s x < x = 1 e t2 2 dt, 2π D X k k=1 kažemo da za X 1, X 2,... važi cetrala graiča teorema. Ako su X 1, X 2,... ezavise, E(X k ) = a k i D(x k ) = s 2 k, i lim ( ) S p < x = p (1 p) Posledica: S : B(, p) lim P max k s 2 k k=1 s2 k x = 0, oda važi CGT. 1 2π e t2 2 dt. (Moavr-Laplas) PRIMER 40 Kolika je verovatoća da je broj grbova u 100 bacaja ovčića izme du 40 i 60? ( ) Za koačo k, ako je lim p = λ = cost, važi lim p k (1 p) k = λk k k! e λ.

39 Statistika Važe raspodele χ 2 raspodela (hi kvadrat sa stepei slobode) X : χ 2 ima gustiu ϕ(x) = x/2 1 e x/2 2 /2, x > 0, E(X) =, D(X) = 2 Γ(/2) Osobia: X : χ 2 i Y : χ 2 m ezavise, oda X + Y : χ 2 +m 0 z z (z y) ϕ(z y,y) dy = + + = /2 1 e (z y)/2 y m/2 1 e y/2 0 z 0 2 /2 Γ(/2) 2 m/2 Γ(m/2) dy = z = (+m)/2 1 e z/2 z (1 y ( y ) m/ (+m)/2 Γ(/2) Γ(m/2) 0 z )/2 1 z z dy = z (+m)/2 1 e z/2 2 (+m)/2 Γ(( + m)/2), z > 0 1 jer je za x > 0, y > 0, B(x,y) = (1 t) x 1 t y 1 Γ(x) Γ(y) dt = 0 Γ(x + y). Posledica: Ako su X 1, X 2,..., X ezavise slučaje promeljive sa ormalom N (0,1) raspodelom, oda Y = X1 2 + X X2 ima χ 2 raspodelu. Napomea: Za = 1 smo radili kao trasformaciju, za = 2 imamo E( 1 2 ).

40 t raspodela (Studetova sa stepei slobode) T : t ima gustiu ϕ(t) = Drugi zapis ϕ(t) = Γ(( + 1)/2) π Γ(/2) (1 + t 2 /) (+1)/2 ( ( 1 B 2, ) ( ) (+1)/2 ) t2 2 Osobia: Ako su X : N (0,1) i Y : χ 2 ezavise sl. prom, oda T = E(T) = 0, D(T) = 2, > 2 X Y ima t raspodelu. F m, raspodela (Fišerova sa,m stepei slobode) X : F m, ima gustiu ϕ(x) = Γ((m + )/2) mm/2 /2 Γ(m/2) Γ(/2) X : F m, E(X) = x m/2 1, za x > 0. (mx + ) (m+)/2 m 2, > 2, D(X) = 22 (m + 2) m ( 2) ( 4), > 4

41 PRIMER 41 Neka T : t 10 i Y : χ 2 4. Naći vredost za koju je: P(Y < y 1) = 0.9, P(Y > y 2 ) = 0.95, P(T < t 1 ) = 0.95, P(T > t 2 ) = 0.25, P( T < t 3 ) = PRIMER 42 Neka F : F 9,15. Naći vredost za koju je P(F > f 1 ) = 0.05 i P(F < f 2 ) = Statistika, osovi pojmovi Populacija je skup svih elemeata koje ispitujemo. Obeležje je umerička karakteristika elemeta. Modeliramo ga slučajom promeljivom. Uzorak je odabrai deo populacije a kojem ispitujemo realizovau vredost obeležja X. Prost slučaji uzorak je -dimezioala slučaja promeljiva čije kompoete su ezavise i imaju raspodelu posmatraog obeležja (X 1, X 2,..., X ). Uzoračka fukcija raspodele F(x 1, x 2,..., x ) = F(x 1 ) F(x 2 ) F(x ) Realizovae vredosti slučajih promeljivih obeležavamo malim slovima X i x i. Realizovaa vredost prostog slučajog uzorka (X 1, X 2,..., X ) (x 1, x 2,..., x ) Statistika je fukcija uzorka. Y = h(x 1, X 2,..., X ) Realizovaa vredost statistike je y = h(x 1, x 2,..., x )

42 Važe statistike Aritmetička sredia uzorka X = 1 X k k=1 E( X ) = E(X) D( X ) = D(X)/ X : N (m,σ) X : N (m,σ/ ) Uzoračka disperzija (varijasa) S 2 = 1 k X ) k=1(x 2 = 1 Xk 2 X 2 k=1 E( S ) 2 = 1 D(X) X : N (m,σ) S 2 σ 2 : χ2 1

43 Statistika X m S 1 X : N (m,σ) X m S 1 : t 1 Statistika F = X m Y kad X : χ 2 m, Y : χ 2, X i Y ezavise, ima Fišerovu F m, raspodelu Mometi Za uzorak (X 1, X 2,..., X ) defiišemo momeat reda r kao M r = 1 cetrali momeat reda r: µ r = 1 k=1 (X k X ) r Xk r, k=1

44 Itervali uzorak Itervali uzorak astaje grupisajem elemeata početog uzorka u itervale I i. Ako imamo graice itervala I i, odoso deobee tačke m i, i = 0,1,...k i broj elemeata uzorka u itervalu i: frekvecije f i, i = 1,2,...k, kažemo da je to itervali uzorak. Delimiča rekostrukcija početog uzorka srediama itervala: smatramo da imamo f i komada elemeata jedakih x i = (m i + m i 1 )/2, sredii i-tog itervala. Poekad se aketirajem podaci prikupljaju u itervali uzorak. Formule za račuaje aritmetičke sredie i stadarde devijacije itervalog uzorka sa srediama x i, i = 1,2,...,k i frekvecijama f i, i = 1,2,...,k su i=1 k x2 i f i = k f i, i=1 x = k i=1 x i f i k i=1 f i, s = k i=1 f i x 2. Primer: Aketirai su kupci o vremeu u godiama do prvog kvara a bojleru I i [0,1] (1,2] (2,3] (3,5] (5,10] (10,20] f i U tabelu dodajemo: sredie, širie itervala, kumulative i korigovae frekvecije.

45 I i [0,1] (1,2] (2,3] (3,5] (5,10] (10,20] f i x i h i f i f i Histogram i poligo Neka iterval (a, b) R sadrži sve vredosti obeležja X. Taj iterval delimo tačkama a := m 0 < m 1 < < m k =: b a k poditervala: I 1 = [m 0,m 1 ], I 2 = (m 1,m 2 ],..., I k = (m k 1,m k ]. Širia itervala I i je h i := m i m i 1, a frekvecija f i je broj elemeata u itervalu I i Nad svakim od poditervala I i, i {1,2,...,k} acrtamo pravougaoik visie f i = f i h i, gde je f i frekvecija, a h i širia i-tog itervala. Dobili smo histogram realizovaog uzorka. Neka je x i sredia itervala I i, i {1,2,...,k}. Neka je x 0 tačka a x-osi koja je od a maja za ooliko koliko je x 1 veća od a i eka je x k+1 tačka a x-osi koja je od b veća za ooliko koliko je x k maja od b. Izlomljeu liija koja polazi od x 0, prolazi kroz tačke (x i, f i h i ) i završava u tački x k+1 azivamo poligoom realizovaog uzorka.

46 Modus uzorka Modus je oa vredost obeležja X kojoj odgovara ajveća frekvecija. Ako je uzorak itervali sa itervalima iste veličie, oda se modus alazi a sledeći ači Mo = m s 1 + d r 1 r 1 +r 2 gde je I s = (m s 1,m s ) iterval sa ajvećom frekvecijom (modali iterval), d je dužia itervala, r 1 = f s f s 1 je razlika ajveće frekveije i frekvecije iz itervala koji prethodi modalom, r 2 = f s f s+1 je razlika ajveće frekvecije i frekvecije iz itervala posle modalog. Medijaa uzorka Medijaa Me je sredia uzorka, odoso to je oa vredost realizovaog uzorka za koju važi P(X < Me) = P(X > Me). Ako je uzorak eopadajući medijaa se izračuava: Me =, za eparo, odoso 1 2 (x + x 2 ( 2 +1) ) za paro. x +1 2 Ako je uzorak itervali veličie oda se medijaa račua Me = m l 1 + h 2 k l 1 l f l, gde je I l = (m l 1,m l ) medijali iterval, h l = m l m l 1 širia medijalog itervala, k l 1 = l 1 i=1 f i kumulativa frekvecija itervala I l 1 koji prethodi medijalom itervalu I l, f l frekvecija medijalog itervala. Medijali iterval I l je iterval sa ajmajom kumulativom frekvecijom većom od 2.

47 Uzoračka fukcija raspodele Uzoračka (empirijska) fukcija raspodele F obeležja X je fukcija defiisaa za svako x a sledeći ači: F (x) = N x gde je N x broj elemeata uzorka koji su maji ili jedaki od x, a je obim realizovaog uzorka. Realizovaa empirijska fukcija raspodele f je data sa f (x) = x gde je x realizovaa vredost promeljive N x a uzorku (x 1, x 2,..., x ). Kvatili (percetili) Za slučaju pormeljivu X p-ti kvatil je vredost x za koju je F(x) = p. (za percetil p/100) Vredost x za koju je F(x) = P(X x) = k/4 zovemo k-ti kvartil, Q k, k = 1,2,3. Za X : N (0,1) u R-u qorm(.25) daje prvi kvartil. porm(x) daje fukciju F(x) = Φ(x).

48 Za uzorak obeležja X Isto kao za slučaju promeljivu, samo se umesto fukcije raspodele koristi (aproksimativo) uzoračka fukcija raspodele. Iter-kvartili razmak (IQR) Mera rasutosti uzorka IQR = Q 3 Q 1, gde su Q 3 i Q 1 redom treći i prvi kvartil. Q-Q plot Crtaju se tačke u ravi. Apscise se uzimaju iz realizovae vredosti uzorka, ordiate su kvatili iz pretpostavljee raspodele. Dobijei skup tačaka treba da daje pravu liiju ako se raspodele slažu. Pri crtaju se može povući liija kvatila raspodele. U R-u: qqorm i qqlie. Box plot Box plot je kutija (pravougaoik) sa telom od prvog do trećeg kvartila, liijom preko medijae i brkovima a Q IQR i Q IQR.

49 Tačkaste ocee parametara Raspodela obeležja zavisi od (epozatog) parametra θ, kojeg ocejujemo pomoću (realizovae vredosti) uzorka. Ocea eke fukcija parametra τ(θ) je statistika U = u(x 1, X 2,..., X ) čija realizovaa vredost u(x 1, x 2,..., x ) je bliska τ(θ). Ocea U je postojaa za τ(θ) ako lim P( τ(θ) u(x 1, X 2,..., X ) > ε) = 0 za sve ε > 0. Ocea U je cetriraa za τ(θ) ako E(u(X 1, X 2,..., X )) = τ(θ), a asimptotski cetriraa ako lim E(u(X 1, X 2,..., X )) = τ(θ). PRIMER 43 Ispitati postojaost ocee X za m, obeležja X : N (m,σ). Aritmetička sredia uzorka X je cetriraa i postojaa ocea parametra koji je jedak matematičkom očekivaju obeležja. PRIMER 44 Naći cetrirau oceu parametra koji je jedak disperziji obeležja. Sredja kvadrata greška ocee U za τ(θ) je E((U τ(θ)) 2 ) = D(U) + ((E(U) τ(θ)) 2. Ako su U 1 i U 2 cetrirae ocee za τ(θ) i D(U 1 ) < D(U 2 ), kažemo da je ocea U 1 efikasija od U 2. Za eko obeležje i parametar postoji ajbolja disperzija σ0 2 koja se može postići.

50 Metod momeata Ocee parametara dobijamo iz jedačia u kojima izjedačavamo uzoračke mometa sa mometima obeležja. PRIMER 45 Metodom momeata aći ocee parametara m i σ obeležja X : N (m,σ). Metod maksimale verodostojosti Za oceu parametra θ od koga zavisi gustia raspodele ϕ(x,θ) ili zako raspodele p i = p(x i,θ) uzima se vredost θ = θ(x 1, x 2,..., x ) za koju se ostvaruje maksimum (ako postoji) fukcije verodostojosti koja se za realizovau vredost uzorka (x 1, x 2,..., x ) račua: { ϕ(x1,θ) ϕ(x L = L(x 1, x 2,..., x,θ) = 2,θ)... ϕ(x,θ), eprekido p(x 1,θ) p(x 2,θ)... p(x,θ), diskreto obeležje PRIMER 46 Naći oceu maksimale verodostojosti parametara m i σ 2 za X : N (m,σ). PRIMER 47 Naći oceu maksimale verodostojosti parametra λ obeležja X : P(λ), ispitati jeu cetriraost i postojaost.

51 Itervali povereja Za obeležje X raspodele F(x,θ), sa uzorkom (X 1, X 2,..., X ), ako su U 1 = u 1 (X 1, X 2,..., X ) i U 2 = u 2 (X 1, X 2,..., X ) statistike za koje važi P(U 1 < θ < U 2 ) = β, gde je β uapred zadat ivo povereja, oda je (U 1,U 2 ) iterval povereja širie β. Za očekivaje m obeležja X : N (m,σ), σ pozato Ako X : N (m,σ) oda X : N (m,σ/ ), odoso, oda Z = X m : N (0,1). σ Ozačimo sa z β vredost za koju je P ( ) ( ( ) ) Z < z β = β. z β = Φ 1 1+β 2 je 1+β 2 kvatil. σ σ Oda je U 1 = X z β, U 2 = X + z β. Izraz σ azivamo stadarda greška. Za očekivaje m obeležja X : N (m,σ), σ epozato Ako X : N (m,σ) oda T = X m S 1 = X m S : t 1.

52 Ozačimo sa t β vredost za koju je P ( ) T < t β. (tβ je (1 + β)/2 kvatil raspodele t 1.) S S Oda je U 1 = X t β S, U 2 = X + t β. Stadarda greška je = S PRIMER 48 Naći 90% iterval povereja za sredju vredost m obeležja sa ormalom N (m, σ) raspodelom (a) Ako je pozato σ = 3, (b) ako je σ epozato, za uzorak (17.3,12.9,10.4,11.9,9.9,8.9,9.9,6.3,12.9,9.4). ( = 10, x = 10.98, s = , z 0.9 = 1.645, t 0.9 = 1.833) > x< c(17.3, 12.9, 10.4, 11.9, 9.9, 8.9, 9.9, 6.3, 12.9, 9.4) > < 10; x< mea(x); s< sd(x); z< qorm(.95); t< qt(.95,9); > x z 3/sqrt(10) [1] > x+z 3/sqrt(10) [1] > x t s/sqrt(10) [1] > x+t s/sqrt(10) [1]

53 Za disperziju σ 2 obeležja X : N (m,σ) Ako X : N (m,σ) oda Y = S 2 σ 2 : χ2 1. Neka su y (1 β)/2 i y (1+β)/2 redom (1 β)/2 i (1 + β)/2 kvatili χ 2 1 P(y (1 β)/2 < Y < y (1+β)/2 ) = β. Oda P ( S 2 y (1+β)/2 < σ 2 < S 2 y (1 β)/2 ) = β, odoso, P ( S 2 y (1+β)/2 < σ < raspodele, odoso, S 2 y (1 β)/2 PRIMER 49 Naći 90% iterval povereja za epozatu varijasu obeležja iz primera 48. > y0< qchisq(.05,9); y1< qchisq(.95,9); # astavak iz primera 48 > 9 s^2/y1 [1] > 9 s^2/y0 [1] Za epozatu verovatoću p Ako obeležje ima Berulijevu raspodelu: X : ( p p ) = β. ), aći iterval povereja za p.

54 K p ( ) Moavr-Laplasova teorema: za K = X i, Z : N (0,1). Za z β = Φ 1 1+β p (1 p) važi ( ) ( ) K p 2 β P < z β = P K p < z 2 β = p (1 p) p (1 p) ( ) = P ( 2 + z 2 β )p2 + ( 2K z 2 β )p + K2 < 0 = P (U 1 < p < U 2 ), gde su U 1,2 rešeja kvadrate jedačie. PRIMER 50 U filmu I-origi radi se test: 25 puta se postavlja pitaje sa istom verovatoćom tačog odgovora. Kadidat 11 puta odgovara tačo. Naći 90% iterval povereja za epozatu verovatoću tačog odgovora. > < 25; K< 11; z< qorm(.95); > a< ^2+z ; b< 2 K z^2 ; c< K^2; d< b^2 4 a c; > x1< ( b sqrt(d))/2/a; x2< ( b+sqrt(d))/2/a; > x1 [1] > x2 [1]

55 Testiraje hipoteza Statistički testovi Hipoteza H 0 protiv H 1 Usvojea H 0 Usvojea H 1 Tača H 0 OK Greška I vrste Tača H 1 Greška II vrste OK Parametarske hipoteze Zadaje se prag začajosti α (recimo α = 5% = 0.05) Bira se parametar raspodele obeležja (θ). Nalazi se ocea parametra θ = h(x 1,..., x ). Nalazi se kritiča oblast C (koja daje edozvoljee vredosti) parametra, takva da je P( ˆθ = h(x 1,..., X ) C) = α. Račua se statistika uzorka θ = h(x 1, x 2,..., x ) i ako θ C, odbacujemo H 0 (i usvajamo H 1 )

56 H 0 (m = m 0 ) protiv H 1 (m = m 0 ) za X : N (m,σ), σ pozato Koristimo iterval povereja za epozato očekivaje m obeležja sa ormalom raspodelom, σ pozato, ( širie β = ) 1 α. (X : N (0,1)) σ m 0 C = R\ x z β z := x m 0 σ > zβ α := P H0 ( X > x m 0 ) σ < α H 0 (m = m 0 ) protiv H 1 (m = m 0 ) za X : N (m,σ), σ epozato Koristimo iterval povereja za epozato očekivaje m obeležja sa ormalom raspodelom, σ epozato, ( širie β ) = 1 α. (T : t 1 ) s m 0 C = R\ x t β t := x m 0 s > tβ α := P H0 ( T > x m 0 ) s < α PRIMER 51 Testirati hipotezu H 0 (m = 13) za uzorak iz zadatka 48. PRIMER 52 Testirati hipotezu H 0 (p = 1/3) za uzorak iz zadatka 50.

57 H 0 (σ 2 = σ0 2) protiv H 1(σ 2 = σ0 2 ) za X : N (m,σ) Koristimo β = 1 α iterval povereja za epozatu varijasu σ 2 obeležja sa ormalom raspodelom. s 2 < σ0 2 < s2 H 0 e odbacujemo y (1+β)/2 y (1 β)/2 Jedostrai testovi Alterativa hipoteza je H 1 (m < m 0 ) ili H 1 (m > m 0 ) ( ) Koristimo jedostrae itervale povereja sa z 1 = Φ 1 (β) umesto z β = Φ 1 1+β Za varijasu H 1 (σ 2 > σ 2 0 ) koristimo jedostrai iterval povereja ( 0, s2 kvatil koji odgovara α = 1 β za χ 2 1. y 1 β 2 ), gde je y 1 β PRIMER 53 Za uzorak iz zadatka 48 testirati hipotezu H 0 (σ 2 = 25) protiv H 1 (σ 2 > 25). > 9 s^2/y0; # astavak iz primera 48 i 49 [1] # odbacujemo hipotezu

58 Testiraje jedakosti sredjih vredosti dva obeležja H 0 (m 1 = m 2 ) protiv H 1 (m 1 = m 1 ), σ 1, σ 2 pozato, obeležja sa N (m 1,σ 1 ) i N (m 2,σ 2 ) raspodelama Koristimo statistiku Z := X 1 X 2 σ σ2 2 2 H 0 (m 1 = m 2 ) protiv H 1 (m 1 = m 2 ) (T-test) Koristimo statistiku T := X 1 X 2, gde je σ = σ koja ima N (0,1) raspodelu 1 S S , koja ima t raspodelu T-test parova Koristi se kad imamo dva obeležja sa upareim vredostima ("pre" i "posle"): x 1, x 2,..., x i y 1,y 2,...,y. Nalazimo t 1 = x 1 y 1,t 2 = x 2 y 2,...,t = x y i testiramo H 0 (m = 0) protiv H 1 (m = 0) ili H 1 (m < 0) ili H 1 (m > 0), sa σ epozato za uzorak t 1,t 2,...,t

59 Neparametarski testovi H 0 (F(x) = F 0 (x)) protiv H 1 (F(x) = F 0 (x)) χ 2 test Uzorak se grupiše u itervale I i, sa deobeim tačkama m i, i = 0,1,...k i brojem elemeata uzorka u itervalu i jedak f i, i = 1,2,...k. (Treba f i 5.) Može se pokazati da se za dovoljo veliki obim uzorka, raspodela statistike Y = k (F i p i ) 2, gde je p i = P(m i 1 < X m i ), f i realizovaa vredost F i, p i=1 i može aproksimirati χ 2 k 1 raspodelom. Ako se ocejuje s parametara, oda χ2 k 1 s. Ako realizovaa vredost statistike y > y 1 α, gde je y 1 α kvatil χ 2 raspodele sa k 1 s stepei slobode, s = broj ocejivaih parametara, odbacujemo ultu hoipotezu H 0. PRIMER 54 U Medelovim eksperimetima ukrštei pasulji su dali 315 okruglih žutih, 108 okruglih zeleih, 101 aboraih žutih i 32 aboraa zelea zra. Po jegovoj teoriji, jihov odos bi trebao biti 9:3:3:1. Da li je jegova teorija isprava? Kolika je p-vredost?

60 Tabela kotigecije χ 2 -test ezavisosti obeležja. Obeležje X uzima m mogućih vredosti, Y uzima mogućih vredosti. Formira se tabela m verovatoća izračuatih preko margialih verovatoća p i,j = p i p j, koje se dobijaju koristeći margiale frekvecije. Statistika Y = i,j slobode. (F i,j p i p j ) 2 p i p j ima približo χ 2 raspodelu sa (m 1) ( 1) stepei PRIMER 55 U tabeli su dati brojevi studeata koji su položili i pali kolokvijum kod tri asisteta. Testirati hipotezu da su proceti položeih ezavisi od asisteta. X Y Z pali položili ukupo chisq. test (matrix(c(50,5,47,14,56,8), col = 3)) # p value =

61 Test Kolmogorov-Smirov Primejujemo ga za pozatu eprekidu raspodelu Statistika koju koristimo je D = sup F (x) F(x), važi P( D λ) D(λ), za, gde je x D(λ) fukcija raspodele Kolmogorov-Smirov čiji kvatili su λ 0.95 = 1.36 i λ 0.99 = PRIMER 56 Za 100 brojeva geerisaih pseudo-slučajim geeratorom u itervalu (0, 1) testirati da li su uiformo raspore dei testom Kolmogorov-Smirov sa pragom začajosti α = Pooviti testiraje 5000 puta. Proveriti u kojem procetu slučajeva hipoteza biva odbačea. set. seed(12345); < 5000; s< umeric(); for(k i 1:){s[k]< ks.test(ruif(100), puif )$p.value}; sum(s<.05)/

62 Regresija Za slučaje promeljive X i Y defiišemo kovarijasu: i koeficijet korelacije: Osobie: cov(x,y) = E ((X E(X)) (Y E(Y))) = E(X Y) E(X) E(Y) ρ X,Y = cov(x,y ) = cov 1. cov(x, X) = D(X) =: var(x) 2. X i Y ezavise ρ X,Y = cov(x,y) = 0 ( X E(X), Y E(Y) ) E(X Y) E(X) E(Y) = D(X) D(Y) D(X) D(Y) 3. ρ X,Y 1, ρ X,Y = 1 Y = ax + b, a,b R, a = 0 4. cov( m i=1 X i, j=1 5. var( X i ) = i=1 i=1 Y j ) = m j=1 i=1 j=1 cov(x i,y j ) cov(x i, X j ) = i=1 var(x i ) i<j cov(x i, X j )

63 6. ρ X,Y = ρ X1,Y 1, gde su X 1 = a + bx i Y 1 = c + dy, za pozitive kostate a,b,c,d. Ako posmatramo dvodimezioali uzorak (X 1,Y 1 ),(X 2,Y 2 ),...,(X,Y ), odoso, za realizovau vredost (x 1,y 1 ),(x 2,y 2 ),...,(x,y ), defiišemo uzorački koeficijet korelacije: r = = 1 1 i=1 i=1 1 (x i x ) (y i ȳ ) 1 = (x i x ) 2 1 (y i ȳ ) i=1 (x i x ) (y i ȳ ) i=1 = i x ) i=1(x 2 (y i ȳ ) 2 i=1 1 1 i=1 i=1 i=1 (x i x ) 2 i=1 (x i y i ) x ȳ 1 x 2 i x 2 (x i x ) (y i ȳ ) i=1 y 2 i ȳ i=1 (y i ȳ ) 2 U R-u cov (x,y) = 1 1 i=1 (x i x ) (y i ȳ ), cor (x,y) = cov (x,y) / sd (x) / sd (y)

64 Lieara regresija ajmajih kvadrata Za parova tačaka (x 1,y 1 ),(x 2,y 2 ),...,(x,y ), tražimo vezu izme du x i y u obliku prave liije y = a + bx. Tražimo vredosti a i b za koje fukcija g(a,b) = i=1 Fukcija g je koveksa i miimum je stacioara tačka: g a = 2 (y i (a + bx i )) ( 1) = 0, i=1 Rešavaje ovog sistema po a i b daje: b = i=1 g (y i (a + bx i )) 2 ostvaruje miimum. b = 2 (y i (a + bx i )) ( x i ) = 0. i=1 (x i x ) (y i ȳ ) s = y r s x = r s y (x i x ) 2 s, a = ȳ b x, x gde su s x i s y stadarde devijacije uzorka x i y, a s x i s y korigovae stadarde devijacije. Za tako izračuate a i b fukciju ŷ = a + bx zovemo prava ajmajih kvadrata. Vredosti ŷ i = a + bx i su predikcije. Važi ŷ = ȳ. Prava ajmajih kvadrata prolazi kroz ( x,ȳ ). ss x = (x i x ) 2, ss y = i=1 i=1 i=1 (y i ȳ ) 2, s xy = (x i x ) (y i ȳ ), r = s xy ssx ss y, b = s xy i=1 ss x.

65 Sa tim ozakama imamo: s xy = r ssx ssy ss x ssy, tako de: b = r ss x Može se pokazati: Tako de: i=1 Odatle: r 2 = i=1 = r ssy ssx. (y i ȳ ) 2 = ((y i ŷ i ) + (ŷ i ȳ )) 2 = (y i ŷ ) 2 + (ŷ i ȳ ) 2. i=1 (ŷ i ȳ ) 2 = (a + bx i (a + b x )) 2 = b 2 (x i x ) 2 = b 2 ss x = r 2 ss y. (ŷ i ȳ ) 2 i=1 i=1 (y i ȳ ) 2 = i= (ŷ i ȳ ) 2 i=1 i=1 (y i ȳ ) 2 = varijasa predikcija y varijasa realizovaih y, odoso, r2 100% je proceat varijase objašjee pravom liijom ajmajih kvadrata. i=1 i=1 i=1 Vredosti ɛ i = y i ŷ i zovemo reziduali. Rezidual plot je skup tačaka (x i,ɛ i ). PRIMER 57 Napraviti scatter plot, lieari model, aći koeficijet korelacije, apraviti rezidual plot i aći proceat varijacije koji se objašjava liearim modelom za uzorak: s f Aaliza varijase ANOVA (jedofaktorska) H 0 (m 1 = m 2 = = m G ), H 1 ( i, j,m i = m j )

66 Poljoprivredi proizvo dač želi da testira kvalitet četiri vrste semea soje: A, B, C, D i u tom cilju je odabrao 30 parcela iste površie koje imaju sliča kvalitet zemljišta, dreažu i izložeost sucu. Dobijei su sledeći priosi: Seme Prios A 46,43,43,46,44,42 B 51,58,62,49,53,51,50,59 C 37,39,41,38,39,37,42,36,40 D 42,43,42,45,47,50,48 Metodom aalize varijase ispitati da li postoje razlike u prosečim priosima soje kod semea A, B, C, D sa ivoom začajosti α = > read.csv("priosi.csv")->priosi > boxplot(prios ~ seme, data = priosi) > summary(priosi) prios seme Mi. :36.00 A:6 1st Qu.:41.25 B:8 Media :43.50 C:9 Mea :45.43 D:7 3rd Qu.:49.75 Max. :62.00 > priostab<-lm(prios~seme,data=priosi)

67 Aaliza varijase Fišerovom statistikom Grupa Mereje Grupa sredia 1 Y 11 Y 12 Y 11 Ȳ 1 2 Y 21 Y 22 Y 22 Ȳ G Y G1 Y G2 Y GG Ȳ G Y gk = m g + ɛ gk, gde je m g = E(Y gk ), Treatmet: SSTR = G Error: SSE = G g g=1 k=1 g g=1 k=1 SST = SSTR + SSE, S 2 g = 1 g 1 (Ȳ g Ȳ ) 2 = G Ȳ = 1 G g g=1 k=1 g=1 g (Ȳ g Ȳ ) 2 (Y gk Ȳ g ) 2, Total: SST = G g k=1 ( 1 1) S ( 2 1) S ( G 1) S 2 G ( 1 1) + ( 2 1) + + ( G 1) Y gk = 1 g g=1 k=1 G g Ȳ g g=1 (Y gk Ȳ ) 2 (Y gk Ȳ g ) 2, SSE = G ( g 1) S 2 = g=1 G ( g 1) S 2 g g=1 G ( Ȳ g = 1 g ) g Y gk k=1 g = SSE G

68 Neka su Y gk, k = 1,2,..., g, g = 1,2,...,G ezavise slučaje promeljive sa istim očekivajem u grupi: E(Y gk ) = m g i istom varijasom D(Y gk ) = σ 2 i eka m = G g m g /. g=1 ( ) SSTR Može se dokazati da je E = σ G ( ) SSE G 1 G 1 g (m g m) 2 i E = σ 2. G g=1 Tako de važi: Ako su Y gk, k = 1,2,..., g, g = 1,2,...,G ezavise slučaje promeljive sa ormalom raspodelom Y gk : N (m g,σ), k = 1,2,..., g, g = 1,2,...,G, oda 1. SSE i SSTR su ezavise 2. SSE/σ 2 ima χ 2 G raspodelu 3. Ako m 1 = m 2 = = m G, oda SSTR/σ 2 ima χ 2 G 1 raspodelu Odatle sledi: ako MSTR = SSTR G 1 SSE MSTR i MSE = G, statistika F = MSE ima F G 1, G raspodelu > aova(priostab) Aalysis of Variace Table Respose: prios Df Sum Sq Mea Sq F value Pr(>F) seme e-09 *** Residuals

69 Permutacioi testovi Primer 1 Mereo je u sekudama vreme potrebo mišu da iza de iz lavirita. Pod uticajem leka: 30, 25, 20 i bez uticaja leka: 18, 21, 22 (kotrola grupa). Ostvarea je razlika sredjih vredosti: ( x d x c = ( )/3 ( )/3 = 4.667s. 6 3) = 20 Ako se posmatraju kao jedako verovati svih 20 ishoda izbora 3 od 6 mereja, kolika je verovatoća da je razlika sredjih vredosti veća ili jedaka od ostvaree? Testiramo H 0 : "lek ema uticaja" protiv H 1 : "lek usporava", H 0 (µ d = µ c ) H 1 (µ d > µ c ). x<-c(30, 25, 20, 18, 21, 22) id<-t(matrix(c(1,2,3,1,2,4,1,2,5,1,2,6,1,3,4,1,3,5,...),row=3)) idex<-id[1,]; observed<-mea(x[idex])-mea(x[-idex]) result<-umeric(20) for(i i 1:20) { idex<-id[i,] result[i]<-mea(x[idex])-mea(x[-idex])} sum(result >= observed)/20 Dobijea verovatoća 3/20 = 0.15 e protivreči H 0 sa pragom začajosti α = 0.05.

70 Primer 2 Osoba A tvrdi da uvek ispade grb kada baci ovčić. Da bi dokazala, bacila je ovčić 3 puta i sva tri puta je ispao grb. Kolika je verovatoća da ispade grb u 3 bacaja ovčića? Testiramo H 0 : "bacaje ovčića osobe A ima uobičajeu verovatoću" protiv H 1 : "osoba A može da baci grb svaki put". Ne odbacujemo ultu hipotezu jer 1/8 = = 12.5% ije maja od α = 0.05 = 5%. Primer 3 Posmatramo Case study Beerwigs. Variable Geder Beer Hotwigs Descriptio Male or female Ouces of beer cosumed Number of hot wigs eate ID Hotwigs Beer Geder F F M Posmatramo Hotwigs u odosu a faktor Geder. Testiramo hipotezu H 1 da M pojede više Hotwigsa od F. H 0 je da ema razlike u Hotwigs u zavisosti od Geder.

71 ID Hotwigs Beer Geder Mi. : 1.00 Mi. : 4.00 Mi. : 0.0 F:15 1st Qu.: st Qu.: st Qu.:24.0 M:15 Media :15.50 Media :12.50 Media :30.0 Mea :15.50 Mea :11.93 Mea :26.2 3rd Qu.: rd Qu.: rd Qu.:36.0 Max. :30.00 Max. :21.00 Max. :48.0 F M F M Geder Ostvarea ) vredost razlike sredjih vredosti je = 5.2. Imamo = mogućih izbora preobimo. Vršimo reuzorkovaje (resamplig). ( read.csv("beerwigs.csv")->krilca; summary(krilca) plot(hotwigs~geder,data=krilca) tapply(krilca$hotwigs,krilca$geder,mea) observed < Hotwigs <- krilca$hotwigs; N <- 9999; result <- umeric(n) for (i i 1:N) { idex<-sample(30,size=15,replace=false) result[i]<-mea(hotwigs[idex])-mea(hotwigs[-idex])} hist(result,xlab="hotwigs F - M") ablie(v=observed,col="blue") (sum(result <= observed) + 1)/(N + 1) p-value = 4e-4 α = Hotwigs Frequecy Histogram of result Hotwigs F M Vidimo da je verovatoća ovako velike razlike daleko maja od α = 0.05, odbacujemo H 0.

72 procedure TWO-SAMPLE PERMUTATION TEST(x, m,, dx) repeat Izaberi poduzorak m od m + vredosti x (bez vraćaja) Uporedi izabrau statistiku za izabraih m i preostalih vredosti util ima dovoljo uzoraka Izračuaj p-value kao proceat slučajeva u kojima je pore deje statistika dx Pomoži p-value sa 2 ako je u pitaju dvostrai test Nacrtaj histogram i ozači p-vredost (Opcioo) ed procedure Najčešće se za statistiku koristi aritmetička sredia, ali mogu i druge statistike. Ekvivaleti rezultati se dobijaju primeom rastuće fukcije a statistiku. Dodajemo 1 a brojilac i imeilac da bismo izbegli p-value = 0. Ovaj test e zahteva da uzorak ima ormalu raspodelu. Ovaj test je maje osetljiv a poduzorke ejedakih obima od t-testa (m ). Pažja!!! Uzastope primee ovog testa e daju istu p-value. Jedostrai test se primejuje ako je suprota alterativa očigledo emoguća. Odlučivaje za primeu jedostraog testa se e sme vršiti posle testiraja. Za veliko N, uzimaje uzoraka sa vraćajem i bez vraćaja daje približo iste verovatoće.

73 Tabela kotigecije Primer 4 Tabela odgovora za i protiv smrte kaze u odosu a ajviši ivo obrazovaja iz GSS2002.csv χ 2 = (ostvareo očekivao) 2 očekivao sve ćelije Educatio Favor Oppose rowsum % Bachelors Graduate HS JrColl Left HS colsum % procedure PERMUTATION TEST FOR INDEPENDENCE OF TWO VARIABLES(t 2 ) Izračuaj ostvareu χ 2 (t) repeat Permutuj a slučaja ači vrste jede koloe Izračuaj χ 2 (t) i upamti rezultat util ima dovoljo uzoraka Izračuaj p-value kao proceat slučajeva u kojima je upamćea χ 2 veća od ostvaree Nacrtaj histogram i ozači p-vredost (Opcioo) ed procedure

74 Testira se H 0 : parametri su ezavisi. read.csv("gss2002.csv")->gss2002 Educatio <- GSS2002$Educatio DeathPealty <- GSS2002$DeathPealty observed <- chisq.test(table(educatio, DeathPealty))$statistic N <- 10^4-1; result <- umeric(n) for (i i 1:N) { DP.permuted <- sample(deathpealty) GSS.table <- table(educatio, DP.permuted) result[i] <- chisq.test(gss.table)$statistic} hist(result, xlab = "chi-square statistic", mai = "Distributio"); ablie(v = observed, col = "blue") (sum(result >= observed) + 1)/(N+1) # p-value Frequecy Distributio of chi square statistic p-value = 1e-4 α = chi square statistic Kako je p-value = 1e-4 daleko maje od α = 0.05, odbacujemo H 0. Ako je H 0 tača, verovatoće pojediače ćelije (i, j) su p i,j = p i p j = rowsum a očekivae vredosti su p i,j = rowsum colsum = rowsum colsum. colsum, Ostvarea vredost χ 2 statistike je bila observed = 23.45, p-value za χ 2 test ezavisosti je 1-pchisq(observed,4) = 1.029e-4, što daje isti rezultat kao permutacioi test.

75 Permutacioi test za jedakost sredjih vredosti u više grupa (ANOVA) Primer 5 Sličo kao u prethodom primeru, možemo uraditi resamplig od (recimo) N = 10 4 permutacija vredosti priosa sa istim brojem po grupama. Oda umesto p-vredosti za ostvarei kvatil u Fišerovoj raspodeli, možemo koristiti proporciju broja vredosti Fišerove statistike koje prelaze preko ostvaree vredosti zadate raspodelom po grupama. observed <- aova(priostab)$f[1] prios <- priosi$prios <- legth(prios) N <- 10^4-1 results <- umeric(n) for (i i 1:N) { idex <- sample() priosi$prios <- prios[idex] results[i] <- aova(lm(prios~seme,data=priosi))$f[1]} (sum(results> observed) + 1) / (N + 1) # p-value Frequecy Distributio of F 3, 26 statistic p-value = 1e-4 α = α < α = 0.05 H 0 se odbacuje Histogram vredosti F statistike za permutovae priose Setimo se da je observed = i 1-pf(observed,3,26) = 5.781e-9, dobili smo isto kao sa kvatilom Fišerove statistike, H 0 se odbacuje.

76 Multipla regresija U liearoj regresiji ajmajih kvadrata smo za parove tačaka (x i,y i ),i = 1,..., tražili a i b koje za liearu zavisost y = a + bx daju miimalu sumu kvadrata reziduala. Moguće je proaći i koeficijete zavisosti y od parametara x 1,..., x p u formuli y = a + b 1 x b p x p. Može i za više zavisih promeljivih y i = a i + b i,1 x b i,p x p, i = 1,...,. Koeficijeti se ajlakše alaze matričim račuom. Mi koristimo fukcije ugra dee u R. Primer 6 Posmatramo Case study Spruce.csv, 72 zasa dea stabla praćea 5 godia. Variable Descriptio Tree Tree umber Competitio C (competitio), CR (competitio removed) Fertilizer F (fertilized), NF (ot fertilized) Ht.chage Chage (cm) i height Di.chage Chage (cm) i diameter

77 Kodiraćemo Competitio i Fertilizer brojevima: C 1 = ima kokureciju, CR 0 = ema kokureciju i F 1 = jeste dubreo, NF 0 = ije dubreo. Tree Competitio Fertilizer Ht.chage Di.chage read.csv("spruce.csv") -> Spruce lm(di.chage ~ Ht.chage + Fertilizer + Competitio, data = Spruce) Coefficiets: (Itercept) Ht.chage Fertilizer Competitio Formula za zavisost porasta prečika stabla u zavisosti od promee visie, dubreja i uištavaja kokurecije : Di.chage = Ht.chage Fertilizer Competitio