UNIVERZITET U BEOGRADU MATEMATIČKI FAKULTET

Transcription

1 UNIVERZITET U BEOGRADU MATEMATIČKI FAKULTET REGRESIJA - Seminarski rad iz Vremenskih serija i primena u finansijama - Studenti: Anica Kostić 64/2011 Mila Vukmirović 39/2011 Asistent: Bojana Milošević MAJ 2015.

2 Sadržaj 1. Svrha regresije Linearni modeli Definicija Stacionarnost Simulacije Fitovani modeli Fitovanje modela simuliranim podacima Primer indeksi potrošačkih cena Autokorelacija i ocenivanje uzoračkih statistika Uopšteni metod najmanjih kvadrata Fitovanje modela simuliranoj seriji pomodu funkcije GLS Interval poverenja za indekse potrošačkih cena Linearni modeli sa sezonskim komponentama Uvod Aditivne sezonske indikatorske slučajne veličine Primer nezaposlenost žena Prognoziranje pomodu regresije Uvod Predviđanje u R-u Harmonijski sezonski modeli Simulacije Fitovanje modela simuliranoj seriji Primer globalne prosečne temperature Logaritamske transformacije Uvod Primer vrednost izvezenih proizvoda iz SAD-a u Kinu Nelinearni modeli Uvod Primer simulacije i fitovanja nelinearnog modela Inverzna transformacija i korekcija pristrasnosti Log-normalni reziduali Empirijsko određivanje faktora korekcije za predviđanje srednjih vrednosti Literatura

3 1. SVRHA REGRESIJE Trendovi u vremenskim serijama mogu biti stohastički ili deterministički. Možemo smatrati da je trend stohastički ako na njemu vidimo promene u kretanju koje se ne mogu objasniti nekom pogodnom funkcijom vremena, a uočljive prolazne trendove pripisujemo jakoj serijskoj korelaciji sa slučajnom greškom. Trendovi ovog tipa su česti u serijama vezanim za finansije i mogu biti simulirani u R-u koristedi modele kao što su slučajno lutanje ili autoregresivni proces. S druge strane, kada imamo neko razumno fizičko objašnjenje trenda, to želimo i da iskoristimo i objasnimo trend deterministički. Na primer, deterministički rastudi trend može biti posledica porasta populacije, a neke promene koje se ciklično ponavljaju mogu nastati zbog određene sezonske komponente. Deterministički trendovi i sezonske varijacije mogu se modelovati pomodu regresije. Praktična razlika između stohastičkih i determinističkih trendova je da determinističke možemo ekstrapolirati radi prognoziranja bududeg ponašanja serije. Opravdavamo kratkoročnu ekstrapolaciju time da se trend ne može značajno promeniti u toku vremenskog intervala za koji pravimo predviđanje. Iz istog razloga, za kratkoročnu ekstrapolaciju trenda više se preporučuje aproksimacija pravom nego nekim polinomom višeg reda, i to ponekad uzimajudi u obzir samo podatke iz bliske prošlosti. U ovom radu bavimo se različitim regresionim modelima pogodnim za analizu vremenskih serija koje sadrže deterministički trend i regularne sezonske promene. Počinjemo posmatrajudi linearne modele trendova, a kasnije se upoznajemo sa regresionim modelima kojima se mogu objasniti sezonske varijacije koristedi indikatorske i harmonijske promenljive. Regresioni modeli takođe mogu uključivati i promenljive objašnjenja. Logaritamske transformacije, koje se često koriste radi stabilizacije disperzije, su takođe razmatrane. Regresija kod vremenskih serija se najčešde razlikuje od standardne regresione analize jer su reziduali, koji takođe čine jednu vremensku seriju, najčešde serijski korelisani. Kada je serijska korelacija pozitivna, ocene standardnih grešaka ocenjenih parametara, koje u R-u dobijamo primenjujudi standardni postupak za regresionu analizu, teže da budu manje od njihovih stvarnih vrednosti. Zbog toga se statističkim testovima dodeljuje veda značajnost nego što bi trebalo (p-vrednosti testova su manje nego što treba da budu) u standardnom izlazu koji se dobija u R-u. Prilikom statističke obrade podataka, važno je predstaviti ispravne statističke dokaze izvedenih zaključaka. Na primer, neka organizacija za ekološku zaštitu bi mogla biti optužena za objavljivanje trendova koji su lažno statistički značajni. U ovom radu, koristi se uopšteni metod najmanjih kvadrata kako bi se dobile popravljene ocene standardnih grešaka i kako bi se objasnila autokorelacija u vremenskoj seriji reziduala. 2

4 2. LINEARNI MODELI 2.1 Definicija Kažemo da je model vremenske serije {x t t = 1,, n} linearan ako se može napisati u obliku x t = α 0 + α 1 u 1,t + α 2 u 2,t + + α m u m,t + z t (1) gde je u i,t vrednost i-te promenljive objašnjenja u trenutku t (i = 1,, m; t = 1,, n), z t greška u trenutku t, a α 0, α 1,, α m su prametri modela, koji mogu biti ocenjeni metodom najmanjih kvadrata. Greške formiraju vremensku seriju z t, sa funkcijom srednje vrednosti koja je identički jednaka nuli, koja ne mora da bude Gausova niti beli šum. Primer linearnog modela je polinom p-tog stepena u funkciji od t. x t = α 0 + α 1 t + α 2 t α p t p + z t (2) Promenljive objašnjenja u ovom slučaju su u i,t = t i (i = 1,, p). Izraz linearan ovde se odnosi na linearnost u odnosu na parametre, a ne prediktore. Jednostavan primer linearnog modela je prava, čija se jednačina dobija zamenom p = 1 u jednačini (2): x t = α 0 + α 1 t + z t. U ovom slučaju, vrednost trenda u trenutku t, je tačka sa prave, tj. m t = α 0 + α 1 t. Za polinome višeg reda, vrednost trenda u trenutku t je vrednost polinoma iz jednačine (2) u tački t, tj. m t = α 0 + α 1 t + α 2 t α p t p. Mnogi nelinearni modeli mogu biti transformisani u linearne. Na primer model x t = e α 0+α 1 t+z t vremenske serije {x t } može biti transormisan u linearni logaritmovanjem. y t = log x t = α 0 + α 1 t + z t (3) U jednačini 3, standardnom metodom najmanjih kvadrata možemo oceniti vrednosti parametara α 0 i α 1 i napraviti predviđanja za y t. Da bismo dobili prognozu za x t, potrebno je inverzno transformisati y t, u ovom slučaju ta transformacija je exp (y t ). Međutim, ovaj metod često ima za posledicu pogrešno predviđanje srednjih vrednosti, i u odeljku 10 razmatramo mogude korekcije. Od prirodnih procesa koji generišu vremenske serije se ne očekuje da budu baš linearni, ali linearne aproksimacije su često adekvatne. Ipak nismo ograničeni samo linearnim modelima; primer nelinearnog modela bi bio tzv. Basov model koji se može dodeliti korišdenjem funkcije nls. 3

5 2.2 Stacionarnost Linearni model vremenske serije bide nestacionaran ako sadrži neke funkcije koje zavise od vremena. Diferenciranje često može transformisati nestacionarnu seriju sa determinističkim trendom u stacionarnu. Na primer, ako je x t vremenska serija koje se modeluje linijskim trendom na koji je dodat beli šum, x t = α 0 + α 1 t + z t, onda je jednom diferencirana serija zadata sa: x t = x t x t 1 = z t z t 1 + α 1 (4) Ako važi da je serija grešaka z t stacionarna, onda je i serija { x t } stacionarna, jer je funkcija srednje vrednosti konstantna i korelaciona funkcija zavisi samo od dužine vremenskog intervala. Diferenciranje može da transformiše nestacionarnu seriju sa stohastičkim trendom u stacionarnu (primer je slučajno lutanje), što znači da diferenciranje može ukloniti i stohastički i deterministički trend iz serije. Ako je trend polinom stepena m, početnu seriju treba diferencirati m puta da bi se uklonio trend. Primetimo da diferenciranjem serije predstavljene kao zbir linearnog trenda i belog šuma dobijamo drugačiju seriju od one koju bismo dobili da smo samo oduzeli trend. U ovom drugom slučaju ostaje nam samo beli šum, dok diferenciranje daje priraštaje belog šuma (što je primer MA procesa). 2.3 Simulacije Uobičajeno je da vremenska serija grešaka z t, iz jednačine (1), bude autokorelisana. Navodimo kod kojim se simulira i grafički predstavlja vremenska serija sa rastudim linearnim trendom m t = t i autokorelisanim rezidualima. set.seed(1) z <- w <- rnorm(100, sd = 20) for (t in 2:100) z[t] <- 0.8 * z[t-1] + w[t] t <- 1:100 x < * t + z plot(x, xlab = "vreme", type = "l") Model koji odgovara navedenom kodu se može izraziti kao x t = t + z t, gde je z t jedan AR(1) process zadat sa z t = 0.8 z t 1 + w t, pri čemu je w t Gausovski beli šum sa standardnim odstupanjem ς = 20. Grafik dobijene vremenske serije (u zavisnosti od vremena) prikazan je na slededoj slici: 4

6 3. FITOVANI MODELI 3.1 Fitovanje modela simuliranim podacima Linearni modeli se najčešde formiraju minimiziranjem sume kvadrata reziduala n i=1 z 2 t = n i=1 (x t α 0 α 1 u 1,t α 2 u 2,t α m u m,t ) 2, što se u R-u postiže primenom funkcije lm, na slededi način: > x.lm <- lm(x ~ t) > coef(x.lm) (Intercept) t > vcov(x.lm) (Intercept) t (Intercept) t > sqrt(diag(vcov(x.lm))) (Intercept) t Ocene parametara linearnog modela se mogu izdvojiti ekstraktorskom funkcijom coef. Primetimo da su, kao što je i očekivano, ocene bliske vrednostima parametara koje smo zadali prilikom simulacije: ocenjena vrednost za intercept (presek sa x-osom) je 58.55, što je relativno blisko broju 50, a nagib 5

7 prave (koeficijent uz t) je Standardne greške se mogu dobiti kao kvadratni koreni elemenata na glavnoj dijagonali matrice koju čine ocenjene kovarijacije između ocenjenih parametara linearnog modela. Ugrađena funkcija u R-u koja daje tu matricu je vcov, a kao argument joj se prosleđuje posmatrani linearni ili nelinearni model. Međutim, ovako dobijene vrednosti standardnih grešaka su često potcenjene zbog autokorelacije reziduala. Može se koristiti i funkcija summary za dobijanje informacija o modelu, s tim što ona vrada i dodatne informacije, npr. o t-testovima, koje mogu biti netačne za potrebe regresione analize vremenske serije, takođe zbog autokorelacije reziduala. Nakon fitovanja odgovarajudeg modela, možemo razmotriti razne dijagnostičke grafike. U slučaju regresije vremenskih serija, jedan od veoma bitnih dijagnostičkih grafika je korelogram reziduala. Autokorelacija (serijska korelacija) je korelacija između vrednosti vremenske serije u različitim vremenskim trenucima. Parcijalna autokorelacija sa kašnjenjem k je korelacija između x t i x t k nakon što je eliminisan uticaj svih elemenata između. Grafik autokorelacione funkcije naziva se korelogram, a grafik parcijalne autokorelacione funkcije parcijalni korelogram. U R-u, funkcije acf i pacf redom računaju ocenjenu (na osnovu realizovane vremenske serije) autokorelacionu, odnosno parcijalnu autokorelacionu funkciju i po default-u crtaju odgovarajude korelograme. Kao argument tim funkcijama prosleđujemo seriju reziduala, koja se iz modela izdvaja pomodu funkcije resid. acf(resid(x.lm)) pacf(resid(x.lm)) 6

8 Kao što je očekivano, sa prvog grafika vidimo da je serija reziduala autokorelisana, zato što više od 5% vrednosti izlazi van segmenta ograničenog plavim isprekidanim linijama. Drugi grafik ukazuje na to da je samo parcijalna autokorelacija sa kašnjenjem 1 značajna, što implicira da serija reziduala predstavlja AR(1) proces. Ovakav rezultat je očekivan, s obzirom da smo prilikom simulacije reziduala koristili upravo AR(1) proces. Uzgred, primetimo da acf računa korelacije za kašnjenja počevši od nule, dok pacf računa počevši od jedinice. 3.2 Primer indeksi potrošačkih cena Navešdemo primer linearog regresionog modela koji odgovara podacima o indeksima potrošačkih cena u Sjedinjenim Američkim Državama. Indeksi potrošačkih cena (Consumer Price Indexes (CPI)) definišu se kao mera prosečne promene maloprodajnih cena robe i usluga koje se koriste za ličnu potrošnju tipičnog potrošača. Koristi se za pradenje promena troškova života u vremenu. Kada CPI raste, tipično domadinstvo troši više novca da bi se održao isti nivo potrošnje, tj. životnog standarda. Pomodu CPI mogu se prepoznati periodi inflacije i deflacije. Inflacija je stanje u privredi kada opšti nivo cena raste, a stopa inflacije je procentualna promena CPI u odnosu na neki raniji period. Nagli porast vrednosti CPI u kratkom vremenskom periodu može ukazati na period inflacije, dok nagli pad ukazuje na period deflacije. Baza podataka je preuzeta sa linka koji je naveden pod rednim brojem [3] u literaturi. Sadrži vrednosti indeksa potrošačkih cena u periodu od januara do marta godine. Nakon učitavanja baze, koristimo funkciju ts koja kreira objekat klase vremenske serije i zadajemo početni i krajnji trenutak, kao i frekvenciju (frequency=12, s obzirom da su mesečni podaci u pitanju). 7

9 baza <- read.table("c:/users/mila/documents/radno/vs/seminarski/cp.txt", header=f) serija <- ts(baza, start=c(1947, 1), end=c(2015,3), frequency=12) plot(serija, xlab="vreme", ylab="cpi", main="consumer Price Index for All Urban Consumers") Sa grafika se jasno vidi da postoji rastudi deterministički trend, koji je u periodu od do oko godine rastao sporijim tempom u odnosu na naredne godine u kojima je rast bio brži, sve do današnjeg dana. Takođe, možemo uočiti skok i odmah zatim pad nivoa u godini, što je verovatno bila posledica svetske ekonomske krize. Izdvojidemo podatke od do godine kako bismo im pridružili odgovarajudi linearni model, s obzirom da su indeksi potrošačkih cena u tom periodu pratili približno linearni trend. Vreme je jedini prediktor modela, pa demp funkcijom time izdvojiti vremenske trenutke iz ts objekta. cpi <- window(serija, start=c(1980,1), end=c(2007,12)) cpi.lm <- lm(cpi ~ time(cpi)) plot(cpi, xlab="vreme", ylab="cpi", main="consumer Price Index ( )") abline(cpi.lm, lty=2, lwd=2, col='goldenrod1') 8

10 > summary(cpi.lm) Call: lm(formula = cpi ~ time(cpi)) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) e e <2e-16 *** time(cpi) 4.391e e <2e-16 *** --- Signif. codes: 0 *** ** 0.01 * Residual standard error: on 334 degrees of freedom Multiple R-squared: 0.997, Adjusted R-squared: F-statistic: 1.119e+05 on 1 and 334 DF, p-value: < 2.2e-16 Kako je Adjusted R-squared: podacima , možemo zaključiti da model gotovo savršeno odgovara > confint(cpi.lm) 2.5 % 97.5 % (Intercept) time(cpi)

11 > acf(resid(cpi.lm)) Funkcijom confint određujemo 95%-tni interval poverenja za parametre modela. Interval poverenja za nagib prave ne sadrži nulu, što predstavlja statističko objašnjenje za postojanje trenda, u slučaju da je autokorelacija reziduala zanemarljiva. Međutim, serija reziduala je pozitivno autokorelisana, što dovodi do toga su vrednosti standardnih grešaka ocenjenih parametara manje nego što bi trebalo da budu, a samim tim su i intervali poverenja uži. Ukoliko u vremenskoj seriji postoji izraženi trend, onda autokorelaciona funkcija opada od jedinice skoro linearno, kao što je slučaj u ovom primeru. U narednom odeljku je matematički objašnjeno kako pozitivna autokorelacija između uzastopnih vrednosti (koja nastaje zato što se slične vrednosti javljaju jedna za drugom) utiče na ocene standardnih grešaka u modelu. 3.3 Autokorelacija i ocenivanje uzoračkih statistika Da bismo ilustrovali uticaj autokorelacije na ocenjivanje, koristidemo uzoračku sredinu, s obzirom da se ona jednostavno određuje i analizira, a i koristi se u izračunavanjima drugih statističkih osobina. Pretpostavimo da je {x t : t = 1,, n} vremenska serija nezavisnih slučajnih veličina sa srednjom vrednošdu Ex t = μ i disperzijom Dx t = ς 2. Poznato je da tada uzoračka sredina x = 1 n matematičko očekivanje Ex = μ i disperziju Dx = ς 2, odnosno standardno odstupanje ς. n n n i=1 x i ima 10

12 Sada pretpostavimo da je {x t : t = 1,, n} stacionarna vremenska serija sa srednjom vrednošdu Ex t = μ i disperzijom Dx t = ς 2, i autokorelacionom funkcijom cor x t, x t+k = ρ k. Odredimo disperziju uzoračke srednje vrednosti u tom slučaju. n n n n Dx = D 1 n x t = 1 n 2 D x t = 1 n 2 cor x i, x j i=1 i=1 i=1 j =1 Koristedi jednakost cor n x i n, x j n n = cov x i, x j, i=1 j =1 i=1 i=1 dalje dobijamo n n Dx = 1 n 2 cov x i, x j i=1 i=1 = 1 n 2 γ 0 + γ γ n 2 + γ n 1 + γ 1 + γ γ n 3 + γ n 2 + γ n 2 + γ n γ 2 + γ 1 + γ n 1 + γ n γ 1 + γ 0 n 1 = 1 n 2 nγ (n k)γ k k=1 Pritom, koristili smo uobičajene oznake za autokovarijacionu, odnosno autokorelacionu funkciju: γ k = E (x t μ)(x t+k μ), ρ k = γ k ς 2 Kada uvrstimo γ 0 = ς 2 i ρ k = γ k ς 2, konačno se dobija n 1 Dx = ς2 n k n k=1 ρ k (5) U jednačini (5), disperzija koja je jednaka ς 2 n i koja odgovara prostom slučajnom uzorku, dobija se kao specijalni slučaj kada važi ρ k = 0 za svako k 1. Ukoliko je ρ k > 0, onda važi Dx > ς 2, što znači da de ocena za μ biti manje precizna od ocene koja se dobija na osnovu prostog slučajnog uzorka istog obima. U usprotnom, ukoliko je ρ k < 0, disperzija ocene zapravo može biti manja od disperzije koja se dobija pri prostom slučajnom uzorku istog obima. To se dešava zbog toga što postoji tendencija da se nakon vrednosti koja je iznad uzoračke sredine pojavi vrednost koja je ispod uzoračke sredine (zbog negativne korelacije), čime se obezbeđuje povedanje efikasnosti ocene uzoračke srednje vrednosti. Kod pozitivne korelacije je verovatnije da de vrednosti u kontinuitetu biti iznad, odnosno ispod uzoračke sredine, što kao posledicu ima smanjenje efikasnosti ocena uzoračke sredine. Dakle, u slučaju pozitivne korelacije, n 11

13 potreban je uzorak vedeg obima kako bi se postigao podjednak nivo preciznosti ocene za μ u poređenju sa preciznošdu ocene kada je vremenska serija negativno korelisana ili nije uopšte korelisana. 4. UOPŠTENI METOD NAJMANJIH KVADRATA U regresiji vremenskih serija uobičajeno je i očekivano da serija reziduala bude autokorelisana. Kao što je ved rečeno, u slučaju pozitivne serijske korelacije u seriji reziduala, standardne greške ocenjenih parametara imaju tendenciju da budu potcenjene, na osnovu jednakosti (5), pa bi stoga trebalo izvršiti korekciju. Uopšteni metod najmanjih kvadrata (generalised least squares (GLS)) se može koristiti za dobijanje boljih ocena standardnih grešaka parametara regresije, tako da te ocene objašnjavaju autokorelaciju reziduala. Ovaj metod se bazira na maksimiziranju verodostojnosti ukoliko je data autokorelacija podataka. Odgovarajuda funkcija u R-u se naziva gls i nalazi se u paketu nlme. 4.1 Fitovanje modela simuliranoj seriji pomoću funkcije GLS Naredni primer ilustruje upotrebu funkcije gls kojom se fituje model vremenskoj seriji simuliranoj u odeljku 2.3. > library(nlme) > x.gls <- gls(x ~ t, cor = corar1(0.8)) > summary(x.gls) Generalized least squares fit by REML Model: x ~ t Data: NULL AIC BIC loglik Correlation Structure: AR(1) Formula: ~1 Parameter estimate(s): Phi Coefficients: Value Std.Error t-value p-value (Intercept) t

14 Correlation: (Intr) t Standardized residuals: Min Q1 Med Q3 Max Residual standard error: Degrees of freedom: 100 total; 98 residual > sqrt(diag(vcov(x.gls))) # možemo i ovako da odredimo std. greške (Intercept) t Argumentom cor = corar1(0.8) precizira se da je autokorelacija sa kašnjenjem 1 jednaka 0.8 (zato što je ta vrednost korišdena prilikom simulacije podataka u odeljku 2.3). U slučaju realnih podataka, tj. neke vremenske serije koja je nastala na osnovu podataka iz prošlosti, autokorelacija sa kašnjenjem 1 se procenjuje na osnovu korelograma reziduala fitovanog linearnog modela. To znači da prvo mora da se napravi linearni model običnom metodom najmanjih kvadrata i da se, zatim, iz korelograma reziduala tog modela očita vrednost autokorelacije sa kašnjenjem 1. U navedenom primeru, standardne greške parametara modela su za presek sa x-osom i za nagib prave, tj. znatno su vede od standardnih grešaka dobijenih primenom obične metode najmanjih kvadrata (u poglavlju 3), koje su iznosile 4.88 za presek sa x-osom i za nagib. Ocene standardnih grešaka koje su dobijene pomodu gls su tačnije, zato što uzimaju u obzir serijsku korelaciju reziduala. Mogu se pročitati iz izlaza koji daje funkcija summary ili se mogu ručno odrediti naredbom sqrt(diag(vcov(x.gls))). Takođe, možemo primetiti da se ocene samih parametara dva posmatrana modela malo razlikuju, zbog ponderisanja. Na primer, nagib prave iznosi 3.06 prema lm modelu, odnosno 3.04 prema gls modelu. 4.2 Interval poverenja za indekse potrošačkih cena Da bismo odredili 95%-tni interval poverenja za trend u seriji sa indeksima potrošačkih cena, tako da serijska korelacija u seriji reziduala bude uzeta u obzir, koristimo funkciju gls. Kao argument funkcije gls navodimo da serija reziduala otprilike prati AR(1) proces sa autokorelacijom sa kašnjenjem 1 koja iznosi 0.959, što se može očitati sa korelograma iz odeljka 3.2. > acf(resid(cpi.lm))[1] # autokorelacija sa kašnjenjem 1 13

15 Autocorrelations of series resid(cpi.lm), by lag > cpi.gls <- gls(cpi ~ time(cpi), cor = corar1(0.959)) > confint(cpi.gls) 2.5 % 97.5 % (Intercept) time(cpi) Iako su intervali poverenja sada širi nego u odeljku 3.2, nula i dalje nije sadržana u intervalima, što znači da su ocene parametara statistički značajne. Stoga, postoji statistički dokaz rastudeg trenda za vrednosti CPI u periodu od do godine, i očekuje se da se takav trend nastavi u narednim godinama. 5. LINEARNI MODELI SA SEZONSKIM KOMPONENTAMA 5.1 Uvod Kako vremenske serije predstavljaju opservacije merene u toku vremena, sezonske komponente se često javljaju u podacima, posebno godišnje ciklične promene koje su direktna ili indirektna posledica kretanja Zemlje oko Sunca. U ovom odeljku demo razmatrati linearne regresione modele sa prediktorima koji opisuju efekat sezonskih promena. 5.2 Aditivne sezonske indikatorske slučajne veličine Neka vremenska serija sadrži s sezona. Na primer, kod vremenskih serija gde se podaci beleže svakog kalendarskog meseca, s = 12, odnosno kod serija kod kojih su kvartalni podaci, s = 4. Sezonski indikatorski model za seriju {x t t = 1,..., n} koja ima s sezona i trend m t, zadat je sa: x t = m t + s t + z t (6) gde je s t = β i ukoliko se trenutak t javlja u i-toj sezoni (t = 1,..., n; i = 1,..., s), a z t serija reziduala, koja može biti autokorelisana. Ovaj model ima isti oblik kao aditivna dekompozicija modela, ali se razlikuje u parametrima koji definišu trend. U jednakosti (6), m t nema slobodan član (intercept), npr. m t bi mogao da bude polinom stepena p sa koeficijentima α 1, α 2,, α p. Dakle, jednakost (6) je ekvivalentna polinomijalnom trendu u kom slobodan član zavisi od sezone, tako da sezonskim 14

16 parametrima β 1, β 2,, β s odgovara s mogudih slobodnih članova iz jednakosti (2). Jednakost (6) se drugačije može zapisati: x t = m t + β 1+( t 1 mod s) + z t (7) Na primer, za vremensku seriju x t čije su vrednosti beležene svakog meseca počevši sa t = 1 u januaru, sezonski indikatorski model sa linearnim trendom zadat je na slededi način: x t = α 1 t + s t + z t = α 1 t + β 1 + z t, α 1 t + β 2 + z t, α 1 t + β 12 + z t, t = 1,13, t = 2,14, t = 12,24, (8) Parametri modela (8) mogu se oceniti običnom ili uopštenom metodom najmanjih kvadrata, tretirajudi sezonsku komponentu kao faktor. U R-u se funkcija factor može primeniti na sezonske indekse koji iz vremenske serije mogu izdvojiti funkcijom cycle. 5.3 Primer nezaposlenost žena Ilustrovademo opisani model na primeru vremenske serije koja beleži broj nezaposlenih žena u Sjedinjenim Američkim Državama u periodu od januara do aprila godine. Baza podataka je preuzeta sa linka koji je naveden pod rednim brojem [4] u literaturi. women <- read.table("c:/users/mila/documents/radno/vs/seminarski/lnu txt", header=t) wmn <- ts(women, start=c(1948, 1), end=c(2015,4), frequency=12) plot(wmn, xlab="vreme", ylab="hiljada osoba", main="nezaposlenost žena") Na y-osi je naznačeno da ova vremenska serija prati koliko hiljada žena je nezaposleno u određenom vremenskom trenutku. Kao što možemo videti sa grafika, gledano na duže staze, deluje kao da postoji izvestan rastudi trend, što je verovatno posledica porasta broja stanovnika u SAD-u u poslednjih šezdesetak godina (s obzirom da se posmatra broj, a ne procenat, nezaposlenih). Takođe, uočava se i nagli skok u broju nezapolenih u i godini, zbog svetske ekonomske krize. Ukoliko se nacrta grafik za kradi vremenski interval, postojanje sezonske komponente je sasvim uočljivo. U okviru jedne godine, najviši je nivo nezapolenosti u letnjim mesecima (jul i avgust), a najmanji u periodu pre Nove godine (novembar i decembar) i u aprilu. 15

17 16

18 Napravidemo model (8), čiji je trend prava linija, a sezonske komponente predstavljene indikatorskim slučajnim veličinama. Potrebno je eksplicitno navesti nulu u formulaciji modela: lm(wmn ~ 0 + vreme + factor(sezone), data=wmn), da u modelu ne bi postojao slobodan član. Ukoliko bi se izostavila nula, dobijeni model bi imao slobodan član i jedan sezonski parametar manje. Parametre smo mogli da ocenimo i pomodu funkcije gls, umesto ovde korišdene lm. > sezone <- cycle(wmn) > vreme <- time(wmn) > wmn.lm <- lm(wmn ~ 0 + vreme + factor(sezone), data=wmn) > coef(wmn.lm) vreme factor(sezone)1 factor(sezone)2 factor(sezone) factor(sezone)4 factor(sezone)5 factor(sezone)6 factor(sezone) factor(sezone)8 factor(sezone)9 factor(sezone)10 factor(sezone) factor(sezone) PROGNOZIRANJE POMOĆU REGRESIJE 6.1 Uvod Bitna stavka u regresionoj analizi vremenskih serija je predviđanje bududnosti na osnovu podataka iz prošlosti. Pritom se koristi ekstrapolacija odabranog modela, tj. nalaze se vrednosti u bududim trenucima. Glavni problem ovakvog pristupa je u tome što se trend može promeniti u bududnosti. Zbog toga je bolje gledati na predviđanje, koje se bazira na regresionom modelu, kao na očekivanu vrednost pod uslovom da se trend iz prošlosti nastavlja i u bududnosti. 6.2 Predviđanje u R-u Sada demo odrediti dvadesetomesečnu prognozu bududeg broja nezposlenih žena iz primera 5.3, pomodu napravljenog modela. U narednom kodu, prvo kreiramo vremenske trenutke koji odgovaraju mesecima počev od januara do decembra a zatim odstranjujemo prva 4 meseca, zato što ved 17

19 imamo realizovane vrednosti zaključno sa aprilom i time dobijamo vektor new.t sa bududim vremenskim trenucima. Prvo navodimo ručno izračunatu prognozu: nagib prave koja predstavlja trend je alpha, dok beta čine sezonski parametri, pa su tada prognozirane vrednosti (alpha * new.t + beta). > new.t <- seq(2015, len = 2 * 12, by = 1/12)[5:24] > new.t [1] [8] [15] > alpha <- coef(wmn.lm)[1] > beta <- rep(coef(wmn.lm)[2:13], 2)[5:24] > (alpha * new.t + beta) factor(sezone)5 factor(sezone)6 factor(sezone)7 factor(sezone) factor(sezone)9 factor(sezone)10 factor(sezone)11 factor(sezone) factor(sezone)1 factor(sezone)2 factor(sezone)3 factor(sezone) factor(sezone)5 factor(sezone)6 factor(sezone)7 factor(sezone) factor(sezone)9 factor(sezone)10 factor(sezone)11 factor(sezone) Alternativno, može se koristiti generička funkcija za predviđanje u R-u, koja se naziva predict. Kao parametri joj se prosleđuju fitovani model i novi podaci (novi vremenski trenuci, u slučaju analize vremenskih serija) u kojima želimo da odredimo prognozirane vrednosti. Posebno treba obratiti pažnju na to da novi podaci budu adekvatno definisani i imenovani u okviru objekta klase data.frame. Neophodno je da kolone budu imenovane isto kao prediktori modela (vreme i sezone, u ovom primeru). U suprotnom, R de javiti grešku. > new.dat <- data.frame(vreme = new.t, sezone = c(5:12, 1:12)) > predict(wmn.lm, new.dat) Na oba načina dobijaju se iste vrednosti. 18

20 7. HARMONIJSKI SEZONSKI MODELI U prethodnim odeljcima za svaku sezonu ocenjivali smo po jedan parametar. Ipak, sezonski efekat često varira tokom sezona glatko, pa bi bilo efikasnije, što se tiče broja parametara za ocenjivanje, posmatrati neke glatke funkcije sa manje parametara koje bi odjednom ocenile sezonski efekat za sve sezone. Sinusna i kosinusna funkcija mogu biti korišdene kao glatke ocene sezonske varijacije. Sinusni talas frekvencije f, amplitude A, i faze φ može biti, korišdenjem adicionih formula, zapisan na slededi način: A sin 2πft + φ = α s sin 2πft + α c sin 2πft (9) gde su α s = A cos φ i α c = A sin φ. Izraz sa desne strane jednakosti je linearan po parametrima α s i α c, dok leva strana nije linearna jer se φ nalazi unutar sinusne funkcije. Iz tog razloga izraz sa desne strane je poželjan za definisanje regresionog modela sezonske komponente, a parametre α s i α c ocenjujemo metodom najmanjih kvadrata. Za vremensku seriju {x t } sa s sezona postoji [s/2] mogudih ciklusa. Harmonijski sezonski model definišemo sa: [s/2] x t = m t + {s i sin 2πit/s + c i sin 2πit/s } i=1 (10) gde je m t trend koji uključuje slobodan član, a c i i s i su takođe nepoznati parametri. Trend možemo oceniti polinomom kao u jednačini (2). Ako je s paran broj, vrednost sinusne funkcije za frekvenciju 1/2 (kada je i = s/2 u sumi u jednačini (10)) de biti nula za sve vrednosti t, pa taj sabirak nestaje. Dakle, maksimalni broj parametara harmonijskog sezonskog modela koje treba oceniti je jednak broju parametara za sezonski model iz jednačine (6). Na prvi pogled može biti čudno kako harmonijski model ima cikluse frekvencije vede u odnosu na sezonsku koja je 1/s. Dodavanje dodatnih harmonika ima ulogu da izmeni talas kako bismo imali realističniji model u odnosu na običan sinusni talas perioda s. Svakako, komponenta perioda s bi trebalo da bude dominantna. Neka je, na primer, data mesečna vremenska serija. Nacrtademo dva grafika; na prvom je sezonska komponenta sinusni talas perioda 12, a na drugom smo u skladu sa prethodnim razmatranjem sinusnom talasu perioda 12 koji je u osnovi, dodali još dva harmonika, frekvencija 2 /12 i 4/12. Navedeni kod ilustruje jednu od bezbroj mogudnosti kombinovanja harmonika, koje može da posluži za modelovanje širokog spektra mogudih sezonskih pravilnosti. TIME <- seq(1, 12, len = 1000) plot(time, sin(2 * pi * TIME/12), type = "l") plot(time, sin(2 * pi * TIME/12) * sin(2 * pi * 2 * TIME/12) * sin(2 * pi * 4 * TIME/12) * cos(2 * pi * 4 * TIME/12), type = "l") 19

21 7.1 Simulacije U skladu sa modelom datim u jednačini (10) navodimo jedan konkretan primer vremenske serije x t = t t 2 + sin 2πt/ sin 4πt/ sin 8πt/ cos 8πt/12 + w t (11) gde je {w t } Gausov beli šum sa standardnom devijacijom 0.5. Ovaj harmonijski model ima sezonsku komponentu koja je ved grafički prikazana na prethodnoj slici, a za trend smo izabrali kvadratnu funkciju. Ovu seriju demo sada simulirati i nacrtati grafik. set.seed(1) TIME <- 1:(10 * 12) w <- rnorm(10 * 12, sd = 0.5) 20

22 Trend < * TIME * TIME^2 Seasonal <- sin(2*pi*time/12) + 0.2*sin(2*pi*2*TIME/12) + 0.1*sin(2*pi*4*TIME/12) + 0.1*cos(2*pi*4*TIME/12) x <- Trend + Seasonal + w plot(x, type = "l", xlab="time") 7.2 Fitovanje modela simuliranoj seriji Radi preglednosti, sve mogude harmonike iz jednačine (10) možemo staviti da budu komponente matrice. SIN <- COS <- matrix(nr = length(time), nc = 6) for (i in 1:6) { COS[, i] <- cos(2 * pi * i * TIME/12) SIN[, i] <- sin(2 * pi * i * TIME/12) } U vedini slučajeva red harmonika i polinomijalni trend su nepoznati. Pretpostavljamo da su koeficijenti harmonika nezavisne slučajne veličine, tako da u slučaju da dobijemo vrednosti koeficijenata koje nisu statistički značajne, te prediktore, možemo isključiti iz linearnog modela. x.lm1 <- lm(x ~ TIME + I(TIME^2) + COS[, 1] + SIN[, 1] + + COS[, 2] + SIN[, 2] + COS[, 3] + SIN[, 3] + COS[, 4] + 21

23 + SIN[, 4] + COS[, 5] + SIN[, 5] + COS[, 6] + SIN[, 6]) > summary(x.lm1) Call: lm(formula = x ~ TIME + I(TIME^2) + COS[, 1] + SIN[, 1] + COS[, 2] + SIN[, 2] + COS[, 3] + SIN[, 3] + COS[, 4] + SIN[, 4] + COS[, 5] + SIN[, 5] + COS[, 6] + SIN[, 6]) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) 1.558e e TIME 5.392e e I(TIME^2) 9.951e e < 2e-16 *** COS[, 1] 1.908e e SIN[, 1] 9.015e e < 2e-16 *** COS[, 2] e e SIN[, 2] 2.025e e *** COS[, 3] 1.350e e SIN[, 3] e e COS[, 4] 1.328e e SIN[, 4] 6.131e e COS[, 5] e e SIN[, 5] 5.063e e COS[, 6] e e SIN[, 6] 1.080e e Signif. codes: 0 *** ** 0.01 * Residual standard error: on 105 degrees of freedom Multiple R-squared: , Adjusted R-squared: 0.99 F-statistic: on 14 and 105 DF, p-value: < 2.2e-16 Na osnovu izlaza funkcije summary vidimo da su jedino statistički značajni parametri uz prediktore TIME^2, SIN[, 1] i SIN[, 2]. Ovi parametri korišdeni su za slededi model. > x.lm2 <- lm(x ~ I(TIME^2) + SIN[, 1] + SIN[, 2]) > coef(x.lm2)/sqrt(diag(vcov(x.lm2))) (Intercept) I(TIME^2) SIN[, 1] SIN[, 2] Sada su svi parametri statistički značajni. Model koji smo dobili je slededi: x t = t sin 2πt/ sin 4πt/12 (12) Za poređenje ova dva modela možemo koristitii AIC (Akaike Information Criterion). 22

24 > AIC(x.lm1) [1] > AIC(x.lm2) [1] Kao što je očekivano, drugi model ima manju vrednost AIC, i zato predstavlja bolji model za našu seriju. Zbog komponente greške, stvarni model na osnovu kog je simulirana serija nede biti najbolji mogudi model u smislu vrednosti AIC, što se lako može proveriti nalaženjem AIC vrednosti simuliranog modela, za koju se ispostavlja da je 153, što je vede od malopre dobijenog > AIC(lm(x ~ TIME +I(TIME^2) +SIN[,1] +SIN[,2] +SIN[,4] +COS[,4])) [1] U R-u postoji algoritam step koji automatski pravi izbor najboljeg mogudeg modela u smislu vrednosti AIC tako što od početnog modela postepeno pravi najbolji model izbacivanjem po jednog (najmanje značajnog) prediktora u svakom koraku. Za navedeni primer, odgovarajuda komanda bi bila step(x.lm1), tj. kao prvi model treba proslediti onaj model koji sadrži sve prediktore. 7.3 Primer globalne prosečne temperature Baza podataka je preuzeta sa linka koji je naveden pod rednim brojem [5] u literaturi. Podaci predstavljaju globalne prosečne mesečne temperature u periodu od januara do decembra godine. Ova vremenska serija se koristi za proučavanje globalnog zagrevanja čije su posledice na naš svet ogromne. Najizraženiji je rast u periodu od do godine, pa demo izdvojiti seriju u tom vremenskom periodu radi daljeg proučavanja. Nakon učitavanja baze, koristimo funkciju ts koja kreira objekat klase vremenske serije i zadajemo početni i krajnji trenutak, kao i frekvenciju. Kako je vreme (niz svih trenutaka u kojima su vršena merenja) dato u godinama, pri formiranju matrice sa vrednostima sinusa i kosinusa nije potrebno deliti sa 12. Nakon formiranja te matrice standardizovali smo vreme da bismo smanjili greške izračunavanja u linearnom modelu koje su posledica velikih vrednosti te promenljive. www<-" Global<-scan(www) Global.ts<-ts(Global,start=c(1856,1),end=c(2005,12),fr=12) time(global.ts) plot(global.ts) 23

25 temp<-window(global.ts, start=c(1970,1),end=c(2005,12)) plot(temp) > SIN <- COS <- matrix(nr = length(temp), nc = 6) > for (i in 1:6) { + COS[, i] <- cos(2 * pi * i * time(temp)) + SIN[, i] <- sin(2 * pi * i * time(temp)) + } > TIME <- (time(temp) - mean(time(temp)))/sd(time(temp)) > mean(time(temp)) [1] > sd(time(temp)) [1] > temp.lm1 <- lm(temp ~ TIME + I(TIME^2) + + COS[,1] + SIN[,1] + COS[,2] + SIN[,2] + + COS[,3] + SIN[,3] + COS[,4] + SIN[,4] + 24

26 + COS[,5] + SIN[,5] + COS[,6] + SIN[,6]) > summary(temp.lm1) Call: lm(formula = temp ~ TIME + I(TIME^2) + COS[, 1] + SIN[, 1] + COS[, 2] + SIN[, 2] + COS[, 3] + SIN[, 3] + COS[, 4] + SIN[, 4] + COS[, 5] + SIN[, 5] + COS[, 6] + SIN[, 6]) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) 1.664e e <2e-16 *** TIME 1.843e e <2e-16 *** I(TIME^2) 8.673e e COS[, 1] 6.402e e SIN[, 1] 2.050e e * COS[, 2] 1.065e e SIN[, 2] 1.667e e COS[, 3] 5.541e e SIN[, 3] 3.413e e COS[, 4] 4.699e e SIN[, 4] 1.445e e COS[, 5] 2.724e e SIN[, 5] 3.012e e COS[, 6] e e SIN[, 6] e e Signif. codes: 0 *** ** 0.01 * Residual standard error: on 417 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 14 and 417 DF, p-value: < 2.2e-16 Na osnovu izlaza funkcije summary vidimo koji su prediktori značajni, a zatim pravimo drugi model koji uključuje samo one statistički značajne promenljive iz prvog modela. > temp.lm2 <- lm(temp ~ TIME + SIN[, 1] + SIN[, 2]) > summary(temp.lm2) Call: lm(formula = temp ~ TIME + SIN[, 1] + SIN[, 2]) Residuals: Min 1Q Median 3Q Max Coefficients: 25

27 Estimate Std. Error t value Pr(> t ) (Intercept) <2e-16 *** TIME <2e-16 *** SIN[, 1] * SIN[, 2] Signif. codes: 0 *** ** 0.01 * Residual standard error: on 428 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 3 and 428 DF, p-value: < 2.2e-16 Funkcijom AIC poredimo dva dobijena modela. > AIC(temp.lm1) [1] > AIC(temp.lm2) [1] Još jedan način da se proveri adekvatnost drugog modela je ispitivanjem serije reziduala. Ako je potreban polinom višeg stepena za ocenu trenda, grafik serije reziduala de imati krivolinijski oblik. Na osnovu korelograma serije reziduala možemo da ocenimo da li je ta serija autokorelisana. plot(time(temp), resid(temp.lm2), type = "l") abline(0, 0, col = "red") acf(resid(temp.lm2)) pacf(resid(temp.lm2)) Sa grafika serije reziduala možemo da zaključimo da se oni ponašaju slučajno, pa je linearni model trenda odgovarajudi. Ako primetimo da serija reziduala ima tendenciju da se zadržava ispod ili iznad x-ose, to je znak pozitivne autokorelisanosti serije. Na osnovu korelograma zaključujemo da je serija reziduala autokorelisana. 26

28 Vrednosti funkcije parcijalne autokorelacije sa kašnjenjem 1 i 2 su statistički značajne što upuduje na to da je odgovarajudi model za seriju reziduala AR(2) model. Primenom funkcije ar, kojom fitujemo AR model, došli smo do istog zaključka i pritom ocenili parametre ovog modela. > res.ar <- ar(resid(temp.lm2), method = "mle") > res.ar$ar [1] > acf(res.ar$res[-(1:2)]) > sd(res.ar$res[-(1:2)]) [1] Korelogram reziduala fitovanog AR(2) modela dat je na slededoj slici, odakle je jasno da oni približno čine beli šum. 27

29 Ovaj krajnji model ima slededi oblik t 1988 x t = sin 2πt sin 4πt sin 8πt/12 + z t (13) gde je t vreme mereno u godinama, a {z t } serija reziduala koju smo objasili AR(2) modelom z t = 0.494z t z t 2 + w t (14) i {w t } je beli šum sa srednjom vrednosti 0 i standardnom devijacijom Radi tačnijih ocena standardne greške potrebno je koristiti funkciju gls i pretpostaviti AR(2) strukturu serije reziduala pošto su pretpostavke o nekorelisanosti reziduala kod linearnog modela narušene. 8. LOGARITAMSKE TRANSFORMACIJE 8.1 Uvod Model vremenske serije {x t } koji ima oblik x t = m t s t z t (15) gde je m t trend, s t sezonska komponenta, a z t serija greške, je multiplikativni model. Logaritmovanjem ove jednačine multiplikativni model svodimo na aditivni za novu seriju {y t } 28

30 y t = log x t = log m t + log s t + log z t = m t + s t + z t (16) Ako su još m t i s t linearne funkcije, parametri u jednačini (16) mogu biti ocenjeni metodom najmanjih kvadrata. Logaritmovanje je mogude izvršiti samo ako su sve vrednosti serije {x t } pozitivne. 8.2 Primer vrednost izvezenih proizvoda iz SAD-a u Kinu Baza podataka je preuzeta sa linka koji je naveden pod rednim brojem [6] u literaturi. Podaci predstavljaju ukupnu vrednost (u američkim dolarima) dobara koja se izvoze u Kinu na mesečnom nivou, od januara do aprila godine. VGC<-read.table("C:/Users/Anica/Desktop/vs/VGC.txt",header=TRUE) VGC.ts<-ts(VGC, start=c(1992,1),end=c(2015,3),freq=12) plot(vgc.ts,ylab="") plot(log(vgc.ts)) 29

31 Na osnovu prvog grafika možemo da pretpostavimo da serija ima približno eksponencijalni trend. Na kraju i početku godine vidimo veliki pad u količini izvoza, što je posledica svetske ekonomske krize. Takođe primedujemo da i varijabilnost podataka raste sa vremenom. U ovakvim situacijama pogodno je nastaviti ispitivanje na logaritmovanoj seriji, jer kao što vidimo na drugom grafiku, logaritmovanje je stabilizovalo disperziju za koju sada možemo da pretpostavimo da je konstantna tokom vremena. Ovoj seriji demo sada dodeliti harmonijski sezonski model i polinomijalni trend. SIN <- COS <- matrix(nr = length(vgc.ts), nc = 6) for (i in 1:6) { COS[, i] <- cos(2 * pi * i * time(vgc.ts)) SIN[, i] <- sin(2 * pi * i * time(vgc.ts)) } TIME <- (time(vgc.ts) - mean(time(vgc.ts)))/sd(time(vgc.ts)) VGC.lm1 <- lm(log(vgc.ts) ~ TIME + I(TIME^2) + I(TIME^3) + I(TIME^4) + SIN[,1] + COS[,1] + SIN[,2] + COS[,2] + SIN[,3] + COS[,3] + SIN[,4] + COS[,4] + SIN[,5] + COS[,5] + SIN[,6] + COS[,6]) > summary(vgc.lm1) Call: lm(formula = log(vgc.ts) ~ TIME + I(TIME^2) + I(TIME^3) + I(TIME^4) + SIN[, 1] + COS[, 1] + SIN[, 2] + COS[, 2] + SIN[, 3] + COS[, 3] + SIN[, 4] + COS[, 4] + SIN[, 5] + COS[, 5] + SIN[, 6] + COS[, 6]) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) 2.437e e < 2e-16 *** TIME 1.337e e < 2e-16 *** I(TIME^2) 1.733e e e-07 *** I(TIME^3) e e < 2e-16 *** I(TIME^4) e e e-08 *** SIN[, 1] e e e-09 *** COS[, 1] e e e-07 *** SIN[, 2] e e e-07 *** COS[, 2] e e ** SIN[, 3] e e e-09 *** COS[, 3] e e * SIN[, 4] e e e-06 *** COS[, 4] e e SIN[, 5] e e

32 COS[, 5] e e SIN[, 6] 3.443e e COS[, 6] e e Signif. codes: 0 *** ** 0.01 * Residual standard error: on 262 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: 1018 on 16 and 262 DF, p-value: < 2.2e-16 Na osnovu izlaza funkcije summary vidimo koji su prediktori značajni, a zatim pravimo drugi model koji uključuje samo one statistički značajne promenljive iz prvog modela. VGC.lm2<-lm(log(VGC.ts) ~ TIME + I(TIME^2) + I(TIME^3) + I(TIME^4) + SIN[,1] + COS[,1] + SIN[,2] + COS[,2] + SIN[,3] + COS[,3] + SIN[,4] ) > summary(vgc.lm2) Call: lm(formula = log(vgc.ts) ~ TIME + I(TIME^2) + I(TIME^3) + I(TIME^4) + SIN[, 1] + COS[, 1] + SIN[, 2] + COS[, 2] + SIN[, 3] + COS[, 3] + SIN[, 4]) Residuals: Min 1Q Median 3Q Max Coefficients: Estimate Std. Error t value Pr(> t ) (Intercept) < 2e-16 *** TIME < 2e-16 *** I(TIME^2) e-07 *** I(TIME^3) < 2e-16 *** I(TIME^4) e-08 *** SIN[, 1] e-08 *** COS[, 1] e-07 *** SIN[, 2] e-07 *** COS[, 2] ** SIN[, 3] e-09 *** COS[, 3] * SIN[, 4] e-06 *** --- Signif. codes: 0 *** ** 0.01 * Residual standard error: on 267 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: 1477 on 11 and 267 DF, p-value: < 2.2e-16 Funkcijom AIC poredimo dva dobijena modela. 31

33 > AIC(VGC.lm2) [1] > AIC(VGC.lm1) [1] Dakle, drugi model je bolji. Proveravamo njegovu adekvatnost. > acf(resid(vgc.lm2)) Korelogram reziduala ukazuje na postojanje pozitivne autokorelacije. Zbog toga pravimo odgovarajudi AR model za seriju reziduala. > ar(resid(vgc.lm2))$ar [1] [7] [13] > VGC.ar=ar(resid(VGC.lm2)) > acf(vgc.ar$res[-(1:14)]) 32

34 Ukoliko bi na korelogramu reziduala fitovanog AR(14) modela samo autokorelacija sa kašnjenjem 1 bila značajna, onda bismo mogli da smatramo da novodobijeni reziduali čine beli šum. Ipak, uočavamo da su i autokorelacije sa kašnjenjem 11, odnosno 12, statistički značajne, što znači da ovaj model nije uspeo da u potpunosti objasni sezonske varijacije u podacima. To može zvučati čudno, s obzirom da smo fitovali potpuni harmonijski sezonski model. Međutim, sezonski efekti mogu biti stohastički, baš kao i trend, a harmonijski model koji smo upravo koristili je deterministički. 9. NELINEARNI MODELI 9.1 Uvod Kao što je ved rečeno u odeljku 2, linearni modeli se mogu primeniti na širok spektar vremenskih serija. Međutim, za neke serije je zgodno direktno odrediti nelinearni model, umesto korišdenja logaritamskih transformacija ili aproksimiranja polinomom. Na primer, ako je poznato da je serija nastala kao realizacija nelinearnog procesa, koji se bazira na nekom determinističkom naučnom zakonu, onda bi bilo bolje koristiti tu informaciju za pri formulaciji modela i podacima direktno fitovati nealinearni model. Nelinearni model se u R-u može fitovati pomodu funkcije nls, koja se zasniva na metodi najmanjih kvadrata. U prethodnom odeljku smo zaključili da prirodni logaritam serije može da stabilizuje disperziju. Sa druge strane, korišdenje logaritama može napraviti komplikacije kada serija sadrži negativne vrednosti, zato što 33

35 logaritam nije definisan za negativne vrednosti. Jedan način za prevazilaženje ovog problema je dodati neku pozitivnu konstantu svim članovima serije. Dakle, ako x t sadrži negativne vrednosti, dodavanjem konstante c o za koju je c 0 > max{ x t } sve vrednosti postaju pozitivne, pa je logaritmovana serija {log(x t + c 0 )} dobro definisana. Linearni model (npr. sa pravolinijskim trendom) bi onda mogao da se dodeli transformisanoj seriji i time bismo dobili model x t = c 0 + e α 0+α 1 t+z t (17) gde su α 0 i α 1 parametri linearnog modela, a {z t } serija reziduala grešaka koja može biti autokorelisana. Glavni problem ovog pristupa koji vodi do modela opisanog jednačinom (17) je to što bi c 0 trebalo da bude ocenjeno kao bilo koji drugi parametar modela, dok se u praksi ta konstanta često bira proizvoljno tako da zadovoljava uslov c 0 > max { x t }. Ako postoji sumnja da neka serija odgovara modelu (17), a nema dokaza o tome da je komponenta greške multiplikativni faktor, onda bi konstanta c 0 trebalo da bude ocenjena zajedno sa drugim parametrima koristedi nelinearnu metodu najmanjih kvadrata, to jest fitujemo slededi model x t = c 0 + e α 0+α 1 t + z t (18) 9.2 Primer simulacije i fitovanja nelinearnog modela Kako se nelinearni modeli koriste uglavnom kada je pomenuta nelinearna funkcija poznata, simulirademo nelinearnu seriju baziranu na jednačini (18) gde je c 0 = 0, i uporedidemo stvarne vrednosti parametara sa njihovim ocenama dobijenim funkcijom nls. U narednim redovima simuliramo pomenutu seriju s tim što seriju grešaka opisujemo AR(1) modelom, a odgovarajudi grafik dat je na slici. set.seed(1) w <- rnorm(100, sd = 10) z <- rep(0, 100) for (t in 2:100) z[t] <- 0.7 * z[t - 1] + w[t] Time <- 1:100 f <- function(x) exp( * x) x <- f(time) + z plot(x, type = "l") abline(0, 0) 34

36 Kao što vidimo na slici, serija eksponencijalno raste, tako da je logaritmovanje dobar izbor, ali pošto serija sadrži negativne vrednosti to ne možemo odmah da uradimo pa je potrebno fitovati nelinearni model dat jednačinom (18). U R-u se kao argument funkcije nls zadaje poznati oblik nelinearne funkcije u zavisnosti od parametara. Početne vrednosti parametara se moraju precizirati i navode se u okviru liste. > x.nls <- nls(x ~ exp(alp0 + alp1 * Time), start = list(alp0 = 0.1, alp1 = 0.5)) > summary(x.nls)$parameters Estimate Std. Error t value Pr(> t ) alp e-29 alp e-78 Dobijene vrednosti parametara α 0 i α 1 su bliske stvarnim vrednostima koje su korišdene za simuliranje serije, ali treba imati u vidu da su standardne greške njihovih ocena potcenjene zbog postojanja autokorelacije u seriji reziduala. 10. INVERZNA TRANSFORMACIJA I KOREKCIJA PRISTRASNOSTI 10.1 Log-normalni reziduali Kao što je ved najavljeno u odeljku 2.1, predviđanja koja se dobijaju primenjivanjem eksponencijalne funkcije na predviđanja logaritmovane serije kojoj smo dodelili odgovarajudi model, često dovodi do pogrešno ocenjenih srednjih vrednosti. 35