ARMA modely čast 3: zmiešané modely (ARMA) Beáta Stehlíková Časové rady, FMFI UK ARMA modely časť 3: zmiešané modely(arma) p.1/30

Prepis

1 ARMA modely čast 3: zmiešané modely (ARMA) Beáta Stehlíková Časové rady, FMFI UK ARMA modely časť 3: zmiešané modely(arma) p.1/30

2 ARMA modely - motivácia I. Odhadneme ACF a PACF pre dáta a nepodobajú sa ani na AR, ani na MA proces Chceli by sme skúsit skombinovat AR a MA členy ARMA modely časť 3: zmiešané modely(arma) p.2/30

3 ARMA modely - motivácia II. Majme stacionárny a invertovatel ný proces: AR(p) MA(q) ACF(τ) nenulová 0 pre τ > q PACF(τ) 0 pre τ > p nenulová AR( ) reprezentácia konečný súčet nekonečný súčet MA( ) repr. (Wold) nekonečný súčet konečný súčet Žiadny z týchto modelov nepripúšt a možnost, že sa ani ACF, ani PACF nevynuluje po konečnom počte členov Na to by sme potrebovali proces s nekonečnou AR aj MA reprezentáciou Túto vlastnost majú zmiešané ARMA modely (zmiešané = AR aj MA členy) ARMA modely časť 3: zmiešané modely(arma) p.3/30

4 VII. Model ARMA(1,1) ARMA modely časť 3: zmiešané modely(arma) p.4/30

5 ARMA(1,1) - definícia Nech u t je biely šum, definujeme x t = δ+αx t 1 +u t βu t 1, pričom α β. Proces x t sa potom nazýva ARMA(1,1) proces. Zápis pomocou operátora posunu L: (1) (x t αx t 1 ) = δ+(u t βu t 1 ) (1 αl)x t = δ+(1 βl)u t ARMA modely časť 3: zmiešané modely(arma) p.5/30

6 ARMA(1,1) - Woldova repr. a stacionarita Vyjadríme z (1) proces x t : (2) x t =(1 αl) 1 δ+(1 αl) 1 (1 βl)u t Vieme, že(1 αl) 1 existuje, ak α <1avtomto prípade platí: (1 αl) 1 =1+αL+α 2 L Dosadíme do (2): x t = δ/(1 α)+(1+αl+α 2 L )(1 βl)u t = δ/(1 α)+u t +(α β)u t 1 +α(α β)u t teda vo Woldovej reprezentácii ψ 0 =1,ψ 1 = α(α β),ψ 2 = α 2 (α β),...,ψ k = α k (α β),... Podmienka stacionarity α <1sa dá zapísat aj tak, že koreň polynómu1 αl musí byt mimo jednotkového kruhu ARMA modely časť 3: zmiešané modely(arma) p.6/30

7 ARMA(1,1) - k podmienke α β Máme Woldovu reprezentáciu): x t = δ/(1 α)+(1+αl+α 2 L )(1 βl)u t = δ/(1 α)+u t +(α β)u t 1 +α(α β)u t Ak by bolo α=β, tak x t = δ/(1 α)+u t, teda náš proces je iba konštanta + biely šum ARMA modely časť 3: zmiešané modely(arma) p.7/30

8 ARMA(1,1) - invertovatel nost Vyjadríme z (1) proces bieleho šumu u t, aby sme dostali proces x t vyjadrený pomocou jeho starších hodnôt + aktuálnej hodnoty bieleho šumu: δ+(1 αl)x t = (1 βl)u t (1 βl) 1 δ+(1 βl) 1 (1 αl)x t = u t Vieme, že inverzný operátor(1 βl) 1 existuje, ak β <1 Táto podmienka invertovatel nosti sa dá zapísat aj tak, že koreň polynómu1 βl musí byt mimo jednotkového kruhu ARMA modely časť 3: zmiešané modely(arma) p.8/30

9 ARMA(1,1) - zhrnutie Pripomeňme si proces (1): (1 αl)x t = δ+(1 βl)u t Podmienka stacionarity: koreň polynómu1 αl je mimo jednotkového kruhu závisí teda iba od AR časti procesu Podmienka invertovatel nosti: koreň polynómu1 βl je mimo jednotkového kruhu závisí teda iba od MA časti procesu ARMA modely časť 3: zmiešané modely(arma) p.9/30

10 VIII. Model ARMA(p,q) ARMA modely časť 3: zmiešané modely(arma) p.10/30

11 ARMA(p,q) - definícia Nech u t je biely šum, definujeme x t = δ+α 1 x t α p x t p +u t β 1 u t 1... β q u t q, tento proces sa potom nazýva ARMA(p,q) proces. Zápis pomocou operátora posunu L: (1 α 1 L...α p L p )x t = δ+(1 β 1 L... β q L q )u t (3) α(l)x t = δ+β(l)u t pričom požadujeme, aby polynómy α(l), β(l) nemali spoločný koreň (podrobnejšie o tejto podmienke neskôr) ARMA modely časť 3: zmiešané modely(arma) p.11/30

12 ARMA(p,q) - Woldova repr., stacionarita Z rovnice (3) vyjadríme x t : α(l)x t = δ+β(l)u t x t = α(l) 1 δ+α(l) 1 β(l)u t Potrebujeme α(l) 1 β(l): α(l) 1 β(l) = ψ 0 +ψ 1 L+ψ 2 L β(l) = α(l)(ψ 0 +ψ 1 L+ψ 2 L ) (1 β 1 L... β q L q ) = (1 α 1 L...α p L p ) (ψ 0 +ψ 1 L+ψ 2 L ) Roznásobíme a porovnáme koeficinety pri L j ARMA modely časť 3: zmiešané modely(arma) p.12/30

13 ARMA(p,q) - Woldova repr., stacionarita Pre koeficinety ψ j Woldovej reprezentácie dostaneme: diferenčnú rovnicu ψ k α 1 ψ k 1... α p ψ k p =0 začiatočné podmienky Kvôli konvergencii radu φ 2 j musia byt korene charakteristického polynómu λ p α 1 λ p 1...α p =0 vnútri, t.j. korene α(l)=0mimo jednotkového kruhu ARMA modely časť 3: zmiešané modely(arma) p.13/30

14 ARMA(p,q) - invertovatel nost Z rovnice (3) vyjadríme u t : α(l)x t = δ+β(l)u t β(l)u t = δ+α(l)x t u t = β(l) 1 δ+β(l) 1 α(l)x t Toto sa dá spravit, ak existuje inverzný operátor β(l) 1, čo je vtedy, ked korene β(l)=0sú mimo jednotkového kruhu ARMA modely časť 3: zmiešané modely(arma) p.14/30

15 ARMA(p,q) - momenty Stredná hodnota: µ: x t = δ+α 1 x t α p x t p +u t β 1 u t 1... β q u t q µ=δ+α 1 µ+...+α p µ µ= Variancia, autokovariancie - nech δ=0: δ 1 α 1... α p x t = α 1 x t α p x t p +u t β 1 u t 1... β q u t q / x t s, E[.] γ(s) = α 1 γ(s 1)+...+α p γ(s p) +E[u t x t s ] β 1 E[u t 1 x t s ]... β q E[u t q x t s ] ARMA modely časť 3: zmiešané modely(arma) p.15/30

16 ARMA(p,q) - momenty Pre s > q sú všetky stredné hodnoty E[u t x t s ],E[u t 1 x t s ],...,E[u t p x t s ] nulové pre s > q s > p (lebo na použitie nasledujúcej diferenčnej rovnice potrebujeme aspoň p začiatočných hodnôt) máme diferenčnú rovnicu pre autokovariancie: (4) γ(s)=α 1 γ(s 1)+...+α p γ(s p) ACF - vydelením (4) varianciou γ(0) dostaneme diferenčnú rovnicu pre autokorelácie ρ(s), s >max(p,q): (5) ρ(s)=α 1 ρ(s 1)+...+α p ρ(s p) - rovnaká diferenčná rovnica ako pre proces bez MA časti, začiatočné pomienky však MA koeficienty obsahujú ARMA modely časť 3: zmiešané modely(arma) p.16/30

17 Príklad: ARMA(1,1) Podrobnejší výpočet pre ARMA(1,1) Stredná hodnota µ: x t = δ+αx t 1 +u t βu t 1 / E[.] µ = δ+αµ+0 µ= δ 1 α Variancia, autokovariancie - pre δ=0: x t = αx t 1 +u t βu t 1 / x t s, E[.] E[x t x t s ] = αe[x t 1 x t s ]+E[u t x t s ] βe[u t 1 x t s ] (6) γ(s) = αγ(s 1)+E[u t x t s ] βe[u t 1 x t s ] Stredná hodnota E[u t x t s ] je nenulová len pre s=0, E[u t 1 x t s ] je nenulová len pre s=0apre s=1 ARMA modely časť 3: zmiešané modely(arma) p.17/30

18 Príklad: ARMA(1,1) Konkrétne hodnoty E[u t x t s ] a E[u t 1 x t s ] vypočítame z Woldovej reprezentácie x t s = u t s +(α β)u t s a +α(α β)u t s Dostaneme: E[u t x t s ]= { σ 2 preτ=0 0 preτ=1,2,3,... E[u t 1 x t s ]= a dosadíme do (6). (α β)σ 2 preτ=0 σ 2 preτ=1 0 preτ=2,3,... ARMA modely časť 3: zmiešané modely(arma) p.18/30

19 Príklad: ARMA(1,1) Nakoniec z (6) dostaneme pre s=0, s=1: s=0 γ(0)=αγ(1)+σ 2 β(α β)σ 2 s=1 γ(1)=αγ(0) βσ 2 sústava 2 rovníc s 2 neznámymi, jej riešením je γ(0) = 1+β2 2αβ 1 α 2 σ 2,γ(1)= (α β)(1 αβ) 1 α 2 σ 2 (7) Pre s = 2, 3,... dostaneme rekurentný predpis pre d alšie γ(s): γ(s)=αγ(s 1) ARMA modely časť 3: zmiešané modely(arma) p.19/30

20 Príklad: ARMA(1,1) Pre s=2,3,... máme γ(s) = αγ(s 1) ρ(s) = αρ(s 1) / 1 γ(0) tá istá diferenčná rovnica pre ACF, ako by bola pre proces bez MA časti ale s inou začiatočnou podmienkou - zo vzt ahu (7) máme - závisí aj od MA časti ρ(1)= γ(1) γ(0) =(α β)(1 αβ) (1+β 2 2αβ) ARMA modely časť 3: zmiešané modely(arma) p.20/30

21 PACF PACF počítame rovnako ako predtým pomocou determinantov: (8) Φ kk = det det 1 ρ(1)... ρ(1) ρ(1) 1... ρ(2) ρ(k 1) ρ(k 2)... ρ(k) 1 ρ(1)... ρ(k 1) ρ(1) 1... ρ(k 2) ρ(k 1) ρ(k 2)... 1 Príklad: pre ARMA(1,1) proces dosadzujeme ρ(k)=α k 1 ρ(1), ρ(1)= (α β)(1 αβ) (1+β 2 2αβ) ARMA modely časť 3: zmiešané modely(arma) p.21/30

22 Príklad - vypočítaná ACF a PACF NEPLATÍ, že ACF(k)=0pre k > q a PACF(k)=0pre k > p (minulé roky častá chyba pri komentovaní ACF, PACF), príklad ARMA procesu: ARMA modely časť 3: zmiešané modely(arma) p.22/30

23 Príklad - reálne dáta [Kirchgässner, Wolters], example 2.15 USA, marec august 2003 USR t = 3-mesačná úroková miera ARMA modely časť 3: zmiešané modely(arma) p.23/30

24 Príklad - reálne dáta Odhadnutý model pre diferencie premennej USR: ARMA modely časť 3: zmiešané modely(arma) p.24/30

25 Príklad - reálne dáta Otázky k výstupu: Je odhadnutý model stacionárny? Je invertovatel ný? "The autocorrelogram of the estimated residuals... not provide any evidence of a higher order process" - vysvetlite "...the Box-Ljung Q statistic, which is calculated for this model with 12 autocorrelation coefficients (i.e. with 10 degrees of freedom)..." sformulujte nulovú hypotézu, ktorá sa tu testuje zdôvodnite počet stupňov vol nosti aký je záver testu? ARMA modely časť 3: zmiešané modely(arma) p.25/30

26 ARMA(p,q) - spoločné AR a MA korene Pripome ˇme si definíciu ARMA(p,q) procesu: (1 α 1 L... α p L p )x t = δ+(1 β 1 L... β q L q )u t α(l)x t = δ+β(l)u t pričom požadujeme, aby polynómy α(l), β(l) nemali spoločné korene Prečo nemôžu mat polynómy α(l), β(l) spoločné korene? Zovšeobecnenie toho, že pre ARMA(1,1) musí byt α β, inak máme triviálny proces "konštanta + biely šum" ARMA modely časť 3: zmiešané modely(arma) p.26/30

27 ARMA(p,q) - spoločné AR a MA korene Uvažujme "ARMA(2,2)" proces (1 α 1 L α 2 L 2 )x t = δ+(1 β 1 L β 2 L 2 )u t, kde 1 α 1 L α 2 L 2 = (1 γl)(1 γ 1 L) 1 β 1 L β 2 L 2 = (1 γl)(1 γ 2 L) t.j. AR a MA polynómy majú spoločný koreň γ Potom sa proces dá zapísat nasledovne: (1 γl)(1 γ 1 L)x t = δ+(1 γl)(1 γ 2 L)u t (1 γ 1 L)x t = (1 γl) 1 δ+(1 γ 2 L)u t teda je to ARMA(1,1), a nie ARMA(2,2) model Prakticky - ak dostaneme vel mi blízky AR a MA koreň, treba namiesto ARMA(p,q) skúsit ARMA(p-1,q-1) model ARMA modely časť 3: zmiešané modely(arma) p.27/30

28 ARMA(p,q) - príklad PRÍKLAD: ARMA(1,2) model pre diferencie zlogaritmovaných cien kakaa (dáta z predchádzajúcej kapitoly): ARMA modely časť 3: zmiešané modely(arma) p.28/30

29 ARMA(p,q) - príklad Kontrola rezíduí: ARMA modely časť 3: zmiešané modely(arma) p.29/30

30 ARMA(p,q) - príklad CVIČENIE: Vypočítajte korene AR a MA časti procesu Dostaneme: AR koreň je bízko jedného z MA koreňov Mali by sme teda namiesto ARMA(1,2) skúsit ARMA(0,1) = MA(1) model, a ten naozaj na minulej prednáške vyšiel ako dobrý model pre tieto dáta ARMA modely časť 3: zmiešané modely(arma) p.30/30