IS2010_C_05

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

  Efortul de calcul al MCMMP cu modelul AR este susţinut, deoarece aît numărul datelor

măsurate cît şi numărul de parametri au valori mari (pentru a asigura o precizie suficientă). Reducerea Reducerea efortului efortului de de calcul calcul prin prin metode metode alternative alternative de de identificare identificare..

Obiectiv

Metoda Yule-Walker-Wiener

Algoritmul Levinson-Durbin

Algoritmul -Durbin ((ALD) ALD) Algoritmul Levinson Levinson-Durbin Ideea Ideea lui lui N. N. Levinson Levinson ((1947) 1947)

EEstimarea stimarea parametrilor ţi şşii aa dispersiei parametrilor necunoscu necunoscuţi dispersiei zgomotului zgomotului alb alb se înd la se poate poate realiza realiza apel apelînd la un un algoritm algoritm recursiv recursiv,, pe pe baza baza propriet ăţilor remarcabile proprietăţilor remarcabile ale ale matricilor matricilor de de tip tip Toeplitz Toeplitz simetrice simetrice..

• Se pleacă tot de la sistemul Yule-Walker-Wiener, în care se folosesc următoarele notaţii (pentru a pune în evidenţă indicele de recurenţă – ordinul modelului AR):

{aˆ N , p ,i }i1, p  Parametrii estimaţi din N date măsurate, pentru modelul AR[p]. θˆ N , p  Vectorul parametrilor estimaţi din N date măsurate,

p 1, na ˆ 2N , p

pentru modelul AR[p].  Dispersia estimată a zgomotului alb din N date măsurate, pentru modelul AR[p].

Pentru -Walker-Wiener de ţiile Pentru aa rezolva rezolva sistemul sistemul Yule Yule-Walker-Wiener de ordin ordin na na,, se se vor vor reactualiza reactualiza succesiv succesiv solu soluţiile sistemelor -Walker-Wiener de înd de sistemelor Yule Yule-Walker-Wiener de ordine ordine inferioare inferioare,, plec plecînd de la la sistemul sistemul de de ordin ordin 11..  Matricile ă rolul n acest Matricile de de tip tip Toeplitz Toeplitz simetrice simetrice joac joacă rolul principal principal îîn acest scenariu scenariu..

109

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin Propozi ţia 55 ((proprietatea proprietatea de ţă la ăsturnare aa matricilor Propoziţia de invarian invarianţă la rrăsturnare matricilor simetrice simetrice de de tip tip Toeplitz Toeplitz)) Fie A   nn o matrice simetrică de tip Toeplitz asociată operatorului liniar A

: n  n .

n Se notează prin R :    izomorfismul spaţiului  care realizează inversarea totală n

n

a ordinii elementelor oricărui vector din  n : def

def

R ( x )  x  [ xn xn 1  x1 ]T ,  x  [ x1 x2  xn ]T   n . operaţia de răsturnare a Atunci operatorii A şi R comută. Mai precis: vectorilor R R A  R  R A  Ax   Ax .

Demonstra ţie Demonstraţie

R

Exerciţiu Exerciţiu

Matricea ă aa Matricea caracteristic caracteristică ăsturnare operatorului operatorului de de rrăsturnare

0 def 0 J   1

Propozi ţia 55 Propoziţia Exerciţiu Exerciţiu Matricea ăsturnare Matricea de de rrăsturnare coincide ă. coincide cu cu propria propria sa sa invers inversă.  Aceea şi proprietate Aceeaşi proprietate ca ca aa matricii matricii unitare unitare..

   

AJ  JA JAJ  A

0 1  0

1 0    nn   0

diagonala secundară  Analogie ţie cu Analogie de de nota notaţie cu cea ă. cea din din geometria geometria plan plană.

 j 0

 i

2

 Diagonalele ă matrici Diagonalele celor celor dou două matrici sunt sunt geometric geometric perpendiculare perpendiculare..

110

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin



Sistemul -Walker-Wiener Sistemul Yule Yule-Walker-Wiener

 a r [1]    a r [ na ]     ry [0]   ry [1]  ry [1]  ry [ na  1]   a1    ry [0]       ry [0]  ry [ na  2]  a2  ry [2]    ry [1]                      ry [ na  1] ry [ na  2]  ry [0]   ana   ry [ na ]   1 y

 na y

2

exprimare matricială compactă

Proprietate ă de Proprietate remarcabil remarcabilă de imbricare imbricare

 ryN [0]  N  ry [1]    N  ry [ p] 

ryN [1]



 ryN [0]    R N,p   N  ry [ p  1] 

R N , p1   ryN [0]  ryN [ p  1]   R    N , p   N N   r [ p  1]  ry [0]  y    ryN [ p]  ryN [1] 

R N , p1

 1  ryN [ p]  aˆ N , p ,1  ˆ 2N , p        0     N  ry [1]          N   ry [0]   0      aˆ N , p , p 

 p 1, na

 1  ryN [ p]   aˆ N , p ,1  ˆ 2   N,p   N ry [ p  1]      0               ryN [0]       0    ˆ  aN , p , p 

 p 1, na

θˆ N , p vectorul parametrilor extins cu valoarea unitară

Se ţie recurent ă de Se va va deduce deduce oo rela relaţie recurentă de forma: forma:

θˆ N , p

θˆ N , p 1   N , p 1 θˆ RN , p 1     ˆ2    0 1 N , p 1    

 p  2, na coeficient de adaptare ce trebuie determinat Aceast ă proprietate mpreună cu ţia 55,, va Această proprietate,, îîmpreună cu Propozi Propoziţia va permite permite exprimarea ţiei curente n func ţie de ţia precedent ă. curente îîn funcţie de solu soluţia precedentă. exprimarea solu soluţiei 111

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin



  r [0]    N   r [ p  1]  y  ryN [ p]  N y

 r [ p  1]     ryN [0]    ryN [1] N y

 1  r [ p]  aˆ N , p ,1   ˆ 2N , p        0     ryN [1]           ryN [0]      0     aˆ N , p , p   p 1, na N y

  ryN [0]  ryN [ p  1]   R    N , p   N N   r [ p  1]  ry [0]  y    ryN [ p]  ryN [1] 

R N , p1

Noul şteneşte matricea Noul sistem sistem mo moşteneşte matricea sistemului sistemului curent curent,, dar ă cu ţia sistemului cu solu soluţia sistemului precedent. precedent. dar opereaz operează

 Noul Noul sistem sistem nu nu este este echivalent echivalent cu cu sistemele sistemele curent curent sau sau precedent. precedent.  Prin ăsturnarea celor Prin rrăsturnarea celor 22 vectori vectori,, matricea matricea sistemului ămîne neschimbat ă. neschimbată. sistemului rrămîne Propozi ţia 55 Propoziţia   ryN [0]  ryN [ p  1]   R   N,p   N   r N [ p  1]   ry [0]   y  ryN [ p]  ryN [1] 

R N , p1

 1   aˆ   ˆ 2  N  N p , 1,1   N , p 1  ry [ p]     0     ˆ   θ     N N , p 1    ry [1]     0      ryN [0]     aˆ N , p 1, p 1    N , p 1   0     p  2, na

vectorul anterior al parametrilor, extins cu valoarea nulă

Factor ţie necesar Factor de de corec corecţie necesar pentru pentru ca ca sistemul ă fie sistemul ssă fie compatibil compatibil.. def

N N N  0  ˆ ˆ   r [ p ]  a r [ p  1]    a r [1] ,  1 ,  1,1 ,  1,  1 N p y N p y N p p y  aˆ    N , p 1 ryN [ p]  N , p 1, p 1    Dacă p=na+1, această ecuaţie aproximează următoarea    0     ˆR ecuaţie extrasă din sistemul Yule-Walker-Wiener:     θ   N N , p 1   ry [1]      r [ p ]  a r [ p  1]    a   0   y 1 y p 1 ry [1]  0  N    ry [0]   2   aˆ N , p 1,1   ˆ N , p 1  Factorul ţie are Factorul de de corec corecţie are  1    amplitudini n ce  p  2, na amplitudini din din ce ce îîn ce mai mai mici mici..

•

112

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin Aşadar Aşadar   ryN [0]      r N [ p  1]  y N   ry [ p]

 ryN [ p  1]     ryN [0]  

1 

ryN [1]

Dispunem ă sisteme Dispunem de de dou două sisteme echivalente echivalente..

 1   aˆ  ˆ2  N N p  , 1,1    N , p 1  ry [ p ]    0          N    ry [1]     0      ryN [0]     aˆ N , p 1, p 1   N , p 1   0   

  ryN [0]  ryN [ p  1]        N   r N [ p  1]   [0] r y   y N N  ry [ p ]  ry [1] 

2

 p  2, na

 p  2, na

Factorul Factorul de de corecţie corecţie din din primul primul sistem sistem poate poate fifi anulat anulat folosind folosind al al doilea doilea sistem sistem..

 0   aˆ    N   , 1, 1 N p p   N , p 1  ry [ p]    0            N    ry [1]      0     2 ryN [0]     aˆ N , p 1,1   ˆ N , p 1   1   

1    aˆ   ˆ2     ryN [0]  ryN [ p  1] ryN [ p ]  N , p 1,1   N , p 1    0                   r N [ p  1]     ryN [0]  ryN [1]     0   y    r N [ p]  ryN [1] ryN [0]     y   aˆ N , p 1, p 1   N , p 1      0  

1

 p  2, na

–

 N , p 1 ˆ 2 N , p 1

x

 0  aˆ   N , p 1    ryN [0]  ryN [ p  1] ryN [ p ]  N , p 1, p 1        0                 N N N   r [ p  1]    ry [0]  ry [1]     y    0    ryN [ p ]   2  ryN [1] ryN [0]      aˆ N , p 1,1   ˆ N , p1   1   

1      N , p  1  aˆ aˆ N , p 1, p 1   N , p 1,1   2N , p 1  2 N N N ˆ  ˆ 2  N , p 1   ry [0]  ry [ p  1] ry [ p]   N , p 1  ˆ 2        N , p 1               N N   0   r N [ p  1]    ry [0]  ry [1]     y   aˆ N , p 1, p 1  2N , p 1 aˆ N , p 1,1     N N ˆ     ryN [ p]  [1] [0] r r  N , p  1 y y      0   N , p 1    Matricea Matricea sistemului sistemului este este  2   ˆ  p  2, na  aceea ş i î n ambele ecua ţ ii . N , p  1 aceeaşi în ambele ecuaţii.  

2

 p  2, na

113

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin Rezult ă Rezultă

Solu ţia recurent ă aa sistemului -Walker-Wiener Soluţia recurentă sistemului Yule Yule-Walker-Wiener

 N , p 1  ryN [ p]  aˆ N , p 1,1 ryN [ p  1]    aˆ N , p 1, p 1 ryN [1]

 N , p 1   ˆ ˆ a  a N p  N p  p  , 1,1 , 1, 1   ˆ 2N , p 1    aˆ N , p ,1               aˆ N , p , p 1   aˆ N , p 1, p 1  2N , p 1 aˆ N , p 1,1  ˆ N , p 1      aˆ N , p , p     N , p 1    2 ˆ    N , p 1 DA 

ˆ 2N , p

ˆ ˆR ˆθ  θ N , p 1    N , p 1 θ N , p 1  N,p ˆ2  0   N , p 1  1  Este dispersia corect estimată?

2  N , p 1  ˆ 2N , p 1  2 ˆ

Mai Mai mult mult

N , p 1

Propozi ţia 66 ((corectitudinea corectitudinea solu ţiei recurente ) Propoziţia soluţiei recurente) În contextul definit de ecuaţiile recurente ale lui Levinson, cantitatea:

N , p

  ˆ 2N , p 1  2 ˆ N , p 1

def

este nenegativă.

 p  2, na

2 N , p 1

0  ˆ 2N , p

2    N , p 1 2 2 ˆ   N , p 1 1  4   ˆ N , p 1  ˆ N , p 1 

 Cu ît modelul Cu ccît modelul devine devine mai mai complex, complex, cu ît el cu at atît el devine devine mai mai precis precis ..

 p  2, na

114

Metode de identificare şi validare . Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((ALD) ALD) Algoritmul Levinson Levinson-Durbin Date Date de de intrare intrare



DN  { y[ n]}n1, N (setul de date măsurate la ieşirea procesului auto-regresiv) na (ordinul modelului auto-regresiv)

Ini ţializare Iniţializare N N N  ă valorile ţei de -covarian ţă aa datelor  Se Se evalueaz evaluează valorile secven secvenţei de auto auto-covarianţă datelor:: ry [0] ry [1]  ry [ na ]

 ă parametrii  Se Se estimeaz estimează parametrii modelului modelului de de ordin ordin 1: 1: Bucl ă iterativ ă Buclă iterativă

ryN [1] def ˆ aˆ1,1   N  θ1 ry [0]

Modelul Modelul este este stabil stabil..

2 ˆ 12  ryN [0] 1  aˆ1,1 

Propozi ţia 66 Propoziţia

  Pentru Pentru p  2, na



1  ă ccîştigul: îştigul: k p   2 ryN [ p]  aˆ p 1,1 ryN [ p  1]    aˆ p 1, p 1 ryN [1]  Se Se evalueaz evaluează ˆ p 1



kp 1

ˆ  ˆR    θ θ p p 1  1  ă vectorul  Se Se reactualizeaz reactualizează vectorul curent curent al al parametrilor parametrilor:: θˆ p     kp    0   1  2 ˆ2 ˆ2 ţii de  ă dispersia Coeficienţii de reflexie reflexie  Se Se reactualizeaz reactualizează dispersia zgomotului zgomotului alb: alb:  p   p 1 1  k p   Coeficien din din cadrul cadrul Algoritmului Algoritmului ˆθ Parametrii estima ţ i ai modelului AR[na ] . Parametrii estimaţi ai modelului AR[na]. Sch ür-Cohn. na Schür-Cohn. Date de ie ş ire Date de ieşire Dispersia ă aa zgomotului ˆ 2na Dispersia estimat estimată zgomotului alb. alb. 115

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Algoritmul -Durbin ((continuare) continuare) Algoritmul Levinson Levinson-Durbin Performan ţele ALD Performanţele ALD  Algoritmul este extrem de eficient, deoarece se evită inversarea explicită a matricii sistemului. Exerciţiu Exerciţiu

• Să se proiecteze un algoritm de inversare a matricilor simetrice de tip Toeplitz, folosind ALD.

Înmulţiri Înmulţiri

Adun ări Adunări

Calculul -covarianţelor Calculul auto auto-covarianţelor

 ( na  1)(2 N  na  2)    2 

 ( na  1)(2 N  na )    2 

Estimaţia Estimaţia iniţială iniţială

3

1

Procesul Procesul iterativ iterativ

( na  1)(na  4)

 na( na  1)(3na  1)    2 

Efortul Efortul de de calcul calcul

 ( na  1)( na  2 N  10)   ( na  1)( na  2 N  2)  O ~ Total Total ALD      2 2  

Exemplul Exemplul 11 N  1000 na  30 (off-line)

O MCMMP ~  495625   O MYWW ~ 70515   O ALD ~  31590      493795

 69120

  31434 

Exemplul Exemplul 22 N  10 na  10 (on-line)

O MCMMP ~ 1625   O MYWW ~ 1605   O ALD ~  210     1415

 1440 

 Efortul ăzut sensibil n special n cazul ării adaptive, Efortul de de calcul calcul aa sc scăzut sensibil,, îîn special îîn cazul identific identificării adaptive, ccînd înd ordinul ăsură. ordinul modelului modelului este este comparabil comparabil cu cu dimensiunea dimensiunea orizontului orizontului de de m măsură.

 154 

116

Metode de identificare şi validare . Identificarea şi predicţia proceselor autoregresive

Aplicaţii Aplicaţii Predicţia optimală a proceselor auto-regresive

Estimarea spectrală prin modelare auto-regresivă

Predicţia ă optimală Predicţia optimal EEstimarea stimarea valorilor şirii unui ăsură, valorilor ie ieşirii unui proces proces stocastic stocastic dincolo dincolo de de orizontul orizontul de de m măsură, cu ajutorul unui model de identificare. Obiectiv cu ajutorul unui model de identificare.

• Notaţii specifice:

P    Margine de predicţie: număr ales plecînd de la anumite caracteristici ale procesului stocastic.

N  1, N  P  Orizont de predicţie (dincolo de orizontul de măsură).

Mp

p 1, P  Predictor: model matematic determinat în scopul predicţiei cu deplasamentul p.  Modelul ăsurate  Modelul de de identificare identificare determinat determinat folosind folosind datele datele m măsurate  Convenþie Convenþie poate poate fifi de de asemenea asemenea un un predictor. predictor. def

y p [ N  p | DN ]  Valoarea predictată cu deplasamentul p (la momentul N+p),

M (θ )  M 0

folosind datele achiziţionate pe orizontul de măsură.

 Predictori ţi pentru Predictori eventual eventual diferi diferiţi pentru deplasamente deplasamente diferite diferite..

y0 [ N  p | DN ]  Valoarea predictată cu deplasamentul p (la momentul N+p), folosind modelul de identificare.

117

Metode de identificare şi validare . Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală def

[ p]  y[ N  p]  y p [ N  p | DN ]

Eroare Eroare de de predicţie predicţie cu cu pp paşi paşi  ÎÎn n cazul cazul general, general, pentru pentru fiecare fiecare pas ţie se pas de de predic predicţie se va va utiliza utiliza un un predictor predictor proiectat proiectat special. special. def

Caz Caz particular particular M (θ )  M 0

ieşirea măsurată

 p 1, P

ieşirea predictată (prognozată)

def

0 [ p]  y[ N  p]  y0 [ N  p | DN ]

 p 1, P

Erorile ţie pot Erorile de de predic predicţie pot fifi evaluate evaluate cu cu ajutorul ajutorul unui unui singur singur predictor: predictor: cel cel dat dat de de modelul modelul de de identificare identificare..

Problema ţiei optimale Problema predic predicţiei optimale

Se cere determinarea unui set de predictori {Mˆ p } p1, P cu ieşirile { yˆ p } p1, P , care să fie optimali în sensul minimizării dispersiei erorii de predicţie:

E



2



2

 y[ N  p]  yˆ p [ N  p | DN ]

E  y[ N  p]  yˆ p [ N  p | DN ] 

  E

 y[ N  p]  y p [ N  p | DN ]

2

,

 p 1, P

(faţă de alţi predictori {M p } p1, P cu ieşirile { y p } p1, P );

  y[ N  p]  y [ N  p | D ]  , E

2

0

N

 p 1, P

(faţă de predictorul de identificare).

Eroare ă de Eroare optimal optimală de predicţie predicţie cu cu pp paşi paşi

def

ˆ[ p ]  y[ N  p ]  yˆ p [ N  p | DN ]

 p 1, P

118

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală Cum poate fi rezolvată problema predicţiei optimale? În ă, problemei În forma forma original originală, problemei nu nu ii se se poate poate construi construi oo soluţie soluţie,, deoarece deoarece nu ăsurate pe nu se se dispune dispune de de setul setul de de date date m măsurate pe orizontul orizontul de de predicţie predicţie.. Problema ă, astfel ă se ă construi -optimală. Problema trebuie trebuie relaxat relaxată, astfel încît încît ssă se poat poată construi oo soluţie soluţie sub sub-optimală. • Folosind inegalitatea triunghiului, se poate obţine o condiţie de sub-optimalitate din condiţia de optimalitate. se adună şi se scade ieşirea predictată 2 cu modelul de identificare  E y[ N  p]  yˆ p [ N  p | DN ] inegalitatea 2 triunghiului  E y[ N  p]  y0 [ N  p | DN ]  y0 [ N  p | DN ]  yˆ p [ N  p | DN ] 



E







 y[ N  p]  y0 [ N  p | DN ]



2

 

 y0 [ N  p | DN ]  yˆ p [ N  p | DN ]

E

2



 p 1, P

• În loc să fie minimizată dispersia erorii de predicţie, va fi minimizat termenul din dreapta inegalităţii, exprimat ca o sumă de două dispersii.

min E



 y[ N  p]  y0 [ N  p | DN ]

2



 min E



Problema ţiei sub -optimale Problema predic predicţiei sub-optimale

 y0 [ N  p | DN ]  yˆ p [ N  p | DN ]

2



 p 1, P

119

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală



Problema ţiei sub -optimale Problema predic predicţiei sub-optimale

min E



 y[ N  p]  y0 [ N  p | DN ]

2



 min E



 y0 [ N  p | DN ]  yˆ p [ N  p | DN ]

2



 p 1, P

Modelul Modelul de de identificare identificare cel cel mai mai bun bun pentru pentru predic ţie trebuie ă minimizeze predicţie trebuie ssă minimizeze eroarea eroarea de de predic ţie pe ţie. predicţie pe orizontul orizontul de de predic predicţie.  n discu ţie valorile  Din Din nou nou apar apar îîn discuţie valorile necunoscute şirii procesului necunoscute ale ale ie ieşirii procesului pe ţie. pe orizontul orizontul de de predic predicţie. MMEP ă cu ţie MMEP opereaz operează cu erorile erorile de de predic predicţie pe ăsură. pe orizontul orizontul de de m măsură.

Dac ă P  N (condiţia fiind naturală) Dacă

Predictorul -optimal este apropiat” Predictorul sub sub-optimal este cel cel mai mai ““apropiat” de de predictorul predictorul de de identificare identificare..

E

 y [ N  p | D

ˆ p [ N  p | DN ]  N ] y

0

E



2



 y0 [ N  p | DN ]  y p [ N  p | DN ]

2



 p 1, P

E

  y[ N  p]  y [ N  p | D ]   2

0

N

IE ă pentru IE poate poate fifi utilizat utilizată pentru relaxarea relaxarea noii noii probleme probleme..

1 Np 2      y [ n p ] y [ n p | D ]    0 N N  p n 1

Modelul -)optimal pentru Modelul de de identificare identificare (sub (sub-)optimal pentru predic ţie este n urma ării MMEP predicţie este cel cel rezultat rezultat îîn urma aplic aplicării MMEP..

1  N

1 θˆ N  argmin  θS   n  N

2 y [ n ]  y [ n , θ ]    M n 1 

N

  y[ n]  y0 [ n | DN ] n 1

2

 p 1, P

N

yM [ n, θ]

120

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală

• Strategia generală de construcţie a predictorilor sub-optimali:

 Determinarea setului de predictori (sub-)optimali care verifică inegalităţile: E

 y [ N  p | D

ˆ p [ N  p | DN ]  N ] y

0

2



E

 y [ N  p | D 0

N ]  y p [ N  p | DN ] 

2



 p 1, P

 Etap ă cu Etapă cu caracter caracter teoretic teoretic.. Obiectivul ă îîntre ntre Obiectivul acestei acestei etape etape este este de de aa deduce deduce oo expresie expresie formal formală predictorul -optimal şşii cel predictorul curent curent sub sub-optimal cel de de identificare identificare..

 Determinarea modelului de identificare (sub-)optimal prin minimizarea erorii de predicţie pe durata orizontului de măsură: N

  y[ n]  yˆ 0 [ n | DN ] n 1

2

N

   y[ n]  y0 [ n | DN ]

2

n 1

 Datorit ă etapei -)optimali vor ţi. Datorită etapei precedente precedente,, predictorii predictorii (sub (sub-)optimali vor fifi automat automat determina determinaţi. def

ˆ 0 [ p]  y[ N  p]  yˆ 0 [ N  p | DN ] (eroarea de predicţie (sub-)optimală)  p  0, P

FFolosind olosind acest ă ddispersii ispersii ale ţiei acest scenariu scenariu,, cele cele dou două ale problemei problemei predic predicţiei sub -optimale conduc ă îînsumată nsumată egal ă cu egală cu:: sub-optimale conduc la la oo valoare valoare minim minimă

E

  y [ N  p | D ]  yˆ [ N  p | D ]   0 2

0

N

p

N

 ţie necesar ă  Restric Restricţie necesară

 p 1, P

E  ˆ 02 [ p]  p  0, P

121

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală Cazul modelelor de tip AR? În -optimali sunt ăror ieşiri În acest acest caz caz,, predictorii predictorii sub sub-optimali sunt determinaţi determinaţi din din clasa clasa predictorilor predictorilor ale ale ccăror ieşiri sunt sunt necorelate necorelate cu cu zgomotul zgomotul alb alb pe pe orizontul orizontul de de predicţie predicţie..

E  y p [ N  p | DN ]e[ N  k ]  0

 k , p 1, P

• Restricţie naturală sugerată de faptul că datele achiziţionate sunt necorelate cu valorile

viitoare ale zgomotului, adică dincolo de orizontul de măsură.  Determinarea teoretică a setului de predictori (sub-)optimali.

M odelul AR ă filtre: ă Modelul AR poate poate fifi exprimat exprimat cu cu ajutorul ajutorul aa dou două filtre: unul unul de de tip tip FIR FIR,, care care opereaz operează cu ţie şşii altul ă cu cu valori valori ale ale zgomotului zgomotului din din orizontul orizontul de de predic predicţie altul de de tip tip IIR IIR,, care care opereaz operează cu valori ăsură sau valori ale ale zgomotului zgomotului din din orizontul orizontul de de m măsură sau anterioare anterioare acestuia. acestuia. p 1 1  y[ N  p]   1 e[ N  p ]    n e[ N  p  n ]   n e[ N  p  n ]   n e[ N  p  n ] ,  p 1, P . A (q ) n 0 n 0 n p

împăţire infinită funcţia de sistem a filtrului

c0  0  1

def

C p ( q 1 )  1  c1 q 1    cp 1q1 p 1

p 1

FIR FIR

IIR IIR

orizontul de predicţie

orizontul de măsură

C p 1 ( q 1 )  C p ( q 1 )  cp q  p relaţie recurentă remarcabilă

122

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală Cum se pot determina coeficienţii filtrului de tip FIR? Folosind TIR). Folosind Teorema Teorema Împărţirii Împărţirii cu cu Rest Rest ((TIR).  1  a1 q 1  a2 q 2    ana q  na

1 1  a1 q 1  a2 q 2 

1  a1 q 1    c p 1 q1 p

 a1 q 1  a2 q 2 

a q  a  1





 2 1

1

c0

2

q 

  a   2  a   q 2   2  1

c1

 Procedur ă implementabil ă Procedură implementabilă ((Algoritmul Algoritmul lui ). lui Euclid Euclid). Exerciţiu Exerciţiu

c2

q D ( q )  q  p  d p ,0  d p ,1q 1    d p ,na 1q1 na  (rest) p

 p

1

def

p

 p

C p ( q 1 ) (cît)

1

q D (q ) 1  1  C q  ( ) Aşadar Aşadar  1 p A (q ) A ( q 1 )

 Grad -1.. Grad constant constant:: na na-1  Coeficien ţi variabili Coeficienţi variabili..

1  C p ( q 1 ) A ( q 1 )  q  p Dp ( q 1 )  p 1, P

 p 1, P

 p

1

y[ N  p ]  C ( q )e[ N  p] 

Dp ( q 1 ) A ( q 1 )

viitor prezent+trecut e[ N ]  C ( q )e[ N  p ]  Dp ( q 1 ) y[ N ]  p

 ă din şirile aa dou ă filtre  Expresie Expresie format formată din ie ieşirile două filtre de de tip tip FIR FIR..

1

 p 1, P

123

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală

 Ey

p

[ N  p | DN ]e[ N  k ]  0

ipoteza de necorelare

E

 k , p 1, P

  C (q  k

1



)e[ N  k ]  y p [ N  p | DN ]  0  k , p 1, P

Filtrul viitorului” opereaz ă numai Filtrul ““viitorului” operează numai asupra asupra valorilor valorilor zgomotului zgomotului alb ţie, deci deci este este natural natural ca ca alb de de pe pe orizontul orizontul de de predic predicţie, ie şirea acestuia ă nu ă cu ieşirea acestuia ssă nu fie fie corelat corelată cu ale ale predictorilor predictorilor..

De De asemenea asemenea

Ie şirea filtrului viitorului” (care ă numai Ieşirea filtrului ““viitorului” (care opereaz operează numai cu cu valori valori ale ale zgomotului zgomotului alb ţie) nu ă cu şirea filtrului alb de de pe pe orizontul orizontul de de predic predicţie) nu este este corelat corelată cu ie ieşirea filtrului ““prezentului prezentului şşii trecutului ” (care ă numai ăsurate). trecutului” (care opereaz operează numai cu cu date date m măsurate).





E  C p ( q 1 )e[ N  p]  Dp ( q 1 ) y[ N ]   0

 p 1, P

Rezult ă Rezultă E

exprimare cu 2 filtre de tip FIR

 y [ N  p | D ]  y [ N  p | D ]   E  C (q )e[ N  p]  D (q ) y[ N ]  y [ N  p | D ]    E  C ( q )e[ N  p]    2 E   C ( q )e[ N  p]  D ( q ) y[ N ]  y [ N  p | D ]   2

0

N

 p

1

p

 p

N

2



 p

 E  Dp ( q 1 ) y[ N ]  y p [ N  p | DN ] 



 

1

2

1

 p

 p

p

N

1

p



 E  C p ( q 1 )e[ N  p]   E  Dp ( q 1 ) y[ N ]  y p [ N  p | DN ]  2

2

1

2

 ,  p 1, P .

N

124

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală Aşadar Aşadar E



 y0 [ N  p | DN ]  y p [ N  p | DN ]

2

 Sum ă de ă dispersii Sumă de dou două dispersii..

 

 E  C p ( q 1 )e[ N  p ] 

2

 

 E  Dp ( q 1 ) y[ N ]  y p [ N  p | DN ] 



2

0

yˆ p [ N  p | DN ]  Dp ( q 1 ) y[ N ]

 p 1, P

Pentru ţie, trebuie -)evaluat Pentru fiecare fiecare deplasament deplasament de de predic predicţie, trebuie (re (re-)evaluat restul mpărţirii polinomului restul îîmpărţirii polinomului unitar unitar la la polinomul polinomul modelului modelului AR AR..

folosind MMEP (adică ALD). 

A

2

Aˆ ˆ 2

C

 p

 Cˆ p D p

(estimaţii)

Dˆ p

def

 p 1, P



Un ă informaţia Un termen termen care care ofer oferă informaţia despre despre precizia precizia predicţiei predicţiei..

  E  C ( q )e[ N  p]  2 p

Predictorii -)optimali Predictorii practici practici (sub (sub-)optimali

 Expresiile Expresiile predictorilor predictorilor AR -)optimali. AR (sub (sub-)optimali. Ce rămîne după minimizare?

Gradul ţiei de na-1),, Gradul func funcţiei de sistem sistem fiind fiind constant constant ((na-1) ţii trebuie ţi pentru doar trebuie adapta adaptaţi pentru fiecare fiecare doar coeficien coeficienţii deplasament ţie, folosind folosind TIR TIR.. deplasament de de predic predicţie,

 Determinarea modelului de identificare



 p 1, P

Deoarece şirile predictorilor Deoarece numai numai aa doua doua dispersie dispersie depinde depinde de de ie ieşirile predictorilor,, doar ă îîn n vederea ării. vederea minimiz minimizării. doar ea ea poate poate fifi anulat anulată

E  Dp ( q 1 ) y[ N ]  y p [ N  p | DN ] 

2

 p

1

2



2  2     1   c1      c p 1     2

 PPrecizia recizia ideal ă de ţie scade ideală de predic predicţie scade pe pe m ăsură ce ţie se măsură ce deplasamentul deplasamentul de de predic predicţie se îîndepărtează ndepărtează de ăsură. de orizontul orizontul de de m măsură.

 p 1, P

125

Metode de identificare şi validare

Aplicaţii Aplicaţii:: predicţia predicţia optimal ă optimală ((continuare) continuare)

Identificarea şi predicţia proceselor autoregresive

Algoritmul ţiei AR -)optimale ((nerecursiv) nerecursiv) Algoritmul predic predicţiei AR (sub (sub-)optimale

Date Date de de intrare intrare



DN  { y[ n]}n1, N (setul de date măsurate la ieşirea procesului auto-regresiv) na (ordinul modelului auto-regresiv) P (marginea de predicţie)

Ini ţializare Iniţializare Se ă parametrii Se estimeaz estimează parametrii modelului modelului AR AR şşii dispersia dispersia zgmotului zgmotului alb, alb, eventual eventual folosind folosind ALD ALD..

Aˆ ( q 1 )  1  aˆ1q 1    aˆ na q  na ˆ 2

Bucl ă iterativ ă Buclă iterativă   Pentru Pentru p 1, P  ă TIR Algoritmul lui ): 1  Cˆ p ( q 1 ) Aˆ ( q 1 )  q  p Dˆ p ( q 1 )  Se Se aplic aplică TIR ((Algoritmul lui Euclid Euclid):  ă valorile şirii procesului  Se Se estimeaz estimează valorile predictate predictate ale ale ie ieşirii procesului::

yˆ p [ N  p | DN ]  Dp ( q 1 ) y[ N ]   dˆ p ,0 y[ N ]  dˆ p ,1 y[ N  1]    dˆ p ,na 1 y[ N  na  1]  ă dispersia ţie: ˆ 2p  ˆ 2 1  cˆ12    cˆ 2p 1   Se Se estimeaz estimează dispersia erorii erorii de de predic predicţie: Date şire Date de de ie ieşire

Ie şirile predictate  yˆ [ N  p | D ] Ieşirile predictate..  ˆ  Dispersiile ţie. Dispersiile estimate estimate ale ale erorilor erorilor de de predic predicţie. p

2 p

N

p1, P

p1, P

126

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală Interpretare ă în Interpretare geometric geometrică în cazul cazul proceselor proceselor normal normal distribuite distribuite

yˆ p [ N  p | DN ]  3ˆ p DN  { y[ n]}n1, N

yˆ p [ N  p | DN ]

y[ N  p] e

Model Model auto -regresiv auto-regresiv

y

Orizont ăsură Orizont de de m măsură

• Valorile (sub-)optimale predictate (care depind de datele măsurate) sunt

yˆ p [ N  p | DN ]  3ˆ p

de asemenea normal distribuite, dar cu dispersiile erorilor de predicţie. Orizont Orizont de de • În jurul fiecărei valori predictate, se poate construi cîte un predic ţie predicţie interval de încredere de tip 3, în care valoarea reală a ieşirii procesului are şanse de peste 95% să aparţină. • În afara valorilor predictate, pe grafic se amplasează şi intervalele de încredere, sub forma unor segmente liniare centrate în valorile predictate. • Aceste intervale devin din ce în ce mai largi odată cu creşterea deplasamentului de predicţie, indicînd deteriorarea preciziei de predicţie. • Curba valorilor măsurate (continuă) se îndepărtează din ce în ce mai mult 127 de curba valorilor predictate (punctată).

Metode de identificare şi validare Identificarea şi predicţia proceselor autoregresive

Aplicaţii ă ((continuare) continuare) Aplicaţii:: predicţia predicţia optimal optimală  Dezavantajul major al algoritmului de predicţie nerecursiv: ineficienţa cauzată de estimarea tuturor coeficienţilor restului pentru fiecare deplasament de predicţie.  CCîtul îtul poate poate fifi calculat calculat recursiv recursiv..



C p 1 ( q 1 )  C p ( q 1 )  cp q  p

Există o relaţie recursivă şi între resturi succesive? DA

 p 1, P  1

În ă între În realitate realitate,, se se poate poate evidenţia evidenţia oo relaţie relaţie recursiv recursivă între ieşirile ieşirile succesive succesive ale -)optimali. ale predictorilor predictorilor (sub (sub-)optimali.

• Aceasta creează impresia că există un singur predictor AR (sub-)optimal, de accea se omite indicele p din notaţie.

Teorema ă aa predictorilor -)optimali) Teorema 77 (forma (forma recursiv recursivă predictorilor AR AR (sub (sub-)optimali)

Exerciţiu Exerciţiu Algoritmul ţiei AR Algoritmul predic predicţiei AR (sub -)optimale ((recursiv) recursiv) (sub-)optimale

Valorile predictate ale procesului de tip AR folosind predictorul (sub-)optimal verifică următoarele relaţii de recurenţă: a. pentru p 1, na : yˆ [ N  p | DN ]   aˆ1 yˆ [ N  p  1| DN ]    aˆ p 1 yˆ [ N  1| DN ] 

 aˆ p y[ N ]    aˆ na y[ N  p  na ] ; b. pentru p  na  1, P : yˆ [ N  p | DN ]   aˆ1 yˆ [ N  p  1| DN ]    aˆ na yˆ [ N  p  na | DN ]. De asemenea, dispersiile erorilor de predicţie, verifică relaţia de recurenţă:

ˆ 02  0. unde: 

ˆ 2p  ˆ 2p 1  cˆ 2p 1ˆ 2 ,  p 1, P ,

128