Tekst źródłowy strony STAT:Model autoregresyjny (AR)

{{poprzedni|STAT:Funkcja_systemu}}
==Model autoregresyjny (AR)==
Model autoregresyjny (rzędu <math>M</math>) opisuje procesy dyskretne,
w których wartość sygnału w danej chwili jest sumą liniowej
kombinacji <math>M</math> wartości poprzednich i nieskorelowanego szumu <math>\epsilon</math>
<equation id="eq:41">
<math>
s[n] = \sum_{i=1}^M a_i s[n-i] + \epsilon_n
</math>
</equation>

W każdej realizacji tego samego procesu  (dla tych samych
współczynników <math>a_i</math> i wartości początkowych sygnału),  <math>\epsilon_t</math>
są niezależnymi liczbami losowymi, więc o  wartości <math>s(t)</math> w
konkretnej chwili <math>t</math>  możemy mówić tylko językiem
prawdopodobieństwa.

[[Plik:klasyczna_rys_6.jpg|thumb|center|400px|Przykładowe realizacje procesu AR 3-go rzędu (<math>M=3</math>) o tych samych współczynnikach i wartościach początkowych.]]

Mimo tego, na podstawie współczynników AR możemy określić wiele
ogólnych własności sygnału, np. 
wartość oczekiwaną <math>\bar{s}</math> (w praktyce estymowaną przez wartość średnią) i wariancję (jej estymatorem jest kwadratów
odchyleń wartości sygnału od wartości oczekiwanej), 
a nawet widmo mocy. Można również rozważać szersze klasy modeli tego typu,
jak np. model MA (ruchomej średniej, ang. ''moving average''),
gdzie uśredniamy <math>\epsilon_t</math> zamiast <math>s(t)</math>, czy proces mieszany ARMA, opisany między innymi w klasycznych pozycjach [http://eu.wiley.com/WileyCDA/WileyTitle/productCd-0470272848.html &bdquo;Analizie szeregów czasowych&rdquo;, autorstwa Boxa i Jenkinsa] oraz w [http://books.google.pl/books?id=iu7pq6_vo3QC&pg=PA527&lpg=PA527&dq=piersol+bendat+wiley&source=bl&ots=tBsERShrXL&sig=I078ZjLwiw8BBHqrnzhVfbm5H8I&hl=pl&ei=WWuqS9rEEKbSmgOs_82IAg&sa=X&oi=book_result&ct=result&resnum=10&ved=0CDwQ6AEwCQ#v=onepage&q=piersol%20bendat%20wiley&f=false &bdquo;Metodach analizy szeregów czasowych&rdquo; autorstwa Piersola i Bendata].

Najprostszym przykładem jest proces AR pierwszego rzędu (nazywany liniowym procesem Markowa), czyli:
<math>
s[n] = a s[n-1] + \epsilon_n
</math>

Inaczej <math>
s[n] = \epsilon_n + a (\epsilon_{n-1}+a \epsilon_{n-2}+\ldots) = \ldots =
\epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2} +\ldots
</math>

Jeśli wartość oczekiwana <math>\epsilon_i</math> wynosi 0 (<math>E(\epsilon_i)=0</math>) a wariancja
<math>\sigma^2(\epsilon_i)=\sigma_\epsilon^2</math>, to wariancja w punkcie <math>n</math>

<math>\begin{matrix}
\sigma^2_{s[n]} = E\left( (\epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2}+\ldots+a^{n-1}\epsilon_1)^2\right) =\\
= \sigma_\epsilon^2 \left(1+a^2+a^4+\ldots+a^{2n-2} \right)   =
\left\{
\begin{matrix}
\sigma_\epsilon^2 \left(\frac{1-a^{2n}}{1-a^2} \right) & |a|\ne 1\\
n \sigma_\epsilon^2 & |a|=1
\end{matrix}
\right.
\end{matrix}</math>

Autokowariancja <math>E(s[n] s[n+\tau])</math>
<math>\begin{matrix}
E\left( (\epsilon_n + a\epsilon_{n-1} + a^2\epsilon_{n-2}+\ldots+a^{n-1}\epsilon_1)
(\epsilon_{n+\tau} + a\epsilon_{n+\tau-1} 

+\ldots+a^{n+\tau-1}\epsilon_1)\right) =\\
= \sigma_\epsilon^2 \left(a^\tau+a^{\tau+2}+\ldots+a^{\tau+2(n-1)} \right)   =
\left\{
\begin{matrix}
\sigma_\epsilon^2 a^\tau \left(\frac{1-a^{2n}}{1-a^2} \right) & |a|\ne 1\\
n \sigma_\epsilon^2  & |a|=1
\end{matrix}
\right.
\end{matrix}</math>

Dla <math>|a|\ne 1</math> przy <math>n\rightarrow\infty</math>
<math>
\sigma^2_{x[n]} \stackrel{n\rightarrow\infty}{\longrightarrow}  \frac{\sigma^2_\epsilon}{1-a^2} \;\;\; ; \;\;\;
\sigma_{x[n], x[n+\tau]} \stackrel{n\rightarrow\infty}{\longrightarrow}  \frac{\sigma^2_\epsilon a^\tau}{1-a^2}
</math>

Autokowariancja
<math>
\rho(\tau) = \frac{ \sigma_{x[n], x[n+\tau]} }{ \sigma^2_{x[n]} }  \stackrel{n\rightarrow\infty}{\longrightarrow} a^{|\tau|}
</math>

Proces jest asymptotycznie stacjonarny do rzędu 2, czyli wariancja
i średnia nie zależą od czasu.

Dla <math>a=1</math> proces ten obrazuje tzw. błądzenie przypadkowe.

Na podstawie znajomości samego współczynnika <math>a</math> modelu
AR(1) policzyliśmy np. funkcję autokorelacji modelu, co daje już
znajomość widma procesu
[[STAT:Twierdzenie_Wienera-Chinczyna|(z
tw. Wienera-Chinczyna)]]. Podobnie w procesach wyższych rzędów <xr
id="eq:41">(%i)</xr> znajomość współczynników
<math>\{a_i\}_{i=1..M}</math> daje nam dokładną wiedzę o własnościach
generowanych przez nie procesów, bez znajomości sygnału
<math>s[n]</math>, którego wartości mogą różnić się w kolejnych
realizacjach ze względu na element stochastyczny &mdash; szum
<math>\epsilon</math>.

W praktyce analizy sygnału postępujemy odwrotnie &mdash; do konkretnej
realizacji dopasowujemy model AR. Głównym problemem jest wybór rzędu
modelu, estymacja współczynników <math>a_i</math> najlepiej pasujących
do danego sygnału posiada stabilne rozwiązania.

Jeśli dozwolimy, aby sygnał zależał również bezpośrednio od
poprzednich wartości szumu <math>\epsilon</math>, dostajemy pełną
postać procesu ARMA(''L'',''M'') (ang. ''auto-regressive moving average''):

<equation id="eq:42">
<math>
\sum_{i=1}^L b_i\epsilon_{n-i} = \sum_{j=1}^M a_j s[n-j]
</math>
</equation>
<references/>


{{następny|STAT:Twierdzenie Wienera-Chinczyna}}