Overview

시계열 분석에서 자주 사용되는 ARIMA모델의 AR이며, 현재는 다양한 인공신경망 아키텍처가 자기회귀적 생성을 용도로 AR 모델을 사용하고 있다.

Autoregressive Model

Autoregressive Model(자기 회귀 모형 ; AR Model)은 자기 자신의 과거의 값으로 현재의 값을 설명하는 모형이다.

AR(p) Model

$\begin{aligned} X_t &= c + \phi_1 X_{t-1} + \cdots + \phi_p X_{t-p} + \epsilon_t \\ &= c + \sum_{i=1}^p \phi_i X_{t-i} + \epsilon_t \end{aligned}$

• $X_t$: $t$ 시점의 관측값
• $p$: 사용할 과거 시점의 개수
• $c$: 상수항
• $\phi_i$: 자기회귀계수
• $\epsilon_t$: $t$ 시점의 오차항
  • $\epsilon_t \sim N(0, \sigma^2)$

Autoregressive Coefficient

Autoregressive Coefficient(자기회귀계수) $\phi$는 과거 값의 영향력이 얼마나 지속되는지를 나타낸다.

• $\phi \approx 0$
  • $X_t \approx c + \epsilon_t$이므로 과거의 영향이 거의 없다.
• 양의 자기상관: $\phi > 0$
  • 이전 시점의 값이 높았으면 현재 시점의 값도 높아지는 경향이 있다.
  • 데이터가 부드럽게 이어지거나 점진적으로 상승(또는 하강)하는 완만한 모멘텀을 보인다.
• 음의 자기상관: $\phi < 0$
  • 이전 시점의 값이 높았으면 현재 시점의 값도 낮아지고, 낮았으면 높아지는 경향이 있다.
  • 데이터가 위아래로 빠르게 진동하거나 지그재그 형태의 불안정한 움직임을 보인다.
• $|\phi| \approx 1$
  • 과거의 영향이 매우 오래 지속된다.

Stationarity

Stationarity(정상성)은 시간이 지나도 데이터의 평균, 분산 등이 일정하게 유지되는 성질이다.

• Strictly Stationarity(강정상성)

  $F_X$를 $X$의 결합확률밀도함수라고 할 때, 임의의 $t_1, …, t_k, h$에 대해 다음을 만족하는 시계열이다.

  $F_X(x_{t_{1+h}}, …, x_{t_{k+h}}) = F_X(x_{t_1},…,x_{t_k})$

  이를 증명하는 것은 어렵기 때문에 일반적인 분석에는 약정상성을 많이 사용한다.