Normal equation (정규 방정식)

최소자승법 (least-squares method)

일련의 측정 자료에 가장 부합하는, 즉 측정값 $Y_i$ 와 이론적 모델 반응값 $y_i$ 의 차이의 제곱의 합 $E$ 가 최소가 되도록 하는 모델변수 $p_i$ 를 결정하는 방법;

$E = \sum\limits_i {(Y_i - y_i )^2 } \to {\text{min}}$

위 관계식을 만족하기 위해서는 오차 함수 $E$ 의 모델변수에 대한 편미분이 0이 되어야 한다;

$\frac{{\partial E}}{{\partial P_i }} = 0$

이를 정규 방정식이라 한다. 예를 들어 이론 모델 반응이 모델변수가 $a$ , $b$ 의 1차 함수 $y_i=ax_i+ b$ 로 표현될 수 있을 때, 정규 방정식은 다음과 같다;

$\frac{{\partial E}}{{\partial a}} = 0 = \sum\limits_i {2(Y_i - ax_i - b)( - x_i )}$

$\frac{{\partial E}}{{\partial b}} = 0 = \sum\limits_i {2(Y_i - ax_i - b)( - 1)}$

$\therefore a\sum\limits_i {x_i ^2 } + b\sum\limits_i {x_i } = \sum\limits_i {x_i Y_i }$

여기서, $N$ 은 측정 갯수이다.

Lemma 7.3.1

x가 Ax=b의 least-squares solution이기 위한 필요충분 조건은 x가 을 만족해야 한다.

을 의 normal equation이라 한다.

Sidebar - Right

xlos

블로그인척 하는 일기장