Normal equation (정규 방정식)

최소자승법 (least-squares method)

From Geophiwiki

일련의 측정 자료에 가장 부합하는, 즉 측정값 Y_i와 이론적 모델 반응값 y_i의 차이의 제곱의 합 E가 최소가 되도록 하는 모델변수 p_i 를 결정하는 방법;

E = \sum\limits_i {(Y_i  - y_i )^2 }  \to {\text{min}}

위 관계식을 만족하기 위해서는 오차 함수 E의 모델변수에 대한 편미분이 0이 되어야 한다;

\frac{{\partial E}}{{\partial P_i }} = 0

이를 정규 방정식이라 한다. 예를 들어 이론 모델 반응이 모델변수가 a, b의 1차 함수 y_i=ax_i+ b로 표현될 수 있을 때, 정규 방정식은 다음과 같다;

\frac{{\partial E}}{{\partial a}} = 0 = \sum\limits_i {2(Y_i  - ax_i  - b)( - x_i )}

\frac{{\partial E}}{{\partial b}} = 0 = \sum\limits_i {2(Y_i  - ax_i  - b)( - 1)}

\therefore a\sum\limits_i {x_i ^2 }  + b\sum\limits_i {x_i }  = \sum\limits_i {x_i Y_i }

  a\sum\limits_i {x_i ^2 }  + bN = \sum\limits_i {Y_i }

여기서, N은 측정 갯수이다.



radial_purple.gif Lemma 7.3.1  

x가 Ax=b의 least-squares solution이기 위한 필요충분 조건은 x가 을 만족해야 한다.

 을 normal equation이라 한다.

댓글

Designed by JB FACTORY