Search results

'공부할 거'에 해당하는 글들

  1. 2006.10.31  Normal equation (정규 방정식)
  2. 2006.10.30  Jacobian

최소자승법 (least-squares method)

From Geophiwiki

일련의 측정 자료에 가장 부합하는, 즉 측정값 Y_i와 이론적 모델 반응값 y_i의 차이의 제곱의 합 E가 최소가 되도록 하는 모델변수 p_i 를 결정하는 방법;

E = \sum\limits_i {(Y_i  - y_i )^2 }  \to {\text{min}}

위 관계식을 만족하기 위해서는 오차 함수 E의 모델변수에 대한 편미분이 0이 되어야 한다;

\frac{{\partial E}}{{\partial P_i }} = 0

이를 정규 방정식이라 한다. 예를 들어 이론 모델 반응이 모델변수가 a, b의 1차 함수 y_i=ax_i+ b로 표현될 수 있을 때, 정규 방정식은 다음과 같다;

\frac{{\partial E}}{{\partial a}} = 0 = \sum\limits_i {2(Y_i  - ax_i  - b)( - x_i )}

\frac{{\partial E}}{{\partial b}} = 0 = \sum\limits_i {2(Y_i  - ax_i  - b)( - 1)}

\therefore a\sum\limits_i {x_i ^2 }  + b\sum\limits_i {x_i }  = \sum\limits_i {x_i Y_i }

  a\sum\limits_i {x_i ^2 }  + bN = \sum\limits_i {Y_i }

여기서, N은 측정 갯수이다.



radial_purple.gif Lemma 7.3.1  

x가 Ax=b의 least-squares solution이기 위한 필요충분 조건은 x가 을 만족해야 한다.

 을 normal equation이라 한다.

'공부할 거' 카테고리의 다른 글

Normal equation (정규 방정식)  (0) 2006.10.31
Jacobian  (0) 2006.10.30
─ tag  정규방정식

Robotics나 Computer Animation에서 Invers Kinematics를 풀 때 많이 나오는 Jacobian에 대해서 알아보자.

Jacobian은 19세기 독일 수학자
Carl Gustav Jacobi에 의해서 제안되었다. 보통 the Jacobian이라고 하면, Jacobian matirx나 Jacobian determinant를 나타낸다.

n개의 변수들,  x_1, ..., x_n 안에서 n개의 방정식들의 집합 y==f(x)가 아래와 같이 명시적으로 주어질 때, 

y=[f_1(x); f_2(x); |; f_n(x)],
(1)

혹은 좀 더 명확하게, 

{y_1==f_1(x_1,...,x_n); |; y_n==f_n(x_1,...,x_n),
(2)

Jacobian 행렬은 (때때로 단순히 Jacobian이라고 불린다) 아래와 같이 정의된다.

J(x_1,...,x_n)==[(partialy_1)/(partialx_1) ... (partialy_1)/(partialx_n); | ... |; (partialy_n)/(partialx_1) ... (partialy_n)/(partialx_n)].
(3)

J행렬식은 Jacobian determiant이며 (헷갈리게도 흔히 the Jacobian이라고도 불린다) 아래와 같이 나타낸다.

J==|(partial(y_1,...,y_n))/(partial(x_1,...,x_n))|.
(4)

미분을 취해보면, 

dy==y_(x)dx
(5)

Jy_(x)행렬행렬식임을 보여주고,  yx안의 n차원의 부피의 비를 준다.

dy_1...dy_n==|(partial(y_1,...,y_n))/(partial(x_1,...,x_n))|dx_1...dx_n.
(6)

그러므로 이 미분은 change of variables theorem에 나타난다.

Jacobian의 개념은 n개 이상의 변수들 안에 있는 n개의 함수들에 적용될 수도 있다. 예를 들어, f(u,v,w)g(u,v,w)를 고려해보면, Jacobian은 아래와 같이 정의된다. (Kaplan 1984, p. 99).

(partial(f,g))/(partial(u,v))=|f_u f_v; g_u g_v|
(7)
(partial(f,g))/(partial(u,w))=|f_u f_w; g_u g_w|
(8)

n = 3인 변수들의 경우에, Jacobian은 특별한 형태를 갖는다.

Jf(x_1,x_2,x_3)=|(partialy)/(partialx_1).(partialy)/(partialx_2)x(partialy)/(partialx_3)|,
(9)

여기서  a.b내적이고 bxc외적이며, 위 식은 아래와 같이 확장될 수 있다.

|(partial(y_1,y_2,y_3))/(partial(x_1,x_2,x_3))|==|(partialy_1)/(partialx_1) (partialy_1)/(partialx_2) (partialy_1)/(partialx_3); (partialy_2)/(partialx_1) (partialy_2)/(partialx_2) (partialy_2)/(partialx_3); (partialy_3)/(partialx_1) (partialy_3)/(partialx_2) (partialy_3)/(partialx_3)|.
(10)


출처
http://en.wikipedia.org/wiki/Jacobian
http://mathworld.wolfram.com/Jacobian.html

'공부할 거' 카테고리의 다른 글

Normal equation (정규 방정식)  (0) 2006.10.31
Jacobian  (0) 2006.10.30
Jacobian :: 2006.10.30 07:38 공부할 거
openclose