그람-슈미트 과정(Gram-Schmidt process)
그람-슈미트 과정(Gram-Schmidt process)
특정 공간을 좀 더 '좋은' 기저벡터로 표현할 수 있으면 좋을텐데...
들어가며...
좋은 기저벡터는 상황에 따라 그 의미가 다르겠지만, 보편적으로 계산이 간단하여 다양한 부분에 적용 가능한 벡터이다. 보통 이러한 기저벡터를 정규직교 기저벡터(Orthonormal basis)로 꼽는다. 이번 포스팅은 임의의 기저벡터에 대해 정의된 부분공간의 정규직교 기저벡터를 구하는 방법인 그람-슈미트 과정을 정리한다.
정사영 변환
추정문제, 정사영, 정사영 행렬(Estimation; projection; projection matrix)
추정문제, 정사영, 정사영 행렬(Estimation; projection; projection matrix)꿩 대신 닭이다. 들어가며...공간과 차원에 관한 정리는 해가 존재할 것인지 존재하지 않을 것인지 판단하는데 유리하다. 열
taesan5435.tistory.com
위 포스팅은 아래 정사영 변환이 나오는 과정을 다양한 시각에서 보여주고 있다.
아래 U의 기저벡터들은 모두 정규직교 기저벡터(Orthonormal basis)이다.
위 그림처럼, 정규직교 기저벡터에 대해 정의된 공간에서 y의 정사영 벡터는 각각의 정규직교 기저벡터에 대한 정사영 벡터의 합으로 나타낼 수 있다. 이를 일반화하여 표현하면 다음과 같다.
이때, u는 정규직교 기저벡터이므로 아래와 같이 표현할 수 있다.
그람-슈미트 과정(Gram-Schmidt process)
위에서 정사영 정리를 통하여 구한 식을 잘 살펴보자. 위 식은 각각의 정규직교 기저벡터의 조합으로 표현된 y값이며, 그람-슈미트 과정의 목적이기도 하다. 직교하지 않는 임의의 벡터들을 이용해 어떻게 위 식처럼 표현할 수 있을까? 임의의 벡터 v를 기준으로 벡터 x의 정사영을 구하고 그 정사영을 벡터 x에서 빼면 그 값은 항상 벡터 v와 직교인 점을 생각해보자.
예제를 풀면서 보면 이해가 빠를 것이다.
위 3개의 기저벡터로 이루어진 공간의 정규직교 기저벡터를 구하는 문제이다. 이때, 정규직교 기저벡터를 v로 두면 그람-슈미트 과정은 아래와 같이 정리 가능하다.
위 공식에 맞춰서 값을 대입하면 답은 다음과 같다. 그람-슈미트를 이용하여 구한 벡터에 각각의 길이를 나눠주면 정규직교 기저벡터가 나올 것이다.
마치며...
이번 포스팅에서는 정규직교 기저벡터를 구하는 방법인 그람-슈미트 방법을 정리하였다. 손으로 기저벡터를 구할 때 종종 사용되는 방법이며, 수치해석에서는 QR 분해가 사용된다. 그러므로, QR분해도 같이 공부하는 것을 추천한다.
긴 글 읽어주셔서 감사합니다.