그람-슈미트 과정(Gram-Schmidt process)

그람-슈미트 과정(Gram-Schmidt process)

 

특정 공간을 좀 더 '좋은' 기저벡터로 표현할 수 있으면 좋을텐데...

 

들어가며...

좋은 기저벡터는 상황에 따라 그 의미가 다르겠지만, 보편적으로 계산이 간단하여 다양한 부분에 적용 가능한 벡터이다. 보통 이러한 기저벡터를 정규직교 기저벡터(Orthonormal basis)로 꼽는다. 이번 포스팅은 임의의 기저벡터에 대해 정의된 부분공간의 정규직교 기저벡터를 구하는 방법인 그람-슈미트 과정을 정리한다.

 

정사영 변환

2025.03.12 - [Mathematics/Linear Algebra] - 추정문제, 정사영, 정사영 행렬(Estimation; projection; projection matrix)

추정문제, 정사영, 정사영 행렬(Estimation; projection; projection matrix)

위 포스팅은 아래 정사영 변환이 나오는 과정을 다양한 시각에서 보여주고 있다.

정사영 행렬의 정의

 

아래 U의 기저벡터들은 모두 정규직교 기저벡터(Orthonormal basis)이다.

 

출처) Linear algebra and its application[David Lay]

위 그림처럼, 정규직교 기저벡터에 대해 정의된 공간에서 y의 정사영 벡터는 각각의 정규직교 기저벡터에 대한 정사영 벡터의 합으로 나타낼 수 있다. 이를 일반화하여 표현하면 다음과 같다.

 

이때, u는 정규직교 기저벡터이므로 아래와 같이 표현할 수 있다.

 

그람-슈미트 과정(Gram-Schmidt process)

위에서 정사영 정리를 통하여 구한 식을 잘 살펴보자. 위 식은 각각의 정규직교 기저벡터의 조합으로 표현된 y값이며, 그람-슈미트 과정의 목적이기도 하다. 직교하지 않는 임의의 벡터들을 이용해 어떻게 위 식처럼 표현할 수 있을까? 임의의 벡터 v를 기준으로 벡터 x의 정사영을 구하고 그 정사영을 벡터 x에서 빼면 그 값은 항상 벡터 v와 직교인 점을 생각해보자.

 

예제를 풀면서 보면 이해가 빠를 것이다.

위 3개의 기저벡터로 이루어진 공간의 정규직교 기저벡터를 구하는 문제이다. 이때, 정규직교 기저벡터를 v로 두면 그람-슈미트 과정은 아래와 같이 정리 가능하다.

 

Gram-Schmidt process

 

위 공식에 맞춰서 값을 대입하면 답은 다음과 같다. 그람-슈미트를 이용하여 구한 벡터에 각각의 길이를 나눠주면 정규직교 기저벡터가 나올 것이다.

 

마치며...

이번 포스팅에서는 정규직교 기저벡터를 구하는 방법인 그람-슈미트 방법을 정리하였다. 손으로 기저벡터를 구할 때 종종 사용되는 방법이며, 수치해석에서는 QR 분해가 사용된다. 그러므로, QR분해도 같이 공부하는 것을 추천한다.

 

긴 글 읽어주셔서 감사합니다.