선형대수5 그람-슈미트 직교화 (Gram-Schmidt Orthogonalization) 이름은 존내 어려워 보이는데 사실 존내 쉽다. 그냥 독립인 n개의 n 차원 벡터들을 서로 수직하도록 만들어(직교화)주는 것이다. 그람-슈미트 직교화란? 그람 슈미트 직교화란 위 그림처럼 서로 독립인 벡터들을 서로 직교하게 만드는 과정을 의미한다. 위와 같이 직교하도록 한 후 각 벡터들을 전부 길이가 1이 되도록 normalize하면 orthonormal한 관계로 만들 수 있다. 결과만 보면 매우 어려울 것 같지만 의외로 고등 수학에서 배운 내용(내적)만으로도 이해가 가능할 정도로 간단하다는 점이 재밌다. 그람-슈미트 직교화 위에서 말한 것처럼 내적의 개념을 사용하면 그람-슈미트 직교화가 가능하다. 먼저 내적에 대해 다시 기억을 끄집어 내보자. 내적이란 결국 정사영을 의미한다. 이전에 본 $a_1$를 $a.. 2023. 10. 29. 고윳값 분해 최소 자승법이라는 고비를 넘었으나 바로 2차 고비인 고윳값 분해가 나왔다. 칙쇼 뭐 어쨌든 여기서 배우는 것은 다음과 같다. 고윳값, 고유 벡터란? 고윳값, 고유 벡터 구하기 고윳값 분해 고윳값, 고유 벡터란? 고윳값 분해에 대해서 다루기 전 먼저 고윳값과 고유 벡터에 대해 알아야 한다. $$ A\textbf v = \lambda \textbf v $$ 고윳값과 고유 벡터는 위 식으로 설명할 수 있는데, 위 식을 만족하는 $\textbf v$를 eigen vector, $\lambda$를 eigen value라 부른다. 위 식에 대해서 자세히 살펴보기 전 이때 먼저 $A$가 정 사각 행렬이라는 점을 짚고 넘어가야 한다. 정 사각 행렬이 아닌 행렬에 대해서는 고값과 고유 벡터라는 것이 정의가 되지 않는다... 2023. 10. 2. 최소 자승법 드디어 선형 대수의 첫 고비인 최소 자승법(Least Squares)이다! 학교에서 처음으로 선대를 배웠을 때 이게 무슨 말인지 이해가 안 갔었지만 이젠 다르다. 크하하 어차피 앞으로 배울 내용들에서도 계속 최소 자승법이랑 연관 지어서 나오기도 하고 생각보다 간단하니 이번에 포스트 하나를 사용해 제대로 정리를 해서 최소자승법을 익혀보도록 하자. 본 장에서는 아래 내용들을 배운다. 최소 자승법 문제 소개 최소 자승법 최소 자승법이 사용되는 예시 문제 소개 최소자승법(Least Squares)이 먼저 어떤 문제를 푸는데 사용되는 방법인지 파악 하는 것이 중요하다. 최소 자승… 즉, 제곱(자승)을 최소화 한다는 말인데, 어떤 제곱을 최소화 하냐는 것을 먼저 알아야 한다. 먼저 행렬 $A$의 column spa.. 2023. 10. 2. 가우스-조던 소거법과 역행렬 가우스-조던 소거법과 역행렬 이번 장에서는 가우스-조던 소거법이라는 연립 일차 방정식을 풀어내는 알고리즘과 이전 장에서 배운 역행렬에 관해 더 깊게 알아본다. 이번 장에서는 이러한 내용을 다룬다. 가우스-조던 소거법 역 행렬 행렬식 (Determinant) 행렬식의 기하학적 의미 가우스-조던 소거법 가우스-조던 소거법은 그냥 단순히 연립 일차 방정식을 풀어내는 알고리즘으로 그냥 우리가 중고등학교에서 연립 방정식을 풀어내는 것을 일반화한 것에 불과한 알고리즘이다. $$ \begin{matrix} 4x_1 + 2x_2 = 18 \\ x_1 - x_2 = 3 \end{matrix} $$ 위와 같은 미지수가 2개인 연립 방정식이 존재한다고 하자. 이때 우리는 본능적으로 아래 식에 2를 곱해 위 식에 더해 $x_.. 2023. 9. 29. 선형대수학 개요 선형대수학 개요 한때 학교에서 선대를 A+ 받고 신났던 적이 생각난다. 하지만 시간이 지나며, 여러 논문들과 자료들을 보며 나는 선대에 대한 개념의 이해조차도 제대로 되어있지 않다는 생각이 계속 들었다. 고유값 분해도 왜 해야 하는지도 잘 이해가 가지 않았고, 이 때문에 이를 응용한 PCA라는 기초 개념조차 제대로 이해할 수 없었기 때문이다. 그래서 항상 선대를 언젠가 한번 날 잡고 공부를 제대로 다시 해봐야겠다는 생각을 항상 했었는데, 굉장히 설명도 쉽고 좋은 유튜브 강의를 찾아서 이를 베이스로 선형대수학의 핵심 개념들을 재정리 해보고자 한다. 선형대수학이란? 선형대수학이란 말 그대로 “선형 방정식”을 푸는 수학의 분야로 여기서 “선형”이란 직선처럼 일관되고 단순한 관계나 패턴을 의미한다. 즉, $ax.. 2023. 9. 25. 이전 1 다음
