1. 3원 1차 연립방정식 미지수가 3개이고 각 미지수에 대해 차수가 모두 1차 방정식으로 이루어진 연립방정식은 3*3 matrix를 이용하여 표현할 수 있다 만약 행렬 A의 역행렬이 존재한다면 유일한 해 $x = A^{-1}b$를 이용해 구할 수 있다. 2. gaussian elimination 주어진 행렬의 rank를 구하는 방법 기본 행연산(elementary row operation)을 이용하여 주어진 행렬을 row echelon form으로 변환시키면 rank를 구할 수 있다 row echelon form이란 elementary operation을 통해서 1) 모든 원소가 0인 행(열)은 전부 밑에 존재 하고 2) 0이 아닌 원소가 있는 행(열)의 경우 가장 왼쪽에 있는 원소가 바로 위..
1. 무어펜로즈 역행렬(Moore–Penrose pseudoinverse matrix) 역행렬이 존재하지 않는 경우 대안으로 무어-펜로즈 역행렬을 생각할 수 있다. 행의 수와 열의 수에 따라 구하는 방식이 다르다 역행렬처럼 되돌리는 연산이 가능하다 np.linalg.pinv()는 무어 펜로즈 역행렬을 구해준다 2. 연립방정식의 해법 연립방정식은 행렬의 선형변환을 이용해 간단히 나타낼 수 있다. 연립방정식은 일반적으로 식의 수와 변수의 수가 동일할 때 정확히 하나의 해를 갖지만 식의 수가 변수의 수보다 적거나 같으면 해가 무수히 많을 수 있다. 2-1) 무어펜로즈 역행렬을 이용한 해법 해가 무수히 많은 경우 무어 펜로즈 역행렬을 이용하여 무수히 많은 해 중 하나의 해를 구할 수 있다 2-2) 선형회귀분석에..
1. 선형변환으로 생각하는 행렬 행렬은 벡터공간에서 두 데이터 사이 연결관계를 나타내는 연산자로 생각할 수도 있다. (선형변환) 벡터 $x$에 행렬 $A$를 곱하여 다른 차원의 벡터 $z$로 변환시킴 기계학습의 선형모델들은 위와 같은 선형변환 행렬곱을 이용해서 데이터 $x$의 패턴($z$)을 추출하거나 압축시킨다. 행렬 A의 연산을 거꾸로 되돌리는 행렬이 A의 역행렬 $A$의 역행렬은 $A$의 행과 열의 숫자가 같고 $A$의 행렬식이 0이 아니어야 존재한다 2. np.linalg.inv() numpy의 np.linalg.inv()는 역행렬이 존재하는 행렬의 역행렬을 구해준다 컴퓨터 연산 오차로 인해 자기 자신과 역행렬을 곱해보면 정확히 항등행렬이 나오진 않고 비슷한 값으로 나온다 X와 np.linalg...
1. rank 주어진 행렬의 linear independent인 행의 수를 row rank, linear independent인 열의 수를 column rank라고 부릅니다. linear algebra에서 가장 중요한 결과 중 하나는 row rank와 column rank가 항상 같다는 것으로 그래서 둘 중 하나를 행렬의 rank라고 부릅니다. 기호로 보통 $r _{A} =r(A)=rank(A)$라고 표시합니다. 1) square matrix $A _{nn}$의 rank가 n이면 full rank를 가진다고 하고 모든 행이나 열이 linear independent하다고 부르며 $A _{nn}$이 invertible인 것과 필요충분조건이다. 2) square matrix가 아닌 경우 $A _{pq}$에서 ..
1. adjugate matrix 주어진 square matrix A의 모든 원소를 대응하는 cofactor로 바꾸고 transpose한 행렬을 말합니다. 즉 $A _{nn} = \left \{ a _{ij} \right \}$에 대하여 $a _{ij}$의 cofactor $c _{ij} =(-1) \left \| M _{ij} \right \|$로 치환하여 만든 행렬 $C _{nn} = \left \{ c _{ij} \right \}$의 transpose $C ^{T} =adjA= \left \{ c _{ij} \right \} ^{T}$를 adjugate matrix라고 부릅니다. 이 행렬이 중요한 이유는 $A _{nn}$의 inverse matrix를 구하게 만들어줍니다. 즉 $A _{nn}$의 역..
1. diagonal matrix diagonal matrix는 main diagonal이 아닌 원소들이 모두 0인 행렬을 말합니다. main diagonal은 $i$번째 행에 위치하면서 동시에 $i$번째 열에 위치하는 $a _{ii}$의 원소들을 말합니다. 일반적으로 square matrix를 가정하지만 아닐 수도 있습니다. 그림5에서 빨간 선분은 main diagonal을 나타냅니다. main diagonal이 n개인 diagonal matrix는 기호로 보통 $diag(a _{1} ,a _{2} ,...,a _{n} )$으로 나타냅니다. 중요한 성질을 몇가지 나열하자면 1-1) determinant는 main diagonal의 원소들의 곱으로 구해집니다. 1-2) main diagonal의 모든 원..
딥러닝/머신러닝, 통계학, IT프로그래밍, 알고리즘을 좋아하는 사람 https://github.com/yundaehyuck
