1. 무어펜로즈 역행렬(Moore–Penrose pseudoinverse matrix) 역행렬이 존재하지 않는 경우 대안으로 무어-펜로즈 역행렬을 생각할 수 있다. 행의 수와 열의 수에 따라 구하는 방식이 다르다 역행렬처럼 되돌리는 연산이 가능하다 np.linalg.pinv()는 무어 펜로즈 역행렬을 구해준다 2. 연립방정식의 해법 연립방정식은 행렬의 선형변환을 이용해 간단히 나타낼 수 있다. 연립방정식은 일반적으로 식의 수와 변수의 수가 동일할 때 정확히 하나의 해를 갖지만 식의 수가 변수의 수보다 적거나 같으면 해가 무수히 많을 수 있다. 2-1) 무어펜로즈 역행렬을 이용한 해법 해가 무수히 많은 경우 무어 펜로즈 역행렬을 이용하여 무수히 많은 해 중 하나의 해를 구할 수 있다 2-2) 선형회귀분석에..
1. 선형변환으로 생각하는 행렬 행렬은 벡터공간에서 두 데이터 사이 연결관계를 나타내는 연산자로 생각할 수도 있다. (선형변환) 벡터 $x$에 행렬 $A$를 곱하여 다른 차원의 벡터 $z$로 변환시킴 기계학습의 선형모델들은 위와 같은 선형변환 행렬곱을 이용해서 데이터 $x$의 패턴($z$)을 추출하거나 압축시킨다. 행렬 A의 연산을 거꾸로 되돌리는 행렬이 A의 역행렬 $A$의 역행렬은 $A$의 행과 열의 숫자가 같고 $A$의 행렬식이 0이 아니어야 존재한다 2. np.linalg.inv() numpy의 np.linalg.inv()는 역행렬이 존재하는 행렬의 역행렬을 구해준다 컴퓨터 연산 오차로 인해 자기 자신과 역행렬을 곱해보면 정확히 항등행렬이 나오진 않고 비슷한 값으로 나온다 X와 np.linalg...
1. 전치행렬 전치행렬(transpose)은 행과 열의 index를 서로 뒤바꾼 행렬 2. 행렬의 기본 수학연산 같은 차원을 가지는 두 행렬은 대응하는 성분끼리 연산이 가능하다 3. 행렬의 곱셈 행렬의 일반적인 곱셈은 조금 특이하게 정의된다. 두 행렬 $X,Y$의 행렬곱 $XY$는 $X$의 열의 수와 $Y$의 행의 수가 같을 때 정의되고 $X$의 $i$번째 행벡터와 $j$번째 열벡터의 내적을 성분으로 갖는다. 행렬의 곱셈은 교환법칙이 성립하지 않는다 numpy array에서 두 행렬의 곱은 @연산자를 활용 import numpy as np X = np.array([[1,-2,3],[7,5,0],[-2,-1,2]]) Y = np.array([[0,1],[1,-1],[-2,1]]) X@Y ##matrix p..
1. 행렬의 정의 벡터를 원소로 가지는 2차원 배열이다. $n \times m$행렬 $X$는 다음과 같이 간단하게 나타낼 수 있다. $$X= \left ( x_{ij} \right )$$ 여기서 $i$는 행 인덱스, $j$는 열 인덱스 $x_{ij}$는 행렬 $X$의 $i$번째 행의 $j$번째 열에 있는 원소 2. 행렬의 분할 $i$번째 행을 기준으로 (빨간색 부분) 행벡터 분할하여 $n \times 1$행렬처럼 다룰 수도 있게 된다 행렬의 $j$열을 기준으로 열벡터 분할하여 $1 \times m$ 행렬처럼 다룰 수 있게 된다 3. 행렬의 기하학적 의미 벡터가 공간 상 하나의 데이터를 나타낸다면, 행렬은 공간 상 여러개의 데이터를 하나로 묶어서 표현한 것이다
1. 내적의 기하학적 의미 1-1) 정사영(projection) 위의 그림에서 벡터 a를 x의 정사영이라고 부른다 (projection) 1-2) 정사영의 길이 삼각함수 cos을 이용하여 위와 같이 정사영의 길이를 쉽게 구할 수 있다. 1-3) 두 벡터의 유사도 그렇다면 x,y의 내적은 x의 정사영벡터 크기에 벡터 y의 길이를 곱한 것이 된다. 그러므로 우리는 내적을 두 벡터 x,y의 유사도 측정에 사용할 수 있을 것 같다. 두 벡터가 비슷할수록 정사영의 길이가 커서 내적도 크다 두 벡터가 비슷할수록 두 벡터가 이루는 각의 크기가 작다(cosine 값이 크다) 두 벡터의 내적이 클수록 두 벡터가 그만큼 유사하다는 것 내적이 크다는 것은 두 벡터가 이루는 각이 작아야한다는 뜻임 두 벡터는 두개의 데이터로 ..
1. 두 벡터 사이의 거리 벡터의 뺄셈을 이용 두 벡터 $x$ , $y$의 거리는 두 벡터의 뺄셈 $x-y$의 norm과 같다 2. 두 벡터 사이의 각도 L2 norm 에서만 정의됨 2-1) n차원에서 정의한 the law of cosines 위 그림에서 아래 등식이 성립하는데 코사인 법칙이라고 부른다. 참고로 우리나라만 제1,2코사인법칙을 나눈다 세계적으로는 위와 같은 등식을 코사인법칙이라 한다 2-2) 두 벡터의 내적(dot product) 대응하는 성분의 곱의 합 cosine을 이용하여 구할 수도 있다. 그림2에서 c의 값은 두 벡터 a와 b의 뺄셈 a-b의 norm으로 구할 수 있고 코사인법칙과 \[a\cdot b = \left\| a \right\|\left\| b \right\|cos\thet..
딥러닝/머신러닝, 통계학, IT프로그래밍, 알고리즘을 좋아하는 사람 https://github.com/yundaehyuck
