Loading...
2024. 6. 20. 23:28

kernel method에 대해 간단하게

1. kernel 여러가지 뜻을 가지는 umbrella term: 다른 의미의 용어들을 모두 포괄하는 포괄적 의미를 가지는 용어 전체적으로는 kernel은 essential part, central part라는 뜻에서 여러 분야별로 파생됨 operating system에 쓰이는 것도 kernel   사전적으로 견과류, 씨앗, 알맹이,핵심    linear algebra에서 두 vector space V,W와 linear map L:V → W에 대하여 임의의 v ∈ V가 L(v)=0을 만족시키는  v의 집합을 Ker(L)이라고 부른다   기타 image processing같은 경우 image를 변환시키는 filter를 kernel이라고 부른다는거 기억나는가 kernel을 input image위에서 stri..

2024. 6. 15. 00:33

gaussian elimination을 이용한 연립방정식의 해법

1. 3원 1차 연립방정식 미지수가 3개이고 각 미지수에 대해 차수가 모두 1차 방정식으로 이루어진 연립방정식은 3*3 matrix를 이용하여 표현할 수 있다   만약 행렬 A의 역행렬이 존재한다면 유일한 해 $x = A^{-1}b$를 이용해 구할 수 있다.  2. gaussian elimination 주어진 행렬의 rank를 구하는 방법 기본 행연산(elementary row operation)을 이용하여 주어진 행렬을 row echelon form으로 변환시키면 rank를 구할 수 있다 row echelon form이란  elementary operation을 통해서 1) 모든 원소가 0인 행(열)은 전부 밑에 존재 하고  2) 0이 아닌 원소가 있는 행(열)의 경우 가장 왼쪽에 있는 원소가 바로 위..

2024. 6. 7. 23:58

linear transformation에 대해 간단하게

matrix나 tensor는 linear transformation이다.    1차원의 [0,1]의 선분을 linear transformation T(x)=3x를 통해 변환하면 3배 늘어난 선분 [0,3]이 된다    주어진 2차원의 정사각형 ABCD를 linear transformation     을 통해 변환하면 2배 늘어나고 회전된 정사각형 A’B’C’D’이 된다    조금 더 복잡하게 주어진 정사각형을 늘리거나 회전시키거나 비틀어버리거나 하더라도 linear transformation 수학적으로 vector space V,W에 대하여 f: V → W가 linear map이라는 것은  임의의 vector u,v ∈ V와 scalar c가  $f(u+v)=f(u)+f(v)$ , $f(cu)=cf(u)..

2022. 1. 17. 00:53

무어-펜로즈 역행렬(Moore–Penrose pseudoinverse matrix)

1. 무어펜로즈 역행렬(Moore–Penrose pseudoinverse matrix) 역행렬이 존재하지 않는 경우 대안으로 무어-펜로즈 역행렬을 생각할 수 있다. 행의 수와 열의 수에 따라 구하는 방식이 다르다 역행렬처럼 되돌리는 연산이 가능하다 np.linalg.pinv()는 무어 펜로즈 역행렬을 구해준다 2. 연립방정식의 해법 연립방정식은 행렬의 선형변환을 이용해 간단히 나타낼 수 있다. 연립방정식은 일반적으로 식의 수와 변수의 수가 동일할 때 정확히 하나의 해를 갖지만 식의 수가 변수의 수보다 적거나 같으면 해가 무수히 많을 수 있다. 2-1) 무어펜로즈 역행렬을 이용한 해법 해가 무수히 많은 경우 무어 펜로즈 역행렬을 이용하여 무수히 많은 해 중 하나의 해를 구할 수 있다 2-2) 선형회귀분석에..

2022. 1. 12. 22:46

선형변환으로서의 행렬이 가지는 의미

1. 선형변환으로 생각하는 행렬 행렬은 벡터공간에서 두 데이터 사이 연결관계를 나타내는 연산자로 생각할 수도 있다. (선형변환) 벡터 $x$에 행렬 $A$를 곱하여 다른 차원의 벡터 $z$로 변환시킴 기계학습의 선형모델들은 위와 같은 선형변환 행렬곱을 이용해서 데이터 $x$의 패턴($z$)을 추출하거나 압축시킨다. 행렬 A의 연산을 거꾸로 되돌리는 행렬이 A의 역행렬 $A$의 역행렬은 $A$의 행과 열의 숫자가 같고 $A$의 행렬식이 0이 아니어야 존재한다 2. np.linalg.inv() numpy의 np.linalg.inv()는 역행렬이 존재하는 행렬의 역행렬을 구해준다 컴퓨터 연산 오차로 인해 자기 자신과 역행렬을 곱해보면 정확히 항등행렬이 나오진 않고 비슷한 값으로 나온다 X와 np.linalg...

2022. 1. 11. 21:07

행렬의 기본 연산들

1. 전치행렬 전치행렬(transpose)은 행과 열의 index를 서로 뒤바꾼 행렬 2. 행렬의 기본 수학연산 같은 차원을 가지는 두 행렬은 대응하는 성분끼리 연산이 가능하다 3. 행렬의 곱셈 행렬의 일반적인 곱셈은 조금 특이하게 정의된다. 두 행렬 $X,Y$의 행렬곱 $XY$는 $X$의 열의 수와 $Y$의 행의 수가 같을 때 정의되고 $X$의 $i$번째 행벡터와 $j$번째 열벡터의 내적을 성분으로 갖는다. 행렬의 곱셈은 교환법칙이 성립하지 않는다 numpy array에서 두 행렬의 곱은 @연산자를 활용 import numpy as np X = np.array([[1,-2,3],[7,5,0],[-2,-1,2]]) Y = np.array([[0,1],[1,-1],[-2,1]]) X@Y ##matrix p..