1. computational graph computational graph라는 것은 pytorch가 최종 변수에 대한 (위 그림에서는 L) forward pass를 통해 계산되는 모든 과정이 graph 형태로 저장되어 있는 것을 의미한다. 위의 그림은 a, b, c, d, L, w1,w2,w3,w4 9개의 변수 값들의 계산 과정이 기록되어 있는 computational graph이다. 위 그림에서 예를 들어 c를 계산할려면 a와 w2의 어떤 연산으로 c가 계산되어진다는 의미다. 이렇게 저장을 해놓으면 chain rule에 의한 backward pass 계산이 쉬워진다. 2. backward forward pass를 통해 변수에 대해 계산을 하면 pytorch에서 알아서 computational ..
1. MNIST Modified National Institute of Standards and Technology database(MNIST) Yann LeCun교수가 만든 손글씨 데이터 손으로 쓰인 0에서 9까지의 숫자로 이루어진 이미지 데이터 각 이미지에는 어떤 숫자인지를 나타내는 정답 레이블 정보가 포함 이미지 데이터는 0에서 1까지의 값을 갖는 고정 크기의 28*28행렬 각 행렬의 원소는 픽셀의 밝기 정보 숫자가 클수록 검정색에 가깝고, 0에 가까울수록 흰색에 가깝고.. 근데 반대로 클수록 흰색, 작을수록 검정색으로 나타내기도 하는듯..? 데이터의 레이블은 one hot encoding으로 길이가 10인 벡터로 이루어져 있다. 예를 들어 이미지가 숫자 4를 나타낸다면, [0,0,0,0,1,0,0..
딥러닝/머신러닝, 통계학, IT프로그래밍, 알고리즘을 좋아하는 사람 https://github.com/yundaehyuck
