1. normalization 신경망의 훈련을 빠르게 하기 위해 필요한 input normalization 다음과 같이 2차원의 입력데이터가 존재할때 주어진 데이터의 평균을 빼고, 표준편차를 나누는 방법으로 normalization할 수 있다. 데이터에 평균을 빼서 얻은 새로운 값의 평균은 0이 되고 위 그림에서 $x_{1}$이 $x_{2}$보다 분산이 더 큰 특징이 있다. 표준편차를 나눠서 얻은 새로운 값의 분산은 1로 되어 $x_{1}$과 $x_{2}$의 산포가 동일해진다. $$Z = \frac{X-\mu}{\sigma}$$ $$\mu = \frac{1}{m}\sum_{i = 1}^{m} X_{i}$$ $$X = X - \mu$$ 새로 얻은 X의 평균은 0이므로, 분산은 다음과 같이 구할 수 있다. ..
1. 폼이란 무엇인가 우리말로 양식 보통은 회원가입을 하거나, 로그인을 할 때 위와 같이 텍스트를 입력하는 양식을 많이 볼 수 있다 텍스트 입력 뿐만 아니라 체크박스, select 등 사용자가 무언가 선택을 하는 것 모두 폼이라 생각하면 된다 폼은 사용자로부터 입력을 받기 위해 사용하는 것 2. 리액트와 HTML의 폼 리액트와 HTML에서 폼은 조금 차이가 있다 리액트는 컴포넌트 내부에서 state를 통해 데이터를 관리 HTML 폼은 엘리먼트 내부에 각각의 state가 존재함 이름: 제출 위 코드는 기본적인 HTML 폼 사용자의 이름을 입력받고 제출하는 간단한 코드 리액트에서도 잘 동작하나, 자바스크립트 코드를 통해 사용자가 입력한 값에 접근하기에는 불편한 구조 리액트가 자바스크립트 기반이라 자바스크립트..
1. 문제 10820번: 문자열 분석 (acmicpc.net) 10820번: 문자열 분석 문자열 N개가 주어진다. 이때, 문자열에 포함되어 있는 소문자, 대문자, 숫자, 공백의 개수를 구하는 프로그램을 작성하시오. 각 문자열은 알파벳 소문자, 대문자, 숫자, 공백으로만 이루어져 있 www.acmicpc.net 2. 풀이 주어진 입력의 끝을 모를때, 어떻게 입력의 끝을 알고 문제를 풀 수 있을까? input파일을 프로그램이 읽어들이는데, 더 이상 읽을게 없을때 올바르게 프로그램을 종료할줄 알아야한다. 파이썬에서 한줄씩 입력을 받는 방법은 대표적으로 2가지가 있겠다 첫번째는 input()이고 두번째는 sys.stdin.readline() input()은 한줄을 읽을때, 개행문자를 제거하고 한줄을 읽어서 문자..
1. GRU(Gated Recurrent Unit) LSTM의 경량화, 적은 메모리와 빠른 계산시간 LSTM의 cell state와 hidden state를 하나의 hidden state로 일원화 하나의 input gate만 활용함 이전 hidden vector $h_{t-1}$과 input gate에서 계산한 $\tilde{h_{t}}$의 가중평균 형태로 새로운 hidden vector $h_{t}$가 업데이트되어 나감 하나는 다음 step의 hidden vector $h_{t}$로 나가고 예측이 필요하다면 똑같은 hidden vector $h_{t}$가 output layer로 들어가 예측을 수행 흐름과 식을 잘 봐야함 이전 hidden vector $h_{t-1}$가 input gate로 그대로 들..
1. LSTM 일반적인 RNN(Vanilla RNN)의 구조 LSTM(Long Short Term Memory)의 구조 조금 더 자세히 살펴보면 이상한 것이 여러가지 있다 LSTM의 핵심 idea는 cell state에 있다 공장에서 컨베이어벨트 박스가 흘러들어가는 모습을 상상해보자. 노동자들이 박스 하나 집어서 이상없는지 확인하고 다시 올려서 그대로 보내듯이 이전에 가공한 정보를 그대로 흘려보내는 컨베이어벨트가 cell state이다. 1. forget gate 이제 입력 $x_{t}$와 이전 hidden state($h_{t-1}$)에서 나온 조합된 잠재정보가 흘러들어가면서 forget gate에서는 어떤 정보를 버릴지 결정한다 버려야할 정보는 sigmoid에 의해 0과 1 사이 값으로 압축이 됨 2..
1. 사용자 정의 함수(function) def (함수명): (함수내용) return (return값) 프로그램 수행시 def로 정의된 함수는 수행하지는 않고 먼저 메모리에 올려놓고 메인 프로그램을 수행한 뒤에 함수를 호출하면 수행한다 def로 정의한 함수는 먼저 메모리에 올리고 사용자가 호출하면 불러와서 수행 반환값(return)이 있는 함수와 없는 함수에 유의해야 한다 반환값이 없지만 원본을 변화시키는 메소드 등을 인지하고 있어야함 f(x)는 반환값이 없어서 c에 아무런 값이 할당 되지 않아 print(c)하면 None이 출력된다 2. input() input()함수는 사용자로부터 str을 입력받아 str을 return한다 str을 return하지만 이것을 int나 float같이 숫자로 쓰고 싶다면 ..
딥러닝/머신러닝, 통계학, IT프로그래밍, 알고리즘을 좋아하는 사람 https://github.com/yundaehyuck
