1. 넷플릭스부터 유튜브까지, 추천서비스의 역사 "오늘도 알 수 없는 유튜브 알고리즘이 나를 여기로 이끌었다" 유튜브에서 가장 자주 볼 수 있는 댓글입니다. 그만큼 유튜브의 추천 알고리즘은 사람의 마음을 읽는다고 해도 과언이 아니죠 실제로 유튜브는 서비스 대부분이 추천으로 구성되어 있습니다. 홈 화면도 추천이고 영상을 보고 나면 바로 밑에 나오는 관련 동영상도 모두 추천이죠. 통계에 따르면, 유튜브에서 사람들이 보는 영상 중 70%는 알고리즘이 추천한 영상이라고 합니다. 사실 추천 알고리즘을 얘기할 때 유튜브보다도 넷플릭스를 얘기안할 수가 없습니다. 심지어 넷플릭스는 스트리밍 서비스를 시작하기도 전, DVD를 우편으로 배달하던 시절인 2006년부터 그 유명한 넷플릭스 프라이즈를 개최하죠 한 편의 영화를 ..
1. motivation 상품을 추천하고자하는 사용자가 x일때, x와 유사한 취향을 가지는 여러 사용자들을 찾는다. 이 유사한 취향을 가지는 여러 사용자들이 선호한 상품들을 찾는다. 이 상품들을 x에게 추천하고자 하는 방법이 협업 필터링이다. 2. idea 유사한 취향의 사용자들을 찾는 것이 핵심인데 어떻게 찾아야 할까? 위와 같은 상황을 상상해보자. 평점이 입력되지 않는 경우도 존재한다. 그리고 한눈에 보면 지수와 제니는 취향이 비슷하고 제니와 로제는 취향이 서로 반대된다. 지표로 어떻게 나타내냐? 평점간 상관계수로 두 사람의 취향의 유사도를 구하는 것이다. 공동 구매한 상품을 가정하고 있는데 2명중 평점을 1명만 제시한 경우 그 상품은 상관계수 계산에 제외하겠다는 것이다. 당연하지만 분자를 보면 같은..
1. 추천 시스템이란 무엇인가 1-1) example 아마존의 웹페이지에서는 이전에 구매한 상품을 바탕으로 앞으로도 구매할 법한 상품을 추천해줌 심지어 함께 구매하면 좋은 상품도 추천해줌 영어 써진거 보니까 이미 해당 상품을 산 사람이 또 산 상품을 추천해주는 것 같네 스팀처럼 이전에 본 영화를 바탕으로 추천 이유를 명시해주면서 비슷한 영화를 추천해줌 유튜브는 그동안 본 영상을 바탕으로 맞춤형 추천 영상을 제시함 1-2) recommendation system on graph 추천 시스템은 사용자가 구매할만한, 혹은 선호할법한 상품을 추천 사용자별 구매 기록은 그래프로 표현할 수 있다. 평점을 통한 명시적인 선호를 표현할 수도 있고 단순히 구매기록만 나타낸 암시적인 선호를 표현할 수도 있다. 추천 시스템..
1. iterative pruning network가 존재하면 neuron weight들의 중요도를 계산함 중요도가 적은 weight는 적절하게 제거함 이후 데이터를 다시 넣어 fine-tuning을 수행하면서 weight를 업데이트 pruning을 계속하고 싶으면 weight의 중요도를 다시 계산하여 위 과정을 반복 pruning을 중단하고 싶으면 그대로 사용.. 단 1번만 할 수는 있지만 보통 여러번 반복 pruning을 수행함 2. pruning의 알고리즘 N이 pruning의 반복수이고 X가 훈련데이터(fine-tuning에도 사용) 먼저 weight를 초기화하고 network를 training하여 weight를 convergence시킴 weight의 차원과 크기가 동일한 1로 가득찬 mask 행..
1. 아마존 알렉사, 스마트 스피커의 시대를 열다 첫 음성인식 비서는 애플의 시리였지만, 스마트 스피커라는 카테고리를 처음 만든 회사는 아마존입니다. 원래 제품명은 '플래시'라는 이름의 원통형 스피커였다고 합니다. 그러나 마지막에 에코라는 이름으로 바꾸었고 2014년 세계 최초의 스마트 스피커를 세상에 내놓았죠 오늘날 에코는 전 세계에 1억 대가 넘게 팔린 베스트셀러이며, 미국 시장조사 기업 이마케터가 조사한 바에 따르면, 미국 가정에 있는 스마트 스피커의 약 70%가 에코라고 합니다 에코를 부르는 호출어가 처음에는 '아마존'이었다고 합니다. 제프 베이조스는 제품 개발 막바지까지 아마존을 고집했으나 엔지니어들은 아마존이라는 단어가 일상 대화에서 너무 흔하게 나오지 않을까 걱정했습니다 아마존은 이미 세상에..
0. weighted sum model 원소들에 어떤 가중치들을 곱하여 선형결합을 한 형태 원소들의 가중평균 decision theory에서 무언가를 결정하고자 할 때 중요한 요소는 가중치를 크게 부여하고 덜 중요한 요소는 가중치를 적게 부여한다는 것에서 의미를 가짐 neural network에서 학습에 중요한 parameter도 있고 중요하지 않은 parameter도 있는데 안중요한 parameter를 지우겠다는 pruning의 핵심 원리와도 일맥상통 cross entropy도 일종의 weighted sum이다. 1. motivation 태어날 때 50조개의 neuron이 있는데 1년 뒤에는 1000조개의 neuron이 있다고함 이제 어른이 되면서 자주 쓰는 neuron은 보존하면서 자..
딥러닝/머신러닝, 통계학, IT프로그래밍, 알고리즘을 좋아하는 사람 https://github.com/yundaehyuck
