컴퓨터과학에서 말하는 problem

1. definition problem이란 최종적으로 바라는 것과 현재 인식하는 것의 차이 machine learning 문제에서는 target과 prediction의 차이는 loss로 주어지고 이것이 문제 problem이다. loss를 0으로 보내려고하는 것이 problem solving이고 보낼 때 사용한 수단이 solution 2. example $x^{2} + 2x + 1 = 0$으로부터 x가 얼마인지 구하려는 문제가 주어졌다면 현재 인식하고 있는 상태인 $x^{2} + 2x + 1 = 0$이 initial state 최종적으로 구하고자하는 x=-1이 terminal state initial state와 terminal state의 차이가 problem initial state부터 한 단계, 한 ..

• format_list_bulleted 컴퓨터과학(CS)
• · 2024. 11. 12.
• textsms

model compression이란 무엇인가?

1. problem solving large model이라는 initial state 데이터가 아닌 model이 input 적절한 경량화 기술을 통해 problem solving을 하여 compressed model을 얻는 과정이 model compression 적절한 경량화 기술은 pruning, quantization, knowledge distillation, filter decomposition 등을 의미 model compression의 decision problem solving 그림 2. optimization problem large neural network가 주어질 때 pruning, quantization, knowledge distillation, filter decompositio..

• format_list_bulleted light weight modeling
• · 2022. 3. 4.
• textsms