network compiling 간단하게

1. motivation  학습이 완료된 network를 deploy하려는 target hardware에 inference가 가능하도록 compile하는 작업  최적화 기법도 동반되어 사실상 속도에 가장 큰 영향을 미치는 작업 그러나 가장 복잡하면서 내용이 상당히 어려움 유명 제조사들에서 compile library를 제공함 NVIDIA의 TensorRT는 NVIDIA GPU에 최적화시켜 compile을 수행 Tensorflow의 Tflite는 여러 embedded device에 성능을 보장해줌 apache의 TVM은 Tflite와 비슷한 기능들을 제공?  2. 문제점  compile library마다, 적용하는 모델마다 성능에 차이가 있음    기본적으로 compile을 수행하면 inference 속도..

• format_list_bulleted light weight modeling
• · 2024. 8. 16.
• textsms

tensorflow.js 익히기 -cors error, cdn사용-

1. cors error 이미지 분류기 사용할려고 하는데 에 이미지 경로를 쓰면 cors error가 나더라 로컬에서 CORS policy 관련 에러가 발생하는 이유 (velog.io) 로컬에서 CORS policy 관련 에러가 발생하는 이유 🚀 발단 위와 같은 html 파일을 로컬환경에서 크롬 브라우져로 실행시켰더니 >Access to script at 'file:///C:/경로/js/module.js' from origin 'null' has been blocked by CORS policy: Cr velog.io http-server 설치해서 npx http-server 실행시켜서 http://127.0.0.1:8080 서버에서 파일 실행시키면 cors error없어 2. cdn 사용 html파일에..

• format_list_bulleted Tensorflow.js
• · 2023. 1. 7.
• textsms

tensorflow.js 기본개념 익히기 -연산그래프-

1. 연산 그래프 텐서플로우와 같은 최신 프레임워크를 사용하여 머신러닝 모델을 구축할 때 일반적으로 사용하는 구성 요소 보통 최신 프레임워크에서는 데이터를 tensor로 표현 tensor는 임의 차원의 배열을 나타내는 데이터 구조 파이썬의 numpy에서 사용하는, 이미지나 오디오 등 다양한 데이터를 나타낼때 데이터가 구조화 되었는지 여부와 상관없이 ndarray를 주로 사용하는데 이와 비슷하다 tensorflow를 포함한 최신 머신러닝 프레임워크는 머신러닝 모델이라는 것이 곧 tensor의 연산 그래프라는 사실을 보여준다. 연산그래프는 tensor의 조작이나 변환에 사용되는 체인으로 정의 2. 시각화 연산 그래프는 tensorflow를 포함한 최신 머신러닝 프레임워크의 핵심이고, 모든 종류의 수학적 구조..

• format_list_bulleted Tensorflow.js
• · 2023. 1. 6.
• textsms