공부/ML&DL55 [ML/DL] Batch Normalization 배치정규화 과적합을 줄이는 방법 중 하나로 알고 이 글을 읽는 분들이 많을것이다. Batch Normalization에 대해 알아보도록 하자. 먼저 Batch Normalization 은 아래 논문에서 나온 개념이다. Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift Training Deep Neural Networks is complicated by the fact that the distribution of each layer's inputs changes during training, as the parameters of the previous layers change. This slows do.. 2022. 9. 16. [머신러닝 공부] Tiny ML -23 / 모델, 바이너리 크기 최적화 Chapter23. 모델, 바이너리 크기 최적화 " 임베디드 플랫폼에서 ML 모델과 바이너리 크기를 최적화하려면? " 목차 : 시스템의 한계 메모리 사용 측정 다양한 문제들과 모델 모델 선택 실행파일 크기 줄이기 이전 포스팅 : [머신러닝 공부] Tiny ML -22 / 에너지 최적화 문제 Chapter22. 에너지 최적화 문제 " TinyML + 임베디드 장치에서의 에너지 소비를 줄이려면? " 목차 : 대략적인 감 잡기 전체 시스템 전력소모 측정 모델 전력 사용량 추정 전력소모 개선 임베디드 장치(M dbstndi6316.tistory.com 대부분 임베디드시스템의 읽기 전용 스토리지는 1MB 미만이며 SRAM이 512KB를 넘지 않는다. 워크스테이션에서 모델을 학습하거나 추론하며 32GB RAM이나 .. 2022. 5. 9. [머신러닝 공부] Tiny ML -22 / 에너지 최적화 문제 Chapter22. 에너지 최적화 문제 " TinyML + 임베디드 장치에서의 에너지 소비를 줄이려면? " 목차 : 대략적인 감 잡기 전체 시스템 전력소모 측정 모델 전력 사용량 추정 전력소모 개선 임베디드 장치(MCU)는 에너지를 거의 소비하지 않는다, 않아야 한다 는 특징이 있다. 그에 비해 서버CPU는 엄청난 전원이 필요하고, 스마트폰도 수 와트를 소비한다. 마이크로컨트롤러는 수밀리와트 미만의 전력으로 작동하여 작은 배터리로도 몇 개월~몇 년을 쓸수도 있다. 부하가 큰 작업을 한다면 불가능하니.. 전력사용량을 개선해야만 한다. 1. 대략적인 감 잡기 Network 요청은 RAM에서 정보를 읽는것보다 느리고 / SSD접근보다 HDD 접근이 더 느리다. 에너지 양에 대해서는 감이 없지만.. 이 감을 잡.. 2022. 5. 8. [머신러닝 공부] Tiny ML -21 / 최적화 문제 Chapter21. 최적화 문제 " Tiny ML + 임베디드에서 최적화 문제는 무엇인가? " 목차 : 최적화 문제가 필요할까? 방법 1 - 하드웨어 변경 방법 2 - 모델 개선 방법 3 - 양자화 방법 4 - 제품 설계 방법 5 - 코드 최적화 방법 6 - 연산 최적화 1. 최적화 문제가 필요할까? 원활한 사용환경을 제공하기 위해 현업에서도 어떤 프로젝트를 하던간에 최적화는 꼭 필요하다. 특히 TinyML + 임베디드 기기는 컴퓨팅파워가 높지 않기 때문에 병목현상이 생길 수 있다. 더 성능이 좋은 모델을 돌리지 못하는 한계점이 있을 수 밖에 없는데.. 이를 어떻게 극복하는지 알아보자. 방법 1 - 하드웨어 변경 우선적으로 고려해볼 사항은 하드웨어 사양을 올릴 수 있는가 이다. 개발중일 때는 비용과 시간.. 2022. 5. 7. [머신러닝 공부] Tiny ML -20 / TF Lite Chapter20. TF Lite " 그래서 앞장까지 계속 썼던 TF Lite 는 뭘까 " 목차 : 마이크로컨트롤러용 TF Lite란? 모델을 인터프리터로 해석하는 이유는? Makefile? 앞장에서 했던 TFLite 프로젝트들 [머신러닝 공부] Tiny ML -8 / 음성인식 어플리케이션-1 Chapter8. 음성인식(호출어 감지) 어플리케이션 만들기 " 이번 챕터에서는 TinyML을 좀더 생활에 밀접한 부분에 사용해본다. " 목차 : TinyML을 이용한 호출어감지는 왜 필요할까? 만들고자 하는 시스템 dbstndi6316.tistory.com [머신러닝 공부] Tiny ML -13 / 인체감지 어플리케이션-1 Chapter13. 인체감지 어플리케이션 " 카메라로 인체를 감지해보자 (CNN) " 목차.. 2022. 4. 28. [머신러닝 공부] Tiny ML -19 / 제스처인식 어플리케이션 -3 Chapter19. 제스처인식 어플리케이션 " 자이로센서를 이용해 간단한 제스처를 인식하는 어플리케이션을 만들어보자 " 목차 : 개요 -> 이전장 만들고자 하는 시스템 -> 이전장 기본흐름 코드 -> 이전장 제스처 감지 -> 이전장 MCU에 배포 마치며 이전장링크 [머신러닝 공부] Tiny ML -18 / 제스처인식 어플리케이션 -2 Chapter18. 제스처인식 어플리케이션 " 자이로센서를 이용해 간단한 제스처를 인식하는 어플리케이션을 만들어보자 " 목차 : 개요 -> 이전장 만들고자 하는 시스템 -> 이전장 기본흐름 코드 -> 이전 dbstndi6316.tistory.com 참고 repo GitHub - tensorflow/tensorflow: An Open Source Machine Learning.. 2022. 4. 17. [머신러닝 공부] Tiny ML -18 / 제스처인식 어플리케이션 -2 Chapter18. 제스처인식 어플리케이션 " 자이로센서를 이용해 간단한 제스처를 인식하는 어플리케이션을 만들어보자 " 목차 : 개요 -> 이전장 만들고자 하는 시스템 -> 이전장 기본흐름 코드 -> 이전장 제스처 감지 MCU에 배포 -> 다음장 마치며 -> 다음장 이전장링크 [머신러닝 공부] Tiny ML -17 / 제스처인식 어플리케이션 -1 Chapter17. 제스처인식 어플리케이션 " 자이로센서를 이용해 간단한 제스처를 인식하는 어플리케이션을 만들어보자 " 목차 : 개요 만들고자 하는 시스템 기본흐름 코드 제스처 감지 -> 다음장 MCU에 dbstndi6316.tistory.com 참고 repo GitHub - tensorflow/tensorflow: An Open Source Machine Le.. 2022. 4. 16. [머신러닝 공부] Tiny ML -17 / 제스처인식 어플리케이션 -1 Chapter17. 제스처인식 어플리케이션 " 자이로센서를 이용해 간단한 제스처를 인식하는 어플리케이션을 만들어보자 " 목차 : 개요 만들고자 하는 시스템 기본흐름 코드 제스처 감지 -> 다음장 MCU에 배포 -> 다음장 마치며 -> 다음장 이전장 링크 [머신러닝 공부] Tiny ML -16 / 인체감지 모델 훈련하기 Chapter16. 인체감지 모델 훈련하기 " 이전장까지 썼던 모델 을 훈련시켜보자 " 목차 : 연산 환경 선택 Google Cloud Platform 설정 프레임워크선택 데이터셋 구축 모델 훈련과 평가 텐서플로 라이트 기타 dbstndi6316.tistory.com 참고 repo GitHub - tensorflow/tensorflow: An Open Source Machine Learni.. 2022. 4. 2. 이전 1 2 3 4 ··· 7 다음 반응형
