[임베디드] 임베디드시스템과 AI

 

임베디드시스템과 AI

 

1. 임베디드 시스템을 개발하는 경우는?

고도로 최적화되고 효율적인 시스템을 구축해야 할 때 개발한다.

단말 단계에 기기가 위치하게 된다.

 

https://dbstndi6316.tistory.com/301

[임베디드] 임베디드 시스템과 임베디드 개발자

---

2. AI의 분류는?

최근에는 모든 사업부문에 직 간접적으로 사용된다.

하지만 AI는 모든걸 해결 할 수 없다.

아래 포스팅은 AI의 분류를 정리한 포스팅이다.

 

https://dbstndi6316.tistory.com/244

[머신러닝 공부] 머신러닝 딥러닝 확실한 차이

 

 

---

 

임베디드 시스템에서 AI의 필요성

 

Why Device AI?

 

https://www.embeddedcomputing.com/technology/iot/edge-computing/edge-ai-is-overtaking-cloud-computing-for-deep-learning-applications

위의 왼쪽 그림에서와 같이 기존 AI의 활용방안은 클라우드 상에서 추론을 진행한다는 점이다.

 

물론 컴퓨팅 능력이 좋은 클라우드 단에서 추론을 진행하면 연산이 빠르게 될 수 있다는 장점이 존재한다.

 

하지만 이는 단말기와 게이트웨이, 클라우드 라는 시스템구조가 형성되기 때문에 통신량 및 처리부하가 증가, 비용부담 커질수있다.

 

이에 따라 위의 오른쪽 그림과 같이 사물에 내장되는 Embedded AI / Edge device 가 해결방안이 될 수 있다.

---

ex)

영상분석을 통해 카메라로 받아들인 영상에서 폭력을 감지할 수 있는 알고리즘을 개발했다.

이를 CCTV에 적용해서 상품화 하려고 한다. 어떻게 하면 될까?

CCTV의 영상을 서버로 보내서 서버에서 영상분석 알고리즘을 돌린 후 이상이 감지되면 통제실로 상황을 전송한다.

 

하지만 CCTV가 한대인가? 아니다.

수천 수만대의 CCTV가 있고 그에 따른 고화질 영상들이 있을텐데 모든 영상을 서버로 보낸다?

현재로서는 힘든 상황이다.

 

따라서 Edge Computing 이 필요하다. 각각의 CCTV에서 분석할 수 있는 기술이 필요하다는 이야기이다.

 

 

 

---

 

 

현황 및 발전방향

 

현재 MCU는 초소형, 저전력 소비라는 장점덕분에 다양한 전자기기에 널리 사용되고 있지만 연산능력과 메모리 능력이 떨어지기 때문에 AI 기능을 사용하는 데 한계가 있다.

 

같은 맥락으로, AI는 초대량의 데이터셋이 필요하기때문에 작은 메모리와 약한파워의 CPU를 가지고 동작하는 엣지단에서의 임베디드와 AI는 상극일 수 있다.

 

하지만 비약적인 반도체의 발달로 인해 마이크로프로세서에서도 AI의 추론을 실행할 수 있게 되면서 점차 활용방안을 넓혀가고 있는 추세이다.

 

---

 

이들의 발달은 Low power AI를 구현하는것으로 반도체의 발전 뿐 아닌 관련 소프트웨어도 함께 발전한다.

 

FPGA, ASIC과 같이 AI의 추론 네트워크 자체를 회로에 심어 기능을 수행하게 끔 하게 하는 반면

 

비교적 작은 리소스를 필요로 하는 Tensorflow lite / Pytorch mobile 버전이 출시되면서 Low power 를 실현시키고자 한다.

 

또한 Opencv 등의 라이브러리는 일부 DNN/CNN 구조를 내장하고 있기도 하다. 이를 통해 추론엔진을 구현할 수도 있을 것이다.

 

연구방향은 딥러닝 모델에 대한 경량화 압축 기술의 연구와 이의 임베디드에의 적용 방안이 있을 것이다.

 

 

---

 

 

추가 자료

 

임베디드 시스템용 딥러닝 추론엔진 기술 동향

출처 : 한국전자통신연구원(ETRI)

https://ettrends.etri.re.kr/ettrends/178/0905178003/34-4_23-31.pdf

 

임베디드 시스템에 최적화된 AI 모델 개발하려면?

출처 : e4dsnews

https://www.e4ds.com/sub_view.asp?ch=31&t=0&idx=12410 

 

Getting Started With deep learning models on ARM-Cortex A with MATLAB

https://community.arm.com/developer/tools-software/tools/b/tools-software-ides-blog/posts/getting-started-with-deep-learning-models-on-arm-cortex-a-with-matlab

 

기타 참고 링크 :

MCU 딥러닝 추론

http://www.aitimes.com/news/articleView.html?idxno=131676

https://www.kipost.net/news/articleView.html?idxno=204901

http://www.aitimes.com/news/articleView.html?idxno=133982

https://www.e4ds.com/sub_view.asp?ch=31&t=0&idx=13315