[반도체 뉴스] 퀄컴 “지속 가능한 AI 위해 ‘분산형 AI’ 모델 필요"

​

퀄컴이 지속 가능한 인공지능(AI)을 위해 분산형 AI가 필요하다는 입장을 내놨다.

분산형 AI는 AI추론을 클라우드뿐 아니라 스마트폰, 노트북 등

개인용 IT 기기에서도 구현, AI운영 비용을 줄이는 모델이다.

​

두르가 말라디(Durga Malladi), 퀄컴 수석 부사장 겸 기술 기획 및

엣지 솔루션 부문 본부장은 지난 6일 서울 용산구에서 열린 AI 미디어 브리핑에서

“(만약) AI 추론을 클라우드에서만 진행하게 되면, 이 에너지 사용량이

전세계 전기 사용량의 3.5%를 달할 것이라는 분석이 있다’ 며

‘이를 해결할 수 있는 방법이 다양한 기기에서 수행하는 분산형 AI다”라고 말했다.

​

온디바이스 AI는 인터넷 연결 없이 기기 자체에서 AI모델을 구동하는 기술이다.

이 기술을 적용하면, 오프라인 상태에서도 실시간 통역과 같은 AI 기능을

사용할 수 있다. 삼성전자 갤럭시 S24, 갤럭시 Z플립6, 갤럭시 Z폴드6 등이

온디바이스 AI를 지원하는 대표적인 제품이다.

이 스마트폰에는 퀄컴의 스냅드래곤 8가 Gen3 탑재됐다.

이외에도 AI PC용 중앙처리장치(CPU) 스냅드래곤X 등을 출시하는 등

온디바이스AI 시장 선점에 박차를 가하고 있다.

​

또 온디바이스 AI 생태계 활성화를 위해 ‘퀄컴 AI 허브’ 등을 지원하고 있다.

퀄컮 AI 허브는 개발자들에게 온디바이스 AI를 구현하는데 필요한

리소스, 도구 및 서비스를 제공하는 게이트웨어다.

현재, 100개 이상의 사전 최적화된 AI모델 라이브러리를 보유하고 있다.

​

멀라디 부사장은 “(분산형 AI의 경우) 클라우드와 온디바이스 AI가

상호보완적인 역할을 한다”며 “온디바이스 AI만으로 연산 가능한 영역은

각 디바이스에서 처리하고, 불가능한 영역은 클라우드에서 실행하는 방식으로

진행될 것”이라고 내다봤다. AI 기술이 고도화 될수록 분산형 AI의 필요성은

더욱 늘어날 것으로 보인다. 그는 “에너지 문제 외에도 음성, 이미지,

비디오 등을 포괄하는 멀티 모달 AI로 넘어가게 되면 AI추론을

클라우드 상에서만 수행하기는 어렵다”고 설명했다.

​

최근 대두괴고 있는 AI 회의론에 대해서도 언급했다, 그는

“AI 버블이 있냐 없느냐는 더이상 중요한 문제가 아니다”라며

“생성형 AI, 보이스 어시스턴트 등 AI 기술로 인해 유저 인터페이스가 변하고 있는데,

이러한 경향성을 스마트폰에서부터 PC에 이르기까지

다양하게 확대될 것”이라고 전망했다.

​

이를 위해 퀄컴은 온디바이스 AI를 지원하는 제품군을 늘리고 있다.

지난달 공개한 스냅드래곤 7s 3세대 모바일 플랫폼과

스냅드래곤X 플러스 8코어, 10코어 제품이 대표적이다.

두제품은 보금형 모델임에도 불구하고 온디바이스 AI 기능을 지원한다.

​

출처 : 전자부품 전문 미디어 디일렉(http://www.thelec.kr)

“퀄컴, ‘지속 가능한 AI 위해 ’분산형 AI’모델 필요”