전체기사 최신뉴스 GAM 라씨로
KYD 디데이
GAM 일반

속보

더보기

[GAM] 온디바이스 AI 시대 ① 손 안의 인공지능

기사입력 : 2023년12월08일 15:51

최종수정 : 2023년12월08일 15:53

생성형 AI에서 에지 AI로
기기에 직접 탑재되는 AI
2024년부터 거대한 트렌드

이 기사는 11월 30일 오후 3시37분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

[서울=뉴스핌] 황숙혜 기자 = 2023년 생성형 인공지능(AI)이 주도했던 지구촌 AI 시장이 2024년 온디바이스(on device) 시대를 맞을 전망이다.

클라우드 서버를 축으로 작동했던 AI 알고리즘이 말 그대로 개별 기기에서 작동한다는 것. 손 안의 AI 시대가 열리는 셈이다.

온디바이스 AI 기술을 업계에서는 에지 AI(Edge AI)라고 지칭한다. 사용자와 직접 접촉하는 하드웨어를 의미하는 에지 디바이스에 AI를 접목한 형태이기 때문이다.

월가에서는 차세대 AI로 기대를 모으는 에지 AI 시대를 주도할 유망주를 발굴, 포트폴리오에 적극 편입하는 움직임이다.

모간 스탠리는 투자 보고서를 내고 2024년 에지 AI가 거대한 트렌드를 형성할 것이라고 전망하고, 해당 기술을 확보하고 두각을 나타내는 종목들을 적극 매입할 것을 권고했다.

AI를 형상화한 이미지 [자료=블룸버그]

지금까지 AI 기술은 PC나 스마트폰, 태블릿, 스마트워치를 포함한 웨어러블 등 각종 기기에서 수집한 데이터를 클라우드 서버로 전송해 분석한 뒤 다시 기기로 내보내는 방식을 취했다.

반면 온디바이스 AI는 클라우드 서버를 거치지 않고 개별 스마트 기기가 자체적으로 정보를 수집하고 연산하는 기술을 의미한다.

온디바이스 AI 홍보물 [자료=마텔리오]

단말기 내부에서 모든 데이터를 처리하기 때문에 보다 빠른 AI 알고리즘 구동이 가능하다고 시장 전문가들은 설명한다.

뿐만 아니라 중앙 클라우드 서버를 거치지 않아도 되기 때문에 기존 클라우드 기반 AI의 대표적인 문제로 지목되는 보안 문제 역시 해결할 수 있어 온디바이스 AI의 선호도가 크게 상승할 전망이다.

업계 전문가들은 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 온다바이스 AI에서는 가능하다고 강조한다.

지금까지는 클라우드 서버가 AI의 두뇌 역할을 하는 한편 사용자와 접점을 이루는 스마트폰과 그 밖에 기기가 눈과 귀의 역할을 했는데 에지 AI의 경우 하드웨어에 직접 AI 알고리즘이 탑재되기 때문에 기기가 작동하는 환경을 본질적으로 파악하고 더욱 적절한 결정을 내릴 수 있도록 한다.

이처럼 온디바이스 AI는 클라우드 서버에 의존하는 AI에 비해 다양한 강점을 지녔을 뿐 아니라 스마트 기기를 이용하는 사람들의 일상에 커다란 변화를 가져올 전망이다.

딥러닝(deep learning)과 시스템 반도체 신경망처리장치(NPU, Neural Processing Unit) 등 최첨단 솔루션을 접목한 에지 AI가 훨씬 빨라진 연산을 수행하는 한편 식습관부터 운동량까지 하드웨어 이용자의 다양한 생활 습관을 직접 파악해 다양한 맞춤형 서비스를 제공하는 등 실생활과 AI가 한층 더 밀착할 것이라고 업계 전문가들은 예상한다.

개인용 스마트기기 이외에 냉장고와 청소기, 세탁기 등에 접목하는 사물인터넷(IoT)에도 에지 AI가 적용되면 말 그대로 삶이 달라진다고 과학자들은 입을 모은다.

모간 스탠리는 이번 보고서에서 "2023년 생성형 AI와 클라우드 GPU가 뜨거운 화두를 이뤘고, 이들 기술은 앞으로도 기존 머신러닝 트렌드의 핵심 축을 이룰 것"이라며 "하지만 AI가 소비자들의 일상 생활과 기업의 생산성에 보다 깊숙이 침투하려면 – 곧 그렇게 될 것으로 예상하는데 – 모든 작업이 소비자들의 손에서 작동하는 기기에 직접 작용해야 한다"고 설명했다.

이 같은 기술이 바로 에지 AI이며, 해당 기술이 본격적으로 작동하면 비용을 줄이고 시간을 단축시키는 등 커다란 이점이 발생한다고 모간 스탠리는 강조한다.

특히 비용 측면의 효과는 IT 업계의 집중 조명을 받고 있다. 기존의 데이터 센터의 경우 조회 한 건당 비용이 과거 인터넷 검색에 비해 10배 가량 높다.

클라우드가 분명 막강한 컴퓨팅 파워를 제공하지만 그 비용 역시 만만치 않다는 지적이다. 반면 에지 디바이스에서 추론 소프트웨어를 가동하는 데 발생하는 한계 비용(marginal cost)은 '제로'에 가깝다고 모간 스탠리는 강조한다.

이번 보고서는 쉽게 생각할 수 있는 실생활 속의 에지 AI 사례로 스마트폰의 안면 인식과 스마트 스피커의 음성 인식을 제시했다.

모간 스탠리는 "생성형 AI가 등장한 데 따라 보다 고차원적인 컴퓨팅을 실행하기 위한 각종 기기의 업그레이드가 가속화되고 있다"며 "이 같은 AI 주도의 유스 케이스(use case)가 일상 생활 속의 각종 디바이스에 접목될 것"이라고 내다봤다.

 

shhwang@newspim.com

[뉴스핌 베스트 기사]

사진
SKT '유심 교체' 북새통...내 차례 올까 [인천=뉴스핌] 김학선 기자 = 가입자 유심(USIM) 정보를 해킹 당한 SK텔레콤이 유심 무료교체 서비스를 시작한 28일 인천의 한 대리점에서 고객들이 유심 교체를 위해 줄을 서 차례를 기다리고 있다. SKT는 사이버침해 피해를 막기 위해 이날 오전 10시부터 전국 2600여곳의 T월드 매장에서 희망 고객 대상 유심 무료교체 서비스를 진행한다. 2025.04.28 yooksa@newspim.com   2025-04-28 12:12
사진
"화웨이, 엔비디아 H100 능가 칩 개발" [서울=뉴스핌]박공식 기자 = 중국 화웨이가 미국이 수출 금지한 엔비디아 칩을 대체할 최신 인공지능(AI) 칩을 개발해 제품 시험을 앞두고 있다고 월스트리트저널(WSJ)이 현지 시간 27일 보도했다. 신문은 화웨이가 일부 중국 기술기업에 새로 개발한 '어센드(Ascend) 910D'의 시험을 의뢰했다고 전했다. 어센드 910D는 엔비디아의 H100보다 성능이 더 우수한 것으로 평가되고 있으며 이르면 5월 말 시제품이 나올 것으로 예상된다. 앞서 로이터통신은 21일 화웨이가 자체 개발한 AI칩 910C를 내달 초 중국 기업에 대량 출하할 계획이라고 보도한 바 있다. 화웨이를 비롯한 중국 기업들은 데이터를 알고리즘에 제공해 더 정확한 결정을 내리게 하는 훈련 모델용으로 엔비디아 칩에 필적하는 첨단 칩을 개발하는 데 주력해왔다. 미국은 중국의 기술 개발을 억제하기 위해 B200 등 최첨단 엔베디아 칩의 중국 수출을 금지하고 있다. H100의 경우 2022년 제품 출하 전에 중국 수출을 금지했다.  중국 베이징에 있는 화웨이 매장 [서울=뉴스핌]박공식 기자 = 2025.04.28 kongsikpark@newspim.com kongsikpark@newspim.com 2025-04-28 12:26
안다쇼핑
Top으로 이동