AI 연산의 새로운 중심, 엣지 디바이스로 이동
스마트공장·자율주행차 등 IoT에 최적화
[서울=뉴스핌] 서영욱 기자 = 반도체 설계 기업 Arm(암)이 인공지능(AI)을 더 빠르고 효율적으로 실행할 수 있는 새로운 플랫폼을 발표했다.
'코어텍스(Cortex)-A320' 중앙처리장치(CPU)와 '에토스(Ethos)-U85'라는 신경망처리장치(NPU)로 구성된 'Armv9 엣지 AI 플랫폼'이다. 이 플랫폼은 스마트폰, 공장 자동화 기기, 자율주행차 등 다양한 기기에 적용될 예정이다.
단순한 기술 개선이 아니라 AI와 엣지 컴퓨팅의 새로운 시대를 여는 중요한 전환점이 될 것이란 전망이다.
◆AI, 클라우드에서 엣지로 이동
Arm코리아는 27일 오전 서울 중구 더플라자호텔에서 기자간담회를 열고 'Armv9 엣지 AI 플랫폼'을 공개했다.
기존에는 AI 연산을 대부분 클라우드에서 수행했다. 하지만 AI 기술이 점점 발전하면서 데이터를 직접 처리하는 기기(엣지 디바이스)에서도 AI를 실행해야 하는 경우가 많아지고 있다. 예를 들어 스마트 공장에서 로봇이 실시간으로 공정 상태를 분석하거나, 스마트폰에서 음성 인식을 빠르게 처리하는 것이 이에 해당한다.
Arm의 수석 부사장인 폴 윌리엄슨(Paul Williamson)은 "AI 혁명은 이제 클라우드에만 머물지 않는다"며 "엣지 기기에서도 AI 연산이 필수적인 시대가 됐다"고 말했다. 그러면서 "오늘 발표된 사물인터넷(IoT)에 최적화된 'Armv9 엣지 AI 플랫폼'은 이러한 진화의 중요한 이정표가 될 것"이라고 말했다.
새로운 코어텍스-A320 CPU는 기존 모델보다 10배 더 강력한 AI 연산 성능을 제공한다. 또 일반적인 작업 처리 속도도 30% 향상됐다. AI 학습과 추론을 더 빠르게 수행할 수 있어, 음성 비서·스마트 카메라·자율주행차 등 다양한 분야에서 유용하게 활용될 전망이다.
또 AI 가속기인 에토스-U85 NPU는 최신 AI 기술인 트랜스포머 모델(Transformer Network)을 효과적으로 실행할 수 있도록 설계됐다. 이는 챗봇, 이미지 인식, 번역 등 다양한 AI 서비스에서 사용되는 기술이다.
Arm에 따르면 이 칩을 탑재하면 AI 연산 속도가 기존보다 8배 향상된다. 덕분에 기기 자체에서 더 복잡한 AI 기능을 수행할 수 있다.
새로운 Armv9 칩은 보안 기능도 대폭 강화됐다. 엣지 기기들은 인터넷에 연결되는 경우가 많아 해킹 위험이 크기 때문이다.
이번에 추가된 보안 기술에는 PAC(포인터 인증), BTI(분기 타겟 보호), MTE(메모리 태깅 확장) 등이 포함됐다. 이 기능들은 해킹을 방지하고, 중요한 정보를 안전하게 보호하는 역할을 한다. 특히 금융 서비스나 스마트 헬스케어 기기와 같이 개인정보를 다루는 기기에서 중요한 역할을 할 것으로 보인다.
◆AI 개발자도 지원… 최적화된 소프트웨어 제공
AI를 활용하려면 강력한 하드웨어뿐만 아니라, 이를 제대로 활용할 수 있는 소프트웨어도 필요하다. Arm은 AI 개발자들이 쉽게 사용할 수 있도록 '클라이디(Kleidi)'라는 소프트웨어 라이브러리도 함께 발표했다.
클라이디는 기존에 많이 쓰이던 구글의 엑스엔엔팩(XNNPACK), 메타의 라마(Llama.cpp), 익스큐토치(ExecuTorch) 등 AI 개발 도구와 호환되며, 마이크로소프트(Microsoft)의 타이니스토리즈(TinyStories) 같은 AI 모델을 실행할 때 성능을 최대 70% 향상시킬 수 있다.
덕분에 AI 개발자들은 더 빠르고 효율적으로 AI 기능을 개발할 수 있을 전망이다.
Arm의 새로운 AI 칩은 여러 글로벌 기업들의 관심을 받고 있다. 아마존(AWS), 지멘스(Siemens), 르네사스(Renesas), 어드밴텍(Advantech), 유로테크(Eurotech) 등 다양한 기업들이 Arm의 새로운 기술을 활용할 계획이다.
AWS의 야세르 알사에드(Yasser Alsaied) 부사장은 "새로운 Armv9 칩 덕분에 더 적은 메모리로도 AI 연산이 가능해졌다"며 "스마트 농업, 자율주행, 제조업에서 AI를 더욱 쉽게 활용할 수 있을 것"이라고 말했다.
또 르네사스의 대릴 쿠(Daryl Khoo) 부사장은 "전력과 공간 효율성이 중요한 IoT 기기에서 코어텍스-A320 CPU가 큰 역할을 할 것"이라고 기대감을 나타냈다.
AI 기술은 앞으로 더 많은 산업과 일상생활에 적용될 것으로 예상된다. 특히, 엣지 AI 기술이 발전하면 스마트폰, 가전제품, 공장, 의료기기 등에서도 더 빠르고 안전한 AI 기능을 사용할 수 있다.
Arm은 "미래의 AI는 클라우드뿐만 아니라 엣지에서도 활발히 활용될 것"이라며, "새로운 AI 칩이 더 똑똑한 기기들을 만드는 데 중요한 역할을 하게 될 것"이라고 말했다.
syu@newspim.com
