[세종=뉴스핌] 이경태 기자 = 사람의 뇌가 같은 소리를 반복해 들으면 점점 덜 놀라거나, 훈련을 통해 특정 자극에 더 빠르게 반응하는 것처럼, 스스로 학습하고 적응하는 인공지능(AI) 반도체가 국내 연구진에 의해 개발됐다.

한국과학기술원(KAIST)은 신소재공학과 김경민 교수 연구팀이 뇌의 '내재적 가소성'을 모방한 '주파수 스위칭 뉴리스터'를 세계 최초로 개발했다고 28일 발표했다.

기존 AI 반도체는 주로 뇌의 시냅스만 모방했지만, 실제 뇌는 개별 뉴런이 과거 활동을 기억해 스스로 반응을 조절하는 '내재적 가소성'이라는 정교한 메커니즘을 갖고 있다.

뉴런과 주파수 전환 뉴리스터의 비교 개념도 [자료=한국과학기술원] 2025.09.26 biggerthanseoul@newspim.com

연구팀이 개발한 '주파수 스위칭 뉴리스터(FS Neuristor)'는 이러한 뇌의 적응 능력을 단일 반도체 소자로 구현한 것이다. 나이오븀 산화물(NbO2) 기반의 '휘발성 모트 멤리스터'와 하프늄 산화물(HfO2) 기반의 '비휘발성 VCM(Valence Change Memory) 멤리스터'를 결합해, 뉴런이 신호를 내보내는 빈도(발화 주파수)를 자유롭게 조절할 수 있도록 했다.

이 소자는 뉴런 스파이크 신호와 멤리스터 저항 변화가 서로 피드백하며 자동으로 반응을 조절한다. 마치 반복된 소리에 점점 둔해지거나, 특정 훈련을 통해 더 예민해지는 뇌의 반응을 반도체 하나로 재현한 셈이다.

연구팀은 이 기술의 효과를 '희소 신경망' 시뮬레이션으로 검증했다. 그 결과 뉴런 자체의 기억 기능을 통해 기존 신경망 대비 27.7% 낮은 에너지로 동일한 성능을 구현했다.

더욱 주목할 점은 뛰어난 복원력이다. 학습된 신경망의 뉴런 30%를 의도적으로 손상시킨 후 추가 학습을 진행한 결과, 내재적 가소성이 적용된 신경망은 손상 이전 수준인 90.2%까지 정확도를 회복했다. 반면 이 기능이 없는 일반 신경망은 76.1% 회복에 그쳤다.

이는 일부 회로가 고장 나도 네트워크가 스스로 구조를 재조직해 기능을 보완하는 '구조적 가소성'을 구현했음을 의미한다. 또한 불필요한 연결을 97% 제거한 희소 신경망에서도 조밀한 신경망과 거의 동일한 91.4%의 인식 정확도를 달성했다.

김경민 교수는 "뇌의 핵심 기능인 내재적 가소성을 단일 반도체 소자로 구현해 AI 하드웨어의 에너지 효율과 안정성을 한 차원 높인 성과"라며 "스스로 상태를 기억하고 손상에도 적응·복구할 수 있는 이번 기술은 엣지 컴퓨팅, 자율주행 등 장시간 안정성이 요구되는 시스템의 핵심 소자로 활용될 것"이라고 말했다.

이 기술은 전력 공급이 제한적인 모바일·웨어러블 기기나, 신뢰성이 생명인 자율주행차, 우주·극한환경에서 작동하는 시스템 등에 폭넓게 응용될 것으로 기대된다.

이번 연구에는 박우준 박사(현 독일 율리히연구소), 송한찬 박사(현 ETRI)가 공동 제1저자로 참여했으며, 연구결과는 재료분야 권위지 '어드밴스드 머터리얼즈(Advanced Materials, IF 26.8)'에 지난달 18일자 온라인 게재됐다.

biggerthanseoul@newspim.com