[서울=뉴스핌] 이나영 기자= 생성형 인공지능(AI) 기술이 빠르게 진화하고 있는 가운데 관련 기술을 보유한 국내 기업들이 주목받고 있다. 이는 오픈AI의 차세대 모델 'o3'와 'o4 미니'가 선보인 기술적 진보와 함께 신뢰성 문제가 부각되면서 관련 솔루션을 가진 기업들의 중요성이 커지고 있기 때문이다.

23일 업계에 따르면 두 모델은 이미지까지 사고에 통합한 첫 AI로 평가되지만, 동시에 생성형 AI 특유의 '할루시네이션(Hallucination)' 문제가 다시금 주목받고 있다.

할루시네이션은 AI가 실제 존재하지 않는 정보를 사실처럼 만들어내는 현상을 말한다. 최근 테크크런치는 오픈AI 사내 벤치마크인 '퍼슨(Person) QA' 평가 결과를 인용해, 최근 오픈AI 내부 평가에서 o3 모델의 환각률은 33%, o4 미니는 48%로, 기존 모델보다도 높은 수준을 보였다.

오픈AI 로고.[사진=로이터 뉴스핌] 2025.04.15 mj72284@newspim.com

이 같은 현상이 단순한 오류 수준을 넘어 AI의 구조적인 한계에서 발생한다는 점이다. 생성형 AI는 입력된 질문에 대해 가장 그럴듯한 단어를 확률적으로 이어붙이는 방식으로 작동한다. 이 과정에서 사실 여부를 판단하지 못하기 때문에, 때로는 허구의 정보를 실제처럼 생성하게 된다. 질문이 모호하거나, 학습 데이터가 부족하거나 부정확한 경우에는 오류 확률이 더 높아진다.

이에 관련 해법에는 '검색 증강 생성 (RAG; Retrieval-Augmented Generation)'라는 기술이 있다. RAG는 외부 정보를 검색해 활용함으로써 응답의 정확도를 높인다. 한 단계 진화한 '그래프RAG'는 복잡한 관계나 구조화된 정보를 반영해 보다 일관된 답변을 가능케 한다.

스카이월드와이드(SKAI)가 국내에서는 유일하게 이 기술을 보유한 것으로 알려져 있다. 이 회사는 PostgreSQL 기반의 자체 개발 그래프DB를 보유하고 있으며, 벡터 검색 기술인 PGVector를 유연하게 활용할 수 있는 역량도 갖추고 있다. 이러한 기술력은 RAG는 물론 그래프RAG까지 전문적으로 구현할 수 있는 기반이 된다.

그래프RAG는 특히 그래프DB의 구조와 설계에 따라 성능 차이가 크게 벌어지는 고난도 기술이다. SKAI는 이에 최적화된 그래프DB 전문성을 확보하고 있어, 생성형 AI의 한계를 기술적으로 보완하는 데 있어 유리한 위치에 있다. 단순히 AI를 활용하는 것을 넘어, 그 신뢰성을 높이는 데 기여할 수 있는 기업으로 평가받는 이유다.

스카이월드와이드 관계자는 "생성형 AI는 앞으로 더 많은 분야에 활용될 것이 분명하다"며 "할루시네이션은 단순한 한계가 아니라, 보완할 수 있는 기술을 잘 설계하고 활용하면 충분히 해결할 수 있는 문제로, 당사와 같은 전문 기업이 보유한 RAG와 그래프RAG 기술은 더 정확하고 믿을 수 있는 AI를 만드는 데 중요한 역할을 하게 될 것"이라고 강조했다.

롯데이노베이트의 기술력도 주목된다. 롯데이노가 자사 LLM 서비스 '아이멤버 챗'에 적용한 신규 기능 '두뇌풀가동'은 사용자의 질문에 대해 사고 과정을 단계적으로 전개하며 답변을 제공하는 독특한 방식을 채택했다. 이 기능은 문제 해결 과정을 마치 혼잣말하듯 서술함으로써, 답변의 신뢰성과 정확도를 높이고 할루시네이션 현상 발생 가능성을 낮추는 데 중점을 두고 있다.

회사는 '두뇌풀가동' 기능이 특히 특정 분야에 대한 심층 정보 탐색이나 복잡한 문제의 논리적 해결이 필요한 상황에서 강점을 발휘한다고 설명했다. 사용자의 질문을 단순히 결과로 응답하는 것이 아니라, 답변에 이르는 사고의 흐름, 그 과정에서의 분석과 논리, 관련된 배경 설명과 추가적인 인사이트까지 함께 제공한다.

챗GPT의 환각 문제는 생성형 AI가 해결해야 할 주요 과제로 꼽힌다. 이에 따라 관련 기술을 보유한 기업들의 역할이 부각되면서, 국내 기업들의 기술 경쟁력에도 관심이 모아지고 있다.

nylee54@newspim.com