[서울=뉴스핌] 송주원 기자 = 숭실대학교는 소프트웨어학부 박찬준 교수 연구팀이 인공지능(AI)의 판단 편향과 도구 활용 능력, 실행 안전성 등을 분석한 논문 4편을 국제 자연어처리 학술대회 'AACL-IJCNLP 2026'에 채택시키는 성과를 거뒀다고 8일 밝혔다.

AACL-IJCNLP는 전산언어학회(ACL) 아시아·태평양 지부 학술대회와 국제자연어처리 공동학술대회가 함께 개최하는 학술 행사다.

이번에 채택된 논문 4편 가운데 3편은 숭실대 자연어처리 연구실 소속 학부연구생들이 주도했다. 연구 주제는 대형언어모델(LLM)의 도덕적 판단부터 AI 에이전트의 안전한 도구 실행까지 다양하다.

이시현 연구원이 제1저자로 참여한 논문은 LLM이 도덕적 갈등 상황에서 적극적인 행동보다 아무런 행동도 하지 않는 선택을 선호하는 '부작위 편향'을 분석했다.

연구팀은 서로 다른 도덕·철학적 관점을 반영한 평가 환경을 구축해 여러 AI 모델에서 이러한 편향이 나타나는지 살펴봤다. 이를 바탕으로 AI가 답변하기 전에 도덕적 원칙을 고려하도록 유도하면 편향을 완화할 가능성이 있다는 점을 제시했다.

추교준 연구원이 제1저자로 참여한 논문은 AI가 외부 정보 검색이나 계산, 시스템 조작 등 문제 해결에 필요한 기능을 내부적으로 어떻게 인식하는지 분석했다.

분석 결과 AI 모델 내부에는 필요한 기능을 구분할 수 있는 정보가 상당 부분 형성돼 있었다. 반면 이를 언어로 설명하도록 요구하면 정확도가 크게 떨어지는 현상이 확인됐다.

이는 AI가 내부적으로 파악한 내용을 사용자에게 정확하게 설명하는 능력에는 한계가 있을 수 있다는 의미다.

조성현 연구원이 공동 제1저자로 참여한 논문은 일본 도쿄대 연구진과 공동으로 수행했다. AI 에이전트가 외부 도구를 실행하기 전에 해당 작업을 안전하게 되돌릴 수 있는지 판단하는 기술을 제안했다.

연구팀은 도구 간 작동 관계와 시스템 상태를 분석하고 실행 결과를 복구할 수 있는지 사전에 점검하도록 설계했다. 이를 통해 위험한 작업을 차단하고 그 판단 근거까지 확인할 수 있도록 했다.

박찬준 교수는 "이번 AACL-IJCNLP 2026에서 연구팀의 논문 4편이 채택됐고, 그중 3편이 학부생 주도 연구라는 점에서 특히 의미가 크다"며 "학생들이 학부 과정부터 스스로 연구 문제를 정의하고 실험을 설계하며, 국내외 연구자와의 협업을 통해 연구를 완성해 가는 경험이 중요하다"고 말했다.

이어 "세 학생 모두 대학원에서 연구를 이어갈 예정인 만큼, 이번 성과가 장기적인 연구 성장의 출발점이 되길 기대한다"고 덧붙였다.

이시현·추교준·조성현 연구원은 졸업 후 숭실대 대학원에 진학해 박 교수의 지도를 받으며 자연어처리 분야 연구를 이어갈 예정이다.

jane94@newspim.com