전체기사 최신뉴스 GAM
KYD 디데이
산업 ICT

속보

더보기

카카오, 생성형 AI 안전 모델 '카나나 세이프가드' 공개

기사입력 : 2025년05월27일 09:25

최종수정 : 2025년05월27일 09:26

한국어 특화 성능…글로벌 모델 상회
3종 오픈소스 모델, 허깅페이스 통해 공개

[서울=뉴스핌] 양태훈 기자 = 카카오가 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 '카나나 세이프가드'를 개발하고, 국내 기업 최초로 이를 오픈소스로 공개했다.

27일, 카카오는 생성형 AI 기술의 안전성과 신뢰성 확보를 위한 AI 가드레일 모델 '카나나 세이프가드(Kanana Safeguard)'를 개발하고, 총 3종의 모델을 오픈소스로 공개했다고 밝혔다. 이는 국내 기업 중 최초로 시도된 오픈소스 배포 사례로, 안전한 AI 생태계 구축을 위한 기술적 기여를 목표로 한다.

최근 생성형 AI의 활용이 확산되면서 유해 콘텐츠 노출 등 안전성에 대한 사회적 우려가 커지고 있는 가운데, 카카오는 이에 대한 기술적 대응책 마련의 일환으로 해당 모델을 개발했다. 주요 글로벌 빅테크 기업들 또한 유사한 목적의 AI 가드레일 시스템을 운영 중이다.

[자료=카카오]

'카나나 세이프가드'는 카카오가 자체 개발한 언어모델 '카나나(Kanana)'를 기반으로 하며, 한국어 및 한국 문화를 반영한 고유 데이터셋을 활용해 한국어 특화 성능을 갖춘 것이 특징이다. F1 스코어 기준 평가 결과, 한국어 성능에서는 글로벌 모델을 능가하는 수준을 기록했다.

카카오는 이번에 공개한 모델 3종을 각각 다른 리스크 유형에 대응할 수 있도록 구성했다. '카나나 세이프가드'는 사용자의 발화나 AI 응답 중 증오, 괴롭힘, 성적 콘텐츠 등의 유해 요소를 탐지하며, '카나나 세이프가드 사이렌(Kanana Safeguard-Siren)'은 개인정보·지식재산권 등 법적 주의가 필요한 요청을 식별한다. '카나나 세이프가드 프롬프트(Kanana Safeguard-Prompt)'는 AI를 악용하려는 의도를 탐지하는 데 특화된 모델이다. 세 모델 모두 허깅페이스(Hugging Face) 플랫폼을 통해 다운로드할 수 있다.

특히 카카오는 해당 모델에 아파치 2.0(Apache 2.0) 라이선스를 적용해 상업적 이용은 물론 수정 및 재배포도 자유롭게 허용함으로써, 생태계 전반의 확산과 활용도를 높였다. 향후 지속적인 업데이트를 통해 기능 고도화도 추진할 방침이다.

김경훈 카카오 AI Safety 리더는 "생성형 AI 기술이 급속히 발전하면서 윤리성과 안전성에 대한 사회적 논의가 활발히 진행되고 있다"며 "카카오는 책임 있는 기술 개발을 선도하기 위해 지속적으로 선제 대응에 나설 것"이라고 밝혔다.

자세한 정보와 모델은 허깅페이스에서 확인할 수 있다.

dconnect@newspim.com

[뉴스핌 베스트 기사]

사진
폭염에 '온열질환자' 속출…환자 425명 [세종=뉴스핌] 신도경 기자 = 지난 30일 서울 전역에 첫 폭염주의보가 시작되면서 올해 온열질환자가 400명을 넘었다. 1일 질병관리청의 온열질환 응급실 감시체계에 따르면 지난 5월 15일부터 6월 29일까지 집계된 온열질환자는 425명으로 사망자는 3명에 달했다. 온열질환은 더운 날씨로 인해 열탈진, 열사병, 열 부종 등이 발생하는 질환이다. 40도 이상의 고열이나 현기증, 두통, 오한 등이 나타난다. [서울=뉴스핌] 김학선 기자 = 서울 전역에 올해 첫 폭염주의보가 발효된 30일 오후 서울 성동구 마장역 인근에서 시민들이 양산을 쓰고 뜨거운 햇볕을 피해 걷고 있다. 2025.06.30 yooksa@newspim.com 기상청은 지난 30일 서울 전역과 경기도 과천, 성남, 구리, 화성에 올해 첫 폭염주의보를 발령했다. 경기도 가평, 광주는 폭염주의보가 폭염경보로 격상됐다. 1일에도 서울의 낮 최고기온은 30도, 강릉 35도, 대전 32도, 광주 35도, 제주 31도로 더운 날씨가 계속될 전망이다.  날씨가 더워지면서 온열질환자 수도 점차 늘고 있다. 지난 5월 15일부터 5월 31일까지 온열환자 수는 62명으로 사망자는 없었다. 이 기간 중 하루 최대로 발생한 온열질환자 수는 21명이다. 반면 지난 28일에는 하루 최대로 발생한 온열질환자 수가 52명으로 늘었다. 지난 1일부터 29일까지 집계된 온열질환자 수는 361명으로 사망자는 3명에 달하며 급증하는 모양새를 보이고 있다.  연령별 현황에 따르면 온열질환자는 대부분 고령층에서 발생했다. 60대가 78명(18.4%)으로 가장 많았고, 50대 70명(16.5%), 30대와 40대는 각각 61명(14.4%)으로 집계됐다. 온열질환자가 속출하는 직업은 미상을 제외하고 단순 노무 종사자로 68명(16%)에 달했다. 농림어업숙련종사자 40명(9.4%), 무직 39명(9.2%) 순으로 나타났다. 열탄진으로 인한 온열질환자는 222명(52.2%)로 대부분을 차지했다. 열사병 85명(20%), 열경련 61명(14.4%), 열실신 53명(12.5%)이다. 하루 중 온열질환이 가장 많이 발생한 시간대는 오후 4∼5시(13.6%)다. 오전 10∼11시(11.8%), 오후 3∼4시(11.5%) 등의 순이었다. 온열질환을 예방하기 위해서는 물을 자주 마시고 시원한 곳에서 지내야 한다. 더운 시간대의 활동을 자제하는 것도 중요하다. 특히 체온 조절이 원활하지 않은 만성질환자, 어린이, 어르신은 더위에 오래 노출되지 않도록 더욱 주의해야 한다. 육현 원주세브란스기독병원 응급의학과 교수는 "온열질환은 충분한 수분을 섭취하고 더운 낮 시간대 활동을 피하는 것만으로 예방이 가능한 질환"이라며 "방치할 때 생명을 위협할 수 있어 각별한 주의가 필요하다"고 했다. 이어 육 교수는 "열사병, 열탈진, 열경련 등 온열질환이 발생할 경우 체열을 신속히 낮추는 것이 가장 중요하다"며 "옷을 느슨하게 풀고, 찬물에 적신 수건을 몸통에 덮거나 겨드랑이와 사타구니 부위에 찬 물병이나 선풍기 바람을 활용해 체온을 낮추는 응급조치가 도움 될 수 있다"고 강조했다. sdk1991@newspim.com 2025-07-01 11:24
사진
내란 특검 "5일 오전 9시까지 출석 통지" [서울=뉴스핌] 김현구 기자 = '내란 특검(특별검사)'이 1일 윤석열 전 대통령 측에 2차 소환조사 일자를 다시 통지했다. 특검팀이 다시 통지한 일자는 오는 5일 오전 9시다. 박지영 특별검사보(특검보)는 이날 오전 브리핑에서 "윤 전 대통령이 금일 특검 출석에 응하지 않고 불응했다"며 "윤 전 대통령에게 오는 5일 오전 9시까지 출석하라고 통지했다"고 밝혔다. 윤석열 전 대통령. [사진=뉴스핌DB] 박 특검보는 "(윤 전 대통령이) 5일 오전 9시 출석하지 않는 경우 어떻게 조치할 것인가"라는 질문에 "전날 윤 전 대통령 측이 제출한 의견서에서 5일 이후 출석에는 응하겠단 의사를 밝히고 있다"고 답했다. 이어 "만약 그때도 출석에 응하지 않으면 요건이 다 갖춰진 이상 법원에서도 (체포영장을) 내주지 않을까 생각한다"고 덧붙였다. 앞서 박 특검보는 특검이 재통보한 일정에 윤 전 대통령이 응하지 않는 경우 형사소송법상 마지막 단계의 조치를 취할 것이라고 말한 바 있다.   hyun9@newspim.com 2025-07-01 11:29
안다쇼핑
Top으로 이동