전체기사 최신뉴스 GAM 라씨로
KYD 라이브
KYD 디데이
글로벌 미국·북미

속보

더보기

AI 최강자 등극 구글 '제미나이', GPT-4와 비교해 보니

기사입력 : 2023년12월07일 14:53

최종수정 : 2023년12월08일 07:49

[서울=뉴스핌] 최원진 기자= 구글이 오픈AI의 최신 생성형 인공지능(AI) 거대언어모델(LLM) 'GPT-4'를 능가하는 자체 모델 '제미나이(Gemini) 1.0'을 6일(현지시간) 공개해 화제다.

지난해 11월 챗GPT로 생성형 AI의 미래를 제시한 오픈AI가 기술 최강 자리를 굳건히 지킬 것이란 예상이 GPT-4 출시 후 불과 약 9개월 만에 깨진 것이다. 구글 제미나이가 AI 업계의 치열한 개발 경쟁에 다시 한번 불을 지폈다.

◆ 제미나이의 강점은 '멀티 플레이어'

제미나이는 3가지 버전으로 나온다. 구글이 지금까지 내놓은 것 중 가장 강력한 LLM이자 데이터센터와 기업용 모델인 '제미나이 울트라', 구글의 AI 챗봇 '바드'의 모델인 '제미나이 프로', 스마트폰 등 모바일 기기에서 사용 가능한 컴팩트한 사이즈의 '나노'다.

제미나이 프로는 제품 공개한 이날 바로 바드에 탑재됐다. 제미나이 프로가 적용된 바드는 170개 이상 국가 및 지역에서 영어로 제공되며, 향후 서비스 확장 및 새로운 지역과 언어도 지원될 예정이다. 

'제미나이 울트라'는 내년 초 '바드 어드밴스드'라는 이름으로 바드에 장착되며, '제미나이 나노'는 구글이 지난 10월 공개한 최신 스마트폰인 '픽셀8 프로'에 탑재된다.

구글은 제미나이가 "선천적"(natively)으로 멀티모달(Multi-Modal·다중모드) AI 모델이라고 소개한다. 멀티모달은 말그대로 텍스트뿐만 아니라 이미지, 동영상 등 비언어 입력값도 이해해 응용할 수 있는 '멀티 플레이어'다.

오픈AI가 이미지 생성 AI '달리'(DALL-E), 음성 인식 AI '위스퍼'(Whisper)를 각각 개발한 방식과 달리 구글은 애초부터 텍스트·이미지·오디오 등 다양한 데이터로 제미나이를 훈련해왔다는 것이다.

제미나이가 학생의 물리학 문제를 풀이해주는 예시. [사진=구글 딥마인드 제공]

특히 제미나이는 이미지와 동영상을 이해한 데이터를 응용하고 상호 작용하는 데 강점을 보인다.

예컨대 한 학생이 물리학 문제를 풀이하는 과정을 펜으로 쓴 이미지를 교사가 제미나이 프롬프트에 넣어 문제 풀이 과정에 어떤 부분이 틀렸는지 질문하면 제미나이는 정확히 문제의 정답과 학생의 손 글씨를 이해해 잘못된 문제 풀이 과정을 수정해 준다.

구글 딥마인드는 "제미나이가 이미지 속 텍스트를 이해하는 것을 넘어 교사가 어떻게 문제를 다르게 설정했는지 등을 이해해야 가능하다"고 설명했다. 제미나이는 오답 풀이 뿐만 아니라 학생이 틀린 유형의 다른 연습 문제도 제공해 교육 환경에서의 활용도가 높다는 게 자체 평가다.

이 밖에 제미나이는 동영상 속 언어를 감지해 번역 자막을 달아주고, 동영상 속 상황을 이해해 질문에 답할 수 있다.

◆ 32개 벤치마크 테스트 중 30개, 최고 성적

이미지와 영상의 이해부터 수학적 추론까지 가능한 제미나이 울트라가 업계에서 LLM 연구개발 평가 시 널리 사용되는 학술 벤치마크 기준 32개 가운데 30개 항목에서 GPT-4를 뛰어넘는 성적을 기록했다.

구체적으로 제미나이 울트라는 텍스트와 추론 벤치마크 부문 12개 중 10개, 이미지 이해 부문 9개 중 9개, 동영상 이해 벤치마크 6개 중 6개, 음성 인식 부문 5개 중 5개에서 GPT-4보다 높은 신기록을 썼다.

특히 대규모 다중작업 언어 이해(MMLU) 벤치마크에서 제미나이 울트라는 90% 이상의 정답률을 기록했다.

MMLU는 수학, 물리학, 역사, 법률, 의학, 윤리 등 57개의 주제를 복합적으로 활용해 지식과 문제 해결 능력을 평가하는 대표 격 LLM 벤치마크다.

구글 딥마인드는 제미나이 울트라의 MMLU 점수가 GPT-4의 86.4%를 앞선 것에서 나아가 AI 모델로는 최초로 인간 전문가 점수인 89.8%를 뛰어넘었다고 밝혔다. 

이 밖에 여러 단계의 추론을 요구하는 여러 문제 해결 능력을 평가하는 빅 벤치 하드(BIG-Bench-Hard)와 독해력 벤치마크인 DROP에서 각각 80%가 넘는 점수로 GPT-4를 능가했다. 

WMT23 벤치마크는 LLM의 번역 능력을 평가한다. 제미나이 울트라는 74.40%로 GPT-4보다 번역 능력이 우수했다.

다만 일상에 필요한 상식 추론 능력을 보는 헬라스웨그(HellaSwag) 벤치마크에서는 제미나이 울트라가 GPT-4에 못미쳤다. 

제미나이 울트라의 이미지 이해 능력은 GPT-4 보다 뛰어났다.

과학, 기술, 인문 과학, 음악 등 6개 핵심 부문 대학교 시험과 교과서에서 수집된 차트, 표, 악보 이미지를 이해하는 능력을 평가하는 다소 새로운 벤치마크인 MMMU에서 제미나이 울트라는 59.4%를 기록, GPT-4를 앞섰다.

이미지를 보고 이해해 관련 질문에 답할 수 있는 능력을 확인하는 VQAv2 벤치마크와 서류상 이미지를 이해하는 능력을 보는 DocVQA, 그래프 등을 보고 수학적 추론 능력을 보는 매스 비스타(MathVista) 벤치마크에서도 GPT-4 보다 좋은 성적을 거뒀다.

AI 모델의 동영상 이해를 평가하는 벤치마크들에서도 제미나이 울트라는 두각을 보였다. 

영상 속 상황을 텍스트로 옮기는 능력을 평가하는 VATEX 벤치마크와 영상과 관련된 질문에 답해 전반적인 영상 이해도를 평가하는 인식 테스트 MCQA 벤치마크 모두 GPT-4를 뛰어넘었다. 

이밖에 중국어 텍스트로 영상 속 상황을 옮기는 능력을 평가하는 VATEX ZH, 영어로 복잡한 요리 과정이 담긴 영상을 텍스트로 옮기는 YouCook2 등 여러 벤치마크에서도 높은 성적을 거뒀다.

제미나이 프로의 음성 인식 이해도도 우수했다. 21개 언어의 음성을 인식해 텍스트로 변환하는 능력을 평가하는 CoVoST 2 벤치마크에서 제미나이 프로는 40.1을 기록, 오픈AI의 음성 인식 AI 모델 '위스퍼' 버전 2(v2) 보다 10 이상 높았다.

62개 언어로 음성 인식 여부를 확인하는 FLEURS 벤치마크에서도 제미나이 프로는 7.6%를 기록, 위스퍼 v3 보다 월등했다. FLEURS는 AI 모델이 음성 인식 정확도를 측정하는 테스트로 점수가 낮을 수록 인식 오류가 적다는 의미다. 

이밖에 제미나이는 파이선(Python), 자바(JAVA), C++, Go 등 세계에서 널리 사용되는 프로그래밍 언어로 코드를 이해하고 생성할 수 있다. 

코딩 작업 성능을 평가하는 업계 표준인 휴먼이발(HumanEval) 벤치마크에서 제미나이 울트라는 74.4%를 기록해 GPT-4(67.0%)를 능가했다. 파이썬 코드 생성 능력을 평가하는 내추럴2코드(Natural2Code) 벤치마크에서도 GPT-4 보다 1%포인트(p) 높은 74.9%를 기록했다. 

[사진= 구글 홈페이지]

wonjc6@newspim.com

 

CES 2025 참관단 모집

[뉴스핌 베스트 기사]

사진
[여론조사] '헌법' 개정해야 한다 58.3% [서울=뉴스핌] 이바름 기자 = 국민 10명 중 5명은 1987년 대통령 직선제를 담은 헌법 개정 이후 37년간 유지돼 온 우리나라 헌법을 개정해야 한다고 응답한 여론조사 결과가 28일 나왔다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문기관 미디어리서치가 지난 25일~26일 이틀간 전국 만 18세 이상 남녀 1000명을 대상으로 진행한 ARS 조사 결과 ' 헌법을 개정해야 한다'는 응답이 58.3%, '개정할 필요가 없다'는 26.2%, '잘모름'은 15.5%로 나타났다. 지지정당별로 보면 더불어민주당 지지자들은 82.0%가 '개정해야 한다'고 답변했다. '잘모름'이 10.5%, '개정할 필요가 없다'는 7.6%였다. 국민의힘 지지자들 가운데서는 '개정할 필요가 없다'가 55.4%, '개정해야 한다' 27.0%, '잘모름'은 17.6%로 조사됐다. 조국혁신당 지지자들은 '개정해야 한다' 86.8%, '개정할 필요가 없다' 7.1%, '잘모름' 6.2%였다. 개혁신당 지지자들은 '개정해야 한다' 56.2%, '잘모름' 22.7%, '개정할 필요가 없다' 21.0%로 집계됐다. 진보당 지지자들은 '개정할 필요가 없다' 45.5%, '개정해야 한다' 35.6%, '잘모름' 18.8%였다. 무당층은 '개정해야 한다' 59.1%, '잘모름' 26.1%, '개정할 필요가 없다' 14.8%로 나타났다. 지역별로 보면 광주·전남·전북에서 헌법 개정 의지가 강했다. 광주·전남·전북은 69.2%가 '개정해야 한다'고 답변했다. '개정할 필요가 없다'는 21.2%, '잘모름'은 9.6%였다. 이어 강원·제주는 '개정해야 한다' 63.2%, '잘모름' 22.8%, '개정할 필요가 없다' 14.1%였다. 부산·울산·경남도 '개정해야 한다'가 62.2%로 과반을 차지했다. '개정할 필요가 없다'는 24.2%, '잘모름'은 13.6%로 조사됐다. 경기·인천은 '개정해야 한다' 61.1%, '개정할 필요가 없다' 24.5%, '잘모름' 14.4%로 응답했다. 서울은 '개정해야 한다' 57.4%, '개정할 필요가 없다' 27.0%, '잘모름' 15.5%였다. 대전·충청·세종은 '개정해야 한다' 46.4%, '개정할 필요가 없다' 29.8%, '잘모름' 23.8%로 답변했다. 전국에서 헌법 개정 필요성 응답 비율이 가장 낮은 곳은 대구·경북으로 '개정해야 한다' 44.9%, '개정할 필요가 없다' 39.6%, '잘모름' 15.5%로 조사됐다. 연령별로 보면 중장년층에서 헌법 개정 필요성에 공감했다. 40대는 68.8%가 '개정해야 한다'고 대답했다. '개정할 필요가 없다'는 16.2%, '잘모름'은 15.0%였다. 60대는 64.0%가 '개정해야 한다'고 응답했으며 '개정할 필요가 없다'는 26.3%, '잘모름'은 9.7%로 집계됐다. 50대는 '개정해야 한다' 62.7%, '개정할 필요가 없다' 22.8%, '잘모름' 14.5% 순이었다. 30대는 '개정해야 한다' 55.3%, '개정할 필요가 없다' 31.8%, '잘모름' 12.9%로 답변했다. 만18~29세는 '개정해야 한다' 53.1%, '개정할 필요가 없다' 27.4%, '잘모름' 19.5%였다. 70대 이상은 '개정해야 한다' 41.5% '개정할 필요가 없다' 36%, '잘모름' 22.5%로 전 연령 가운데 유일하게 '개정해야 한다'가 과반을 차지하지 못했다. 국정 지지별로는 '잘못하고 있다'는 응답자 중 74.9%가 '개정해야 한다'고 답변했으며 '잘모름'은 13.3%, '개정할 필요가 없다'는 11.9%로 나타났다. 반면 '잘하고 있다'는 응답자 중에서는 62.5%가 '개정할 필요가 없다'고 대답했으며 '개정해야 한다' 18.8%, '잘모름' 18.7%였다. 성별로는 남성은 '개정해야 한다' 65.8%, '개정할 필요가 없다' 29.5%, '잘모름' 15.5%로 조사됐다. 여성은 '개정해야 한다' 50.9%, '개정할 필요가 없다' 29.5%, '잘모름' 19.6%로 나타났다. 김대은 미디어리서치 대표는 "흔히 '1987년 체제'로 불리는 현행 헌법은 40년 가량 시간이 흐르면서 승자독식과 패권정치의 극심한 부작용으로 인해 개헌에 대한 정치권과 국민적 공감대가 높아졌다"고 분석했다. 김 대표는 "보수와 진보 지지층에서 헌법개정을 바라보는 시선이 달라 향후 헌법 개정 논의시 상당한 진통을 겪을 수도 있음을 보여준 결과가 나왔다"고 설명했다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.5%, 신뢰수준은 95%, 표본 오차는 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별, 연령별, 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. right@newspim.com 2024-11-28 06:00
사진
[여론조사] 尹지지율 0.9%p↑, 27.8% [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 상승해 20%대 중후반을 기록했다는 여론조사 결과가 28일 발표됐다. 종합뉴스통신사 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 25일~26일 이틀간 전국 만 18세 이상 남녀 1000명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 27.8%로 집계됐다. 부정평가는 69.8%로 나타났다. '잘 모름'에 답한 비율은 2.4%다. 긍정평가는 지난 조사에 비해 0.9%포인트(p) 상승했고 부정평가는 1.7%p 하락했다. 긍정평가와 부정평가 간 격차는 42.0%p다. 연령별로 보면 40대에서 긍정평가와 부정평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 21.4% '잘 못함' 76.8%였고, 30대에서는 '잘함' 29.5% '잘 못함' 68.3%였다. 40대는 '잘함' 16.2% '잘 못함' 83.0%, 50대는 '잘함' 23.6% '잘 못함' 74.6%로 집계됐다. 60대는 '잘함' 31.8% '잘 못함' 65.9%였고, 70대 이상에서는 '잘함' 48.4% '잘 못함' 45.1%로 집계됐다. 지역별로는 서울 '잘함' 23.9%, '잘 못함'은 73.8%로 집계됐다. 경기·인천 '잘함' 26.0% '잘 못함' 72.8%, 대전·충청·세종 '잘함' 29.8% '잘 못함' 63.6%, 강원·제주 '잘함' 15.4% '잘 못함' 82.1%로 조사됐다. 부산·울산·경남 '잘함' 28.6% '잘 못함' 68.7%, 대구·경북은 '잘함' 47.8% '잘 못함' 49.1%로 집계됐다. 전남·광주·전북은 '잘함' 22.9% '잘 못함' 75.9%로 나타났다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 23.5% '잘 못함' 74.9%, 여성은 '잘함' 32.1% '잘 못함' 64.6%였다. 김대은 미디어리서치 대표는 "윤석열 대통령의 인적쇄신 약속과 APEC·G20 정상외교 활약, 이재명 대표의 선거법 위반 1심 판결(징역 1년, 집행유예 2년) 때문에 보수층 중심으로 상승세를 보이고 있다"며 "하지만 윤 대통령의 지지율 30% 회복 여부는 국민 눈높이에 맞는 쇄신 인사들의 기용 여부와 김건희 여사 특검 여부에 달렸다"고 평가했다. 그러면서 "이재명 민주당 대표가 위증교사 혐의 재판에서 무죄 판결을 받으며 야권은 김건희 여사 특검·채 상병 사건 관련 국정조사 등 정치적 반격을 노리고 있어 윤 대통령 지지율 상승세 유지가 쉽지만은 않을 것"이라고 덧붙였다. 차재권 부경대 정치외교학과 교수는 "국민 앞에 모습을 드러내고 변화하려는 의지를 형식적으로나마 보여준 게 보수층 결집 효과가 있는 것 같다"며 "(지지율이) 조금 더 오를 수도 있었는데 이재명 대표의 위증교사 혐의 무죄 판결 때문에 소폭 상승하는 데 그친 것 같다"고 분석했다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.5%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-11-28 06:00
안다쇼핑
Top으로 이동