전체기사 최신뉴스 GAM 라씨로
KYD 디데이

AI 최강자 등극 구글 '제미나이', GPT-4와 비교해 보니

기사입력 : 2023년12월07일 14:53

최종수정 : 2023년12월08일 07:49

[서울=뉴스핌] 최원진 기자= 구글이 오픈AI의 최신 생성형 인공지능(AI) 거대언어모델(LLM) 'GPT-4'를 능가하는 자체 모델 '제미나이(Gemini) 1.0'을 6일(현지시간) 공개해 화제다.

지난해 11월 챗GPT로 생성형 AI의 미래를 제시한 오픈AI가 기술 최강 자리를 굳건히 지킬 것이란 예상이 GPT-4 출시 후 불과 약 9개월 만에 깨진 것이다. 구글 제미나이가 AI 업계의 치열한 개발 경쟁에 다시 한번 불을 지폈다.

◆ 제미나이의 강점은 '멀티 플레이어'

제미나이는 3가지 버전으로 나온다. 구글이 지금까지 내놓은 것 중 가장 강력한 LLM이자 데이터센터와 기업용 모델인 '제미나이 울트라', 구글의 AI 챗봇 '바드'의 모델인 '제미나이 프로', 스마트폰 등 모바일 기기에서 사용 가능한 컴팩트한 사이즈의 '나노'다.

제미나이 프로는 제품 공개한 이날 바로 바드에 탑재됐다. 제미나이 프로가 적용된 바드는 170개 이상 국가 및 지역에서 영어로 제공되며, 향후 서비스 확장 및 새로운 지역과 언어도 지원될 예정이다. 

'제미나이 울트라'는 내년 초 '바드 어드밴스드'라는 이름으로 바드에 장착되며, '제미나이 나노'는 구글이 지난 10월 공개한 최신 스마트폰인 '픽셀8 프로'에 탑재된다.

구글은 제미나이가 "선천적"(natively)으로 멀티모달(Multi-Modal·다중모드) AI 모델이라고 소개한다. 멀티모달은 말그대로 텍스트뿐만 아니라 이미지, 동영상 등 비언어 입력값도 이해해 응용할 수 있는 '멀티 플레이어'다.

오픈AI가 이미지 생성 AI '달리'(DALL-E), 음성 인식 AI '위스퍼'(Whisper)를 각각 개발한 방식과 달리 구글은 애초부터 텍스트·이미지·오디오 등 다양한 데이터로 제미나이를 훈련해왔다는 것이다.

제미나이가 학생의 물리학 문제를 풀이해주는 예시. [사진=구글 딥마인드 제공]

특히 제미나이는 이미지와 동영상을 이해한 데이터를 응용하고 상호 작용하는 데 강점을 보인다.

예컨대 한 학생이 물리학 문제를 풀이하는 과정을 펜으로 쓴 이미지를 교사가 제미나이 프롬프트에 넣어 문제 풀이 과정에 어떤 부분이 틀렸는지 질문하면 제미나이는 정확히 문제의 정답과 학생의 손 글씨를 이해해 잘못된 문제 풀이 과정을 수정해 준다.

구글 딥마인드는 "제미나이가 이미지 속 텍스트를 이해하는 것을 넘어 교사가 어떻게 문제를 다르게 설정했는지 등을 이해해야 가능하다"고 설명했다. 제미나이는 오답 풀이 뿐만 아니라 학생이 틀린 유형의 다른 연습 문제도 제공해 교육 환경에서의 활용도가 높다는 게 자체 평가다.

이 밖에 제미나이는 동영상 속 언어를 감지해 번역 자막을 달아주고, 동영상 속 상황을 이해해 질문에 답할 수 있다.

◆ 32개 벤치마크 테스트 중 30개, 최고 성적

이미지와 영상의 이해부터 수학적 추론까지 가능한 제미나이 울트라가 업계에서 LLM 연구개발 평가 시 널리 사용되는 학술 벤치마크 기준 32개 가운데 30개 항목에서 GPT-4를 뛰어넘는 성적을 기록했다.

구체적으로 제미나이 울트라는 텍스트와 추론 벤치마크 부문 12개 중 10개, 이미지 이해 부문 9개 중 9개, 동영상 이해 벤치마크 6개 중 6개, 음성 인식 부문 5개 중 5개에서 GPT-4보다 높은 신기록을 썼다.

특히 대규모 다중작업 언어 이해(MMLU) 벤치마크에서 제미나이 울트라는 90% 이상의 정답률을 기록했다.

MMLU는 수학, 물리학, 역사, 법률, 의학, 윤리 등 57개의 주제를 복합적으로 활용해 지식과 문제 해결 능력을 평가하는 대표 격 LLM 벤치마크다.

구글 딥마인드는 제미나이 울트라의 MMLU 점수가 GPT-4의 86.4%를 앞선 것에서 나아가 AI 모델로는 최초로 인간 전문가 점수인 89.8%를 뛰어넘었다고 밝혔다. 

이 밖에 여러 단계의 추론을 요구하는 여러 문제 해결 능력을 평가하는 빅 벤치 하드(BIG-Bench-Hard)와 독해력 벤치마크인 DROP에서 각각 80%가 넘는 점수로 GPT-4를 능가했다. 

WMT23 벤치마크는 LLM의 번역 능력을 평가한다. 제미나이 울트라는 74.40%로 GPT-4보다 번역 능력이 우수했다.

다만 일상에 필요한 상식 추론 능력을 보는 헬라스웨그(HellaSwag) 벤치마크에서는 제미나이 울트라가 GPT-4에 못미쳤다. 

제미나이 울트라의 이미지 이해 능력은 GPT-4 보다 뛰어났다.

과학, 기술, 인문 과학, 음악 등 6개 핵심 부문 대학교 시험과 교과서에서 수집된 차트, 표, 악보 이미지를 이해하는 능력을 평가하는 다소 새로운 벤치마크인 MMMU에서 제미나이 울트라는 59.4%를 기록, GPT-4를 앞섰다.

이미지를 보고 이해해 관련 질문에 답할 수 있는 능력을 확인하는 VQAv2 벤치마크와 서류상 이미지를 이해하는 능력을 보는 DocVQA, 그래프 등을 보고 수학적 추론 능력을 보는 매스 비스타(MathVista) 벤치마크에서도 GPT-4 보다 좋은 성적을 거뒀다.

AI 모델의 동영상 이해를 평가하는 벤치마크들에서도 제미나이 울트라는 두각을 보였다. 

영상 속 상황을 텍스트로 옮기는 능력을 평가하는 VATEX 벤치마크와 영상과 관련된 질문에 답해 전반적인 영상 이해도를 평가하는 인식 테스트 MCQA 벤치마크 모두 GPT-4를 뛰어넘었다. 

이밖에 중국어 텍스트로 영상 속 상황을 옮기는 능력을 평가하는 VATEX ZH, 영어로 복잡한 요리 과정이 담긴 영상을 텍스트로 옮기는 YouCook2 등 여러 벤치마크에서도 높은 성적을 거뒀다.

제미나이 프로의 음성 인식 이해도도 우수했다. 21개 언어의 음성을 인식해 텍스트로 변환하는 능력을 평가하는 CoVoST 2 벤치마크에서 제미나이 프로는 40.1을 기록, 오픈AI의 음성 인식 AI 모델 '위스퍼' 버전 2(v2) 보다 10 이상 높았다.

62개 언어로 음성 인식 여부를 확인하는 FLEURS 벤치마크에서도 제미나이 프로는 7.6%를 기록, 위스퍼 v3 보다 월등했다. FLEURS는 AI 모델이 음성 인식 정확도를 측정하는 테스트로 점수가 낮을 수록 인식 오류가 적다는 의미다. 

이밖에 제미나이는 파이선(Python), 자바(JAVA), C++, Go 등 세계에서 널리 사용되는 프로그래밍 언어로 코드를 이해하고 생성할 수 있다. 

코딩 작업 성능을 평가하는 업계 표준인 휴먼이발(HumanEval) 벤치마크에서 제미나이 울트라는 74.4%를 기록해 GPT-4(67.0%)를 능가했다. 파이썬 코드 생성 능력을 평가하는 내추럴2코드(Natural2Code) 벤치마크에서도 GPT-4 보다 1%포인트(p) 높은 74.9%를 기록했다. 

[사진= 구글 홈페이지]

wonjc6@newspim.com

 

[뉴스핌 베스트 기사]

사진
尹 지지율 2.3%p↓, 38.1%…"與 총선참패 '용산 책임론' 영향" [서울=뉴스핌] 박성준 기자 = 윤석열 대통령의 지지율이 소폭 하락해 30%대 후반을 기록했다는 여론조사 결과가 18일 발표됐다. 종합뉴스통신 뉴스핌 의뢰로 여론조사 전문업체 미디어리서치가 지난 15~16일 전국 만 18세 이상 남녀 1001명에게 물은 결과 윤 대통령의 국정운영에 대한 긍정평가는 38.1%로 집계됐다. 부정평가는 59.3%로 나타났다. '잘 모름'에 답한 비율은 2.5%다. 긍정평가와 부정평가 간 격차는 21.2%포인트(p)다. 긍정평가는 지난 조사 대비 2.3%p 하락했고, 부정평가는 1.6%p 상승했다. 연령별로 보면 40대에서 긍·부정 평가 격차가 극명하게 드러났다. 만 18세~29세에서 '잘함'은 36.0% '잘 못함' 61.0%였고, 30대에서는 '잘함' 30.0% '잘 못함' 65.5%였다. 40대는 '잘함' 23.9% '잘 못함' 74.2%, 50대는 '잘함' 38.1% '잘 못함' 59.8%로 집계됐다. 60대는 '잘함' 51.6% '잘 못함' 45.9%였고, 70대 이상에서는 60대와 같이 '잘함'이 50.4%로 '잘 못함'(48.2%)보다 높게 나타났다. 지역별로는 서울 '잘함' 38.5%, '잘 못함'은 60.1%로 집계됐다. 경기·인천 '잘함' 31.4% '잘 못함' 65.2%, 대전·충청·세종 '잘함' 32.7% '잘 못함' 63.4%, 부산·울산·경남 '잘함' 47.1% '잘 못함' 50.6%로 나타났다. 대구·경북은 '잘함' 58.5% '잘 못함' 38.0%, 전남·광주·전북 '잘함' 31.8% '잘 못함' 68.2%로 나타났다. 강원·제주는 '잘함' 37.1% '잘 못함' 60.5%로 집계됐다. 성별로도 남녀 모두 부정평가가 우세했다. 남성은 '잘함' 34.7% '잘 못함' 63.4%, 여성은 '잘함' 41.6% '잘 못함' 55.3%였다. 김대은 미디어리서치 대표는 윤 대통령 지지율 하락 배경에 대해 "108석에 그친 국민의힘의 총선 참패가 '윤 대통령의 일방적·독선적인 국정 운영 스타일로 일관한 탓이 크다'라는 '용산 책임론'이 대두되며 지지율이 하락했다"고 평가했다. 이준한 인천대 정치외교학과 교수도 "선거 결과에 대해 실망한 여론이 반영됐을 것"이라며 "최근 국무회의 발언 등을 국민들이 긍정적으로 생각하는 것도 아니고 경제 상황도 나아지고 있지 않아 추후 지지율은 더 낮아질 수 있다"고 분석했다. 이번 여론조사는 성·연령·지역별 인구비례 할당 추출 방식으로 추출된 표본을 구조화된 설문지를 이용한 무선(100%) ARS 전화조사 방식으로 실시했으며 응답률은 3.9%, 표본오차는 95% 신뢰수준에 ±3.1%p다. 통계보정은 2024년 1월말 행정안전부 주민등록 인구통계를 기준으로 성별 연령별 지역별 가중 값을 부여(셀가중)했다. 자세한 내용은 중앙선거여론조사심의위원회 홈페이지를 참조하면 된다. parksj@newspim.com 2024-04-18 06:00
사진
이재명 "다 접어두고 尹대통령 만나겠다" [서울=뉴스핌] 윤채영 김윤희 기자 = 이재명 더불어민주당 대표가 26일 윤석열 대통령과의 영수회담과 관련해 "의제도 정리하고 미리 사전조율도 해야하는데 그조차도 녹록지가 않은 것 같다"며 "다 접어두고 먼저 윤석열 대통령을 만나겠다"고 밝혔다. 이 대표는 이날 오전 국회에서 열린 최고위원회의에서 "복잡한 의제들이 미리 정리됐으면 좋았을 텐데 쉽지 않은 것 같다. 그거 정리하느라 시간 보내기 아쉽기 때문에 신속하게 만날 일정을 잡도록 하겠다"며 이같이 말했다. [서울=뉴스핌] 윤창빈 기자 = 이재명 더불어민주당 대표가 26일 오전 서울 여의도 국회에서 열린 최고위원회의에서 모두발언을 하고 있다. 2024.04.26 pangbin@newspim.com 이 대표는 "윤석열 대통령을 만나서 총선에서 드러난 우리 국민들의 민심을 가감없이 전달하도록 하겠다. 그리고 민생 현장의 참혹한 현실을 제대로 전달하고 또 필요한 조치들을 할 수 있도록 요청드리도록 하겠다"고 했다. 그는 이어 "윤석열 대통령께서도 우리 국민들의 이런 어려운 상황, 총선 민의를 잘 들어주시고 절박한 심정으로 어떻게하면 이 난국을 타개할 수 있을지 함께 고민해주시길 부탁드린다"고 촉구했다. 그러면서 "지금 이 위기를 벗어나지 못하면 몰락한다는 각오로 이번 회담에서 반드시 국민이 기대하는 성과, 가능한 조치들을 만들어내도록 노력하겠다"고 약속했다. 윤 대통령과 이 대표의 영수회담 실무회담은 전날에도 이어졌지만, 민주당은 "대통령실이 의제에 대해 구체적인 검토 결과를 제시하지 않았다"며 아쉬움을 표했다. 이에 대통령실은 "의제 제한을 두지 않고 사전 합의가 필요 없는 자유로운 형식의 회담을 가능한 빠른 시일 내에 개최하자"고 제안했다. 이 대표가 의제 조율이 지지부진하자 이를 접어두고 일단 윤 대통령을 만나겠다며 전향적인 입장을 밝힘에 따라 윤 대통령과 이 대표 간 만남은 금명간 성사될 것으로 전망된다.  ycy1486@newspim.com 2024-04-26 09:38
안다쇼핑
Top으로 이동