이 기사는 9월 22일 오전 08시05분 '해외 주식 투자의 도우미' GAM(Global Asset Management)에 출고된 프리미엄 기사입니다. GAM에서 회원 가입을 하면 9000여 해외 종목의 프리미엄 기사를 보실 수 있습니다.

이 기사는 인공지능(AI) 번역을 바탕으로 전문 기자들의 검증과 분석을 거쳐 생산된 콘텐츠입니다. 원문은 9월21일 블룸버그통신 기사(OpenAI, Anthropic Costs Push More Startups to Build Off Cheaper Open Models)입니다.

[서울=뉴스핌] 이홍규 기자 = 기업가치 156억달러 규모의 법률 스타트업 하비는 오픈AI의 GPT-4 등 AI 모델을 변호사 전용 업무에 맞게 훈련시키는 방식으로 사업을 구축해왔다. 그러나 최근 AI 비용이 급등하면서 거대 AI 기업에 대한 의존도를 재검토하게 됐다.

지난 3월 AI 에이전트 업데이트 이후 하비의 고객 이용량은 급증했지만 매출총이익률은 연초 약 50%에서 6월 -50%로 크게 하락했다고 사안에 정통한 관계자가 전했다.

이제 하비는 성능이 갈수록 향상되고 있는 중국산 대안을 포함해 오픈웨이트 AI를 받아들이는 소프트웨어 기업 대열에 합류했다. 이 같은 오픈웨이트 모델은 대체로 미국 AI 개발사의 독점 기술보다 비용이 저렴하고 하비 같은 기업이 자체 데이터로 맞춤형 모델을 구축할 수 있도록 해준다.

세쿼이아캐피털과 제너럴캐틀리스트 등 투자자들은 이 흐름을 뒷받침하고 있다. 기업들은 이를 통해 최대 비용 항목 중 하나를 절감하는 동시에 오픈AI와 앤스로픽에 기술을 맡기는 대신 자체 기술 통제권을 확보할 수 있게 된다. 두 AI 대기업이 조만간 시장의 큰 관심을 받을 기업공개(IPO)를 준비 중인 가운데 이 같은 움직임은 이들의 매출을 잠식할 위험이 있다. 최첨단 AI 개발 속도 조절 필요성을 둘러싼 논쟁이 이어지는 가운데 일부 스타트업에게 이는 최상위 모델이 제한되거나 지연될 가능성에 대비하는 헤지 수단으로도 자리 잡고 있다.

하비는 지난 8월 중국 문샷AI의 Kimi K3를 기반으로 한 자체 모델을 출시했다. 이 모델은 앤스로픽의 최상위 모델과 비슷한 성능을 훨씬 낮은 비용으로 구현한다는 평가를 받는다. 이번 출시와 AI 이용 방식의 추가 조정으로 하비의 매출총이익률은 다시 플러스로 전환됐다고 관련 사안에 정통한 관계자들이 전했다. 하비는 구체적인 재무 수치에 대해서는 언급을 삼갔다.

마찬가지로 헬스테크 스타트업 어브리지도 최근 엔비디아(NVDA)의 오픈소스 모델을 기반으로 임상 현장용 맞춤형 파운데이션 모델을 구축 중이라고 밝혔다. AI 고객 지원 스타트업 데카곤은 현재 전체 질의의 80%를 자체 모델로 처리하고 있다고 밝혔다. 핀테크 분야에서는 램프와 로고 등 스타트업이 처음으로 자체 모델 훈련을 검토하고 있다. 스페이스X 산하로 편입된 커서와 기업가치 480억달러 규모의 코그니션 등 코딩 기업들은 자체 모델을 출시한 초기 AI 애플리케이션 기업에 속한다.

램프의 공동최고경영자(co-CEO) 카림 아티예는 과거에는 모델 구축 비용이 지나치게 높았지만 오픈웨이트 시스템의 성능이 크게 향상되면서 지난 6월 7억5000만달러를 조달한 이후 자체 모델 구축을 검토하고 있다고 말했다. 그는 "1년 전만 해도 전혀 말이 되지 않았다"며 "지금은 훨씬 더 타당한 선택이 되고 있다"고 말했다.

아티예는 컴퓨팅 비용이 오르는 상황에서 "이를 감안해 최적화하지 않는 것은 완전히 무모한 일"이라고 말했다. 그의 회사는 현재 추가 자금 조달을 논의 중이다.

다만 모든 투자자가 이 같은 흐름에 동의하는 것은 아니다. 앤스로픽 투자사인 멘로벤처스의 파트너 맷 크레이닝은 맞춤형 모델 구축이 전문 인력 확보와 높은 초기 비용을 수반하는 만큼 모든 기업에 적합한 선택은 아니라고 주장했다. 그는 일부 기업에게는 이것이 단순한 마케팅 전략에 불과하다고 말했다.

그는 "자체 모델을 보유하느냐 아니냐는 애초에 잘못된 질문"이라며 "대부분의 경우 일종의 코스프레에 가깝다"고 말했다.

오픈웨이트를 둘러싼 논쟁

하비의 사장 겸 공동창업자 게이브 페레이라는 지난해 말까지만 해도 AI 애플리케이션의 성능은 대부분 기반이 되는 모델에 좌우됐다고 말했다. 그는 이 같은 기반 모델 훈련에는 막대한 비용이 들어 통상 최대 규모 AI 연구소들의 몫이었다고 설명했다. 이에 비해 자체 모델을 훈련하려는 시도는 상대적으로 의미가 크지 않았고 그 때문에 하비 같은 기업들은 최상의 기반 모델에 비용을 지불하는 것이 중요했다고 그는 말했다.

그러나 기반 모델의 비용 상승은 일부 기업에 부담으로 작용했다. 하비에 따르면 올해 들어 AI 토큰 이용량은 20배 증가했다. 창업진은 오픈AI와 앤스로픽의 고비용 모델에 계속 의존할 경우 이 같은 증가세가 지속 가능하지 않다는 점을 인지하고 있었다.

앤스로픽과 오픈AI는 최근 AI 비용에 대한 고객 우려에 대응해 저비용 모델을 잇달아 내놨지만 두 회사 모두 기본 구독료에 더해 모델 이용량에 따른 요금을 기업 고객에게 부과하고 있다. 이 같은 변화는 이른바 '토큰맥싱(토큰 최대 사용 전략)' 방식에 타격을 줬다. 일례로 우버(UBER)는 엔지니어들에게 앤스로픽의 클로드 코드 이용을 최대화하도록 독려한 뒤 4월까지 연간 AI 예산을 모두 소진했다.

샌프란시스코 소재 벤처캐피털 베이시스셋의 창업자 겸 매니징 파트너 란쉐자오 박사는 "자체 모델을 파인튜닝해 비용을 최적화하지 않는다면 이는 정의상 비효율적인 기업"이라고 말했다.

그는 이어 자체 사용을 위한 모델 구축을 시도하지 않는 기업은 "투자 유치가 어려울 것"이라고 덧붙였다.

앤스로픽과 오픈AI도 스타트업 영역으로 더 적극적으로 진출하고 있다. 두 회사는 올해 공격적인 채용에 나서는 한편 플러그인을 출시하고 법률·금융·헬스케어 등 여러 산업에서 파일럿 프로그램을 시작했다.

최근 앤스로픽 사옥에서 열린 투자자 포럼에서는 자체 모델을 구축하는 스타트업의 부상이 논의됐다. 사안에 정통한 관계자에 따르면 앤스로픽은 가치의 '곡선에 올라타는' 방법을 다룬 슬라이드에서 로고와 헬스케어 스타트업 오픈에비던스 등을 언급했다. 이 자리에서는 하비의 내부 AI 활용 사례도 언급됐는데 하비가 가장 난이도 높은 작업에는 여전히 앤스로픽의 고성능 모델인 클로드 오퍼스가 필요하다는 점도 함께 짚었다.

그럼에도 일부 스타트업은 모델 개발사가 접근을 차단할 경우 벌어질 상황을 우려하고 있다. 스페이스X가 커서 인수를 마무리한 지 불과 일주일 만에 오픈AI는 일론 머스크 계열사들의 과거 서비스 약관 위반 사례를 이유로 이 코딩 스타트업의 모델 접근을 중단한다고 발표했다.

오픈웨이트는 또 다른 대안을 제공한다. 오픈AI와 앤스로픽의 폐쇄형 모델은 내부 파라미터를 비공개로 유지하는 반면 오픈웨이트 모델은 파라미터를 공개해 외부 개발자가 이를 내려받아 수정할 수 있도록 한다. 이 과정을 포스트트레이닝이라 부른다.

관련 논의에 정통한 관계자 두 명에 따르면 Kimi K3 개발사 문샷 같은 일부 기업은 자사 엔지니어를 직접 투입해 고객이 기성 모델을 맞춤형 내부 모델로 파인튜닝하도록 돕기도 한다.

남은 과제

오픈웨이트 모델로의 전환에는 걸림돌도 있다.

데이터 프라이버시와 사이버보안 위험에 대한 우려로 미국 의회는 오픈웨이트 모델에 대한 다양한 규제 방안을 검토하고 있다. 미국 보안당국과 미국 AI 연구소들은 문샷과 또 다른 중국 AI 개발사 딥시크가 기존 '교사' 모델에 지속적으로 질의를 보내 더 저렴한 신규 모델을 훈련하는 방식인 증류(디스틸레이션)를 통해 자사 AI를 도용했다고 주장해왔다.

로고의 프로덕트 총괄 스트리브 워커에 따르면 그동안 알려지지 않았던 로고의 자체 모델 훈련 작업은 중국산 모델에 거부감을 가진 일부 대형 고객과의 협의를 필요로 했다.

AI 데이터 제공업체 머코의 최고경영자(CEO) 브렌든 푸디는 고객들이 중국산 모델에 대해 제기하는 질문은 대체로 규제 가능성보다 데이터 이용 관련 우려에서 비롯된다고 말했다. 다만 일부 개발자들은 맞춤형 모델 훈련 과정이 워낙 광범위해 모델의 파라미터가 결국 초기 상태와는 전혀 다른 모습이 된다고 주장한다. 로고의 워커는 "이 모델들은 사실상 오픈소스 모델에서 로고만의 모델로 완전히 바뀐다"고 말했다.

포스트트레이닝 역시 결코 쉬운 작업은 아니다. 멘로벤처스의 크레이닝은 전문 AI 인력을 둘러싼 시장 경쟁이 치열하다고 지적했다. 관련 엔지니어들은 연봉이 수백만달러에 달할 수 있고 오픈AI와 앤스로픽 같은 최상위 기업에 언제든 스카우트될 수 있다.

그는 이어 자체 모델을 파인튜닝하는 기업은 방대한 규모의 독점 데이터를 확보해야 하고 그렇지 않다면 해당 데이터에 비용을 지불할 능력과 의지가 있어야 한다고 말했다. 고객의 민감한 법률 데이터를 모델 훈련에 활용할 수 없는 하비는 대신 머코로부터 관련 전문성을 구매하고 있다.

자체 모델 구축을 시도한 모든 기업이 그만한 성과를 거둔 것은 아니다. 벤처캐피털 투자를 대부분 피해온 세일즈피크는 앞서 자체 대형언어모델(LLM) 구축 계획을 발표한 바 있다. 그러나 몇 달간의 시행착오 끝에 결국 이 계획을 포기했다. 공동창업자 겸 최고경영자(CEO) 오머 고틀립에 따르면 앤스로픽과 오픈AI 등이 제공하는 시중의 대형언어모델 대비 "뚜렷한 이점"을 발견하지 못했다.

일례로 비주얼 AI 모델을 구축 중인 엘로리안의 최고경영자(CEO) 앤드루 다이는 오픈소스 모델 운영의 경제성이 항상 성립하는 것은 아니라고 말했다. 오픈웨이트 모델을 내려받아 이를 구동할 컴퓨팅 인프라를 관리하는 데는 상당한 비용이 들 수 있다. 그는 자사처럼 트래픽이 적은 초기 단계 기업의 경우 폐쇄형 모델을 이용량에 따라 비용을 지불하는 방식이 오히려 더 저렴할 수 있다고 말했다.

자체 모델을 구축하는 스타트업들도 앤스로픽이나 오픈AI가 자신들과 직접 경쟁하려는 야심을 갖고 있다 해도 이들 기술을 완전히 배제할 수 있다고 보지는 않는다.

앤스로픽과 어브리지, 램프에 투자한 레드포인트벤처스의 매니징 디렉터 로건 바틀렛은 앤스로픽 모델에 대한 의존도를 낮추려는 흐름이 앞으로 더 확대될 것으로 내다봤다. 그럼에도 그는 스타트업들이 비용이 들더라도 계속해서 최고 성능의 AI를 이용할 것이라고 말했다. 그는 "제 발등을 찍는 선택은 하지 않을 것"이라고 말했다.

bernard0202@newspim.com