MS, 2조8,000억 매개변수 모델 사전학습 완료…제품 출시는 후속 단계
마이크로소프트(Microsoft)가 10월 15일 엠에이아이 베이스 2(MAI-Base-2)의 사전학습을 마쳤다고 밝혔다. 총 2조8,000억 개, 활성 800억 개 매개변수를 갖춘 기반 모델이다. 회사는 자체 비교에서 사전학습 연산 효율이 개선됐다고 설명했으며, 현재는 후속 학습을 진행 중이다. 완성된 대화 서비스의 일반 출시 발표는 아니다.
자세히
더 큰 모델에 학습 효율 개선을 투입
공식 발표는 MAI-Base-2를 다음 세대 제품의 바탕이 되는 모델로 설명한다. 회사는 더 효율적인 학습 방법으로 확보한 여력을 더 큰 모델을 훈련하는 데 투입했다고 밝혔다. 따라서 같은 품질을 더 적은 연산으로 얻을 가능성과 최종 학습에 사용한 총자원은 별개의 문제다. 효율 개선이 발표됐다고 총학습 비용까지 줄었다고 볼 근거는 없다.
훈련은 2026년 8~9월 38일 동안 GB200 GPU 약 1만6,000개를 사용해 진행됐다는 것이 MS의 설명이다. 이 수치는 회사가 밝힌 학습 환경이며 외부에서 재현한 결과는 아니다. 총 매개변수와 실제로 활성화되는 부분의 차이도 크다. 모델을 얼마나 크게 저장해야 하는지와 각 입력에 어느 정도 계산을 수행하는지를 나눠 보는 것이 타당하다.
‘4~12배’의 비교 대상과 지표
MS는 코드·질의응답·수학·과학 분야의 별도 평가 자료에서 다음 내용을 얼마나 잘 예측하는지를 비교했다. 토큰 분할 방식이 모델마다 다르기 때문에 바이트당 비트 수를 지표로 사용했다. 이는 기반 모델의 학습 상태를 살피는 방법으로, 도구 호출을 포함한 실제 업무의 완료율과 같은 지표는 아니다.
연산 효율 비교에서는 딥시크 V4 프로 베이스(DeepSeek-V4-Pro-Base)를 기준으로 삼았다. 여러 크기로 학습한 내부 모델의 관계를 적합해 같은 평가 수준에 도달하는 데 필요한 연산량을 추정했다. 보고서의 범위는 평가 분야별 약 4.2~12.3배다. 측정 목적과 계산 방법이 제한돼 있으므로 이 숫자를 추론 속도나 서비스 가격에 적용하면 다른 의미가 된다.
비교에 사용한 다른 모델 가운데는 이미 후속 학습을 거친 체크포인트도 있다. MS 역시 이 차이가 평가에 영향을 줄 수 있다고 밝혔다. 같은 표 안에 있다고 훈련 단계까지 동일한 비교는 아니다. 공개 순위를 읽을 때는 점수뿐 아니라 기반 모델인지, 지시를 따르도록 조정한 모델인지도 함께 봐야 한다.
기존 추론 제품과 다음 기반 모델의 간격
기존 엠에이아이 싱킹 1(MAI-Thinking-1) 안내에서는 파운드리의 평가·관측·배포 기능과 연결한 공개 프리뷰를 소개한다. 반면 이번 MAI-Base-2 발표는 그 뒤를 이을 모델의 학습 기술을 다룬다. 기존 제품의 이용 가능 상태를 새 기반 모델에 그대로 옮겨 적용해서는 안 된다. 새 모델의 공개 제공 시점과 상품 조건은 후속 안내가 필요하다.
MS는 다른 모델의 출력을 증류하는 방식에 의존하지 않고 자체 데이터 처리 과정을 구축했다고 설명한다. 기업 고객에게는 데이터 출처와 배포 권한을 설명할 수 있는 모델이라는 방향을 제시한 셈이다. 다만 개발사의 데이터 관리 설명이 개별 이용자의 모든 저작권·개인정보 요구를 충족한다는 별도 판정은 아니다.
모델·데이터·인프라를 함께 소유하면 제품에 맞춘 최적화를 시도할 여지가 커진다. 반대로 고객이 체감할 품질과 비용은 후속 학습, 추론 시스템, 실제 제공 조건까지 결합한 뒤 판단할 수 있다. 이번 소식은 MS가 그 기반을 얼마나 크게 확장했는지 보여주는 자료다. 지금 바로 사용할 새 챗봇의 가격표로 읽기보다 다음 제품 경쟁의 준비 과정을 보여주는 발표로 보는 편이 정확하다.
- 무엇이 달라지나
- MS가 모델과 학습 데이터, 대규모 연산 기반을 함께 설계하는 방식을 구체적으로 공개했다. 향후 파운드리(Foundry)를 통해 신뢰하는 파트너에게 가중치를 제공하려는 구상도 밝혔지만, 현재 공개 다운로드나 확정된 출시 일정과는 구분된다.
- 한계
- ‘4~12배 효율’은 특정 평가 수준에 도달하는 데 필요한 사전학습 연산량을 추정한 자체 비교다. 챗봇의 응답이 12배 빠르거나 실제 서비스 이용료가 그만큼 내려갔다는 뜻이 아니다.