미스트랄, 라지 4(Mistral Large 4) 가중치 공개…직접 운영과 수정 허용

이번 변화는 월초의 시험 공개에서 모델의 수치 파일인 가중치 배포로 넘어갔다는 데 있다. 회사 서버에 접속할 권한만 받던 개발자에게 모델을 보관하고 조정할 선택지가 추가됐다. 다만 공개 가중치를 받았다는 사실만으로 실행 설비와 운영 비용까지 제공되는 것은 아니다. 직접 운영의 자유와 이를 감당할 자원은 함께 살펴야 한다.

모델 카드에 따르면 전체 매개변수는 약 1조 개다. 처리 단위인 토큰 하나를 계산할 때는 그중 약 490억 개가 활성화되며, 입력을 수치로 바꾸고 출력을 만드는 부분까지 포함하면 약 520억 개다. 여러 계산 경로 가운데 일부를 고르는 구조이므로 전체 규모와 한 번의 계산량이 다르다. 약 520억 개라는 수치만으로 전체 모델을 저장할 메모리 크기를 판단할 수 없는 이유다.

입력은 글과 이미지, 출력은 글이다. 한 번에 처리할 수 있는 문맥 길이는 최대 100만 토큰으로 안내돼 있다. 추론 강도는 낮음·중간·높음 중 선택하며 기본값은 높음이다. 문맥 길이는 한 번에 다룰 수 있는 정보량의 한도다. 입력이 길어졌을 때의 응답 속도까지 보장하는 수치는 아니므로, 기능 범위와 처리 시간은 구별해야 한다.

미스트랄은 API 가격도 입력 100만 토큰당 0.70달러, 캐시된 입력은 0.07달러, 출력은 2.10달러로 발표했다. 캐시는 앞서 처리한 입력을 재사용하는 방식이다. 이는 회사의 API를 사용할 때의 요금이며, 내려받은 모델을 자체 장비에서 실행하는 비용표가 아니다. 가중치 공개로 이용 경로가 늘어난 만큼 두 방식의 비용을 같은 기준으로 섞지 않아야 한다.

직접 실행을 돕는 소프트웨어도 같은 날 지원을 발표했다. 브이엘엘엠(vLLM) 개발팀은 미스트랄과 공동 작성한 글에서 새 모델 전용 배포 이미지를 안내했다. 모델 수치를 저장하는 형식인 FP8 버전은 GPU 여덟 개, 더 적은 비트로 압축한 NVFP4 버전은 블랙웰(Blackwell) GPU 네 개를 쓰는 실행 구성을 제시했다. 이는 문서의 구성 예시이며 모든 작업의 최소 장비 요구량을 입증한 결과는 아니다.

지원팀은 긴 입력과 답변 생성의 메모리 배분도 다뤘다. 긴 대화 내용을 여러 GPU에 나눠 저장하면 더 많은 내용을 유지할 수 있지만, GPU 사이의 통신 때문에 토큰 하나를 출력하는 시간은 늘어날 수 있다고 설명했다. 따라서 같은 모델도 입력 길이와 동시 요청 수, 배포 설정에 따라 처리량이 달라진다. 가중치 공개와 별도로 실행 소프트웨어의 지원이 필요한 배경이다.

이용 조건의 핵심은 모델을 서비스로 제공하는 사업의 정의다. 라이선스는 제삼자가 입력·설정·학습 데이터에 실질적인 통제권을 갖고 추론이나 추가 학습을 이용하도록 하는 사업을 구분한다. 특정 기능 안에 모델을 넣은 최종 이용자 제품과, 다른 업체가 운영하는 모델에 요청을 전달하기만 하는 경우는 이 정의에서 제외한다. 단순히 상업 제품이라는 이유만으로 모두 같은 계약 요건을 적용하는 문서는 아니다.

라이선스는 모델을 복사하거나 배포할 때 저작권과 허가 고지를 포함하도록 하며, 모델과 출력에 대한 보증은 제공하지 않는다. 공개의 의미는 이용자가 모델을 소유한 서버에서 검사하고 수정할 수 있다는 데 있다. 성능 홍보와 별개로 운영 위치·수정 권한·재배포 조건을 직접 판단할 근거가 마련됐다는 것이 이번 발표의 실질적인 변화다.