리퀴드 AI, 로컬 에이전트용 ‘LFM2.5-24B-A2B’ 공개…실행 조건은

이번 모델은 이전 LFM2-24B-A2B보다 문맥 길이를 늘리고 어휘 집합을 확장했다. 회사는 비라틴 문자 처리와 긴 작업 기록을 다루는 능력을 개선하려는 변화라고 설명했다. 최종 답변 전에 추론을 수행하는 방식으로 제공되며, 여러 에이전트 실행 환경에서 도구를 사용하는 학습을 적용했다. 채팅 답변뿐 아니라 실제 작업의 연속성을 목표로 삼은 구성이다.

공식 모델 카드는 텍스트 추론 모델로 규정하고 한국어를 포함한 지원 언어를 열거한다. 최대 문맥 길이는 13만 1,072토큰이다. 모델이 호출할 도구를 제시하면 호출 내용을 출력하고, 실행 환경이 처리한 결과를 다시 받아 답하는 구성을 설명한다. 모델 파일만 실행한다고 업무 시스템에 대한 접근 권한이나 실행 도구가 자동으로 생기는 구조는 아니다.

실행 형식에 따라 다른 장비 조건

배포 형식에는 일반 가중치와 FP8, 지지유에프(GGUF), 애플 실리콘용 MLX 등이 포함된다. 같은 이름의 모델도 정밀도와 실행 프로그램에 따라 메모리 사용량과 처리 성능이 달라진다. 전체 매개변수 중 일부만 계산에 참여하는 구조는 연산을 줄이는 방법이며, 전체 가중치를 저장할 필요가 없다는 뜻은 아니다.

회사는 애플 M5 Max에서 초당 184토큰을 생성했다고 보고했다. 공식 카드의 조건은 llama.cpp, Q4_K_M 양자화, 입력 문맥 4천 토큰이다. 이 수치를 긴 문서를 넣은 다른 장비의 속도로 그대로 옮길 수는 없다. 기기 이름뿐 아니라 정밀도와 입력 길이가 함께 제시돼야 비교 가능한 수치가 된다.

발표에 함께 등장한 엔비디아 B300의 초당 2만 1천 토큰 수준은 다수 요청을 계속 유지하는 서버 처리량이다. 한 사용자의 답변이 그 속도로 나온다는 뜻과 다르다. 회사는 동시 요청이 끝날 때마다 새 요청을 넣는 방식으로 측정했다고 설명했다. 로컬 한 명의 응답 시간과 서버 전체 처리량을 같은 열에 놓고 판단하기 어려운 이유다.

도구 호출 성능과 지식 정확도는 별도

회사 비교표에서는 일부 도구 사용 시험에서 강점을 보였지만 지식과 코드 수정 시험에서는 다른 모델이 앞섰다. 따라서 작은 모델이 모든 업무를 대체한다는 결론보다 어떤 작업에 적합한지 보는 편이 발표 범위에 맞는다. 모델 카드 역시 지식 의존도가 높은 작업에서는 검색 등을 결합하도록 권고한다.

로컬 추론의 의미도 정확히 나눠야 한다. 모델에 넣은 문장을 외부 추론 서버에 보내지 않는 구성은 가능하다. 그러나 에이전트가 웹 검색이나 클라우드 저장소를 호출하면 해당 도구의 통신은 따로 발생한다. 데이터가 어디로 이동하는지는 모델의 위치와 연결한 도구의 동작을 함께 봐야 판단할 수 있다.

이번 공개는 기기 안에서 사용할 모델과 실행 자료가 함께 제공됐다는 점에서 의미가 있다. 실제 유용성은 자신이 처리할 문서와 도구, 필요한 응답 속도에서 확인해야 한다. 공개된 성능표는 그 검토의 출발점이며 모든 환경의 성공률이나 운영 비용을 보장하는 결과는 아니다.