라이트온, 코드 검색 전용 소형 모델 공개…API 토큰 34% 감소 자체 보고

코딩 AI가 저장소를 수정하려면 먼저 관련 코드를 찾아야 한다. 함수 이름을 검색하고 호출 경로를 따라가면서 여러 파일을 읽는 과정은 최종 수정과 별개로 반복될 수 있다. 콜그렙 에이전트는 이 탐색을 주 코딩 모델이 모두 수행하는 대신 별도의 작은 모델이 맡도록 만든 구성이다.

제품 이름이 비슷하지만 ColGrep과 ColGrep-Agent는 역할이 다르다. ColGrep은 코드의 의미를 바탕으로 찾는 검색 엔진이다. 에이전트는 이 검색과 읽기 전용 터미널을 이용해 후보를 확인하고, 요청과 관련된 파일·줄 범위·코드를 반환한다. 검색 결과를 한 번 나열하는 도구와 탐색을 이어가는 모델을 구분할 수 있다.

공식 모델 카드는 2B 규모의 검색 모델을 로컬에서 실행하는 흐름을 설명한다. 주 코딩 에이전트가 질문을 보내면 소형 모델이 저장소를 탐색하고 정리한 결과를 돌려준다. 큰 모델 하나가 모든 파일을 읽는 대신 역할별로 실행 주체를 나누는 설계다. 주 에이전트 자체를 대체하는 모델로 소개되지는 않았다.

줄어든 것은 검색 과정의 API 사용량

제작자는 Claude Code의 Sonnet 5.5를 주 에이전트로 사용하고 학습에서 보지 않은 저장소 13개를 평가했다고 설명했다. 검색 질문은 52개이며 네 가지 구성에서 각 질문을 세 차례 실행했다. 합계는 624개 세션이다. 평가의 크기와 실행 구성을 공개했다는 점은 결과의 적용 범위를 읽는 데 필요한 정보다.

발표된 자체 결과는 grep 기반 비교 구성보다 API 토큰 사용량 34%, 캐시를 고려한 API 비용 40% 감소다. 검색 정확도의 차이는 통계적으로 유의하지 않았다고 보고했다. 이 문장은 정확도가 모든 조건에서 완전히 같다는 뜻은 아니다. 해당 평가에서는 유의한 차이를 확인하지 못했다는 범위로 읽어야 한다.

평가 질문은 코드 위치를 찾는 검색 과제였다. 기능 개발이나 오류 수정, 테스트와 배포까지 완료하는 과제를 대상으로 한 전체 비용 비교는 아니다. 검색 이후 필요한 정보가 빠져 다시 탐색하거나 수정을 되돌리는 과정이 생길 수 있으므로, 이 수치를 개발 업무 전체의 절감률로 옮기면 측정 대상이 달라진다.

모델을 로컬에서 실행하는 자원도 결과 해석의 일부다. 주 API의 토큰이 줄어도 검색 모델과 인덱스를 준비하고 실행하는 시간은 따로 든다. 제작자가 제시한 지표는 외부 API 사용의 변화이며, 모든 장비 비용과 초기 준비를 합친 총비용을 대표하는 숫자는 아니다.

코드 전달 범위 역시 주 에이전트의 구성에 달려 있다. 검색은 로컬에서 하더라도 결과를 외부 모델에 전달하면 선택된 코드가 외부 요청에 포함될 수 있다. 로컬 검색 기능과 전체 개발 환경의 데이터 경로를 같은 것으로 이해할 수는 없다. 어떤 정보를 넘기는지를 결정하는 연결 방식이 남는다.

이번 발표는 코딩 AI의 경쟁이 큰 모델의 능력에 더해 필요한 정보를 효율적으로 공급하는 구성으로 확장되고 있음을 보여준다. 소형 모델이 맡을 역할을 명확히 정한 사례라는 점에서 의미가 있다. 앞으로의 쟁점은 검색의 비용 감소가 실제 수정의 정확성과 전체 작업 시간에도 이어지는지다.