하이브리드에이전트, 잠재공간 추론과 텍스트 도구 호출 결합
스탠퍼드대와 투게더 AI(Together AI) 등의 연구진이 10월 13일 하이브리드에이전트(HybridAgent) 연구를 공개했다. 내부 계산에는 연속적인 수치 표현인 잠재공간을 쓰고, 외부 도구와 대화할 때는 텍스트로 전환하는 방식이다. 논문과 구현, 모델이 함께 공개돼 에이전트의 추론 과정을 줄이는 연구 방향을 살펴볼 수 있다.
자세히
논문이 다루는 문제는 생각을 이어 가는 내부 표현과 도구가 이해하는 외부 표현의 차이다. 모델이 내부 상태를 수치 벡터로 이어 가더라도 검색이나 계산 도구에 보낼 요청은 읽을 수 있는 형식이어야 한다. 연구진은 잠재 추론을 별도의 막힌 경로로 두지 않고 텍스트 생성과 연결해, 외부 관찰 결과를 다음 추론에 다시 반영하는 구조를 제안했다. 논문 본문
연구는 큐원3(Qwen3) 기반 40억·80억·140억 매개변수 규모를 다루며 수학, 과학, 의학, 검색과 에이전트 추론을 포함한 11개 벤치마크에서 평가했다. 내부 표현을 활용하는 학습과 도구 사용을 함께 조정하는 것이 핵심이다. 이런 자체 평가의 효율 개선 결과는 실제 서비스의 비용 절감률과 같지 않다. 과제 구성과 도구 호출 방식, 실행 환경이 달라지면 운영 결과도 달라질 수 있다. 평가 범위
공식 저장소가 설명하는 연결 장치는 하이브리드링크(HybridLink)다. 모델 마지막 층의 상태를 다음 입력이 들어가는 표현 공간에 맞춰 돌려주는 역할을 한다. 작업 기억은 텍스트와 잠재 상태, 도구 관찰을 다음 차례로 이어 전달한다. 이 설명대로라면 에이전트의 진행 기록은 화면에 보이는 문장만으로 완전히 표현되지 않는다. 텍스트 기록을 저장하는 방식과 모델 내부 상태를 이어 가는 방식의 차이가 구현상 중요해진다. 연구진 저장소
공개 구현에는 파이썬(Python) 계산 도구와 검색 도구, 지도 미세조정 및 강화학습 단계, 일괄 추론 기능이 들어 있다. 잠재 상태를 읽을 수 있는 유사 텍스트로 보여주는 검사 기능도 제공한다. 다만 사람이 읽을 수 있게 변환된 표현이 존재한다는 사실만으로 모델의 모든 내부 원인이나 판단이 완전히 설명된다고 볼 수는 없다. 연구의 관찰 수단과 해석 가능성에 대한 더 넓은 주장은 구분해야 한다. 구현의 제공 범위
배포된 80억 매개변수 모델 카드는 기본 모델과 연결 장치의 가중치를 함께 담는다고 설명한다. 일반 트랜스포머스(Transformers) 로더로 기본 모델만 읽으면 텍스트 전용으로 동작하며, 잠재 모드와 도구가 결합된 생성에는 연구진 코드가 필요하다. 따라서 파일을 내려받을 수 있다는 사실과 기존 서비스의 모델 이름만 바꿔 바로 사용할 수 있다는 사실은 다르다. 80억 모델 카드
실행 조건도 연구 공개의 범위를 보여준다. 저장소의 설치 안내는 파이썬 3.11과 GPU용 파이토치(PyTorch) 환경을 제시하고, 검색 도구에는 타빌리(Tavily) 키가 필요하다고 적고 있다. 지도 미세조정에는 GPU 8개 또는 16개, 강화학습 예시에는 32개를 권장한다. 이는 학습 안내에 적힌 조건이며, 모든 추론 요청에 그만큼의 GPU가 반드시 필요하다는 뜻은 아니다. 설치·학습 안내
모델 카드에는 MIT 라이선스가 표시돼 있으며, 확인 시점에는 해당 모델을 제공하는 호스팅 추론 사업자가 없다고 안내한다. 공개된 결과는 연구 재현과 추가 개발의 출발점에 가깝다. 모델 파일과 실행 엔진을 함께 이해해야 한다는 조건은 내부 상태를 활용하는 새 추론 방식이 배포 환경에도 영향을 준다는 점을 드러낸다. 라이선스·호스팅 상태
이 연구의 의미는 추론을 얼마나 길게 쓰는가뿐 아니라 어떤 표현으로 진행하는가를 설계 대상으로 삼았다는 데 있다. 독자가 살펴볼 쟁점도 단일 점수보다 도구와의 연결, 상태의 보존, 사람이 검사할 수 있는 기록의 범위다. 이 세 조건이 함께 작동해야 잠재 추론이 외부 작업을 수행하는 에이전트의 구성 요소가 될 수 있다.
- 무엇이 달라지나
- 한 번의 생성 흐름 안에서 잠재공간과 텍스트를 오가며 도구를 호출한다. 도구의 응답을 받은 뒤에도 두 종류의 추론 맥락을 이어 가도록 구성했다.
- 한계
- 연구진의 자체 평가이며 상용 서비스의 성능 보장이 아니다. 공개 모델의 기본 가중치만 일반 추론 도구로 불러오면 혼합 추론과 도구 사용 기능을 그대로 얻을 수 없다.