넥스트웍스 기록작업 문의
오늘 방문자 —총 방문자 —
2026년 10월 21일 수요일9호조회수 —

AI를 어디서 어떻게 돌릴까…구글 TPU 개방부터 음성·검색·과학 연구까지

구글과 딥시크가 AI 실행 소프트웨어를 공개하고, 마이크로소프트는 고객 시설 안에서 AI를 운영하는 제품의 확대 일정을 제시했다. 미스트랄의 음성 모델 미리보기, 엑사의 검색 개편, 앤트로픽의 단백질 결합 연구까지 실제 제공 범위와 남은 한계를 살펴본다.

AI 실행 기반

구글 토치TPU(TorchTPU) 공개, 파이토치(PyTorch) 모델을 TPU에서 직접 실행

조회수 —

구글(Google)이 10월 20일 파이토치 콘퍼런스에서 토치TPU를 오픈소스로 공개했다. AI 개발 도구인 파이토치의 모델을 구글의 AI 가속기 TPU에서 익숙한 실행 방식으로 다룰 수 있게 하는 소프트웨어다. 메타(Meta)의 파이토치 팀과 공동 개발했으며, 한국에서 조회한 구글 원문의 표시는 시차가 반영된 10월 21일이다.

  • 기존 파이토치 코드와 모델 정의를 활용하는 학습·추론 경로가 함께 공개됐다.
  • 허깅페이스와 vLLM의 통합도 발표됐지만, 지원 기능과 검증된 TPU 세대는 각각 확인해야 한다.
무엇이 달라지나
하드웨어를 바꿀 때 모델뿐 아니라 실행·디버깅 방식까지 바꾸던 부담을 줄이는 방향이다. AI 운영팀은 이미 쓰는 모델 생태계를 중심으로 GPU와 TPU의 적용 가능성을 비교할 수 있게 됐다.
한계
코드 이동이 쉬워졌다는 설명이 모든 모델의 동일한 속도나 완전한 호환성을 뜻하지는 않는다. vLLM용 백엔드는 아이언우드(Ironwood·v7x)를 권장하고, v6e·v5e·v5p 지원은 실험 단계로 구분한다.
본문 펼치기 약 5분

이번 발표의 중심은 파이토치가 TPU를 직접 실행 대상으로 인식하는 경로다. 구글은 연산을 즉시 실행하는 이거 모드(eager mode)에서 모델을 살피고, 이후 컴파일 기능으로 실행을 최적화하는 흐름을 제시했다. 코드를 분석할 때와 실제 서비스에 넣을 때 같은 개발 체계를 이어 쓰도록 설계한 것이다. 공개 대상은 새로운 언어 모델이 아니라 모델을 움직이는 소프트웨어 기반이다.

이 변화의 배경은 허깅페이스(Hugging Face)의 설명에서 드러난다. 기존 파이토치/XLA 경로는 계산을 모았다가 실행하는 방식이어서 코드가 실제로 동작하는 시점과 재컴파일을 이해하기 어려운 면이 있었다. 허깅페이스는 이를 보완하기 위해 옵티멈 TPU(Optimum TPU)를 제공해 왔으나, 새 통합에서는 트랜스포머스(Transformers)와 디퓨저스(Diffusers)를 실행하기 위해 그 별도 계층이 필수는 아니라고 설명했다.

통합은 텍스트 생성에 그치지 않는다. 허깅페이스는 디퓨저스의 이미지·영상 파이프라인에서도 TPU를 실행 장치로 지정하고, 필요할 때 컴파일을 적용하는 구성을 공개했다. 같은 이미지 크기의 후속 호출은 이미 만든 실행 그래프를 재사용한다. 이는 첫 실행에 필요한 준비 시간과 반복 처리 속도를 구분해야 한다는 뜻이기도 하다. 공개 시연의 소요 시간을 모든 해상도나 모델의 보장 속도로 읽어서는 안 된다.

대규모 언어 모델을 서비스하는 브이엘엘엠(vLLM) 쪽에서는 별도 플랫폼 플러그인이 공개됐다. 개발팀에 따르면 기존 vLLM의 모델 실행부와 스케줄러, 중간 계산 저장 관리, API 서버를 유지하고 그 아래에 TPU 전용 연산을 붙인다. 모델 정의와 서비스 앞단을 함께 다시 작성하는 범위를 줄이는 접근이다. 개발팀은 대부분의 기존 지원 모델을 TPU로 가져오는 것을 목표로 제시했다.

다만 플러그인이 설치됐다고 준비 비용이 사라지지는 않는다. vLLM 발표문은 TPU 가상머신과 파이썬(Python) 3.12를 요구하며, 최초 기동 때 설정한 입력 형태에 맞는 그래프를 컴파일하느라 몇 분이 걸릴 수 있다고 설명한다. 컴파일 결과를 재사용하는 저장 기능도 제공한다. 운영 관점에서는 첫 요청 지연과 이후 처리량을 나눠 보아야 하는 이유다.

검증 범위도 구체적이다. vLLM 팀은 v7x에서 변경 요청마다 자동 검사를 수행한다고 밝혔지만, 이전 세대 세 가지는 실험 지원으로 남겨 뒀다. 새 모델이 공개된 뒤 24시간 안에 자동 검증 결과를 내놓는 체계는 앞으로의 계획에 들어 있다. 따라서 이번 공개를 모든 새 모델에 대한 출시 당일 지원 보장으로 확대할 수는 없다.

허깅페이스 역시 통합 상태를 완성으로 포장하지 않았다. TPU에서 실행한 테스트 가운데 96.5%가 통과했고, 보고한 문제 34건 중 19건이 수정됐다고 공개했다. 이 비율은 해당 테스트 집합의 결과이며 전체 모델의 성공률이 아니다. 사용자 입장에서는 라이브러리 이름이 지원 목록에 있다는 사실과 자신이 쓰는 모델·연산 조합이 검증됐다는 사실을 구분할 근거가 생겼다.

공식 저장소에는 공개 패키지 0.2.0과 파이썬 3.11 이상 지원, 아파치 2.0(Apache 2.0) 라이선스가 안내돼 있다. 기반 도구와 그 위에 연결하는 프로그램의 요구 버전은 서로 다를 수 있다. 토치TPU 자체의 최소 조건만 보고 상위 추론 도구까지 같은 환경에서 된다고 판단할 수 없으며, 실제 의존성은 선택한 조합을 따른다.

학습 쪽에서는 토치타이탄(TorchTitan)과의 연결도 발표됐다. 구글은 대규모 분산 학습을 위한 구성을 소개하고, 레이(Ray)에는 데이터 처리·학습·추론 작업을 여러 종류의 계산 장치에 배치하는 지원을 추가했다고 밝혔다. 추론 서버 하나의 이식에 그치지 않고 모델을 학습하고 운영하는 여러 단계에서 같은 도구를 유지하려는 흐름이다. 다만 강화학습 도구의 일부 연동과 TPU 에이전트 도구군은 미리보기로 소개돼, 모든 구성 요소가 동일한 성숙도에 도달한 것은 아니다.

이번 변화의 산업적 의미는 가속기의 선택지를 소프트웨어 생태계 안으로 가져왔다는 데 있다. 구글의 칩을 쓰려는 조직이 모델 코드와 도구를 얼마나 재사용할 수 있는지가 하드웨어 사양 못지않게 중요해졌다. 다만 이번 자료에는 모든 GPU 대안과 동일 조건으로 비교한 가격·성능 결론이 없으므로, 공개 자체를 비용 절감의 실증으로 해석할 수는 없다.

딥시크 딥인퍼(DeepInfer) 공개, 대규모 추론 엔진의 제공 범위를 명시

조회수 —

딥시크(DeepSeek)가 10월 20일 대규모 서비스에 사용하는 추론 프레임워크 딥인퍼를 공개했다. 저장소의 초기 커밋과 공개 사실을 밝힌 설명 문서도 이날 기록됐다. 이번 배포는 딥시크 V4.1 플래시(DeepSeek V4.1 Flash)의 실행 엔진을 다루며, 완전한 온라인 서비스 전체를 제공하는 것은 아니다.

  • 엔비디아(NVIDIA) SM100 GPU와 화웨이 어센드(Huawei Ascend) 950 NPU를 지원 대상으로 적었다.
  • 중간 계산 저장 시스템과 요청 분산 구성 등은 별도 구현이 필요하다.
무엇이 달라지나
모델 가중치에 더해 개발사가 실제 추론을 구성하는 엔진과 설계 설명을 살필 수 있게 됐다. 10월 18일 다룬 모델 업데이트와 달리, 이번 변화는 서버에서 그 모델을 실행하고 평가하는 기반의 공개다.
한계
배포판의 시작점은 오프라인 추론이다. 회사 내부 운영 시스템의 저장·부하 분산 코드가 모두 공개된 것은 아니며, 공개 엔진만으로 내부 서비스의 처리량이나 수익을 재현한다고 볼 수 없다.
본문 펼치기 약 4분

저장소는 지원 모델을 V4.1 플래시로 한정하고, 최적화 연산과 병렬 처리, 추측 디코딩, 구조화 출력 등을 엔진의 기능으로 제시한다. 구조화 출력은 응답이 정해진 형식을 따르도록 제한하는 기능이다. 공개 모델 일반에 두루 붙이는 범용 도구라기보다, 현재 딥시크 모델과 지원 가속기를 중심으로 구성한 실행 기반이라는 점이 먼저 읽힌다.

제공 범위의 경계는 README에 명시돼 있다. 완전한 추론 서비스를 만들려면 KV 캐시 시스템, 단계별 분리 운영, 데이터 병렬 복제본 사이의 부하 분산이 더 필요하다. KV 캐시는 이전 입력에서 계산한 중간 결과를 저장해 다시 쓰는 장치다. 이 계층이 빠져 있다는 것은 엔진의 공개와 긴 대화를 유지하는 서비스 운영이 서로 다른 과제임을 보여준다.

별도 설명 문서는 입력을 읽는 프리필과 답을 차례로 만드는 디코드의 부하 특성을 나눠 설명한다. 딥시크는 각 단계에 계산 자원을 다르게 배치하고, 이미지 처리도 분리하는 구조를 사용한다고 밝혔다. 특정 연산 하나의 속도만 높여서는 전체 서비스 성능을 설명하기 어려우며, 장치 사이 통신과 요청 배치가 함께 영향을 준다는 것이 회사가 공개한 설계의 출발점이다.

규모에 관한 설명도 개인용 실행과는 거리가 있다. 회사는 효율적인 최소 운영 단위로 프리필 64개 GPU와 디코드 64개 GPU의 조합을 제시한다. 이는 회사가 권장하는 대규모 배치의 설명이며, 프로그램이 그보다 적은 장치에서 전혀 실행되지 않는다는 뜻은 아니다. 작은 실험 환경의 실행 가능성과 큰 서비스의 효율적인 자원 구성을 혼동하지 않도록 구분할 필요가 있다.

저장 계층의 구축은 외부 운영자에게 남은 중요한 과제다. 딥시크는 내부 인프라와 긴밀하게 결합한 캐시 관리와 부하 분산 코드를 아직 전부 공개하지 않았다고 설명한다. 같은 모델과 연산 코드를 확보하더라도 요청이 몰리는 방식, 재사용할 문맥의 양, 저장 장치 구성에 따라 운영 결과는 달라질 수 있다. 공개 설명은 설계 판단의 자료이지 특정 사업자의 운영 성과를 그대로 옮기는 보증서는 아니다.

평가 문서는 생성과 채점을 별도 단계로 나눈다. 한 번 생성해 저장한 출력을 다른 채점 방식으로 다시 평가할 수 있어, 모델이 낸 답과 평가자의 판단을 구별할 수 있다. 기본 방식은 언어 모델이 정답과의 의미상 일치를 판단하며, 일부 시험에는 정해진 규칙으로 채점하는 방식도 있다. 평가 도구 공개의 가치는 숫자뿐 아니라 숫자가 만들어지는 조건을 드러내는 데 있다.

평가 문서에서 미국 수학경시대회(AIME) 2026은 문제 30개에 문제당 32개 표본, GPQA 다이아몬드(GPQA Diamond)는 198개에 표본 8개를 쓰도록 적혀 있다. 인류 최후의 시험(Humanity’s Last Exam·HLE)은 2,500개 문항에 표본 하나를 쓰며, 자유 서술형 답이 많아 모델 기반 채점만 지원한다. 여러 표본의 평균으로 산출한 값과 단일 표본 결과가 같은 이름 아래 제시될 수 있으므로, 서로 다른 시험의 숫자를 하나의 보편적 정확도로 묶기는 어렵다.

또한 평가 문서는 필요한 출력이 모두 존재할 때만 대표 점수가 유효하다고 명시한다. 공개된 참고 수치는 설정 확인용이며 반복 실행에서 달라질 수 있다는 설명도 붙었다. 이는 개발사가 공개한 조건부 참고값으로, 외부 기관의 독립 성능 검증과는 구분된다. 점수만 떼어 비교하는 대신 생성 횟수와 채점 방식, 출력의 완결성을 함께 확인할 수 있도록 자료를 제공한 것이다.

엔진은 리눅스(Linux), 파이썬 3.12 등 환경 조건을 요구하고 아파치 2.0 라이선스로 배포된다. 의미 있는 변화는 개발사 밖에서도 실행 구조를 읽고 개선할 출발점이 생겼다는 것이다. 동시에 공개 파일과 내부 서비스 사이에 남은 운영 계층을 명시했다는 점은, 오픈소스 배포를 곧바로 완성된 서비스 출시로 받아들이지 않게 하는 판단 자료다.

음성·기업 AI

미스트랄 복스트랄 3(Voxtral 3), 음성 에이전트 SDK와 모델 미리보기 공개

조회수 —

미스트랄(Mistral)이 10월 20일 복스트랄 3 음성 모델군과 음성 에이전트 개발 도구를 발표했다. 듣기·추론·도구 호출·말하기를 실시간 흐름으로 연결하는 것이 핵심이다. API 제공이 시작됐지만, 스몰 전사 모델과 음성 합성 모델인 TTS 3의 공식 문서에는 모두 공개 미리보기라는 상태가 표시돼 있다.

  • 파일 전사, 실시간 전사, 음성 합성을 결합해 통화 중 도구를 사용하는 에이전트를 구성한다.
  • 모델별 과금 단위가 다르고, 음성 합성의 지원 언어 수는 발표문과 모델 문서가 일치하지 않는다.
무엇이 달라지나
음성을 텍스트로 바꾸는 개별 기능에서, 대화를 이어 가며 외부 시스템에 작업을 요청하는 개발 구성으로 범위가 넓어졌다. 다만 발표한 제품군 전체의 기능이 모든 모델에 똑같이 적용되는 것은 아니다.
한계
발표문은 음성 합성에 35개 이상 언어를 제시하지만 TTS 모델 카드는 9개 언어로 적고 있다. 출시 시점 오디오 안내는 스몰 모델을 전사 전용으로 제한한다. 이 차이가 해소되기 전에는 전체 언어·기능 지원을 확정할 수 없다.
본문 펼치기 약 4분

발표된 음성 에이전트 SDK는 라이브킷(LiveKit)을 기반으로 음성 입력과 언어 모델의 판단, 음성 출력을 연결한다. 미스트랄은 전화 연결과 웹·앱 통화를 지원하고, 대화 중 함수 호출이나 정보 검색을 결합할 수 있다고 설명한다. 통화 시연에 나온 예약 등은 회사가 공개한 예시이며, 특정 고객의 실제 도입 성과나 처리 성공률로 제시된 자료는 아니다.

제품을 구성하는 층도 분리돼 있다. 음성 인식 모델이 사용자의 발화를 받고, 별도 추론 모델이 작업을 판단하며, 음성 합성 모델이 답을 읽는다. 이 구조는 어느 한 모델의 품질만으로 전체 상담 품질을 설명할 수 없음을 뜻한다. 전사가 정확해도 외부 시스템이 늦거나 작업 판단이 틀리면 대화의 결과는 달라지므로, 발표된 음성 기능과 업무 완결성을 같은 것으로 볼 수 없다.

공식 오디오 안내는 세 가지 전사 모델과 두 가지 음성 합성 모델을 구분한다. 녹음 파일용 미니, 실시간용 미니, 더 높은 품질을 지향하는 스몰이 전사를 맡고, 일반·실시간 TTS가 발성을 담당한다. 파일을 한꺼번에 처리하는 방식과 대화 중 연속으로 처리하는 방식은 별도 선택지다. 음성 모델군의 이름 하나만으로 입력 방식과 지연 조건까지 결정되지는 않는다.

실시간 전사에는 세션별로 지연을 정하는 설정이 있다. 오디오 안내는 80~1,200밀리초 또는 2,400밀리초의 스트리밍 지연을 제시한다. 이 값은 전사 단계의 설정이며 상대방의 발화 종료, 언어 모델의 판단과 음성 생성까지 합친 전체 통화 응답 시간은 아니다. 낮은 지연을 강조한 발표를 읽을 때도 어느 처리 구간을 측정한 것인지 구별해야 한다.

특히 스몰 전사 모델의 범위는 문서 사이에 차이가 있다. 개별 모델 소개에는 번역, 음성 질의응답, 요약, 함수 호출이 언급돼 있지만, 오디오 종합 문서는 출시 시점에 전사만 제공한다고 명시한다. 현재 기능을 판단할 때에는 이 더 좁은 안내를 기준으로 보아야 한다. 제품 소개에 나열된 기능을 모두 즉시 사용 가능한 것으로 옮기면 출시 상태를 과장하게 된다.

요금은 처리 형태에 따라 구분된다. 공식 모델 문서는 스몰 전사를 오디오 1분당 0.004달러, TTS 3를 텍스트 100만 자당 13달러로 표시한다. 분당 음성 처리와 문자당 음성 생성은 기준이 달라, 한쪽 단가만으로 전체 통화비를 계산할 수 없다. 여기에 어떤 추론 모델과 음성 에이전트 상품을 쓰는지도 비용을 가르는 조건이다.

발표문의 음성 에이전트 API 가격은 미스트랄 스몰 4(Mistral Small 4)를 추론에 쓰면 분당 0.04달러, 다른 추론 모델을 쓰면 분당 0.08달러다. 자체 시설이나 사설 클라우드에 전체 구성을 배치하려면 회사에 문의하도록 안내한다. 자체 배포 가능하다는 설명을 무료 가중치 공개나 무조건적인 자가 설치 제공으로 해석할 근거는 이 발표에 없다.

음성 합성 문서는 미리 설정된 목소리와 복제한 목소리, 감정·속도 제어를 구분해 소개한다. 오디오 안내에는 다섯 가지 출력 형식과 34개 감정 태그, 두 개 속도 태그가 기재돼 있다. 이는 개발자가 조절할 항목이 늘었다는 정보이며, 모든 문장의 발음·감정 표현이 정확해진다는 검증은 아니다. 발표문에 실린 경쟁 제품 비교 역시 회사가 제시한 평가로 읽어야 한다.

가장 주의할 부분은 언어 지원 표기다. 발표 자료의 확대 범위와 모델 카드의 숫자가 달라, 한국어를 포함한 개별 언어의 모든 생성 기능이 동일 조건으로 제공된다고 단정하기 어렵다. 이번 변화는 음성 에이전트를 구성할 모델과 도구의 공개 미리보기가 시작됐다는 데 있다. 기능표가 맞지 않는 부분까지 출시 완료 사실로 확대하지 않는 것이 현재 확인 가능한 보도의 경계다.

마이크로소프트 소버린 클라우드(Microsoft Sovereign Cloud), 로컬 AI 확대 예고

조회수 —

마이크로소프트(Microsoft)가 10월 20일 고객이 직접 통제하는 시설에서 AI와 개발 도구를 운영하는 소버린 클라우드 확대 방안을 발표했다. 파운드리 로컬(Foundry Local)의 애저 로컬(Azure Local)용 정식 제공과 깃허브 엔터프라이즈 로컬(GitHub Enterprise Local)의 정식 제공 시점은 향후 이그나이트(Ignite) 행사로 예고했다.

  • 로컬 추론·개발 환경의 정식 제공 계획과 일부 기능의 미리보기를 함께 발표했다.
  • 클라우드 접근 감시 기능은 EU·EFTA의 대상 시스템에 단계적으로 적용된다.
무엇이 달라지나
데이터 저장 위치에 더해 AI가 계산되는 곳, 개발 자료를 보관하는 곳, 외부 연결이 끊겼을 때의 운영까지 통제 범위에 넣었다. 기관별 요구에 따라 공용 클라우드와 자체 시설을 조합하는 방향이다.
한계
이번 발표에 담긴 항목은 제공 상태가 서로 다르다. 파운드리 로컬의 현재 기술 문서도 미리보기로 표시한다. 예정된 정식 제공, 일부 고객 대상 접근, 지역별 단계 배포를 전 세계 즉시 출시로 묶을 수 없다.
본문 펼치기 약 4분

소버린 클라우드가 다루는 문제는 데이터를 어느 나라에 저장하는가에만 머물지 않는다. MS의 퍼블릭 클라우드 설명은 AI 입력, 검색으로 가져온 문맥, 생성 응답, 벡터 검색 자료와 운영 기록이 각각 다른 보호 조건을 가질 수 있다고 짚는다. 원본 문서를 내부에 보관해도 추론과 기록 처리 경로가 다르면 통제 경계도 달라진다는 점이 이번 발표의 배경이다.

고객 시설에서 추론을 수행하는 파운드리 로컬은 애저 로컬 위의 기업용 배포 형태다. 현재 문서는 애저 아크(Azure Arc)로 관리하는 쿠버네티스(Kubernetes) 클러스터에 확장을 배포하고, 모델과 실제 실행 구성을 별도 자원으로 관리한다고 설명한다. 모델을 발견하고 버전을 맞추는 목록 동기화, 배포된 모델의 품질 평가 결과를 내부 클러스터에 저장하는 기능도 포함한다.

이는 개인 컴퓨터의 앱에 AI를 넣는 동명 제품의 사용 조건과 구분해야 한다. MS 문서는 최종 사용자 장치용 파운드리 로컬과 애저 로컬의 기업 규모 추론을 별도 선택지로 설명한다. 후자는 모델 크기에 맞는 클러스터 자원, GPU 사용 시 검증된 드라이버, 관리 권한과 네트워크 설정을 전제로 한다. 로컬이라는 이름만으로 별도 기반 시설 없이 설치되는 제품이라고 이해하기는 어렵다.

정식 제공 계획과 별도로, 프라이빗 클라우드 발표는 에이전트가 내부 자료를 읽는 검색 기능을 공개 미리보기로 제시한다. 내부 데이터 수집·색인·검색과 출처를 표시하는 대화, 도구 연결을 함께 다루는 구성이다. 단순히 모델 파일을 시설 안에 두는 수준을 넘어 지식 검색과 실행을 같은 경계 안에 놓겠다는 방향이지만, 그 전체가 정식 제공됐다는 발표는 아니다.

개발 환경도 같은 흐름에 들어 있다. 깃허브 엔터프라이즈 로컬은 애저 로컬의 사전 구성된 가상 장비 형태로 정식 제공될 예정이다. 저장소와 개발 산출물뿐 아니라 자체 실행기를 이용한 자동화 작업을 내부에 두는 구상이다. 연결된 환경의 클라우드 AI 기능과 단절 환경의 로컬 모델 활용은 서로 다른 경로로 설명돼 있으므로, 기존 클라우드 기능이 모두 오프라인으로 복제된다고 볼 수 없다.

퍼블릭 클라우드 쪽의 소버린 컨트롤 패널(Sovereign Control Panel)은 현재 비공개 미리보기이며 이그나이트에서 공개 미리보기로 전환할 계획이다. 정책 적용 상태와 근거, 누락된 통제 항목을 모아 보여주는 기능으로 소개됐다. 데이터 위치를 한 번 설정하는 것에 더해 통제가 실제 유지되는지를 확인하려는 도구다. MS는 이 일정 역시 변경될 수 있다고 명시했다.

접근 감시에는 지역 조건이 붙는다. 데이터 가디언(Data Guardian)은 EU의 신뢰할 수 있는 협력사가 유럽 거주 인력을 통해 대상 시스템에 대한 MS 엔지니어의 원격 접근을 감독하는 구조다. 프로덕션 터치 레저(Production Touch Ledger)는 대상 접근과 수행 행위의 변조 흔적을 확인할 수 있는 기록을 남긴다. 둘 다 EU·EFTA에서 단계적으로 도입하므로 한국 고객 전체에 같은 제공 상태를 전제할 수 없다.

이번 변화는 로컬과 공용 클라우드 중 하나를 일괄 선택하기보다, 업무별로 통제 수준을 달리하도록 제품 구성을 넓힌 것으로 해석할 수 있다. 다만 자체 시설을 운영하면 자원과 권한, 업데이트에 관한 책임도 남는다. 발표가 제공한 것은 통제 수단과 출시 일정이며, 모든 조직의 규제 충족이나 중단 없는 서비스 운영을 자동으로 보장하는 결과는 아니다.

검색·과학 연구

엑사 3.0(Exa 3.0), 라이트 검색과 동적 발췌를 정식 제공

조회수 —

엑사(Exa)가 10월 19일 AI 에이전트용 검색 서비스 엑사 3.0을 출시했다. 더 적은 비용을 겨냥한 라이트(Lite) 유형을 추가하고, 여러 검색 결과에서 필요한 부분을 골라 보내는 다이내믹 하이라이트(Dynamic Highlights)를 정식 제공으로 전환했다. 검색 품질 향상은 회사의 자체 평가이며, 과금에는 반환 결과 수 조건이 붙는다.

  • 라이트는 요청 1,000회당 4달러, 오토(Auto)는 7달러이며 기본 요금은 결과 10개까지다.
  • 전체 페이지 대비 토큰 감소와 에이전트의 전체 비용 절감은 서로 다른 지표다.
무엇이 달라지나
같은 검색 기반에서 가격과 처리 강도가 다른 경로를 고를 수 있게 됐다. 검색 내용을 언어 모델에 넘길 때 중복 문장을 줄이고 관련성이 높은 자료에 더 많은 분량을 배분하는 기능도 미리보기에서 정식 제공으로 바뀌었다.
한계
더 많은 결과와 별도 AI 요약에는 추가 요금이 적용된다. 회사가 발표한 토큰 절감 수치를 전체 모델 사용료의 동일한 인하로 볼 수 없으며, 장소 데이터는 앞선 10월 5일에도 이미 공개돼 있었다.
본문 펼치기 약 4분

엑사 3.0의 변화는 검색 모델과 검색 결과 전달 방식, 데이터 범위를 함께 다룬다. 회사는 더 큰 임베딩 모델과 확장한 색인, 개선한 발췌 기능을 제시했다. 임베딩은 질문과 문서의 의미를 수치로 표현해 관련 자료를 찾는 기반이다. 검색 API를 사용하는 개발자에게는 새 대화형 앱을 배포하는 소식보다, 기존 에이전트가 받아 보는 근거 자료의 품질과 비용이 바뀌는 소식에 가깝다.

새 라이트 유형은 오토와 같은 색인을 사용한다. 다만 오토는 후보 생성과 발췌, 순위 결정에 더 많은 계산을 투입하도록 구분돼 있다. 같은 자료 저장소를 쓴다는 사실이 같은 검색 결과나 정확도를 보장하지는 않는다. 엑사는 여러 평가에서 우위를 보였다고 주장하지만, 그 결과는 회사가 고른 과제와 설정에서 측정한 것이며 모든 질문의 우열을 확정하는 자료는 아니다.

과금 문서는 기본 가격의 범위를 더 자세히 제한한다. 라이트의 1,000회당 4달러와 오토의 7달러는 요청마다 결과 10개까지를 포함한다. 10개를 넘는 결과에는 1,000개당 1달러가 추가된다. 오토 등에서 엑사가 생성하는 페이지 요약을 받으면 페이지 1,000개당 1달러가 붙는다. 라이트의 요약 항목은 요금표에 대시로 표시돼 있어 같은 옵션을 제공한다고 볼 수 없다. 검색을 한 번 호출한 비용과 그 요청에서 가져온 결과·가공 내용의 총비용은 따라서 다를 수 있다.

같은 문서는 알려진 URL의 내용을 가져오는 별도 콘텐츠 API도 구분한다. 이 경우 페이지 수뿐 아니라 전체 텍스트·하이라이트 등 요청한 콘텐츠 종류별로 계산한다. 검색 호출에 개선된 하이라이트가 추가 요금 없이 포함된다는 출시 발표를 모든 콘텐츠 추출 작업이 무료라는 뜻으로 넓힐 수 없는 이유다. 요금 비교에서는 어느 API의 어떤 기능을 사용하는지 먼저 같게 놓아야 한다.

다이내믹 하이라이트는 8월 28일 연구 미리보기로 먼저 소개됐다. 기존 발췌가 문서마다 관련 구간을 따로 고르는 방식이었다면, 새 방식은 여러 결과를 함께 보고 어느 자료에 더 많은 분량을 배분할지 정한다. 같은 사실이 반복된 페이지를 줄이고 정보가 풍부한 페이지에 여유를 주려는 접근이다. 이번 3.0 발표의 신규성은 이 기능의 최초 발명이 아니라 정식 제공 전환과 개선이다.

토큰 절감 수치는 분모를 주의해 읽어야 한다. 앞선 연구 자료는 전체 페이지 내용과 비교한 검색 텍스트 절감과, 에이전트가 추론을 이어 가며 소비하는 전체 토큰 감소를 별개로 측정했다. 에이전트는 검색 결과 외에도 판단 과정에 토큰을 쓰며, 검색 품질이 나빠지면 추가 검색이 늘어 절감 효과가 줄 수 있다는 설명도 있다. 검색 입력이 짧아졌다고 최종 작업비가 같은 비율로 내려가는 것은 아니다.

색인 확대 역시 모두 당일 새로 생긴 데이터라고 묶기는 어렵다. 3.0 발표에 언급된 2억 1,100만 개 장소 데이터는 10월 5일 별도 발표가 있었다. 그 원문은 이름·주소·좌표와 영업시간, 운영 상태, 연락처, 평점 같은 구조화 정보를 제공한다고 설명한다. 장소 검색은 새 버전이 활용하는 기존 데이터 기반이며, 10월 19일 처음 공개된 기능은 아니다.

장소 데이터가 구조화돼 있다는 것은 에이전트가 링크만 받아 다시 해석하는 범위를 줄일 수 있다는 의미다. 반면 자료에 영업시간 필드가 있다는 사실만으로 실제 방문 시점의 영업 여부가 보장되지는 않는다. 엑사의 발표는 정보 접근 경로와 검색 상품의 변화를 입증한다. 정확도와 비용의 최종 효과는 사용한 질문, 반환 분량, 후속 추론에 따라 달라진다는 점이 제품 선택에 남는 조건이다.

앤트로픽 클로드(Claude) 연구, 전갈 독소 결합 단백질 17개 확인

조회수 —

앤트로픽(Anthropic)이 10월 20일 내부 연구용 클로드 모델을 이용한 전갈 신경독소 결합 단백질 설계 결과를 공개했다. 실험 대상으로 보낸 설계 211개 중 17개가 연구진의 결합 기준을 충족했다. 실험실에서 만든 재조합 독소에 달라붙는 것을 확인한 단계이며, 세포나 동물에서 독성을 중화하는 효과를 확인하거나 해독제를 개발한 결과는 아니다.

  • AI가 고른 설계에 연구진이 후보를 더해 외부 실험기관에서 확인했다.
  • 성공 후보와 함께 전체 211개 설계·측정 자료를 공개했으며 다중 독소 결합 목표는 달성하지 못했다.
무엇이 달라지나
AI의 계산 예측을 실제 단백질 결합 측정과 연결하고, 어떤 후보가 기준을 통과했는지 외부에서 살필 자료를 내놓았다. 다만 초기 탐색 성과와 치료제의 효능·안전성은 구분해야 한다.
한계
연구용 모델과 상당한 계산 자원, 사람의 목표 설정과 후속 지시, 실험기관의 검증이 결합된 결과다. 일반 사용자용 클로드가 혼자 치료제를 완성했다거나 64시간 만에 실험까지 끝냈다는 해석은 근거가 없다.
본문 펼치기 약 4분

이번 작업은 비전문가도 AI의 도움으로 건강 문제 연구에 참여할 수 있는지 묻는 협업에서 시작됐다. 앤트로픽은 투자 연구 회사 시트리니 리서치(Citrini Research)와 문제를 구체화하고 내부 생명과학 팀이 연구를 진행했다고 설명한다. 따라서 금융 연구자들이 아무런 연구 지원 없이 약을 만들었다는 식의 서술은 실제 참여 구조를 지운다.

회사가 설명한 AI의 역할은 설계 도구를 조합하고 후보를 탐색해 실험 대상을 고르는 일이었다. 최초 지시 뒤 네 차례 후속 지시가 있었으며, 모델이 최종 180개 후보를 고르는 데 64시간이 걸렸다. 이후 연구진이 클로드와 함께 31개를 추가했다. 사람은 목표를 설정하고 진행 방향을 조정했으며, 단백질을 만들고 결합을 측정하는 과정은 외부 기관이 맡았다.

기술 보고서는 서로 다른 다섯 독소를 대상으로 한 연구라고 명시한다. 최종적으로 기준을 충족한 17개는 네 독소 가운데 하나씩에 결합했고, 나머지 한 독소에서는 통과 후보가 나오지 않았다. 둘 이상의 독소를 함께 겨냥한 설계 151개 가운데 여러 독소에 대한 기준을 동시에 충족한 것도 없었다. 성공한 후보 수와 함께 실패한 목표가 제시돼 있다는 점이 결과의 범위를 판단하게 한다.

결합 여부는 어댑티브 바이오(Adaptyv Bio)와 트위스트 바이오사이언스(Twist Bioscience)의 측정에 근거한다. 다만 모든 대상에 두 기관의 검증이 동일하게 적용된 것은 아니다. 보고서는 한 독소의 결과가 어댑티브 바이오에서만 측정됐다고 별도로 표시한다. 따라서 17개 모두가 예외 없이 두 실험실에서 같은 방식으로 재현됐다고 표현하면 원문의 조건을 벗어난다.

측정 대상은 전갈의 독액에서 직접 분리한 독소가 아니라 재조합 독소였다. 결합이 강하다는 결과만으로 중화 효과가 성립하지는 않는다. 연구진은 가장 유망한 후보가 기존 중화 항체와 같은 부근에 붙을 가능성을 보여 줬지만, 독소의 실제 작용을 막는 기능 실험이나 동물에서의 효능은 아직 확인하지 않았다고 적었다. 이번 연구를 치료제로 이어지는 출발점으로 볼 수는 있어도, 치료 효능을 검증한 최종 결과로 전달할 수 없는 핵심 이유다.

공개 데이터는 성공 사례만 모은 목록보다 범위가 넓다. 허깅페이스의 앤트로픽 저장소에는 전체 211개 설계별 결과와 계산상 예측 점수, 측정 기록, 구조 관련 자료가 구분돼 있다. 어떤 자료가 계산 결과이고 어떤 자료가 실험에서 얻어졌는지 외부 연구자가 나눠 살필 수 있는 구성이다. 자료 설명은 별도로 결합 판정 용어와 일부 대상의 예외 조건을 명시한다.

데이터의 배포 조건은 크리에이티브 커먼즈 표시 4.0(CC BY 4.0)이다. 공개 자료가 후속 연구의 출발점이 될 수 있다는 점은 성과지만, 자료 접근 가능성과 연구 결과의 확정성은 같은 의미가 아니다. 계산 점수가 높은 후보와 실제 기준을 통과한 후보를 함께 제공하면, 성공률뿐 아니라 예측과 실험 사이에서 어디까지 일치했는지를 후속 검토할 여지가 생긴다.

자원 조건도 성과와 함께 읽어야 한다. 앤트로픽은 설계 작업이 대략 1만 GPU 시간을 사용했다고 밝혔다. 이는 경과 시간 64시간과 다른 단위이며, 여러 계산 자원을 합친 사용량이다. 내부 연구 모델의 결과를 일반 서비스 이용자가 같은 시간·비용으로 재현할 수 있다고 추정해서는 안 된다. 이번 발표가 입증한 범위는 AI가 참여한 후보 탐색과 초기 결합 검증이며, 환자에게 쓸 수 있는 치료법까지의 효능·안전성·공급 과제는 남아 있다.

목록으로