AI 검색·음성·고객센터의 변화와 피부 영상 평가, 10월 26일 뉴스

리랭크는 검색 시스템을 통째로 대신하는 생성형 챗봇이 아니다. 먼저 찾아온 문서와 질문을 받아 의미상 관련성이 높은 순서로 정리하는 단계다. 모델 문서는 키워드 검색·벡터 검색·두 방식을 섞은 검색 위에 이 단계를 붙일 수 있다고 설명한다. 질문과 관계없는 자료를 답변 모델에 넘기기 전에 걸러내는 역할이므로, 검색 결과가 많을수록 무엇을 최종 답변의 근거로 남길지가 중요해진다.

이번 출시에서 코히어는 복잡한 질문과 전문 문서에 프로를, 많은 검색을 빠르게 처리하는 작업에 패스트를 배치했다. 두 모델 모두 100개 이상 언어를 지원하며 한국어도 주요 지원 언어에 포함된다. 다만 프로와 패스트의 성능 우열을 특정 한국어 업무의 실측 결과로 해석할 근거는 없다. 회사가 제시한 용도 구분과 개별 데이터에서의 결과는 별도로 봐야 한다.

컨텍스트 포커스의 결과는 새로 작성한 요약문이 아니다. API 규격에 따르면 반환값에는 원문에서 해당 구절이 시작하고 끝나는 문자 위치와 관련성 점수가 들어간다. 문서 순위와 구절 위치를 한 번의 요청으로 얻는 구조다. 이 때문에 구절을 화면에 표시할 때도 모델이 다시 쓴 문장인지 확인하는 문제보다, 원문 어느 부분을 골랐는지 추적하는 문제가 중심이 된다.

반환할 구절의 수와 관련성 점수의 하한도 조절할 수 있다. 모델 문서는 점수 하한을 높이면 더 적은 텍스트가 남고, 문서당 반환할 구절 수도 제한할 수 있다고 설명한다. 기준을 충족하는 구절이 없으면 해당 결과에는 구절 목록이 생략된다. 검색 결과 문서가 반환됐다고 발췌문까지 반드시 제공되는 것은 아니다. 이 기능은 코히어 API에서 제공되며 기본값은 꺼짐이다.

긴 문서 지원에는 특히 주의할 구분이 있다. 모델의 문맥 한도는 질문과 문서를 합쳐 32,768토큰이다. 그러나 현재 API 규격은 문서별 입력 한도를 기본 4,096토큰으로 두고, 이를 넘는 문서는 설정값에 맞춰 자른다고 명시한다. 모델이 긴 내용을 처리할 능력이 있다는 설명이 모든 요청에서 문서 끝까지 자동으로 읽는다는 약속은 아니다. 뒤쪽 근거가 입력에서 제외되면 구절 추출도 그 내용을 되살릴 수 없다.

운영 조건 문서는 5세대 모델의 요청당 문서 수 상한을 1만 개로 안내한다. 한편 API 문서는 성능을 위해 한 번에 1,000개를 넘기지 않을 것을 권고한다. 이는 서로 다른 기준이다. 앞의 수치는 요청을 허용하는 한계이고, 뒤의 수치는 처리 성능을 고려한 권장 규모다. 문서 수가 허용 범위 안이라고 응답 시간까지 보장되는 것은 아니다.

표나 기록 형태의 자료도 문자열로 전달할 수 있다. 운영 문서는 구조화된 자료를 YAML 형식의 문자열로 표현하고 항목 순서를 보존할 것을 권한다. 긴 입력이 잘릴 수 있어 중요한 내용이 어느 위치에 오는지가 결과에 영향을 주기 때문이다. 데이터 형식을 지원한다는 말만으로 원래 표의 관계나 문서 전체 의미를 빠짐없이 이해한다고 단정할 수는 없다.

코히어는 질문·분야 사이에서 점수를 비교하기 쉽도록 보정했다고 발표했지만, 관련성 점수는 내용이 사실일 확률을 뜻하지 않는다. 검색 질문에 잘 맞는 문서라도 내용 검증은 별개다. 이번 변화의 의미는 답변 모델에 전달하는 자료의 범위를 더 세밀하게 정할 수 있다는 데 있다. 토큰 사용량이나 비용이 얼마나 줄어드는지는 실제로 선택되는 구절과 후속 모델의 요금에 달려 있으며, 모든 업무에 적용되는 절감률은 확인되지 않았다.

새로 나온 그래니트 스피치 5.0 2B 모델 카드는 출시일을 10월 20일로 명시한다. 하루 뒤 제품군 발표에 함께 소개된 것이다. 약 20억 매개변수 규모를 유지하면서 이전 4.1 2B보다 소음·울림·멀리 있는 마이크의 음성 처리와 긴 대화 번역을 개선했다는 것이 IBM의 설명이다. 모델을 새로 크게 만드는 대신 같은 규모에서 음성 처리 범위를 다듬은 변화다.

이 모델의 전사 언어는 영어·프랑스어·독일어·스페인어·포르투갈어·일본어다. 이 언어들과 영어 사이의 양방향 음성 번역을 지원하고, 영어에서 이탈리아어·중국어로 번역하는 경로도 제공한다. 한국어 음성의 받아쓰기·번역과 한국어 번역문 출력은 모두 공식 지원 범위에 없다. 번역문을 출력할 수 있는 언어라고 그 언어의 음성 입력까지 지원하는 것은 아니므로, 입력과 출력 언어를 나눠 봐야 한다.

개발자가 제품명이나 인명처럼 중요하게 인식해야 할 단어를 전달하는 목록은 최대 2,000개로 늘었다. 입력 언어를 미리 지정하는 기능도 추가됐다. 다만 모델 카드는 좋은 결과를 얻기 위해 음성을 약 2분 이하 구간으로 나눌 것을 권한다. 긴 발화를 다루는 성능이 개선됐다는 발표를 무제한 길이의 녹음을 한 번에 안정적으로 처리한다는 뜻으로 확대할 수는 없다.

경량 제품인 그래니트 스피치 5.0 470M 터보CTC(TurboCTC)는 8월 25일 나온 영어 전용판을 10월 21일 개편한 모델이다. 약 4억7,000만 매개변수 구조를 유지하면서 영어·프랑스어·독일어·스페인어·포르투갈어·이탈리아어·일본어 전사를 지원한다. 문장부호와 대문자 표기도 출력에 포함한다. 신모델 2B보다 작지만 지원 전사 언어에 이탈리아어가 추가로 들어간다.

터보CTC의 모델 카드는 공개 영어 음성 단문 시험 자료 9종을 사용한 자체 평가에서 평균 단어 오류율이 기존 5.78%에서 5.51%로 바뀌었다고 제시한다. 단어 오류율은 기준 전사문과 비교해 잘못 바꾸거나 빠뜨리거나 추가한 단어를 세는 지표다. 다만 새 다국어판의 속도·정확도 그래프 지점은 비공식 결과이고, 당시 순위표 항목에는 영어 전용판이 남아 있다고 명시했다. 새 가중치가 공식 순위표에서 그 성적을 확정받았다고 보도할 수 없는 조건이다.

여러 사람이 말하는 녹음에는 그래니트 스피치 4.1 2B 플러스(Plus)가 별도로 있다. 이 모델은 4월 28일 출시됐고 카드상 이번 가중치 갱신일은 10월 19일이다. 말한 사람을 번호로 구분하고 단어별 시간을 표시한다. 이름을 알아내는 화자 신원 확인과는 다른 기능이며, 플러스판은 문장부호·대문자 출력을 제공하지 않는다는 제한도 있다.

플러스판의 개선은 세부 지표로 봐야 한다. 변경된 영어 평가 세트에서 이전 가중치의 평균 단어 오류율은 6.01%, 새 가중치는 6.10%로 소폭 높아졌다. 반면 짧은 구간을 이어 만든 2~5분짜리 자료의 시간 표시 오차 평균은 814.3밀리초에서 328.3밀리초로 줄었다. 전사 평가는 후보 네 개를 유지하며 문장을 찾는 빔 탐색 설정을 썼으며, 두 수치 비교 모두 IBM의 자체 평가다. 전사문 자체의 정확도와 시간 위치의 정확도를 합쳐 막연히 성능이 좋아졌다고 쓰기 어려운 이유다.

이 제품군은 가중치를 직접 내려받아 운영할 수 있어 외부 음성 API와 다른 배치 선택지를 제공한다. 그러나 공개 라이선스가 연산 자원과 운영 비용까지 없애주는 것은 아니다. IBM의 모델별 카드도 일반 전사, 화자 표기, 시간 정보에 서로 다른 처리 조건을 제시한다. 이번 개편에서 확인할 변화는 모델 세 개가 동시에 모든 음성 문제를 해결한다는 주장이 아니라, 필요한 출력과 지원 언어에 따라 고를 수 있는 공개 모델의 구성이 달라졌다는 점이다.

이번 제품은 다이내믹스 365 컨택트 센터(Dynamics 365 Contact Center)에 들어 있던 AI 기능을 다른 고객센터에도 연결하는 방향으로 확장했다. 제품 개요는 기존 시스템의 전화 처리, 연결 경로 결정, 대기열, 상담원 업무를 보완하는 계층으로 CCI를 설명한다. 고객센터 교체 사업과 AI 기능 도입을 반드시 동시에 진행하지 않아도 된다는 것이 이 구조의 의미다.

현재 기능과 계획은 나눠 봐야 한다. 발표는 고객 응대용 에이전트와 품질 평가용 에이전트를 소개하면서 운영 설정·감시·최적화를 담당하는 서비스 운영 에이전트는 추후 제공이라고 밝혔다. 품질 평가 역시 현재는 과거의 셀프서비스 대화를 평가하며 실시간 평가는 예정 사항이다. 발표에 함께 이름이 나왔다는 이유만으로 세 기능을 모두 즉시 사용할 수 있다고 해석하면 제공 범위가 넓어져 버린다.

고객 응대는 자유로운 생성형 대화만으로 구성되지 않는다. 제품 개요는 정보 수집·인증·연결·상위 담당자 이관처럼 정해진 순서가 필요한 과정에는 구조화된 흐름을 쓸 수 있다고 설명한다. 따라서 인증처럼 순서를 지켜야 하는 업무에는 고정된 절차를 적용하고, 열린 질문에는 답변을 생성하는 방식을 쓸 수 있다. 자연스럽게 말하는 능력과 회사가 요구하는 순서를 지키는 능력을 함께 다루는 구성이다.

타사 플랫폼 연결의 구체적인 범위는 범용 커넥터 문서에서 확인할 수 있다. 이 연결기는 MS가 운영하는 서버와 고객센터가 지속적으로 메시지를 주고받는 웹소켓(WebSocket) 방식이며 음성과 텍스트 세션을 지원한다. 현재 설명된 것은 고객과 직접 대화하는 AI 에이전트 연결이다. 기존 상담원 화면에 조언을 띄우는 기능 전체가 같은 문서로 제공된다고 볼 수는 없다.

연결기는 특정 프로그래밍 언어용 개발 도구를 필수로 요구하지 않지만, 연결을 위한 사전 등록은 필요하다. MS가 조직과 채널을 준비하고, 해당 업무 환경을 소유한 조직의 인증 체계에서 발급된 접근 토큰을 검사한다. 기술적으로 열려 있다는 표현이 아무 계정으로나 연결하거나 인증 없이 고객 데이터를 주고받는다는 뜻은 아니다. 기존 플랫폼을 유지해도 시스템 통합 작업과 권한 설계는 남는다.

음성으로 본인 여부를 확인하는 기능도 조직의 설정과 연결된다. 개요 문서는 동의, 판정 기준, 재시도 횟수, 대체 확인 절차, 사람의 검토 조건을 조직이 정한다고 설명한다. 목소리를 활용한다는 사실만으로 모든 상담에서 신원이 자동으로 확정되는 구조는 아니다. 특히 실패했을 때의 처리와 사람에게 넘기는 조건이 함께 있어야 고객센터의 기존 인증 절차와 연결될 수 있다.

시험 이용 안내는 신용카드 없이 시작하는 30일 시험 환경을 제공한다고 밝힌다. 회사·학교 계정과 이용 가능한 데이터버스(Dataverse) 환경, 또는 새 시험 환경을 만들 수 있는 조건이 필요하다. 화면에 보이는 기능은 시험판 갱신에 따라 달라질 수 있으며, 시험 자원은 실제 운영 업무에 쓰지 않도록 명시했다. 무료 시험 기간이 무제한 무료 제공을 뜻하지도 않는다.

발표에 실린 고객 발언 중에는 운영 전환을 준비 중이라는 설명도 포함돼 있다. 이를 이미 실현한 대기시간 단축이나 비용 절감 실적으로 바꿔 읽을 수는 없다. 현재 확인되는 변화는 기존 고객센터를 유지하는 기업도 MS의 AI 계층을 평가할 수 있게 됐다는 점이다. 최종 도입 판단에서는 시험 제공 범위와 실제 필요한 기능, 기존 플랫폼에 지급하는 비용을 함께 봐야 한다.

비교에 쓰인 원자료는 밀크10k(MILK10k) 데이터셋이다. 배포기관인 국제 피부영상 협력체(ISIC)는 5,240개 병변에 대해 일반 근접 사진과 피부를 확대해 관찰하는 피부확대경 사진을 짝지어 총 1만480장을 제공한다고 설명한다. 같은 병변이라도 사진 종류에 따라 보이는 정보가 다르므로, 단순히 사진 몇 장을 맞혔는지를 넘어 어떤 영상이 입력됐는지 확인할 수 있는 구성이다.

이 데이터셋에는 나이 구간·성별·촬영 부위·피부색·진단과 정답을 확정한 방식 등의 정보가 포함된다. 전체 병변 중 95.7%는 조직검사로 확인됐다. 원자료 전체가 100% 조직검사 사례라는 뜻은 아니다. 린치의 이번 비교는 그중 조직검사로 확인된 병변 200건을 골랐으므로 데이터셋 전체의 구성과 평가 표본의 구성을 구별해야 한다.

비교 모델은 지피티-6 아스트라(GPT-6 Astra), 클로드 페이블 5.1(Claude Fable 5.1), 피부 영상으로 추가 학습한 인셉션 v3(Inception v3)였다. 여섯 진단명 중 첫 선택을 맞힌 수는 각각 84건, 85건, 125건이었다. 인셉션은 영상의 특징을 학습하는 합성곱 신경망(CNN)이며, 오래된 구조를 썼지만 피부 영상에 맞춰 다시 훈련한 전용 모델이라는 조건이 있다.

후속 진료가 불필요하다고 판정한 흑색종은 두 범용 모델이 각각 3건·4건, 전용 모델이 기본 기준에서 18건이었다. 전용 모델의 기준을 조정한 비교에서는 1~2건이었으므로 기본 설정과 구별해야 한다. 진단명을 맞히는 것과 위험 사례를 진료 대상으로 남겨두는 것은 별개의 과제다.

연구용 모델 설명에 따르면 인셉션의 학습에는 공개 피부 영상 6만8,011장이 사용됐다. 환자나 병변이 같거나 거의 같은 사진은 같은 집합에 묶어 학습·검증·시험 자료 사이에 섞이지 않게 했다. 같은 병변의 다른 사진을 이미 학습한 상태에서 시험 점수가 높아지는 문제를 피하려는 구성이다. 원래의 범용 영상 모델을 그대로 시험한 결과가 아니라, 피부 영상으로 추가 학습한 모델의 결과인 셈이다.

모델 설명은 피부확대경 영상과 일반 근접 사진에 서로 다른 연구용 판정 기준을 사용한다고 밝힌다. 브라우저 시연 화면에 나오는 점수도 개인에게 적용되는 발병 확률이 아니라고 명시한다. 또한 시연의 영상별 성능과 이번 비교에서 두 종류 영상을 결합한 결과는 같은 평가가 아니다. 입력 영상과 판정 기준을 바꾸면 결과도 달라지므로 수치를 섞어 하나의 정확도로 표현할 수 없다.

자료의 대표성에도 한계가 있다. 연구용 모델 설명에는 어두운 피부색의 영상이 적고, 전문 진료기관에서 조직검사를 선택한 병변이 많이 포함됐다고 적혀 있다. 일반인이 우연히 촬영한 모든 피부 사진을 대표하는 표본은 아니다. 드문 질환도 다루지 않으며, 일부 학습 자료의 비상업적 이용 조건 때문에 모델 역시 비상업적 연구·교육용으로 제공된다.

린치는 분석과 초안 작성에 클로드 코드(Claude Code)를 사용했다고 공개했다. 평가 대상 중 하나도 같은 개발사의 모델이다. 이 보고서는 독립적인 임상 검증 결과를 제시하지 않았다. 의료진을 대체할 수 있다는 결론으로 확대할 근거도 없다. 영상 종류·학습 자료·진단명·후속 조치를 함께 봐야 평가 결과의 의미를 읽을 수 있다.