구글·싱가포르, 기기 안에서 대화를 살피는 사기 탐지 AI 개발

링크보다 대화의 흐름을 보는 이유

사기 메시지는 노골적인 악성 링크만으로 이뤄지지 않는다. 정상적인 대화를 이어가며 신뢰를 얻은 뒤 돈이나 인증 정보를 요구하는 경우에는 개별 문장보다 앞뒤 맥락이 중요하다. 구글은 싱가포르에서 투자 사기와 가짜 채용, 공공기관 사칭 같은 유형을 문제로 제시하고, 현지 사기 대화에 맞춰 경량 모델을 조정했다고 밝혔다.

일반 모델에 사기 여부를 묻는 방식과 다른 점은 지역의 구체적인 사칭 맥락을 반영했다는 것이다. 공개 설명에 따르면 공공기관·은행·현지 인물을 사칭하는 대화와 지역에서 유행하는 수법을 조정 자료에 포함했다. 같은 표현이라도 정상적인 안내인지 조작인지 판단하려면 기관명과 대화 관행을 이해해야 한다. 다만 이러한 설계 목적이 실제 탐지 성능의 향상을 입증하는 수치 자체는 아니다.

배터리와 개인정보를 함께 고려한 2단계 처리

첫 단계에서는 계산량이 적은 분류기가 들어오는 메시지에서 잠재적 위협을 찾는다. 두 번째 단계에서 조정된 제마 모델이 더 넓은 대화 맥락을 분석해 위험을 확인하거나 경고를 거둔다. 구글은 스마트폰에서 복잡한 분류 모델을 계속 실행할 때 전력 효율이 중요하기 때문에 이런 구조를 택했다고 설명했다. 경량 탐색과 맥락 분석의 역할을 나눈 것이다.

위험한 조작 패턴을 감지하면 기기에서 경고를 보여주고, 민감한 정보나 자금을 보내기 전에 멈춰 확인하도록 안내하는 방식이다. 발표 범위는 경고와 판단 지원이다. 송금을 자동 차단하거나 상대방의 법적 신원을 보증하는 기능으로 소개한 것은 아니다. 경고를 받지 않았다는 이유만으로 거래 상대가 안전하다고 단정할 수도 없다.

기기 내 처리는 개인정보 측면의 중요한 차이다. 구글은 배포된 모델을 통해 정부나 구글이 사용자의 대화를 볼 수 없도록 설계했다고 밝혔다. 앱이 기기 내 대화에 접근하는 경우에도 사용자의 동의와 해당 앱의 이용 조건이 적용된다고 명시했다. ‘온디바이스’라는 표현이 앱 권한이나 동의 절차까지 없어졌다는 뜻은 아니다.

공개 모델과 실제 서비스 사이에 남은 단계

제마는 구글이 제공하는 경량 공개 모델 계열이다. 공식 개발 문서는 개발자가 자신의 하드웨어나 모바일 기기, 호스팅 환경에서 모델을 실행하고 특정 작업에 맞게 조정할 수 있다고 설명한다. 이번 사기 탐지 모델은 그 활용 방향을 정부의 지역별 문제에 적용한 사례다. 다만 구글은 이번 모델의 구체적인 제마 버전과 매개변수 크기를 발표 본문에서 밝히지 않았다.

학습 과정은 정부기술청이 관리하는 구글 클라우드 환경에서 진행했다. 구글은 시민의 사적 대화나 개인 식별 정보를 학습 자료에서 제외하고, 사기 신고와 관련 정보에서 익명화한 자료를 사용했다고 설명했다. 합성 대화와 현지 자료를 이용한 시험도 언급했다. 이는 개발사의 자료 처리 설명이며 외부 감사 결과와는 구분해 읽어야 한다.

최종적인 효과는 실제 앱과 기기에서 확인해야 한다. 단계적 배포 과정에서 어떤 앱과 휴대전화가 지원되는지, 경고를 얼마나 자주 잘못 띄우는지, 새로운 사칭 수법에 어떻게 대응하는지가 남아 있다. 한국에 유사한 기능을 적용하려면 한국어 대화와 국내 금융·공공기관 사칭 맥락을 별도로 검증해야 한다. 이번 소식은 해외 모델을 그대로 가져오면 해결된다는 사례가 아니라 지역 지식·기기 성능·개인정보 설계를 함께 묶은 접근을 보여준다.