앤트로픽, 미국 중간선거 대응 공개…공식 투표 정보 연결과 다단계 오용 탐지 강화

사람들이 실제로 묻는 것은 무엇인가

앤트로픽은 미국의 소비자용 클로드 서비스에서 최근 한 주의 약 25만 대화를 분석했다고 밝혔다. 공개 설명에 따르면 정치·공공정책·사회 문제를 넓게 포함하는 대화는 전체의 약 5.75%, 선거나 투표에 관한 대화는 약 0.51%였다. 어느 후보나 안건에 투표할지 직접 추천을 구한 비율은 훨씬 작았다고 설명했다. 표본의 기간과 범위를 함께 봐야 하는 이용 분석이다.

이 결과는 이용자들이 AI를 반드시 정치적 선택의 대리인으로만 쓰는 것은 아니라는 점을 시사한다. 후보의 입장이나 제도, 행정 절차와 뉴스의 의미를 이해하기 위한 질문도 많다는 것이 회사의 설명이다. 다만 회사가 정한 분류와 개인정보를 보호하는 분석 방법을 거친 자료이므로, 이를 독립적인 여론조사나 실제 유권자 행동의 측정치로 취급해서는 안 된다.

정확성이 중요한 정보는 공식 자료로 연결

회사는 기존의 투표 안내 배너에 더해 데모크라시 웍스가 취합한 주·지역 선거기관의 정보를 답변에 반영하겠다고 밝혔다. 투표 장소나 준비해야 할 신분증처럼 거주 지역에 따라 달라지는 질문이 대상이다. 사용자가 그럴듯한 일반 설명을 받는 데 그치지 않고, 해당 지역의 공식 조건을 확인하도록 돕는 접근이다.

선거 당일 밤과 그 이후에는 최신 공식 개표 수치를 대화에서 보여주는 방안도 발표했다. 다만 투표 안내 기능의 확대 시점은 이달 말로 제시됐고, 한국 선거나 다른 국가의 제도까지 같은 제공 범위에 들어간다고 밝힌 것은 아니다. 사실 확인이 중요한 기능일수록 지원 지역과 자료의 갱신 시점을 함께 안내하는 것이 제품의 일부가 된다.

균형 평가와 실제 대화의 차이

앤트로픽은 최신 모델의 정치적 균형 평가 점수를 제시했지만, 외부 검토에서 지적된 한계도 함께 공개했다. 요청을 거의 거부하지 않더라도 이용자가 요구하지 않은 반론이나 단서를 더 붙이거나, 관점에 따라 주장을 완화하는 정도가 달라질 수 있다는 것이다. 단순히 답변을 했는지와 여러 입장을 일관되게 취급했는지는 다른 평가 기준이다.

이 대목은 AI 서비스의 ‘중립’이라는 단어를 수치 하나로 설명하기 어렵다는 점을 보여준다. 평가에 어떤 질문을 넣었는지, 두 관점의 요청을 어떻게 짝지었는지, 답변의 유용성과 부당한 완화를 어떻게 구분했는지에 따라 결과가 달라진다. 회사는 짧은 답변과 예·아니오 질문에서의 일관성을 개선하고, 대화에 더 가까운 평가를 확대하겠다고 설명했다.

오용 방지에서도 비슷한 문제가 드러났다. 외부 기관의 시험에서는 노골적으로 해로운 단일 요청을 거부해도, 기만적인 작업을 여러 평범한 요청으로 나누면 전체 목적을 놓칠 수 있었다고 회사는 밝혔다. 이에 따라 가짜 계정과 기만적 사이트 구축처럼 서로 연결된 행위를 더 잘 파악하는 분류기를 추가했다고 설명했다. 이는 차단 체계를 강화했다는 발표이며 모든 우회가 해결됐다는 검증은 아니다.

관련 이용정책 개정은 10월 8일 별도로 발표됐으며 시행일은 11월 12일이다. 이번 선거 대응 발표일과 정책의 효력 발생일을 섞어 읽지 않아야 한다. AI가 더 긴 작업을 수행하면서 정보 출처, 응답의 일관성, 여러 단계에 걸친 목적을 함께 관리해야 한다는 점이 이번 공개의 기술적 쟁점이다.