앤트로픽, 클로드의 양자회로 설계 연구 공개…8개 과제에서 자원 절감

평가기가 있는 연구 과제

이번 연구는 화학, 최적화, 물리 시뮬레이션, 수론 등에 쓰이는 기초 연산을 대상으로 했다. 모델이 Python으로 회로 구현을 제출하면 프로그램이 결과가 맞는지 검사하고 비용을 계산한다. 그 피드백을 다음 설계에 반영하는 반복 구조다. 연구진이 문제와 평가 환경을 정의했으므로 아무 준비 없이 AI가 독자적으로 연구 전 과정을 수행했다는 설명과는 차이가 있다.

논문의 제출일은 10월 15일이며 기업의 설명 글은 16일 게시됐다. 초록은 7개 과제의 동시 절감과 여덟 번째 과제의 공간·연산량 절충 개선을 구분한다. 이를 모든 과제에서 모든 자원이 일률적으로 줄었다고 요약하면 핵심 조건이 사라진다. 자원을 적게 쓰는 방식이 여러 종류라는 점이 이 연구를 읽는 출발점이다.

주요 비용 지표는 토폴리 게이트 수와 최대 큐비트 수의 곱이다. 게이트는 연산의 기본 단위, 큐비트는 양자 정보를 담는 단위다. 둘의 곱을 줄이는 것은 시간과 공간을 함께 고려하는 간단한 기준이지만, 특정 기계의 실제 실행 시간을 그대로 나타내지는 않는다. 오류 정정, 장치 연결, 측정 방식에 따라 중요한 비용이 달라진다.

양자회로에는 일반 프로그램과 다른 제약이 있다. 중간 정보를 단순히 지워 버릴 수 없고, 계산을 되돌릴 수 있게 구성해야 한다. 따라서 익숙한 고전 알고리즘도 그대로 옮기면 불필요한 저장 공간과 연산이 크게 늘 수 있다. 연구는 이 변환 과정에서 생기는 낭비를 줄일 구조를 탐색했다.

‘17배’라는 수치에 붙는 조건

대표 사례는 타원곡선 계산에 필요한 모듈러 역원이다. 연구진 설명에 따르면 모델은 계산 경로의 이력을 모두 저장하는 대신 현재 수치 상태에서 필요한 정보를 복원하는 방식을 찾았다. 초기의 간단한 후보는 작은 예제에서는 맞았지만 256비트 크기의 시험에서 실패했다. 최종 접근은 수학적 관계를 도출하고 수치 검사와 Lean 형식화로 확인하는 과정을 거쳤다.

공개 글의 ‘17배 적은 게이트’는 이 설계군 중 특정 조합을 이전의 가장 작은 설계와 비교한 값이다. 그 조합은 큐비트를 12% 더 사용한다. 즉 게이트와 저장 공간 사이의 절충이 개선된 사례이며, 같은 큐비트 수로 모든 양자 계산이 17배 빨라졌다는 뜻은 아니다. 논문에 명시된 일부 설계의 드문 입력에 대한 실패 허용 조건도 함께 고려해야 한다.

또 다른 사례는 최적화 알고리즘의 오류 정정 부호 해독 단계다. 모델은 기존 방식과 다른 알고리즘을 선택해 고정된 회로 구조에 더 잘 맞도록 구성했다. 기업은 그 단계의 비용이 약 12배 낮아졌다고 설명한다. 해당 부분의 개선을 전체 알고리즘이나 실제 제품의 처리 속도에 그대로 대입할 수는 없다.

연구진은 하나의 점수로 설계를 고르면 탐색 방향도 그 점수의 영향을 받는다고 논문에서 지적한다. 큐비트가 특히 부족한 장치와 시간이 더 중요한 장치에는 서로 다른 목표 함수가 필요할 수 있다. 모델이 수치를 낮추는 데 성공했다는 사실과 현장에 가장 적합한 설계를 찾았다는 사실 사이에는 이 판단이 남는다.

AI 연구 활용에서 확인된 역할 분담

앤트로픽은 타원곡선 과제의 한 실행이 53시간 걸렸다고 설명한다. 처음 문제를 주고 때때로 탐색을 넓히도록 지시한 인간의 개입도 있었다. 이를 전문가가 완전히 배제된 자동 발견이나 모든 연구 과제의 소요 시간으로 일반화할 수 없다. 전문 지식은 과제 정의와 검증 방법, 결과 해석에 계속 쓰인다.

이번 결과의 의미는 검증 가능한 대상에서 AI의 반복 탐색을 연구 도구로 활용할 가능성에 있다. 제안이 맞는지 빠르게 판정할 수 있을수록 잘못된 후보를 버리고 다음 시도를 이어 갈 근거가 생긴다. 반대로 평가기의 범위를 벗어난 물리적 제약까지 자동으로 해결되는 것은 아니다. 현재 공개 자료는 양자 하드웨어의 상용화 시점을 확정하는 근거보다, 회로 설계 과정의 새로운 접근을 보여 주는 연구로 읽는 것이 적절하다.