DeepMind의 RSA-1024 연구: 계산 재현과 이론적 비용 추정 구분하기
DeepMind 공식 논문 두 편에서 RSA-1024 계산 재현과 다중 소인수분해 비용 추정의 조건을 확인한다. AI 에이전트의 실행 성과, 병렬 자원, Lean 검증 범위를 나눠 읽는다.
Google DeepMind 연구진이 공개한 RSA 연구 두 편은 AI 에이전트의 암호 분석 능력을 살펴볼 만한 사례다. 다만 실제로 실행한 계산과 이론적으로 줄어든 비용을 나눠 읽어야 한다. 첫 논문은 기존 1024비트 계산을 더 적은 CPU 시간으로 재현했다. 두 번째 논문은 여러 정수를 소인수분해할 때 사전 계산을 공유하는 방법을 분석했다.
두 자료 모두 Working Paper로 공개됐다. 두 번째 논문에는 2026년 11월 5일이 적혀 있다. 11월 7일 브리핑에서 접한 소식이지만 논문에 적힌 날짜와 뉴스가 소개된 날짜는 구분한다. 이 글은 공식 PDF의 내용과 수치를 대조했으며 계산을 독립적으로 재현하지는 않았다.
서명 인터페이스 접근을 전제한 계산
첫 논문 Modular Roots from a Restricted Oracle은 공격자가 사전에 선택한 입력을 서명 인터페이스에 넣어 결과를 모은 뒤, 그 접근이 사라진 상태에서 새 대상의 모듈러 거듭제곱근을 구하는 문제를 다룬다. 공개키 하나만 받아 아무 조건 없이 해독하는 상황과는 전제가 다르다.
연구진은 호출자가 정하는 입력 부분의 길이에 따라 서명 형식의 제약이 얼마나 남는지도 분석했다. 1024비트에서 64바이트 다이제스트를 받는 경우와 32바이트 다이제스트를 받는 경우를 구분한다. 해시를 장치 내부에서 계산하는 인터페이스는 논문의 두 모델 바깥에 놓인다. 따라서 PKCS#1 v1.5라는 이름만 보고 모든 서명 장치가 같은 영향을 받는다고 판단해서는 안 된다.
실험은 앞선 연구와 같은 모듈러스, 다항식, 인수 기반 경계값을 사용했다. 연구진은 첫 번째 거듭제곱근을 구하는 데 든 CPU 시간이 기존 1,380 코어년에서 391 코어년으로 줄었다고 보고한다. 논문은 약 3.5배의 차이가 같은 알고리즘을 구현하고 실행한 방식에서 나왔다고 명시한다. 새 알고리즘 자체가 3.5배 빨라졌다는 해석은 맞지 않는다.
3.2일이라는 실행 시간의 조건
연구진에 따르면 두 AI 에이전트가 설계, 구현, 최적화, 분산 작업 실행과 오류 수정을 맡았다. 한 에이전트는 설계와 결과 감사를, 다른 에이전트는 코드와 실행을 담당했다. 사람 연구자는 약 20개의 짧은 메시지를 보냈으며 대부분 승인 메시지였다고 설명한다.
계산에는 최대 300,000개 CPU 코어와 16개 GPU가 쓰였고 첫 본격적인 체질 작업부터 완료까지 3.2일이 걸렸다. CPU 코어년은 누적 계산량이고 3.2일은 병렬 실행에 걸린 시간이다. 논문도 이전 연구와의 달력상 시간 차이가 주로 병렬성에서 비롯됐다고 설명한다. 이 결과를 일반 개발자 PC에서 며칠이면 같은 계산을 끝낸다는 뜻으로 읽으면 안 된다.
에이전트의 결과 검사도 중요했다. 논문에는 32비트 인덱스 오버플로 때문에 첫 계산 결과가 틀렸고 실행 중 이를 수정했다는 기록이 있다. 에이전트가 작업을 끝냈다는 보고와 계산 결과가 맞다는 검사는 별도로 필요하다.
여러 키의 비용을 나누는 Fan Factories
두 번째 논문 Fan Factories는 같은 비트 길이의 정수를 여러 개 소인수분해할 때 공통 작업을 미리 계산하고 대상마다 여러 수체를 사용하는 방법을 제시한다.
논문에 등장하는 약 30배는 실측 속도가 아니다. 일반적인 수체 체 방법의 휴리스틱 가정을 적용하고 낮은 차수 항을 제외한 추정에서, 사전 계산 예산을 소인수분해 한 번 수준으로 잡았을 때 추가 1024비트 정수 하나의 비용을 기존 MNFS와 비교한 값이다. 연구진은 이 추정으로 실제 실행 시간을 예측할 수 없다고 명시한다.
Lean 4 검증의 범위도 구체적이다. 연구진은 닫힌 형태의 식을 뒷받침하는 대수적 항등식과 정확한 유리수 조건 증거를 기계로 검사했다고 설명한다. 실행 시간 분석에 쓰인 휴리스틱 가정까지 무조건 참으로 증명했다는 의미는 아니다.
개발자가 점검할 항목
두 논문은 현재 배포된 2048비트 이상 RSA 기반 암호 시스템을 이 결과가 위협하지 않는다고 명시한다. 글에서 확인한 범위는 연구진의 실험 보고와 이론 분석이며 실제 서비스 침해를 입증한 자료는 아니다.
서명 장치를 운영하는 팀이라면 키 길이와 함께 호출자가 입력을 얼마나 정할 수 있는지, 해시를 장치 안에서 계산하는지부터 확인할 수 있다. AI 에이전트로 계산 작업을 자동화하는 팀에는 설계 역할과 실행 역할을 나누고 잘못된 중간 결과를 검사한 과정이 참고가 된다. 이 운영상 해석은 글쓴이의 제안이며 연구 결과가 특정 서비스의 안전성이나 에이전트 시스템의 무오류를 보장하지는 않는다.
Discussion
No comments yet