결정한 것은 검증기였다 — AI가 수학에서 뚫고 음악에서 멈춘 이유

앞 글의 숙제

AI는 음악의 무엇을 바꿨나에서 “2026년 시점에 ’오랜 수수께끼가 AI로 풀렸다’고 단언할 수 있는 단독의 대발견은 아직 없다”고 썼다. 쓰고 나서 걸렸다.

그럼 다른 업계에서는 어떤가.

찾아보니 있다. 그것도 극단적으로 있다. 그리고 흥미로웠던 것은 그 차이가 분야의 지적인 난이도와 상관이 없다는 점이었다.

수학에서는 실제로 풀리고 있다

2026년 5월, DeepMind의 AlphaProof Nexus가 시도한 353문제의 에르되시 문제 중 9문제를 자율적으로 풀었다. 그중 2문제는 56년간 미해결이었고, 문제당 추론 비용은 수백 달러였다.

2025년 10월 이후로 보면 AI는 에르되시의 미해결 문제를 약 100개 정리했다. OpenAI의 모델이 80년 된 기하학 추측을 무너뜨렸고, 23세가 60년 된 문제를 챗봇에 한 번 던진 프롬프트로 결말지은 사례까지 있다. AxiomProver는 2026년 퍼트넘의 전 12문제를 자율적으로 풀었고, 그중 8문제는 공식 제한 시간 안에 들어갔다.

수학은 어렵다. 그럼에도 AI의 성과가 가장 화려하게 나오는 분야가 수학이다.

조용히 본격 운용에 들어간 것들

• 기상 — ECMWF가 AIFS를 2025년 2월에 운용화, 7월에 확률 버전. NOAA가 2026년 1월에 뒤따랐다. 물리 시뮬레이션을 기계학습이 본 운용에서 대체한 최초의 대규모 사례이고, 계산 비용이 자릿수로 다르다
• 재료 — DeepMind의 GNoME이 약 220만 개의 후보 구조를 예측하고 약 38만 개를 안정으로 판정. Nature 논문 시점에 외부 연구실이 736개를 실제로 합성했다
• 핵융합 — 프린스턴이 밀리초 단위로 플라즈마를 제어하는 AI를 실증. 인간 조작자보다 훨씬 빠르다
• 자율주행 — Waymo가 미국 4개 도시에서 주 15만 회 이상. Baidu의 Apollo Go는 중국 10개 도시 이상에서 누적 1000만 회 초과
• 신약 개발 — 2026년 7월 시점에 63개사의 117개 치료 자산이 임상시험에 들어가 있다. 다만 Phase 2 완료는 8이고, 완전히 AI가 설계한 약의 FDA 승인은 아직 0

기상이 가장 수수하고 가장 널리 쓰인다. 매일의 일기예보 뒤편이 교체되었는데 거의 화제가 되지 않았다.

그런데 회사에서는

• Gartner(2026년 4월) — AI 프로젝트에서 ROI를 완전히 달성한 것은 28%, 20%는 완전히 실패
• RAND — 80% 이상이 본 운용에 도달하지 못하고 실패. 최대 원인은 데이터 품질
• BCG — 도입 기업의 74%가 PoC 성공 후 확장하지 못하고 있다
• 106건의 조사 연구 메타분석 — 인간과 AI의 조합은 평균적으로 성능이 떨어진다

마지막 하나가 아프다. 쓰고 있다는 실감은 있는데, 재면 내려가 있다.

나란히 놓고 보인 것

수학은 어렵다. 기업 업무는 적어도 수학보다는 쉽다. 그런데 결과는 반대다. 난이도로는 설명이 되지 않는다.

다시 늘어놓고 보인 것은 성과가 난 분야에 공통된 3조건이었다.

1. 검증기가 있다 — 출력이 옳은지를 기계적·객관적으로 판정할 수 있다
2. 구조화된 대량 데이터가 있다
3. 율속이 탐색의 횟수였다 — 사람 손으로 시도할 수 있는 수가 병목이었다

그중 결정적인 것은 첫 번째다.

분야	검증기	판정에 걸리는 시간
수학	Lean 등의 증명 보조계	초~분
플라즈마 제어	장치가 안정되는가	밀리초
기상	다음 날의 실제 대기	하루
재료	실제로 합성되는가	주~월
신약 개발	임상시험	년
음악(생성·연주 평가)	없음	—
경영 판단·교육	없음(있어도 느리고 교란이 많다)	—

Lean이 초 단위로 판정하니 수학은 독무대가 되고, 임상시험이 년 단위이니 신약은 “빨라졌다”에서 멈춘다. 진도를 정하는 것은 AI의 똑똑함이 아니라 검증기의 속도와 비용이다.

오답의 비용이 0이 된다

왜 검증기가 이렇게까지 효과가 있나. 이유는 셋이라고 본다.

1. 오답의 비용이 0이 된다. Lean이 통과시킨 증명은 옳다. AI가 999개의 오답과 1개의 정답을 내놓아도 버리면 그만이다. 그래서 생성의 정밀도가 낮아도 전수 탐색이 성립한다.

검증기가 없는 영역에서는 오답을 골라내는 비용을 사람이 치르게 된다. AI의 출력이 늘수록 사람의 부담이 늘어난다. 106건 메타분석에서 평균이 내려간 것은 아마 이것이다.

2. 자기 개선의 루프가 닫힌다. 검증기의 판정을 그대로 학습 신호로 쓸 수 있어서, 사람의 레이블링 없이 능력이 오른다. AlphaProof도, 플라즈마 제어도, 바둑·장기도 전부 이 형태다.

3. 주장의 진위가 협상 대상이 되지 않는다. 음악의 생성 AI와 기업 도입에서 일어나는 것이 바로 이것이 성립하지 않는 상태다. “좋은 곡인가” “효과가 있었나”를 판정할 수 없으니 논의는 법정과 사내 정치로 옮겨간다.

음악이 그대로 실례였다

이 틀로 앞 글을 다시 읽으면 이야기가 깔끔하게 닫힌다.

음원 분리와 자동 채보에는 검증기가 있었다. 분리 결과는 원래 스템과 비교할 수 있다. 채보 결과는 Disklavier의 MIDI와 비교할 수 있다. 그래서 실용 수준까지 도달했다.

생성과 연주 평가에는 검증기가 없다. “좋은 곡” “좋은 연주”를 판정하는 기계가 존재하지 않는다. 그래서 기술 이야기가 되지 못하고 권리 귀속 이야기가 되었다.

같은 분야 안에서 검증기가 있는 쪽만 움직였다. 음악은 내 주장의 가장 좋은 실례였다.

검증기에는 네 가지 유형이 있다

유형	예	특징
형식 검증	Lean, 타입 검사, 모델 검사	빠르고 싸고 확실. 적용 범위는 좁다
물리 실험	합성, 임상시험, 주행 시험	확실하지만 느리고 비싸다
자연의 답 맞추기	다음 날의 날씨, 시장 가격	빠르고 싸지만 기다릴 수밖에 없다
참조 구현과의 차분	원래 스템, 기존 처리계의 출력	참조의 질이 상한을 정한다

음원 분리와 자동 채보는 네 번째에 해당한다. 참조가 존재했다는 것이 음악의 분해 쪽만 움직인 이유였다.

이것은 내 손안의 이야기이기도 하다

자작 언어를 만들고 있으면 이 이야기는 남의 일이 아니다. 게이트가 녹색인지로 진퇴를 정하니, 검증기의 질이 그대로 작업의 질이 된다.

다만 열다섯 개의 게이트가 전부 녹색인데 아무도 묻지 않았던 질문에서 쓴 대로, 검증기는 “있느냐 없느냐”만으로는 부족하다. 무엇을 묻고 있는가도 같은 만큼 중요하다. 전부 녹색이어도 아무도 묻지 않은 질문은 남는다.

분야 이야기로 돌아가면, 이것은 “검증기를 만들 수 없나”라는 물음이 된다. 자율 실험실은 느리고 비쌌던 물리 실험의 검증기를 로보틱스로 빠르고 싸게 만들려는 시도다. CMU의 Materials Innovation Cloud Lab 같은 환경이 올라오고 있다.

거꾸로 말하면 검증기를 설계할 수 없는 영역에서는 당분간 이 구도가 이어진다. 예술, 교육, 경영 판단, 대인 케어가 거기에 들어간다.

결국

AI가 혁신을 일으킨 것은 “지적인 분야”가 아니라 답을 맞춰볼 수 있는 분야였다. 수학이 가장 화려하게 성과를 내는 것은 수학이 어려워서가 아니라 증명을 기계가 검증할 수 있기 때문이다.

그래서 판단이 서지 않을 때 던질 질문은 하나면 된다.

이 작업의 출력이 옳은지를, 사람이 판단하지 않고 확인할 방법이 있는가.

있다면 AI를 투입할 가치가 높다. 없다면 AI는 속도가 아니라 “안의 수”를 늘리는 도구로 쓰고, 골라내는 비용을 누가 치를지를 먼저 정해둔다.

피아노로 이야기를 되돌리면, 자기 연주를 MIDI로 녹음해 악보와 얼라인먼트를 잡는 것은 검증기를 스스로 만드는 행위에 해당한다. 거기까지는 기계가 거들 수 있다. 그 앞의 “음악적으로 좋은가”에는 아직 아무도 검증기를 갖고 있지 않다.