Demis Hassabis 글의 핵심은 AGI가 정확히 언제 오느냐가 아니다. 더 중요한 문제는 frontier AI의 capability가 사회의 이해와 제도보다 빠르게 움직이고 있다는 점이다.
이 상황에서 “예측”은 한계가 있다. 전문가들도 disagree하고, unknown risk는 시간이 지나야 드러난다. 그래서 필요한 것은 단일 예언이 아니라 capability가 올라갈 때마다 반복적으로 적용할 수 있는 표준과 평가 절차다.
Standards Body 제안은 이 의미에서 governance를 정적인 법 조항이 아니라 동적인 evaluation protocol로 보려는 시도다. benchmark가 포화되면 폐기하고, held-out test를 만들고, third-party auditor를 붙이고, 필요하면 slowdown까지 조율하는 구조가 핵심이다.
연결된 생각
- 20260715-frontier-ai-standards-body — 표준을 운영하는 제도.
- 20260715-frontier-class-model-assessment — capability를 평가하는 기술 절차.
- 20260715-agi-governance-window — 표준을 만들 시간이 짧다는 문제 설정.