정의
Frontier AI Standards Body는 Demis Hassabis가 제안한 frontier AI 평가 및 governance 기구다. 미국이 주도하되, 연방 감독을 받는 public-private partnership 또는 FINRA와 유사한 self-regulatory organization 형태를 상정한다.
목적
목표는 frontier AI 모델의 능력과 위험을 동적으로 평가하고, 안전·보안·책임성 기준을 frontier model release 전에 적용하는 것이다. 단순한 법률 규제가 아니라 기술 평가 중심의 표준화 기구라는 점이 특징이다.
핵심 구성
- 독립 technical expert와 open-source representative가 포함된 board.
- industry funding 기반의 충분한 예산과 compute.
- federal agencies 및 US National Labs와의 협력.
- frontier-class 모델 기준과 benchmark의 정기 업데이트.
- pre-release review: 초기에는 자발적, 이후 formal requirement 가능.
- third-party auditor ecosystem.
- 필요 시 Frontier Labs 간 개발 slowdown coordination.
장점
- frontier capability 변화 속도에 맞춰 benchmark를 갱신할 수 있다.
- 정부 단독 규제보다 기술 인력과 compute를 확보하기 쉽다.
- industry prestige와 시장 접근 요건을 통해 책임 행동을 유도할 수 있다.
- startup과 academia의 non-frontier 모델은 제외해 혁신을 막지 않는 구조를 지향한다.
쟁점
industry-funded 구조는 이해상충 위험이 있다. 또한 US-led 구조가 국제 표준으로 확장될 수 있는지, open model과 closed model을 같은 기준으로 평가할 수 있는지, 평가가 benchmark gaming으로 변질되지 않을지 검증이 필요하다.
연결
- 20260715-frontier-class-model-assessment — 실제 평가 프로토콜.
- 20260715-agi-governance-window — 기구가 필요한 시간적 배경.
- 20260715-demis-hassabis — 제안자.