많은 기업들이 자신의 독점 데이터가 세상에 없는 희소 자산이라고 생각하며, 이를 온프레미스에 가두거나 외부 유출을 막는 데 막대한 비용을 쏟는다. 그러나 노정석은 GPT-5.4에 회사의 독점적인 내용 3개를 넣어보는 실험을 통해 충격적인 사실을 발견했다. “모델이 이미 다 알고 있더라”는 것이다. 물론 실행 전의 지식 수준이었지만, 이 경험은 그에게 결정적인 전환점을 제공했다. 정보를 보호하는 전략보다는, capability overhang을 가진 모델에 자신의 데이터를 빨리 제공해서 모델이 가진 추가적인 search space를 더 많이 가져오는 것이 훨씬 더 큰 이익을 창출한다는 깨달음이다.
근거
이 통찰은 단순한 직관이 아니다. Frontier Lab들(OpenAI, Anthropic)은 이미 전 세계 인류의 데이터를 보상 신호로 가져가고 있다. 그럼에도 불구하고 그 거래를 통해 얻는 이익이 보안 리스크보다 아직까지는 압도적으로 높다는 것이 그의 결론이다. 핵심은 ‘보안 대(對) 효용’의 트레이드오프가 아니라, ‘데이터를 줌으로써 모델이 우리 문제를 푸는 속도와 범위를 극적으로 확장시키는 것’이다. 데이터를 주지 않으면 그만큼의 search space를 영원히 탐색하지 못하는 손해가 더 크다.
“제가 마음속으로 갖고 있는 심상은, 내가 가진 것을 보호하는 형태보다 capability overhang을 가진 모델에 빨리 제공해서 모델이 가진 추가 search space를 더 가져오게 하는 게 더 이익이라는 생각으로 굳히고 있습니다.”
연결된 생각
- 20260607-capability-overhang — 모델이 우리가 인지하는 것보다 훨씬 뛰어난 능력을 갖고 있다는 전제가 이 통찰의 근간이다.
- 20260606-search-problem-is-everything — 데이터 제공은 모델이 우리 도메인의 Search Problem을 풀 수 있는 환경(RLVR)을 확장하는 행위다.