노정석은 모든 업무를 OKR(Objective and Key Results)로 치환해 verifiable reward 형태로 만드는 실천을 한다. 목적물이 엑셀이든 슬라이드든 report든, 목표(objective)를 감성 없이 숫자로 쓰고, 기대되는 key result를 정확한 날짜·시각적 결과물로 describe한다. 매칭되면 0.7~1.0, 아니면 0. 이렇게 scalar 보상을 정의하면 모델이 그것을 향해 스스로 루프를 돈다.

근거

사람과 무슨 일을 할 때도 objective와 key results를 최대한 모델이 verifiable reward 형태로, scalar의 value 형태로 받아들일 수 있게 정의하는 것이 요새 저의 모든 업무가 되고 있거든요. 효과가 매우 좋습니다.

실제 사례: 자신의 하네스 Chedex를 만들 때, native feature와 기존 feature, 참조 하네스(Oh My Codex) 사이의 delta를 각각 scalar로 정의하고, 결과물 C를 놓고 “defect 숫자가 0이 될 때까지” auto research loop를 건다. 중간 산출물을 한 번도 열어보지 않고 2시간 돌린 뒤 배포하고 믿고 쓴다. Anthropic의 장시간 하네스 설계도 GAN에서 영감받아 “주관적 판단을 채점 가능한 항목으로 바꾸는” 같은 이야기를 한다.

연결된 생각

출처

클리핑 · youtu.be