Mitchell Hashimoto의 ‘하네스 엔지니어링’은 에이전트의 실수를 재발 방지하는 검증 체계를 만드는 것이다. 이는 생산성을 높이지만, 인간의 스킬 형성을 저해할 수 있다. 반면 스캐폴딩은 인간이 스스로 올라갈 수 있는 비계를 제공하여 학습을 촉진하지만, 초기에는 더 많은 인간의 개입이 필요하다.

팟캐스트에서 거론된 Anthropic의 스킬 형성 논문(위임한 작업에 대해 인간 스킬이 퇴화한다는 연구)은 이 딜레마를 명확히 한다. Kent Beck은 자신의 남은 10% 스킬이 1000배의 가치를 가진다고 말했지만, 보통 사람들은 위임을 통해 잃어버리는 스킬을 대체할 새로운 영역을 찾기 어렵다.

이에 대한 실천적 해법은 ‘의식적 위임’이다. 즉, 어떤 작업을 위임할지 선택할 때 그 작업이 자신의 성장 경로에 얼마나 기여하는지(스캐폴딩 효과)와 실수 학습 기회를 얼마나 잃는지(하네스 효과)를 함께 평가해야 한다.

근거

“그래서 스캐폴딩이 됐든 하네스가 됐든 내가 그거를 위임을 통해서 AI를 쓰게 되는 건데 위임하되 잃지 않으려면, 퇴화하지 않으려면 또는 다른 역량을 개발하려면 어떻게 할 수 있을까. Kent Beck처럼 자기의 남은 10%가 여전히 천 배가 된다고 생각하는 사람들도 있을 수 있지만 보통의 사람들은 위임하다 보면 잃어버릴 수 있죠.” — 최승준

또한 강규영의 Alloy 언어를 활용한 검증 도구는 하네스의 고차원적 형태지만, 동시에 인간의 검증 스킬을 대체하는 측면이 있다.

연결된 생각

출처

클리핑 · YouTube