배휘동의 120x 생산성 향상 사례, Karpathy의 ‘AI psychosis’ 고백, Mitchell Hashimoto의 ‘겉보기에는 작동하지만 아키텍처가 깨져 있는’ 경고 — 이 모든 이야기는 AI 도구의 빠른 채택이 가져온 부작용을 여실히 보여준다. 도파민 슬롯머신에 중독된 듯 계속 에이전트에게 일을 던지다 보면 생산성은 오르지만, 개인은 소진되고 진정한 학습은 일어나지 않는다. Seymour Papert의 ‘mind-sized bites’ 개념이 이 문제에 대한 실마리를 제공한다.

근거

최승준은 현상을 정확히 지적한다: “모델의 성능이나 하네스의 성능이 계속 올라가고 이걸 쓰면 쓸수록 일을 많이 처리할 수 있으니까, 사람들이 번아웃을 호소한 게 벌써 반년이… 이게 도파민, 저 슬롯 머신 같다는 얘기들 많이들 하시잖아요. 타임라인이 흐르고 스크롤이 흐르다 보면 확률적으로 모델이 잘해주는 게 팡팡 터지니까 도파민 터진다는 표현을 많이 쓰는데, 그런 거에 빠져 하루 종일 일을 하다 보니까 또 힘듦이 생긴다는 거죠.”

더 심각한 문제는 이 ‘빠름’이 학습을 방해한다는 점이다. 노정석의 고백이 이를 잘 드러낸다: “투두 리스트에 뭘 해야 되겠다고 넣어 놓으면 마치 다 한 것과 같은 착각이 들어요. 왜냐하면 그걸 AI한테 시키면 걔가 할 테니까요.”

이에 대한 해법으로 최승준은 slow AI와 mind-sized bites를 제안한다: “slow AI 스쿨도 있긴 하다는 거예요… ‘mind-sized bites’라는 표현이 있었어요. 내 마음이 소화할 수 있을 만큼의 한 입… AI의 페이스에 맞추는 게 아니라 나에 맞추는 식으로.”

“내 마음이 소화할 수 있을 만큼의 한 입… 그래서 slow AI를 이야기하는 쪽이 좀 생기고 있는 중이거든요.”

연결된 생각

출처

클리핑 · youtube.com