개요
구글의 수석과학자(Chief Scientist)로, 대규모 분산 시스템과 AI 인프라 설계를 대표하는 인물이다. 프린스턴 강의에서 수만 개 칩 규모의 학습 클러스터에서 발생하는 하드웨어 침묵 오류와 그 대응 방식을 공개했다.
핵심 정보
- 직함: 구글 수석과학자
- 전문 영역: 대규모 분산 학습 인프라, 시스템 신뢰성, 딥러닝 플랫폼
- 클리핑 내 맥락: 프린스턴 강의에서 “잘 알려지지 않은” 학습 인프라 운영 사례를 공개
- 공개한 내용: 층별 그래디언트 감시 → 스텝 재실행 → 데이터/하드웨어 원인 이분법 → 범인 칩 격리 및 예비 칩 투입
주요 발언 / 기여
구글 수석과학자 Jeff Dean이 프린스턴 강의에서 풀어놓은, 잘 알려지지 않은 이야기임
층마다 그래디언트를 감시하다가 튀는 값이 보이면 그 스텝을 자동으로 다시 돌림.
관계
- 20260810-silent-data-corruption-in-large-scale-training — 발언 주제
- 20260804-alphabet — 소속 조직
- 20260810-half-of-model-competition-is-boring-reliability-engineering — 발언에서 도출된 전략적 함의