AI 추론의 병목은 GPU의 연산 능력이 아니라 메모리와 계산 장치 사이의 데이터 이동이다. GPU 여러 개를 묶으면 칩 사이로 데이터가 끊임없이 오가야 한다. “창고에서 공장으로 부품을 트럭으로 실어 나르는” 구조다. 공장이 아무리 빨라도 트럭이 막히면 전체가 느려진다.
세레브라스의 해법은 이 도로 자체를 없애는 것이다. 웨이퍼를 자르지 않고 하나의 칩으로 쓰면, 계산 장치와 44GB 온칩 메모리가 같은 평면 위에 붙어 있다. 초당 21페타바이트의 대역폭은 이 구조의 결과다.
이 접근이 단순하면서도 과감한 이유는, “결함을 없애겠다”가 아니라 “결함이 생겨도 손해를 작게 하겠다”는 방향을 택했기 때문이다. 97만 코어 중 7만을 여유분으로 두고, 불량 코어만 끄고 나머지를 쓴다.
이 구조가 실제로 돈이 되는 영역은 에이전트형 AI다. 수십 번 반복 추론이 필요한 작업에서 기다리는 시간이 곧 사용자 경험이고 비용이다.
근거
“창고를 공장 옆이 아니라 공장 안에, 그것도 작업대 바로 위에 올려 두는 것이다. 트럭이 다닐 도로가 아예 필요 없어진다.”
연결된 생각
- 20260528-cerebras-systems — entity: WSE-3 스펙과 고객 현황
- 20260528-ai-datacenter-supply-chain-bottleneck-hierarchy — 연장: AI 데이터센터 병목 5계층 구조