팟캐스트에서 HyperAccel의 이진원 CTO가 언급한 내용은 AI 생태계의 가장 큰 병목이 ‘고비용 추론’이라는 점을 명확히 지적합니다. 현재의 HBM(고대역폭 메모리) 기반 AI 서버는 일반인이 사용하기에 너무 비싸, 서비스 가격이 월 3만 원 수준입니다. HyperAccel의 목표는 LPDDR(저전력 모바일 메모리)을 사용해 이 비용을 10분의 1로 줄여 월 5천 원 이하로 만드는 것입니다.
이것은 단순한 엔지니어링 목표가 아니라 AI 민주화의 핵심 과제입니다. 아무리 좋은 모델이 나와도 실행 비용이 너무 높으면 대중적 서비스가 불가능합니다. ‘가난한 사람의 AI’가 아니라 ‘모두의 AI’를 위해 하드웨어적 접근이 얼마나 중요한지 보여주는 사례입니다. 소프트웨어 혁신(알고리즘 개선)만으로는 해결할 수 없는 ‘비용의 벽’이 존재한다는 사실을 직시해야 합니다.
근거
“저희가 HBM을 쓰지 않고 LPDDR이라고 하는 저전력 메모리를 사용해서 10분의 1 가격에 저희가 서버를 공급하고, 지금 쓰고 있는 가장 싼 서비스가 우리나라 돈으로 월에 한 3만 원 정도 내야 되잖아요. 그거를 한 5천 원 이하로 줄여보자, 이런 원대한 목표를 가지고 열심히 칩을 개발하고 있습니다.”
연결된 생각
- 20260606-alphago-37-number-as-inflection-point — 모델의 혁신(AlphaGo)이 자극제가 되었다면, 하드웨어 비용 혁신은 대중화의 전환점이 될 수 있다는 점에서 연결된다.
- the-bitter-lesson — Scale이 결국 이긴다는 교훈은 소프트웨어뿐 아니라 하드웨어와 인프라에도 적용된다.
출처
- 📎 클리핑: 20260613-ep98-ko-transcript