요즘 메모리 업계에 새롭게 등장한 서사 구조가 ‘수주산업화’다. 기본적으로 물건을 만들어 놓고 파는 사이클 산업은 경기와 재고에 취약하다. 가령 D램은 수급에 따라 가격이 롤러코스터를 탄다. 그래서 호황기에는 영업이익률이 40~50%까지 치솟다가도 불황기에는 적자 전환되기 일쑤였다.
그런데 인공지능(AI)이라는 치트키가 등장해 모든 게 바뀌고 있다. 이미 AI 컴퓨팅의 중심으로 우뚝 선 고대역폭메모리(HBM)와 일부 고성능 메모리는 장기 공급계약이 일반화되는 추세다. 그간 프로세서가 주인공, 메모리는 엑스트라였다면 이제 갑을 관계가 바뀌고 있다고 할까.
실제 얼마 전 산제이 메흐로트라 마이크론 최고경영자(CEO)는 메모리 가격을 후려쳐 온 애플의 갑질 때문에 메모리 기업이 제때 투자를 못 했고 그 결과가 지금의 메모리 품귀라며 애플을 공개 저격하기도 했다. 아마 삼성전자와 SK하이닉스도 메흐로트라의 작심 발언에 카타르시스를 느끼지 않았을까 싶다. 애플이 대표로 굴욕을 당했지만 ‘애플’ 안에는 엔비디아·인텔·AMD·구글·아마존과 같은 메모리 거대 수요 업체가 다 들어 있다고 봐야 한다.
문제는 메모리의 힘이 세질수록 권력을 다시 회수하기 위한 빅테크의 움직임도 조직화·노골화될 수 있다는 점이다. 구글이 AI 추론 과정에서 메모리 사용량을 줄이는 소프트웨어 알고리즘인 터보퀀트로 메모리 기업의 간담을 서늘하게 한 것은 일종의 맛보기에 불과하다. 퀄컴은 HBM 사용량을 낮추기 위한 HBC, 인텔은 데이터 이동을 줄이는 ZAM이라는 기술을 잇따라 내놓았다.
이뿐 아니다. AMD처럼 소프트웨어 최적화 기업 인수를 통해 메모리 사용량을 줄이려는 기업 행보도 뚜렷하다. 빅테크들이 메모리 품귀 시대를 맞아 AI가 가장 효율적으로 작동하는 메모리 구조를 만들기 위한 아키텍처 설계에 적극적으로 관여하고 있음을 예민하게 인식할 필요가 있다. 메모리가 귀해질수록 다른 한편에서는 메모리를 덜 쓰는 AI를 만들려는 전혀 다른 차원의 전쟁이 일어나고 있다는 뜻이다. 이런 메모리 병목을 줄이는 각종 기술들이 되레 메모리 원가 부담을 줄여 HBM 등의 수요를 더 늘릴 것이라는 전망도 나오지만 분명한 점은 빅테크가 알고리즘과 시스템 혁신에 절치부심하고 있다는 것이다. 목표는 메모리 벤더에 종속되는 리스크를 더는 방치하지 않겠다는 의도다.
사실 메모리의 장기 공급계약도 영구적으로 가능한 것은 아니다. 지금 메모리는 그래픽처리장치(GPU) 등 AI 칩 가동률을 결정하는 전략자산 위상까지 왔다. AI 서버 한 대에서 가장 비싼 GPU가 놀게 되는 결정적 원인이 HBM 부족이고 이 때문에 빅테크들은 비싸더라도 장기 공급계약을 통해 메모리를 확보하고 있다. 상대적으로 작은 비중의 메모리 비용을 아끼다가 GPU 활용률이 떨어지면 손실이 더 큰 탓이다. 따지고 보면 현재의 메모리 가격은 GPU 유휴시간 방지 비용에 가깝다. 그래서 실제 수급보다 더 비쌀 수 있다.
하지만 AI 수익화를 검증하는 날은 오기 마련이다. 메모리 선점에 혈안인 빅테크들도 어느 시점에서는 투자 대비 수익이라는 본질적 질문을 할 것이다. 금리 등 거시경제 변화는 차치하고라도 중국 빅테크에 서버 D램을 공급하기 시작한 CXMT의 급성장, 한국의 메모리 패권에 심기가 불편한 미국 정부의 몽니 가능성도 배제하기 어렵다.
호황 너머를 봐야 한다. ‘HBM을 더 팔겠다’에서 멈춰서는 안 된다. HBM을 덜 써도 우리 기술이 절대적으로 필요하도록 판을 짜야 한다. 그래서 메모리를 네트워크처럼 공유하는 기술인 CXL을 비롯해 메모리 아키텍처까지 주도적으로 영향력을 넓힐 필요가 있다. 벼락 호황에 취해 메모리 공급 회사에 그치면 AI 메모리 생태계의 주도권을 빅테크에 다시 내줄 수 있다.
테크 역사에서 가장 위험한 순간은 중심에 섰을 때였다. ‘메모리 시대가 왔다’고 환호하는 순간, 누군가는 그 중심을 무너뜨릴 다음 기술을 준비하고 있다. 우리 기업이 진정 경계해야 할 것은 오늘의 공급 부족이 아니라 내일의 기술 변화다. 메모리가 어떤 방향으로 진화하더라도 그 변화의 중심에 설 수 있는 기업만이 AI 시대 최종 승자가 될 수 있다.
https://n.news.naver.com/mnews/article/011/0004642860?sid=110