HDD 늘어도 AI 병목은 안 끝난다

도시바의 HDD 증설이 보여주는 다음 병목 도시바가 2027 회계연도까지 AI 데이터센터용 HDD 생산능력을 저장용량 기준 약 2배로 확대한다는 소식에 씨게이트와 웨스턴디지털 주가가 크게 하락했다. 그동안 AI 데이터 증가와 공급 부족으로 HDD 가격과 마진이 높게 유지됐고, 두 회사 주가에도 ‘희소성 프리미엄’이 반영돼 있었기 때문이다. 다만 생산능력 2배가 HDD 대수를 두 배로 늘린다는 의미는 아니다. HDD 한 개의 용량이 20TB에서 40TB, 장기적으로 60TB 이상으로 높아지면 같은 생산대수에서도 전체 저장용량은 크게 증가한다. 따라서 이번 발표는 HDD 공급과잉이라기보다, 지금까지 강했던 구조적 공급 부족이 점차 완화될 가능성을 반영한 것으로 보는 편이 적절하다. 샌디스크와 마이크론까지 함께 하락한 이유도 여기에 있다. HDD가 부족한 동안 원래 HDD에 저장했을 데이터 일부가 QLC 기반 고용량 기업용 SSD로 이동했다. HDD 공급이 늘어나면 이 수요 일부가 다시 HDD로 돌아갈 수 있다는 우려가 반영된 것이다. 하지만 모든 SSD가 HDD와 경쟁하는 것은 아니다. 영상, 로그, 학습 원본처럼 오래 보관하는 Cold Data는 HDD가 유리하다. 반면 벡터 데이터베이스, RAG, AI 에이전트, KV Cache처럼 즉시 읽고 써야 하는 Hot Data는 지연시간 때문에 HDD로 처리하기 어렵다. 결국 AI 데이터센터는 HBM, 서버 DRAM, 고성능 SSD, 고용량 SSD, HDD로 이어지는 메모리와 스토리지 계층을 더욱 세분화하고 있다. HDD 공급 확대는 이 계층의 가장 아래쪽을 싸게 만드는 변화이지, 위쪽 계층의 필요성을 없애는 변화가 아니다. AI 데이터센터를 거대한 도서관으로 보면 HDD는 지하 서고, SSD는 열람실, DRAM은 책상 위 공간에 해당한다. 지하 서고가 아무리 넓어져도 필요한 책을 열람실과 책상까지 빠르게 가져오지 못하면 소용이 없다. 저장비용이 낮아질수록 더 많은 데이터를 보관하게 된다. AI가 학습에서 추론, 서비스, 에이전트로 확장될수록 데이터는 계속 호출된다. 검색해야 할 데이터와 메타데이터 처리가 늘어나고, SSD와 DRAM으로 올려야 할 데이터도 증가한다. 결국 GPU가 처리하는 토큰도 많아진다. 단위 데이터당 필요한 하드웨어는 줄어들 수 있다. 하지만 데이터 전체의 증가 속도가 더 빠르다면 시스템 전체 수요는 오히려 커질 수 있다. 그래서 이번 HDD 증설을 AI 스토리지 사이클의 약화로 보기보다, 병목이 ‘저장’에서 ‘데이터 이동’으로 이동하는 신호로 보고 있다. AI 인프라 시즌1에서는 데이터를 GPU로 가져가는 것이 중요했다. 시즌2에서는 데이터가 너무 많아지기 때문에 필요한 데이터를 필요한 순간에 가장 적절한 계층에서 꺼내 계산하는 것이 중요해진다. HDD 공급이 늘어날수록 역설적으로 PCIe, NVMe, SSD Cache, CXL, 스토리지 네트워크처럼 데이터가 저장된 곳과 연산하는 곳을 연결하는 기술의 중요성은 더 커질 수 있다. 최근 광인터커넥트, 파워 딜리버리, 파운드리 관련 종목이 다시 강한 모습을 보이는 것도 같은 맥락이다. 시장은 저장공간 자체보다 데이터를 얼마나 빠르고 전력 효율적으로 연산까지 연결할 수 있는지에 주목하기 시작했다. 도시바의 HDD 증설은 AI 인프라 수요가 끝났다는 신호가 아니다. AI 인프라의 다음 병목이 어디로 이동하는지를 보여주는 신호에 가깝다.