화웨이 오션스토어 M900 공개 — SSD까지 KV 캐시 확장해 초장문 추론 병목 돌파

무엇이 바뀌었나사실

• 화웨이는 2026년 9월 17일 중국 상하이 '화웨이 커넥트 2026' 기조연설(데이비드 왕 순환 회장)에서 '오션스토어 M900 컨텍스트 메모리 스토리지'를 공개했다.
• M900은 유니파이드버스(UnifiedBus) 인터커넥트로 슈퍼팟(SuperPoD)의 KV 캐시를 글로벌 풀로 묶어, 단일 클러스터에서 최대 64PB KV 캐시 용량을 제공한다. NPU당 이용 가능한 KV 캐시는 GB급에서 TB급으로 확대됐다.
• CPU·네트워크 컨트롤러·낸드 컨트롤러를 통합해 NPU–SSD를 '원홉'으로 연결, 접근 지연을 기존 밀리초 수준에서 60μs로(약 90% 감소) 낮췄다. 단일 클러스터 총 대역폭은 40TB/s, 일반적 AI 프로그래밍 환경에서 토큰 처리량 2배, TTFT(첫 토큰 생성 시간) 절반이라고 화웨이는 밝혔다.
• 'KV 인식형 적응형 스토리지 기술'로 KV 캐시 수명 주기를 예측해 매체별로 분산 저장, 최대 24 DWPD 지원과 SSD 내구성 16배 향상, 3년 운영을 표방했다.
• SK하이닉스는 2026년 9월 15~17일 미국 산타클라라 'AI Infra Summit 2026'에서 'New Spectrum' 슬로건 아래 HBF(High Bandwidth Flash), PIM/AiMX, **SALT-KV(Semantic-Aware Lifecycle Tiering for KV Cache)**를 전시했다. 행사 참관객은 전년의 약 2배인 6,000명 규모였다.

왜 중요한가편집 해설

1. KV 캐시가 새로운 병목이라는 진단이 벤더 공통이다. 10조 파라미터·100만 토큰 컨텍스트가 언급되는 상황에서, GPU/NPU의 온칩 메모리와 DRAM만으로는 다중 턴 추론의 KV 캐시를 감당하기 어렵다는 인식이 화웨이·SK하이닉스에서 동시에 드러났다.
2. '컴퓨팅 중심'에서 '컴퓨팅·네트워크·스토리지 협업'으로의 축 이동. 화웨이는 인프라 경쟁축이 연산 성능 단독에서 데이터 공유·재사용 최적화로 옮겨간다고 명시했고, SK하이닉스도 "GPU-HBM 아키텍처 단독으로는 새 요구를 감당하기 어렵다"고 발표했다.
3. SSD가 추론용 메모리 계층에 정식으로 편입된다. M900은 SSD 수명·지연을 KV 캐시 워크로드에 맞춰 재설계했고, SK하이닉스의 HBF·SALT-KV도 HBM–DRAM–SSD 사이의 새 계층을 겨냥한다. 추론 인프라 설계 언어 자체가 바뀌고 있다.

시장 반응편집 해설

• 원문 근거 범위에서 화웨이와 SK하이닉스가 같은 주(9월 15~17일)에 KV 캐시·계층형 메모리·SSD 활용을 공통 키워드로 발표한 점이 확인된다.
• 두 발표에 대한 고객사·경쟁사(엔비디아·삼성전자 등)의 즉각적 코멘트는 제공된 원문에서 확인되지 않는다 — 확인 필요.

실무자가 얻어갈 것편집 해설

1. 추론 인프라 견적서에서 'KV 캐시 용량·수명·지연'을 별도 항목으로 다뤄라. GB→TB로 늘어난 NPU당 KV 캐시, 24 DWPD 같은 지표가 벤더 비교의 새 축이 된다.
2. 초장문·에이전틱 워크로드는 SSD 계층을 전제로 재설계. 100만 토큰 컨텍스트·다중 턴을 가정한 서비스라면, HBM 단일 계층이 아니라 HBM–DRAM–SSD 3계층 KV 관리(SALT-KV류)를 표준 옵션으로 검토해야 한다.
3. TTFT와 토큰 처리량은 벤더 스펙시트 수치가 아니라 자사 워크로드 재현으로 검증하라. 화웨이가 밝힌 'TTFT 절반, 처리량 2배'는 "일반적 AI 프로그래밍 환경" 조건이므로, 실제 프롬프트·컨텍스트 길이·동시성 조합에서 재측정이 필요하다.

출처

• 화웨이, AI 추론용 '컨텍스트 메모리 스토리지' 공개…64PB KV 캐시로 슈퍼팟 병목 넘는다 — 인공지능신문
• SK hynix Presents 'New Spectrum' for AI Infrastructure at 'AI Infra Summit 2026' — SK hynix Newsroom