마이크론·메타 공동 연구, LPDDR5X로 AI 서버 메모리 새 해법 제시…DDR5 대비 전력 효율 부각

데이터센터 메모리 선택지로 떠오른 LPDDR5X

마이크론과 메타가 대형 데이터센터 환경에서 LPDDR5X를 서버 메모리로 활용할 가능성을 검토한 공동 연구 결과를 공개했다. 그동안 LPDDR 계열은 주로 모바일 기기나 엣지 장비에 쓰이는 메모리로 인식돼 왔지만, 이번 자료는 이를 하이퍼스케일 데이터센터와 AI 서버 영역으로 확장할 수 있음을 보여준 사례로 해석된다.

연구에는 메타가 실제 데이터센터 워크로드를 반영해 만든 오픈소스 벤치마크 DCPerf가 사용됐다. 평가 항목은 메모리 대역폭, 지연시간, 용량, 전력 효율 등 네 가지 축으로 구성됐으며, 이를 통해 LPDDR5X가 서버 환경에서도 실질적인 대안이 될 수 있는지 점검했다.

특히 연구진은 SOCAMM2 같은 모듈형 폼팩터에 주목했다. 기존 LPDDR이 납땜형 구조라는 점 때문에 유지보수와 확장성 측면에서 한계가 있었던 반면, 모듈형 설계는 이런 약점을 줄여 실제 데이터센터 도입 가능성을 높인다는 설명이다.

서로 다른 성격의 두 LPDDR5X 서버 구성 비교

이번 테스트에는 소켓당 72코어 ARM CPU를 탑재한 두 종류의 시스템이 활용됐다. 두 장비 모두 LPDDR5X 기반이지만, 설계 방향은 확연히 달랐다.

• SKU1: 소켓당 512GB, 6400MT/s, 4랭크 구성으로 시스템 총 메모리 용량은 1TB
• SKU2: 소켓당 256GB, 8533MT/s, 2랭크 구성으로 시스템 총 메모리 용량은 512GB

정리하면 SKU1은 대용량 중심, SKU2는 고속·고대역폭 중심 설계다. 같은 LPDDR5X를 사용하더라도, 어떤 워크로드를 처리하느냐에 따라 유리한 구성이 달라졌다는 점이 이번 연구의 핵심 포인트다.

AI 데이터 처리에선 고속 메모리 구성이 우세

AI 데이터 파이프라인 관련 작업에서는 빠른 메모리를 장착한 SKU2가 더 나은 결과를 냈다. 텐서 리배칭 워크로드 기준으로 8533MT/s 구성이 6400MT/s 구성보다 실제 DRAM 대역폭이 13% 높게 측정됐고, 처리량은 11% 증가했다. 반면 배치당 처리 시간은 10% 줄었다.

또한 데이터 역직렬화 작업에서도 SKU2는 메모리 대역폭이 6% 개선됐고, CPU의 IPC(사이클당 명령 처리량)는 18% 상승했다. 이는 CPU가 메모리 응답을 기다리는 시간이 감소했고, 가속기에 데이터를 넘기는 과정의 병목도 완화됐다는 의미다.

결국 데이터 이동 비중이 큰 AI 전처리 단계에서는 메모리 속도가 곧 성능으로 이어질 수 있다는 점이 확인된 셈이다.

전력 효율은 LPDDR5X의 가장 강한 카드

이번 연구에서 특히 눈에 띄는 부분은 전력 효율이다. 텐서 리배칭 작업을 수행하는 동안 LPDDR5X가 차지한 전력 비중은 전체 시스템 소비전력의 6.8% 수준에 머물렀다.

보고서는 기존 마이크론 분석 자료를 인용하며, LPDDR5X의 DRAM 전력 소모가 DDR5 대비 최대 75% 낮을 수 있다고 설명했다. 이는 높은 메모리 대역폭을 제공하면서도 전력 사용량과 냉각 부담을 상대적으로 낮출 수 있음을 시사한다.

데이터센터 관점에서는 단순히 서버 한 대의 효율 문제가 아니다. 전력 공급과 냉각 인프라가 증설의 핵심 제약으로 떠오른 상황에서, 저전력 메모리는 총소유비용(TCO) 절감과 직결될 수 있다.

범용 컴퓨팅에서도 지연시간 개선 확인

LPDDR5X의 장점은 AI 워크로드에만 그치지 않았다. 메타의 웹 서비스 환경을 가정한 미디어위키(MediaWiki) 테스트에서도 8533MT/s 구성은 6400MT/s 구성보다 P99 메모리 읽기 지연시간을 12~20밀리초, 약 9%가량 단축한 것으로 나타났다.

이는 평균 응답속도 개선뿐 아니라, 요청이 몰릴 때 발생하는 꼬리 지연시간까지 줄였다는 의미다. 결과적으로 동시 접속이 많은 환경에서 초당 처리 가능한 요청 수를 더 끌어올릴 가능성을 보여준다.

데이터 분석 작업은 속도보다 메모리 용량이 더 중요했다

반면 데이터 분석 계열 워크로드에서는 결과가 정반대로 나타났다. SparkBench 테스트에서는 메모리 용량이 두 배인 SKU1이 압도적으로 유리했다. SKU1은 셔플 데이터와 운영체제 페이지 캐시를 DRAM 안에 유지할 수 있었고, 그 덕분에 SSD로 데이터가 밀려나는 상황을 줄였다.

그 결과 처리량은 표준 부하에서 약 2.82배, 3배 부하에서는 약 3.45배 높게 나타났다. 특히 표준 부하의 셔플 중심 구간에서는 최대 38.75배에 달하는 성능 차이도 관측됐다.

반대로 메모리 용량이 부족한 SKU2는 데이터를 SSD에 기록하거나 다시 반복해서 읽어오는 과정이 늘어났다. 이 때문에 메모리 속도 자체는 더 높았음에도 불구하고 전체 실행 시간은 오히려 크게 늘어났다.

즉, AI 서버 메모리의 우열을 단순 전송속도만으로 판단하기 어렵다는 점이 분명해졌다. 워크로드에 따라 속도보다 용량이 훨씬 중요한 경우도 있다는 뜻이다.

HBM·DDR5 외 메모리 시장으로 확장될 가능성

마이크론은 앞으로 LPDDR5X 속도가 9600MT/s 이상으로 올라가고, 256GB SOCAMM2 모듈을 통해 CPU 소켓당 최대 2TB까지 구성이 가능해지면 적용 가능한 서버 워크로드가 더 넓어질 것으로 내다봤다.

이 같은 전망은 LPDDR이 더 이상 모바일 전용 메모리에 머물지 않고, 하이퍼스케일 범용 컴퓨팅과 AI 플랫폼의 핵심 메모리 후보로 자리 잡을 수 있다는 의미로 읽힌다.

투자 관점에서 봐야 할 포인트

이번 자료는 AI 메모리 수요가 HBM이나 기존 서버용 DDR5에만 집중되는 것이 아니라, CPU 측 대용량·저전력 메모리 영역인 LPDDR5X와 SOCAMM2로도 확장될 가능성을 보여준다. 전력 대비 성능 효율이 중요한 시점에서 LPDDR 계열의 전략적 가치가 더 커질 수 있다는 해석도 가능하다.

다만 해석에는 신중함이 필요

물론 이번 결과를 곧바로 LPDDR5X가 모든 서버에서 DDR5를 대체한다는 의미로 받아들이는 것은 무리가 있다. 이번 성능 비교의 상당수는 서로 다른 속도와 용량을 갖춘 두 LPDDR5X 시스템 간 비교였고, DDR5와의 직접 대조는 주로 기존 마이크론의 전력 분석 자료를 인용한 수준이기 때문이다.

따라서 이번 연구는 LPDDR5X가 서버 메모리 시장 전반을 즉시 바꾼다는 선언이라기보다, 특정 AI 및 데이터 분석 워크로드에서 LPDDR5X와 SOCAMM2 채택 논리가 한층 강해졌다는 신호로 보는 편이 더 적절하다.

출처 :: https://www.coinddak.com/news/articleView.html?idxno=7164