대용량 데이터와 거대 AI모델을 활용하는 응용이 발전하고 확산됨에 따라, 이를 구동하는 데이터센터 서버도 자연스럽게 대용량 메모리와 높은 대역폭을 요구하게 되었습니다. 이 문제를 해결하기 위해 최근에는 CXL (Compute Express Link) 프로토콜이 개발되었고, 이를 지원하는 호스트 프로세서와 CXL 메모리 확장기(또는 CXL 메모리)가 상용화되었습니다. 그러나 호스트 프로세서 입장에서, CXL 메모리는 추가 메모리 용량을 제공하지만 접근시간이 길고 인터커넥트 대역폭이 제한되므로 응용의 메모리 접근 패턴에 따라 오히려 성능이 하락할 수 있습니다.

이를 해결하기 위해서 CXL 메모리 내에서 연산을 처리하는 NDP (Near-Data Processing 또는 데이터-근처-처리) 기술이 활발히 개발되고 있습니다. 그러나 기존의 연구는 특정 응용만을 지원하는 Domain-Specific NDP를 제안하여 데이터센터의 수많은 응용에 대응하지 못한다는 점과, 호스트와 CXL 메모리 간의 비효율적 통신에 의한 성능 병목 문제가 있다는 한계를 갖고 있습니다. 본 강의에서는 이러한 기존 기술의 한계를 극복하기 위해 개발된 CXL 메모리 기반 범용 NDP 기술에 대해 소개하고 향후 후속 연구 방향에 대해 소개하겠습니다.