La agrupación de memoria basada en CXL cumple con los objetivos de rendimiento de la nube y reduce significativamente el costo de DRAM

Un documento técnico titulado “Pond: CXL-Based Memory Pooling Systems for Cloud Platforms” fue publicado por investigadores de Virginia Tech, Intel, Microsoft Azure, Google y Stone Co.

un resumen
“Los proveedores de servicios de nube pública se esfuerzan por cumplir con los estrictos requisitos de rendimiento y el bajo costo de hardware. La memoria principal es un importante impulsor del rendimiento y el costo. La agrupación de memoria promete mejorar la utilización dinámica de la memoria y, por lo tanto, reducir los costos. Sin embargo, la agrupación es un desafío bajo los requisitos de rendimiento de la nube. Este documento sugiere Pond, la primera plataforma de agregación de memoria que cumple con los objetivos de rendimiento de la nube y reduce significativamente el costo de DRAM. Pond se basa en el estándar Compute Express Link (CXL) para el acceso de carga/almacenamiento a la memoria del grupo y dos ideas clave. Primero, nuestro análisis de la trazabilidad de la producción en la nube muestra que la agregación entre 8 y 16 sockets suficientes para lograr la mayor cantidad de beneficios Esto permite un diseño de grupo pequeño con baja latencia En segundo lugar, es posible crear modelos de aprendizaje automático que pueden predecir con precisión la cantidad de memoria local y agrupada que se va a utilizar asignado a una máquina virtual (VM) para parecerse al rendimiento de la memoria de un nodo NUMA en sí mismo Nuestra evaluación con 158 de cargas de trabajo que Pond reduce los costos de DRAM en un 7 % con un rendimiento en el rango de 1-5 % de las asignaciones de VM de nodo NUMA”.

Investigación de tecnología de acceso abierto papel aquí. Publicado en enero de 2023.

Huaicheng Li, Daniel S. Berger, Lisa Hsu, Daniel Ernst, Pantea Zardoshti,
Stanko Novakovic, Munish Shah, Sameer Rajadnea, Scott Lee, Eshwar Agarwal,
Hill, Marcus Fontura y Riccardo Bianchini. 2023. Pond: Sistemas de agregación de memoria basados ​​en CXL para plataformas en la nube. en la cronica
28.ª Conferencia internacional de ACM sobre soporte arquitectónico de programación
Idiomas y sistemas operativos, volumen 2 (ASPLOS ’23), del 25 al 29 de marzo, disponible aquí.
2023, Vancouver, Columbia Británica, Canadá. ACM, Nueva York, NY, EE. UU., 14 págs. https:
//doi.org/10.1145/3575693.3578835