SK hynix, Metrum AI, Solidigm et Nallasway ont présenté au Sommet mondial de l’OCP 2026, tenu à San José, plusieurs architectures visant à dépasser les limites de la mémoire à haute bande passance. SK hynix a notamment deployé son système MARS et des modules CXL 3.2 de 256 Go, annonçant une bande passante de 80 Go/s et une amélioration de 30 % de l’efficacité énergétique. Metrum AI et Solidigm ont démontré un.pool de SSD mutualisé pour héberger le cache KV, avec un délai jusqu’au premier jeton jusqu’à 64,8 fois plus court et un débit 40,7 fois supérieur. Nallasway a proposé une extension de mémoire de 3,2 To par DRAM LPDDR5X connectée aux processeurs d’IA. Ces démonstrations et propositions axées sur la mémoire hiérarchisée et répartie devront encore être validées par des déploiements réels et par l’évolution des logiciels.
Source: Lire l’article original
