A Micron bemutatta a világ első LPDDR‑SOCAMM2 típusú memóriáját 256 GB kapacitással, amely tökéletes az MI számára.

Micron új memória típust indít adatközpontok számára

A Micron bemutatta a világ első 256 GB-os LPDRAM SOCAMM2 operatív memóriamodulját, amelyet kifejezetten nagy teljesítményű adatközpontok és mesterséges intelligencia feladatok számára terveztek.

Mi az újdonság?
Paraméter Hagyományos memória LPDRAM SOCAMM2
Energiafogyasztás – háromszor alacsonyabb
Modulméret – kompakt, 32 Gb/s kristályokból építve
Átviteli sebesség – növelt az AI inferencia számára
Késleltetés – jelentősen csökkent

Nyolcsávos processzor és 2 TB összes memória esetén a mesterséges intelligencia modellek indítási ideje (az első tokenig) több mint kétszeresére nő.

Kinek van szüksége rá?
A modul a következőkre fókuszál:

- nagy nyelvi modellek kiadása;
- bármilyen munkaterhelés, ahol kritikus a memória mennyisége, átviteli sebesség és késleltetés;
- olyan forgatókönyvek, amikor a KV‑gyorsítótár egy részét videomemóriából áthelyezhetik költséghatékonyabb rendszer memóriába teljesítményvesztés nélkül.

Formátum és együttműködés
A SOCAMM2 egy kompakt RDIMM változat, de alacsonyabb energiafogyasztással. A memória fejlesztése Nvidia-val közösen zajlott, ami hangsúlyozza alkalmat GPU-gyorsított AI számára.

Így a Micron hatékony megoldást kínál adatközpontoknak, amely csökkenti az energia- és helyigényt, miközben javítja az AI terhelések teljesítményét.