Az Amazon tervezi az AI-modelleket hatalmas Cerebras chipeken telepíteni.

Az Amazon tervezi az AI-modelleket hatalmas Cerebras chipeken telepíteni.

8 hardware

Amazon és a Cerebras összehangolja erőit a nagy nyelvi modellek felgyorsításához

Az Amazon Web Services (AWS) bejelentette, hogy 2026 közepén kezd el használni a Cerebras Systems Inc. startup chipjeit a saját Trainium processzorai mellett. A vállalat belső információi szerint ez „optimális feltételeket” teremt a nagy nyelvi modellek (LLM) indításához és üzemeltetéséhez. Az üzlet pénzügyi részletei még nem kerültek közzétételre.

Mi fog történni
* A Trainium 3 chipek az AWS által feldolgozzák a felhasználói kéréseket – „megértik” azok jelentését.
* Ezután a Cerebras Wafer‑Scale Engine (WSE) chipjei generálják a választ.

Így két specializált gyorsító párban működik, és biztosítja az LLM inferencia számításait.

> „A különböző komponensek közötti interakció általában lassítja a folyamatot,” – mondta Nafea Bshara, az AWS alelnöke. „De arra törekszünk, hogy előnyt szerezzünk olyan chipek használatával, amelyek gyorsabban kezelik az inferenciát.”

Az előny különösen észrevehető ott, ahol fontos a reakciósebesség: például lépésről lépésre történő kódkészítésnél vagy valós idejű szöveggenerálásnál.

Miért fontos ez
* Az Amazon az egyik legnagyobb felhőszolgáltató és aktív NVIDIA GPU gyártók ügyfele. Jelenleg saját AI chipeket fejleszti, hogy növelje a adatközpontok hatékonyságát és egyedi szolgáltatásokat kínáljon ügyfelei számára.
* A Cerebras számára az AWS-sel való együttműködés az első nagy szerződés a dátus központi óriással, ami növeli a márka felismerhetőségét a potenciális piac előtt. Ez fontos a tervezett IPO előkészítése során is.

Összefoglalás
Az AWS és a Cerebras együtt új infrastruktúrát hoznak létre a nagy nyelvi modellekhez: a Trainium 3 chipek kezelik a kéréseket, míg a WSE generálják a válaszokat. Bár egy önálló Trainium szolgáltatás olcsóbb lehet, a kombinált megoldás jelentős felgyorsítást ígér, ahol az „idő pénz”. Ez erősíti az Amazon pozícióját nagy NVIDIA ügyfélként és egyben előmozdítja saját AI chipjeinek hatékonyságát.

Hozzászólások (0)

Oszd meg a véleményed — kérjük, légy udvarias és maradj a témánál.

Még nincsenek hozzászólások. Írj hozzászólást és oszd meg a véleményed!

Hozzászóláshoz kérjük, jelentkezz be.

Jelentkezz be a hozzászóláshoz