Az OpenAI kétkedik az Nvidia gyorsítóinak hatékonysága miatt az inferencia során, és aktívan keresi a helyettesítésüket.

Mi történik az AI-technológiák világában
Pont: Röviden
Fő szereplők
Az OpenAI és a Nvidia tekinthetőek az mesterséges intelligencia piac vezetői, de új partnereket keresnek. Hamarosan megállapodás születik; várhatóan 100 millió dollár értékű szerződés kötődik ezek között a vállalatok között.
Probléma a Nvidia gyorsítókával
A jelenlegi Nvidia chipek nem mindig nyújtanak megfelelő teljesítményt az inferenciánál (már betanított modellek használata). Az OpenAI alternatívát keres.

Hogyan fejlesztenek új megoldásokat
1. OpenAI → Cerebras + Groq

- A cég 10 % gyorsítóit kívánja helyettesíteni harmadik fél chipjeivel, amelyek jobban alkalmasak az inferenciára.
- A Cerebras-szal már létrejött a partnerség: az OpenAI „cári” gyorsítót vásárolt tőlük, amely kiváló nagy nyelvi modellek feldolgozásában.

2. Groq és Nvidia

- Az előző évben a Nvidia 20 millió dollárért megvásárolta a Groqt, kedvezőbb szerkezeti feltételeket kínálva.
- A vásárlást követően a Groq egy részének autonómiája csökkent: a legtöbb gyorsítófejlesztő átváltott az Nvidia alkalmazottaira, míg a cég maradék része csak felhőalapú szoftvert tud értékesíteni.

3. AMD és más lehetőségek

- Az OpenAI még mindig erősen függ a Nvidia és AMD gyorsítóitól, amelyek HBM külső memóriát használnak.
- Az inferenciához nagyobb integrált memória kapacitású chipek passzolnak jobban – ilyeneket kínál a Groq, a Cerebras és a Google.

Miért fontos mindez

- Az inferencia hatékonysága kritikus fontosságú a nagy nyelvi modellek (ChatGPT, Codex) működésében.
- A Codex problémája: az AI‑ügynök fejlesztése során az OpenAI nem hatékony Nvidia gyorsítókkal találkozott, ami kiemeli a hardverplatform cseréjének szükségességét.
- Jövőbeli alternatívák – Az OpenAI tervezi a Cerebras megoldásait és esetleg más chipeket is használni, hogy növelje fejlesztői eszközeik teljesítményét.

Összefoglaló

Az OpenAI aktívan keres új technológiai partnereket, hogy ne legyen teljes mértékben a Nvidia függősége. Egyidejűleg a cég befektetési stratégiát dolgoz ki startupokba (Cerebras, Groq), és nagy üzleti megállapodásokat fontolgat a Nvidia-val, akár 100 millió dollárig terjedő befektetéssel. Ez segíti az inferencia javítását és az AI termékek fejlesztésének felgyorsítását.