Az OpenAI biztonságot integrál az MI‑ügynökökbe, megvásárolva a Promptfoo nevű startupot.

Az OpenAI megvásárolja a Promptfoo startupot

Az OpenAI megállapodást kötött a két éves Promptfoo startup vásárlásáról, amely az AI biztonságának ellenőrzésére szolgáló eszközöket fejleszt még annak létrehozása során. A Bloomberg adatai szerint a tranzakció célja a kockázatok csökkentése az AI megoldásokat használó ügyfelek számára, valamint egy nagy vállalati piac elérése.

Mi is a Promptfoo?

- Alapítva: 2022 év
- Helyszín: San‑Francisco
- Szolgáltatások: nyílt forráskódú neurális hálózatok tesztelésére, beleértve a „vörös csapatot” (red‑team), ahol szakemberek szimulálják az önmodellekre irányuló támadásokat, hogy a gyengeségeket felfedezzék, mielőtt rosszindulatúak találnák meg.
- Ügyfelek: körülbelül 25 % a Fortune 500 listájából

Mi fog változni az integráció után?

A Promptfoo technológiái beépítésre kerülnek az OpenAI vállalati platformjába, a Frontier-be. Ez lehetővé teszi a Frontier számára az automatizált tesztelést, a változások monitorozását és a biztonsági követelményeknek megfelelő jelentési rendszert.

Az befektetők reakciója

Ganes Bell (Insight Partners vezérigazgatója), aki vezetett a Promptfoo 18,4 millió dolláros finanszírozási körében tavaly, megjegyezte: „A vásárlás világosan jelzi az OpenAI elkötelezettségét egy olyan vállalati AI létrehozása iránt, amely nem csak erőteljes, hanem biztonságos és megbízható a skálázás során.” A pénzügyi részletek még nem kerültek nyilvánosságra.

A Promptfoo jövője

Az OpenAI továbbra is fejleszti a Promptfoo nyílt forráskódját, miközben párhuzamosan integrálja azt kereskedelmi szinten. Nemrégiben a cég bemutatta egy AI ügynököt, amely képes felfedezni és javítani az adatbázisokban található sebezhetőségeket – hasonló eszköz Anthropic PBC-hez.