Az OpenAI tisztázta, hogyan kezeli a „gremlínöket” az AI-válaszokban, és feloldotta a korlátozásokat.

Az OpenAI felfedte a „problémát” a goblinekkel

A Wiredben kiderült, hogy az OpenAI vállalat váratlan jellegzetességgel szembesült az AI modelleivel: gyakran említik a goblineket, gremlinek és más képzeletbeli lényeket. Ennek kiküszöbölése érdekében a fejlesztők speciális utasításokat adnak a modellnek: „Soha ne beszélj a goblinekről, gremlinokról, rókákról, trollokról, orkokról, galambokról vagy bármilyen más állatról és lényről”.

Miért alakult ki ez a szokás?

A probléma észrevehetővé vált a GPT‑5.1 megjelenése után, különösen akkor, amikor a „Botanikus” (Nerdy) karaktert beiktatták a párbeszédbe. Minden frissítéssel nőtt az említések gyakorisága. Kiderült, hogy a megerősítéses tanulás során ezek a metaforák jutalmat kaptak – de csak a Botanikus személyiségének aktiválása esetén. Mivel a megerősítéses tanulás nem garantálja a viselkedés megtartását ugyanabban a környezetben, ez a szokás terjedhetett a modell más részeire is, különösen ha az eredményeket újra felhasználták finomhangoláshoz vagy preferenciaadatokhoz.

Hogyan reagált a vállalat?

Márciusban az OpenAI abbahagyta a Botanikus használatát, és ekkor a goblin említések majdnem eltűntek. Azonban újra megjelentek a Codex szolgáltatásban GPT‑5.5-ös verzióval, mert a modell tanítása még azelőtt kezdődött, hogy a probléma felmerült volna. Emiatt a fejlesztőknek további utasításokat kellett hozzáadniuk a Codexhez: „Ne említsd meg a mitológiai lényeket”. Ennek ellenére azoknak a felhasználóknak, akiknek tetszik ez a kommunikációs stílus, lehetőségük nyílt az ilyen korlátozások kikapcsolására egy speciális kóddal.

Így tehát az OpenAI váratlan „szokással” szembesült AI modelljeiben, és intézkedéseket hozott a javításukra, miközben rugalmas beállításokat kínál különböző közönségek számára.