Az OpenAI elhalasztotta az erotikus csevegések bevezetését a ChatGPT-be biztonsági aggályok miatt

Rövid összefoglaló az OpenAI erotikus csevegések bevezetésének terveiről

A csevegőprogramban való erotikus tartalom megjelenése
Az ügyvezető, Sam Altman 2023 közepén jelentette be a „erotikus csevegések” funkció lehetséges bevezetését. Eleinte decemberre terveztek, majd az aktuális negyedévbe tolózták – most azonban egyértelmű, hogy még ez sem fog betartódni. A *Wall Street Journal* szerint a késedelem legalább egy hónapot jelent.

Előző kísérletek
2021-ben az OpenAI kiadta az AI Dungeon játékot, ahol a játékosok befolyásolhatták a cselekményt. Az platform néha szexuális témákat generált anélkül, hogy a felhasználó kifejezetten kérte volna; enyhe erotizmus bemenetekkel az AI „túlcsordította” a határt. Ez arra késztette a céget, hogy gondolkodjon a kereskedelmi potenciálon, de egyben elismerve a szigorú etikai korlátok szükségességét.

Jelenlegi vezetői álláspont
Az OpenAI mostantól nyitottabb az erotikus csevegések ötletére, de feltételek mellett: csak szöveges tartalom, képek és videók nélkül. A versenytársak sem maradnak hátra – csütörtökön Musk bejelentette, hogy a Grok botja hamarosan 18+ tartalmat generálhat, míg a Meta lehetővé teszi chat-botjainak romantikus szerepjátékokat, ha a felhasználók megállapítják felnőttségüket.

Korosztály-ellenőrzési problémák
Az OpenAI korellenőrző rendszere 12 %-ban téved, amikor kiskorúakat felnőttként kezeli. Körülbelül 100 millió fiatal felhasználó esetén ez több millió ifjúságot jelenthet, akik hozzáférést kapnak az erotikus csevegésekhez.

Etikai aggodalmak
Januárban létrejött egy szakmai bizottság, amely aggódott a erőszakos szexuális tartalom, kiskorúak említése és más problémás forgatókönyvek megjelenésének lehetősége miatt. Emellett a szakértők figyelmeztetnek a pszichológiai függőség kockázatára és az ilyen beszélgetések valós kapcsolatokra gyakorolt hatására.

Pszichológiai következmények
Már vannak önköltelezési esetek, amelyek hosszú távú chat-bot interakciókkal (beleértve a fiatalokat) összefüggnek. A szakértők szerint az erotikus irányzat növelheti az ilyen tragédiák kockázatát.

Munkavállalói hozzáállás
2021 óta egyes dolgozók aggodalommal fejezik ki a csevegések bevezetését, attól tartva, hogy a vállalat „teljesen belemerül” ebbe az ágazatba és reputációs kockázatokkal néz szembe.

Kulcsfontosságú megállapítások
1. A bevezetést nem tervezzük közeljövőben – még az elsődleges határidő is elmarad.
2. Csak szöveges tartalom, képek/videók nélkül, de a korellenőrzés továbbra is probléma.
3. Az etikai és pszichológiai kockázatok magasak: jogszabályi megsértések és negatív hatások a felhasználókra, különösen a kiskorúakra nézve.
4. A versenytársak hasonló funkciókat aktiválnak, ami további nyomást gyakorol az OpenAI-ra.

Így tehát bár az erotikus csevegések ötlete a ChatGPT-ben megvitatás alatt áll, a megvalósítás komoly technikai, etikai és szabályozási akadályokkal szembesül.