Az Amazon munkatársai csak jelentéstételre használják a mesterséges intelligenciát, nem pedig valódi eredményekhez.

Hogyan válik a generatív MI egy „teljesítménymutatóvá” a dolgozók számára

Ahogy nő a generatív mesterséges intelligencia (MI) technológiák népszerűsége, a vállalatok egyre gyakrabban kérték munkavállalóiktól, hogy bizonyítsák gyakorlati eredményeiket ezekkel a rendszerekkel. Ennek nyomására új jelenség jelent meg: a dolgozók értelmetlen feladatokat adnak az MI-nek csupán azért, hogy javítsák saját statisztikájukat a technológia használatában.

A Financial Times leírja a helyzetet az Amazonnál

Az articleban a Financial Times arról beszél, hogyan alkalmazza egyre aktívabban az e‑kereskedelmi óriás dolgozója a MeshClaw szoftvert. Ez az ügynök csatlakozik a munkavállalók eszközeihez és feladatokat hajthat végre nevében. Néhányan használják azt, hogy automatizáljanak valójában haszontalan tevékenységeket, ezzel növelve saját hatékonysági rangsorukat az MI elsajátításában.

Az ok – a vezetőség egyre erősebb nyomása: most több mint 80 % fejlesztőnek heti rendszerességgel használniuk kell az MI-t. Minden dolgozóhoz külön statisztikát vezetnek, és azok, akik nem érik el a célkitűzéseket, magyarázatot kell adjanak a felsővezetésnek. Bár formálisan a menedzsereknek nem szabad értékelniük a dolgozókat az MI tokenhasználat alapján, az elmúlt hónapokban gyanakvást keltett, hogy valójában így történik.

Ebben a környezetben néhány Amazoni dolgozó hamis ösztönzőkkel rendelkezik: magas aktivitást utánoznak személyes haszon érdekében, nem pedig a cég javára. Ez különösen fontos azok számára az olyan technológiai óriásoknak, amelyek hatalmas összegeket fektetnek be MI infrastruktúrába és szeretnék bemutatni befektetőknek és vezetőségnek a tényleges hasznot.

Hogyan kezeli az Amazon az MI használatával kapcsolatos adatokat

Az Amazon tervez, hogy ebben az évben körülbelül 200 milliárd dollárt költjen tőkeberuházásra. Ahhoz, hogy biztos legyen abban, hogy a technológiák valóban alkalmazásra kerülnek, a vállalat szigorítja az MI használatának ellenőrzését. Kezdetben csoportos statisztikát publikáltak az MI használatáról dolgozók között, de most csak a szakemberek és közvetlen vezetőik férhetnek hozzá az egyéni eredményekhez. A vezetők formálisan tilosnak tekinteniük ezeket az adatokat a személyzet hatékonyságának értékelésére.

A helyzet más technológiai vállalatoknál

A Financial Times megjegyzi, hogy hasonló visszaélések figyelhetők meg a Meta Platformsnál is. A MeshClaw, amelyet több mint 30 Amazoni szakember fejlesztett ki, képes programkódot betölteni a termelési verziókba, e-maileket rendezni és alkalmazásokkal, például Slackkel együttműködni. Sok dolgozó aggodalmát fejezi ki az ilyen megoldások biztonságával kapcsolatban: az MI hibákat generálhat, és a tevékenységeinek ellenőrzése gyenge maradhat.

Így tehát a generatív MI használatára irányuló követelmények növekedése „teljesítménymutatók” létrehozásához vezet, amelyek néha önmagukban válhatnak célponttá, nem pedig a valódi üzleti eredmények elérésének eszközeként.