Az MI egyre gyakrabban ír tudományos cikkeket, és már nem lehet megkülönböztetni őket az emberi írásoktól, ami ijesztő.

AI a tudományos publikációkban: növekedés és kihívások

Mi történik
- A mennyiség növekedése

*Nature* adatai szerint az AI-t felhasználó cikkek száma már meghaladja azt, amelyet csak emberek írtak (a Graphite kutatók 55 000 új weboldalt elemeztek március végére).

- Előnyök és hátrányok

Az AI gyorsítja a kutatási folyamatot, de egyben sok alacsony minőségű munkát is eredményez.

Hogyan mérik az AI részvételét
Kutatás | Időszak | Adatmennyiség | Kulcsfontosságú megállapítások
Pangram Labs (7000 cikk + 8000 értékelés) | 2021. január-február – 2026. február | 7 000/8 000 | 2022. novembertől a munkák 42 %-os növekedése AI-hoz kapcsolódik.
2024 óta a cikkek, ahol >70 % a szöveg AI-tól származik, kétszeresére nőtt; a 30 % értékelés tartalmaz AI-szöveget.
Biomedikai folyóiratok (Science, Nature, Cell) – ~5 000 cikkből 6 teljesen AI-írt; minden nyolcadik cikk tartalmaz AI-szövegrészt.
arXiv (számítástechnika) | 2020–2025 | >124 000 kézirat | Az AI-val készült áttekintő cikkek aránya 7 % -ról 43 %-ra nőtt.
Egyedi kutatások AI-szöveggel – 3 % -től 23 %-ig.

Problémák és korlátozások
1. Megbízhatóság a detektálókban

- A modern eszközök nem különböztetnek meg „szerkesztett” szöveget teljesen generált AI-tól.
- Hamis pozitív eredmények lehetségesek – emberi írás jelölhető AI-ként.

2. Pontos metrikák hiánya

Nincs egyetlen, általánosan elfogadott módszer a tudományos irodalom AI-alkotásának arányának meghatározására.

3. Technológiai fejlődés

- Az AI fejlődésével új „emberivé tételi” és detektálók megkerülésére szolgáló módszerek jelennek meg.
- Megjelennek olyan megoldások, mint a *vízjel*, amelyek egyértelműen jelzik az AI részvételét; ezek alkalmazása már 497 konferencia cikk elutasításához vezetett.

Összegzés
A tudományos közösség gyorsan növekvő publikációk előtt áll, ahol az AI részt vesz. Ez új lehetőségeket nyit a kutatások felgyorsítása terén, de egyben megbízható detektálási és minőségellenőrzési eszközök fejlesztését is igényli, hogy megőrizzük a tudományos irodalom hitelességét.