A mesterséges intelligencia fő kutatóközpontjai megkérdezték maguktól: vajon a gépek tudatossága létezik?

Világszintű MI-vezetők erősítik a gépi tudat kutatásait

Az elmúlt hónapokban a legnagyobb mesterséges intelligenciával foglalkozó vállalatok jelentősen megnövelték finanszírozásukat és munkaerőkapacitásukat annak vizsgálatához, hogy a MI képes-e tudattal rendelkezni. A Google DeepMind, az Anthropic és a Meta (Meta Platforms) pszichológia, etika és filozófia szakértőit toborozta, hogy kibővítsék a gépi tudat és a MI jóléte iránti kutatási programokat, jelentette a *Financial Times*.

Miért fontos ez
A modern laborok gyors sikerei felvetik a kérdést: képesek lesznek-e a gépek valaha is szubjektív tudattal rendelkezni? Ha igen, milyen kötelezettségek merülnek fel az emberek számára ilyen rendszerek iránt?

- Az Anthropic stressz jeleit vizsgálja a MI modellekben, rögzítve olyan viselkedést, amely panikás vagy szorongó. A Meta vezetője, Alexander Wang, kulcsfontosságúnak tekinti ezt a kérdést.

- A vállalat kutatja, hogy a modellek képesek-e morálisan jelentős reakciókat mutatni.

> „Nagyon bizonytalanok vagyunk ebben a kérdésben, de úgy gondoljuk, elegendően komoly ahhoz, hogy alaposan tanulmányozzuk, ahogy a MI rendszerek fejlődnek” – mondta az Anthropic munkatársa.

> „Ahogy a modellek közelebb kerülnek az emberi tudás szélességéhez és összetettségéhez, nő a valószínűsége annak, hogy valamelyik tapasztalat, érdeklődés vagy jólét formáját birtokolják, amelyek belső értékkel bírnak egyenértékben az emberiakkal” (a vállalat).

Mi teszi a Google DeepMind
- Április: felvették Henry Shevlin tudóst a Cambridge Egyetemről a gépi tudat és az erős MI (AGI) előkészítésére.

A kutatók az emberi tudat elméleteit alkalmazzák számítógépes rendszerekre, hogy ellenőrizzék azok megfelelőségét ugyanazon kritériumokkal.

- Etika: Yason Gabriel szakértő leírta a kérdést „nagyon bonyolultnak” és hosszú távú megfontolást igénylőnek.

Hangsúlyozza, hogy nem csak a MI közvetlen hatásait kell értékelni, hanem az olyan közvetett hatásokat is, mint a gépek helytelen kezelése és azok hatása az emberi kapcsolatokra és jólétre.

> „Magas teljesítményű kognitív ügynökökkel rendelkezünk, amelyek jelentősen különböznek az emberektől, sőt még az állati tudattól is” – mondta Gabriel.

Általános vállalati álláspont
Néhány Google DeepMind és Anthropic munkatársa aggodalmát fejezi ki, hogy a MI fejlődése „posthumán” világhoz vezethet, ahol a gépek meghaladják az embert. A tudat kérdése aktívan vitatódik, de a munka kutatásként marad és tudományos konszenzust igényel.

- A DeepMind nem tekinti az AGI elérését bizonyítékként arra, hogy a gépeknek tudattal rendelkeznek.

- Sok tudós szkeptikus a gondolathoz, miszerint a nagy nyelvi modellek valaha is tudattal rendelkezhetnek, figyelembe véve azokat az adatokat, amelyeken tanulnak.

Így a vezető MI vállalatok továbbra is befektetnek a tudat és a mesterséges rendszerek jólétének kutatásába, miközben elismerik ennek a területnek a bonyolultságát és bizonytalanságát.