A mesterséges intelligenciát kutatók az MI potenciális és a közeljövőben bekövetkező tudatosságára figyelmeztetnek. Ugyan egyelőre filozófiai problémának tűnhet, de korántsem az, hogy lehet-e tudatos és erkölcsös egy gép. Az elmúlt évtizedben ezt csupán távoli és potenciális fenyegetésnek vélték a kutatók, de most már egyre aktuálisabb foglalkozni a kérdéssel. – számol be az Index.
A Nature-ben megjelent új tanulmány szerint sok szakértő úgy véli, a mesterséges intelligencia jóléte és erkölcsi jelentősége konkrét probléma lehet. Még a szkeptikusabb kutatók is óvatosságra intenek a kérdés vizsgálatakor. Például Anil Seth idegtudós és tudatkutató ezt írja:
Míg egyes kutatók azt sugallják, hogy a tudatos mesterséges intelligencia közel van, mások, köztük én is, úgy vélik, hogy messze, sőt talán soha nem jön létre. De még ha valószínűtlen is, nem lenne bölcs ezt a lehetőséget teljesen elvetni.
Először is meg kell érteni, hogy hogyan viszonyuljunk hozzá, mert az sem ideális, ha erkölcsileg magasra helyezzük az MI-t, mint ami mindjárt érző, és az emberhez hasonlóan gondolkodó lény lehet, de az sem, ha ezt teljesen kizárjuk. A közeljövőbeli MI-rendszerek szellemi képességeinek és morális jelentőségének előrejelzéséhez értenünk kell, hogy mi a tudat, milyen az erkölcs természete, és hogyan hathat ez az MI jövőjére. De ehhez úgy kell gondolkoznunk, hogy a tudatot ne csak és kizárólag az embernek tulajdonítsuk.
Kérdés, van-e reális lehetősége egy morális mesterséges intelligencia megjelenésének a közeljövőben? Ehhez két olyan mentális képességre kell fókuszálni, amik szükségesek az erkölcs meglétéhez: a tudatosságra és az akaratlagos cselekvésre. – írja az Index.
Annak, hogy a közeljövőben megjelenhet a morális mesterséges intelligencia, nem kisebb a valószínűsége, mint annak, hogy nem. Úgyhogy minden eshetőséget mérlegelni kell, különben károkat okozhatunk. Az is rossz, ha egy szubjektumot tárgynak tekintünk (erre jó példa a kutatásokhoz felhasznált állatok tömege), de az is, ha egy tárgyat érző lénynek – bár ebben az esetben kisebb a kockázat.
Az MI-tudat véletlenül is kialakulhat, amikor a tudat építőkövei más kognitív képességek, például az észlelés, a megismerés és az akaratlagos cselekvés mellékhatásaként jelenhetnek meg. Sok tudatelmélet a metakogníciót, a saját kogníció modellezésének képességét fontosnak tartja a tudat és a döntéshozatal szempontjából. A megnövekedett kognitív kapacitás is előidézhet tudatosságot, akár biológiai, akár digitális rendszerekben. Ezért a tudattudósok és MI-kutatók nemrégiben kiadtak egy közleményt, melyben az áll:
"már nem sci-fi, hogy olyan mesterségesintelligencia-rendszereket képzeljünk el, amelyek érzésekkel, és akár emberi szintű tudattal rendelkeznek."
Az MI-rendszerek már egyre emberibb beszélgetéseket folytatnak, és mintha átgondolt döntéseket hoznának. Ez ugyan még nem jelenti, hogy erkölcsösek és tudatosan cselekszenek, de növekszik az ilyen reakciók valószínűsége.
(Index)