-

Nyugalom, nem lesz robot-apokalipszis!

|

Milyen lesz a jövő robotja? Stuart Russell, a mesterséges intelligencia egyik pionírja szerint nincs mitől félnünk, nem lázad fel a Skynet és nem jön el értünk a Terminátor.

A mesterséges intelligencia kutatása 70 éves tudomány. Alan Turing brit matematikus és kódfejtő az 1950-es években dolgozta ki az MI koncepcióját, az első csevegőrobot pedig már 1966-ban megszületett. A 80-as években a Terminátor filmek lubickoltak a robotikától való félelemben, és olyan disztópiát festettek, amelytől azóta is nehezen szabadulunk, különösen, hogy Stephen Hawking és Elon Musk rendre figyelmeztet: a mesterséges intelligencia egyszerre lehet a legjobb és a legrosszabb dolog, ami történhet az emberiséggel. Stuart Russell, a Berkeley Egyetem informatikaprofesszora szerint azonban a mesterséges intelligencia fejlődése alapvetően jó, de nem szabad elfeledkeznünk a megfelelő szabályozásról. A szakemberrel a BME Villamosmérnöki és Informatikai Karának mesterséges intelligencia konferenciáján beszélgettünk annak apropóján, hogy 25 éve van mesterséges intelligencia oktatás Magyarországon a BME-n.

Hirdetés

PC World: Mikor kezdett el foglalkozni a mesterséges intelligenciával?

Stuart Russel: Azt hiszem, 1974-ben vettem az első programozható számológépemet, és rögtön foglalkoztatni kezdett a gondolat, hogyan tehetném intelligensebbé. Úgyhogy vettem egy MI-ről szóló könyvet, és szabadidőmben egy sakkprogramot írtam. Ám akkoriban nem hittem, hogy ebből rendes karrier lehet, mindössze egy jópofa hobbinak tűnt, ezért az egyetemen elméleti fizikára szakosodtam. Mikor elérkezett a PhD-jelentkezés ideje, rájöttem, hogy létezik a mesterséges intelligencia kutatása, így jelentkeztem a Stanfordra, és immár 21 éve a Berkeley-en dolgozom.

Milyen messzire sikerült eljutni ezalatt az idő alatt az MI kutatásában?

Az alapprobléma, hogy mivel az intelligencia az az erő, amellyel irányíthatjuk a világot, kérdés, hogyan tehetünk tárgyakat hozzánk hasonlóan intelligenssé anélkül, hogy hatalmat adnánk kezükbe. Ez ügyben meglepően jó eredményeket sikerült elérni. Először is rájöttünk, hogy az emberek többsége jelenleg rosszul gondolkozik a mesterséges intelligenciáról. Világunkban minden rendszert valamilyen mennyiség előállására optimalizálunk - tehát a cégek profitot termelnek, a kórházak csökkentik a halandóságot és így tovább -, az MI-nek pedig azt kellene létrehoznia, amit beletáplálunk.

Azonban mi történik, ha rossz dolgot táplálunk a gépbe? Hiszen számtalanszor hibázunk az életben. Előáll Midász király problémája, vagyis képletesen nemcsak az változik arannyá, amit szeretnénk, hanem például az étel vagy a másik ember is. Ehhez jön még a disztópiák által táplált elgondolás, miszerint az MI utálja az embereket. Ez azonban nem igaz; Elon Musk és Stephen Hawking sem erről beszél, hanem hogy az MI-probléma előtt a mesterséges intelligencia kontrollálhatóságát kell megoldani.

Hogyan?

Az Isaac Asimov által írt szabályokat szokás emlegetni a robotika alapelveiként, de Asimov szabályai az érdekes történetvezetéshez készültek, nem pedig azért, hogy olyan matematikai formulát építsünk a robotokhoz, amellyel aztán azok az emberiség javát szolgálják. Most ott tartunk, hogy a robotokat úgy kell beállítanunk: mindig az emberi preferenciákat tartsák szem előtt anélkül, hogy tudnák, azok helyesek-e. Meg lehet ugyanis tanulni az emberektől, hogy kinek mi a fontos, de az emberi preferenciák nem egyszerűen alakulnak ki, hanem számos hatás eredményeként. Az ember nem egyetlen entitás, hanem olyan alrendszerekkel rendelkező egység, amelynek választásait akkor értenék meg a robotok, ha pontosan ismernék az emberi agy működését. Viszont mivel ez nem így van, könnyebb, ha nem akarják megérteni az embereket. Valamit azonban fontos beléjük programozni: ha nem is értik az emberi preferenciákat, próbáljanak minél kevesebbet változtatni a fennálló világon. Gondoljunk csak bele, mi történne, ha egy gyerekfelvigyázó robot kinyitná a hűtőt, és nem találna benne semmit, miközben feladatként kapná a gyerek megetetését. Ekkor körbenézne a lakásban, meglátná a család macskáját, fel is szolgálná a gyerekeknek. Ez valószínűleg a robotika végét jelentené. Tehát egy robot nem értheti, hogy a macska érzelmi értéke sokkal nagyobb, mint a tápanyagértéke, de azt tudhatja, nem szabad hozzányúlni, mert az esetleg szembekerülhet az emberek preferenciáival, és ezt nem akarja.

Lehetséges-e bármilyen határt szabni a mesterséges intelligencia fejlődésének?

Inkább azt mondanám, hogy az emberi intelligencia mindig is alkotásra specializálódott, és a jól menedzselt MI ennek a kiteljesedése. Ez az alkotás legmagasabb szintje, ezért fejlődésének nem hinném, hogy határt tudnánk szabni, viszont meg kell határozni, hogy hol használjuk a mesterséges intelligenciát. Nem jó irány ugyanis, ha gépekkel akarjuk az embert helyettesíteni. Sokan vitatkoznak, hogy mi fog történni, ha a robotok átveszik az emberek helyét a munkahelyeken. Ez a nehéz fizikai munkát, túlzott monotonitást követelő foglalkozásoknál rendben is van, de minthogy az alkotás hozzátartozik az ember személyiségéhez, nem helyes a szellemi munkavégzést is a robotokra bízni.

Ezenkívül fontos lenne formában is megkülönböztetni a robotokat az emberektől. Az emberi agy úgy van programozva, hogy bizonyos formájú dolgokhoz kössön bizonyos feladatokat. Tehát nem várom el, hogy a kutyámmal közgazdaságtanról tudjak beszélgetni, és semmilyen kutyaformájú lényhez nem megyek oda egy gazdasági problémával. Így igazi emberi, érzelmi kapcsolatot is csak másik emberrel kezdek el kialakítani. A humanoidok ezt a képletet feldúlhatják. Éppen ezért szeretem a Csillagok között című filmet, ami azon túl, hogy mint sci-fi remek, a robotok bemutatásában különösen nagyot alkot. Az ottani robotok sokkal inkább hasonlítanak egy hatalmas hűtőszekrényre, mint bármilyen élőlényre, de mindig az emberek javára cselekszenek, akkor is, ha ezzel saját létezésüket áldozzák fel. Ez az az irány, amely felé haladnunk kellene, tehát térjenek el a robotok az emberi formától.

Ezek szerint Sophiát, a nemrég Szaúd-Arábiában állampolgárságot kapott humanoid robotot sem helyesli?

Sophia egy vicc. Hiszen bármit is mond, az nem valóság, hanem csak annyi, amit tervezői beleprogramoztak. Ebből a szempontból nem több egy chatbotnál.

Hogy látja a robotika jövőjét?

Kétféle módon szemlélhető a jövő. Az egyik, hogy eljutunk egy pontra, amikor biztonságos világunkban mindenki a másik ember javára tevékenykedik, és kiegyensúlyozott életet él. Ehhez segítséget nyújtanak a robotok, de további fejlődésre már nincs szükség, hiszen mindenki boldog. A másik teória szerint az emberiség folyamatosan előrelép, és ehhez hozzátartoznak a katasztrófák is, amelyekből aztán tanulni lehet. Amikor az atomenergiát felfedezték, senki sem gondolta, hogy lesz egy Csernobilunk vagy Fukushimánk, és eljutunk odáig, hogy számos ország ma már inkább leépíti atomerőműveit, semmint fejlesztené azokat. Ezzel együtt nem hiszem, hogy határt lehetne szabni a mesterséges intelligencia fejlődésének, vagy hogy lennének a jövőben olyan országok, amelyek egyszerűen beszüntetnék az MI használatát, hiszen az nem egy fizikai dolog, mint az atomerőmű. A jövőnek ebben a változatában fel kell készülnünk a katasztrófák kezelésére, illetve arra, hogyan szabályozzuk a mesterséges intelligenciát. És pontosan ez az a kérdés, amelyben komoly fejlődésre van szükség, mert a technológia folyamatosan hozza az újdonságokat, ez azonban - ahogy egy jól működő atomerőmű esetében is - kevés a biztonságos működéshez. Kell az emberi irányítás is. A kormányok azonban jelenleg még csak nem is gondolkoznak az MI szabályozásán.

Hirdetés
Hirdetés

Úgy tűnik, AdBlockert használsz, amivel megakadályozod a reklámok megjelenítését. Amennyiben szeretnéd támogatni a munkánkat, kérjük add hozzá az oldalt a kivételek listájához, vagy támogass minket közvetlenül! További információért kattints!

Engedélyezi, hogy a https://pcworld.hu értesítéseket küldjön Önnek a kiemelt hírekről? Az értesítések bármikor kikapcsolhatók a böngésző beállításaiban.