A mesterséges intelligencia sötét oldala – van-e okunk a félelemre?
Jelenleg, a cikk írásának pillanatában 2025. áprilisát írjuk. Az elmúlt néhány évben elég sok helyen olvashattunk a mesterséges intelligenciával kapcsolatos témákról. A Lidércfény Online Kulturális Magazin szerkesztője, Jimmy Cartwright is billentyűzetet ragadott, és írásában feltette a következő kérdést: kell-e félnünk az MI-től? Ez a felvetés engem is megihletett, és ennek eredménye a következőkben olvasható rövid eszmefuttatás.
Az AI (vagy magyar rövidítéssel az MI) egy lehetséges meghatározás szerint a számítástudománynak az a területe, amely az emberi intelligenciát igénylő feladatokat megoldó számítógépes programok készítésével foglalkozik. Maga a kifejezés először 1956-ban jelent meg, John McCarthy számítógépes kutató használta ezt az elnevezést a dartmouthi konferencián. Az azóta eltelt évtizedekben jó néhány kapcsolódó témában történt jelentős előrelépés. A kidolgozott technikák ma már életünk számos területén megjelennek, a modern világban gyakran találkozhatunk olyan fejlesztésekkel, amelyekre rátehetjük az „ez is AI-val működik” címkét.
Vajon van-e okunk arra, hogy félelemmel, vagy mondjuk egyfajta óvatossággal tekintsünk ezekre a dolgokra?
Gyenge AI – a mai valóság
Az interneten böngészve vagy az újságokat olvasva sok olyan esetre bukkanhatunk, amelyekben egy-egy mesterséges intelligencia oly módon működött, hogy az emberek testi épségét veszélyeztette, vagy éppen (erkölcsileg vagy tényszerűségét tekintve) megkérdőjelezhető eredményeket szolgáltatott. Ezekre az esetekre hoznék a következőkben néhány érdekes példát.
Az önvezető autókban működő rendszerek ma még messze vannak a tökéletestől. Ha a Google-n rákeresünk az „önvezető autó baleset” kifejezésre, akkor számos találatot dob ki a kereső: fékezés nélkül nekihajtott ennek-annak a jármű, valahol elütöttek egy gyalogost, és így tovább. Lehetséges, hogy egyszer majd eljutunk oda, hogy az okos járművek emberi beavatkozás nélkül is megbízhatóan fognak működni és közlekedni, de szerintem ma még messze van ez az ideálisnak tekinthető állapot.
A közlekedés területén maradva azt is megtudhatjuk a hírekből, hogy egy, az autóvezetést segítő Driver Monitoring System a kínai sofőrök esetén gyakran hibásan jelzett. A rendszer a vezetők sajátos, az európaitól eltérő szemformája miatt néha úgy gondolta, hogy a sofőr vezetés közben elaludt. Ez nem az AI valamiféle rasszista indítéka miatt volt így, hanem valószínűleg azért, mert a terméket nem tesztelték megfelelően ázsiai felhasználókkal.
A Microsoft Tay nevű chatbotja mindössze 16 óra működés után leállításra került, mert a vele beszélgető felhasználók egy kissé furcsa módon tanítgatták a gyanútlan botot. (Mondjuk ezen egy-egy hír vagy Facebook bejegyzés alatt létrejövő hozzászólásfolyam elolvasása után nem igazán lehet csodálkozni…) Tay a rövid betanulás után Obama elnököt egy majomhoz hasonlította, ami a mai normák szerint nem egy igazán PC megfogalmazás. Néhány hasonló stílusban megfogalmazott üzenet után készítői gyorsan pihenőre is küldték a jobb sorsra érdemes robotot.
Az Xboxhoz készített Kinect kontroller alakfelismerő algoritmusa – állítólag – nem működött megfelelően, amikor fekete felhasználók próbálták vele játszani. Persze ez nem a fehér programozók által a kontrollerbe belekódolt rasszizmus miatt volt így, inkább valamilyen fejlesztői ill. tesztelői hiányosság állhatott a háttérben.
A néha túlzásba vitt sokszínűségi cél sem mindig vezetett jóra: előfordult egy olyan eset, hogy egy képgeneráló program, amikor egy második világháborús német katona képét kérték tőle, akkor egy Stahlhelmet viselő, acélos tekintetű, lovagkereszttel kitüntetett fekete Wehrmacht-tiszttel állt elő. Amikor pedig az amerikai polgárháborúban harcoló konföderációs csapatokat kellett generálnia, akkor szürke egyenruhájukban a tábortűz mellett bajtársias hangulatban együtt üldögélő fehér és fekete katonákat produkált.
A mostanában igen népszerű LLM-ek, mint például a ChatGPT, olyan fejlett AI-rendszerek, amelyek képesek megérteni a természetes nyelvet, és reagálnak is az általunk mondottakra. Kérdezhetünk is ezektől a programoktól, amire ők megpróbálnak magabiztosan válaszolni, de sajnos nem mindig helyes a kapott válasz. A ChatGPT egy régebbi verziójától egyszer megkérdeztem, hogy ki jelenleg Szentes város polgármestere, és ő erre teljesen hibás választ adott. Egy olyan (szerintem kitalált) emberről állította, hogy ő a polgi, aki még csak a képviselőtestület környékén sem fordult elő soha. Aztán másnap ismét feltettem neki a kérdést, akkor egy másik nevet talált ki, persze ennek sem volt különösebb köze a jelenlegi városvezetéshez.
A fentebb említett esetek az emberiség szerencséjére mind a gyenge AI körébe tartoznak, azaz ezek az AI-k:
- nem tudnak általános feladatokat megoldani, mivel egy adott, viszonylag szűk problémakörre hozták őket létre
- nem intelligensebbek, mint egy ember, bár az adott területen akár jobban is teljesíthetnek, mint egy gyakorlott szakember
- ami a legfontosabb: nem tudatosak, azaz nem tételezhetünk fel róluk szándékos rosszindulatot
Mivel ezeknek a gyenge AI rendszereknek nincs saját tudata vagy akarata, így ha hibáznak, akkor nem lehet őket felelőssé tenni az okozott kárért. A háttérben ilyenkor egy hibás program vagy egy nem megfelelő betanítás áll, ami nem az AI hibája, hanem a rendszert készítő embereké.
Félelemre ebben az esetben lehet okunk, ha a már létező, rendszerbe állított katonai fejlesztésekre gondolunk. Ezen pusztító eszközök vezérlő szoftverében úgy gondolom, hogy jó eséllyel AI-algoritmusokat is felhasználnak. Elegendő a P-700 Granit hajó elleni robotrepülőgépre gondolni, amely típusnak az adott harci helyzethez igazodó vezérlése van. Ezt a fegyvert a 70-es években fejlesztették ki a Szovjetunióban... Érdekes belegondolni, hogy azóta hol tarthatnak az érthető módon titkos katonai fejlesztések. Remélem, hogy nekünk nem kell majd valamikor éles működés közben megismerni ezeket az „okos” fegyvereket...
Erős AI – a sci-fi és a távoli jövő világa
Ha egy tudatosan cselekvő, és emellett rosszindulatúan viselkedő erős AI-t szeretnénk találni, akkor – szerencsénkre – ma még a science-fiction világában kell keresgélni.
Az első rosszindulatú, vagy legalábbis veszélyesen működő robotommal a Jóholdat, Szíriusz kapitány! című könyvben találkoztam még a 80-as években. Itt egy nem éppen bolondbiztos robot intézte el figyelmetlen gazdáját. Gondolom, a robotot gyártó cég az eset után gyorsan foltozta ezt a szoftverhibát…
Az említett részlet a következő volt, amelyben Kocsis professzor komolyan magyarázni kezd Csibészről, a robotkutyáról:
- Csibész nem aki, hanem amely. Nem személy, nem élőlény, hanem annak tökéletlen utánzata. Egész életedben vigyázz arra, hogy robotjaid ne legyenek akik, nehogy a fejedre nőjének. A múlt héten itt Párizsban egy háztartási robot megölte a gazdáját. Ez a szegény fickó emberszámba vette a masináját, megtanította olvasni, levelezett vele. Egy helytelenül leírt szó miatt kellett meghalnia. Amikor megvizsgálták a robotot, központi agyában erre az utasításra bukkantak: „Reggel hétkor köss fel!” Költs fel helyett. A gép teljesítette a parancsot…
A híres író, Isaac Asimov történeteiben már olyan robotok szerepelnek, amelyeknek pozitronagyába be van drótozva a három alapvető törvény, ami a működésüket szabályozza. Ezek közül a legfontosabb az első: „A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.” Így az asimovi robotok emberi szintű intelligenciával bírnak, emellett jóindulatúak, ám novellákban mégis előfordulnak olyan esetek, melyekben a három szigorú törvény ellenére furcsán működnek. Az egyik űrbázison vallási téboly tör ki rajtuk; másutt megsértődnek, ha egy ember nem megfelelő módon szól hozzájuk, vagy éppen nem hajlandóak szeléniumot hozni a Merkúron a bajba került űrhajósoknak. A novellák egyik visszatérő szereplője Susan Calvin, a robotpszichológus, aki megpróbál megoldást, vagy legalább valamilyen értelmes magyarázatot találni a robotok furcsa viselkedésére. Asimov a robottörténeteit az 1940-es években kezdte el írni, de koruk ellenére ma is kiemelkedő (és persze olvasásra ajánlott) sci-fi írások.
A Terminator világából jól ismerhetjük a Skynet nevű rendszert, amelyet az emberek fejlesztettek ki, és ők is indították el végzetesnek bizonyult útjára. A Skynet – fejlesztői szemmel nézve a dolgot – túl jól sikerült, és a bekapcsolása után rövid idővel öntudatra ébredt. Sajnos a fejlesztők a három asimovi törvényt elfelejtették beépíteni a rendszerbe, így a Skynet rögtön el akarta pusztítani az emberiséget. Gyorsan cselekedett is, és ennek következtében a rendszerindítás után nem sokkal elérkezett az emberiségre lesújtó nukleáris Ítélet napja…
Az Alien filmek világában is szerepelnek intelligens androidok, akik gyakran annyira hasonlítanak az emberekre, hogy néha még a velük együtt utazó űrhajósok sem tudnak arról, hogy egy robot van a társaságukban. A nyolcadik utas a halál című filmben a legénység egyik tagja Ash, a kutatótiszt, aki azt kapta feladatául az őt birtokló Társaságtól, hogy minél jobban ismerje meg a történet címében idegen lényt, az Alient. Céljai elérése érdekében bármire képes, és az emberi legénység életére sincs tekintettel. A nemrég megjelent Alien Romulus-ban megismerhettük Rook-ot, Ash ikertestvérét. Ő nem csak külsejét tekintve hasonlít az Alien robotjára, hanem sötét szándékaik is megegyeznek. Aztán az Aliens-ben, ahol a bolygó neve halál, találkozhatunk egy valóban rendes és jóindulatú, valószínűleg a három törvény szerint élő androiddal, Bishop-pal, aki mindent megtesz azért, hogy Ellen Ripley és társai élve hagyják el az Acheron bolygót. A Prometheus-ban pedig megjelenik David, aki szintén teljesen emberszerű és intelligens, de alkotója megjegyzi, hogy alapvetően különbözik az emberektől: nincs saját lelke. Emellett túl sok jóindulat sem szorult bele...
Ez a néhány megemlített regény és film persze csak csepp a tengerben. Írás közben eszembe jutott a 80-as évek filmjei közül pl. az Androidok lázadása és A 3-as számú űrbázis. Ezekben a filmekben is fontos szerepet játszottak a rosszindulatú mesterséges intelligenciák, az emberek ellen forduló robotok. A sort még sokáig lehetne folytatni, de valahol azért le kell zárni a már így is hosszúra nyúló cikket...
Zárszó
A címben feltett kérdésre nem egyszerű biztos, vagy akár csak valamennyire is valószínű választ adni. Én úgy vélem, hogy amíg nem érkezünk meg a sci-fi könyvek világába, azaz nem készül el egy saját öntudattal rendelkező erős mesterséges intelligencia, addig nem az AI-tól kell tartanunk, hanem sokkal inkább az azokat készítő emberek rossz szándékaitól, vagy az általuk elkövetett, akár nem is szándékos hibáktól.
