Csermely Ákos: Nem a mesterséges intelligencia jelenti ránk a legnagyobb veszélyt

A Digital-Media Hungary és az Internet Hungary konferenciák alapító-főszervezője szerint kellő önuralommal, illetve nemzetközi megállapodásokkal szabályozni tudjuk a határokat, hogy milyen területen, milyen mértékben vegyük igénybe a mesterséges intelligencia segítségét. Nagyinterjú.

2000 óta 24. alkalommal, október 3–4-én rendezik meg az Internet Hungary konferenciát, az ország legnagyobb szakmai és üzleti eseményét: 7 nagy témakör (globalizáció/deglobalizáció, lassuló fogyasztói társadalom, a különböző generációk különböző szocializációjának megjelenése az attitűdökben, szilánkosodó kereskedelem, marketing és média, mesterséges intelligencia, nem-/növekedés és nem-/fenntarthatóság, átalakuló kapitalizmus), 5 terem, 219 előadás, majdnem 300 közreműködő. A 2400–2600 fős eseményre a hazai gazdaság, kereskedelem, marketing és médiapiac szereplőit várják. Az esemény mottója: „Minket a fikciók tartanak össze. Lépjünk be a magunk teremtette, mesterséges világba!”

Az Internet Hungary konferenciával összefüggésben Csermely Ákos a lapunknak adott interjúban arról is beszélt:

• hogyan kell értelmezni az októberi konferencia mottóját;
• elmenekülünk-e majd a valóság elől egy mesterséges világba;
• miért ragaszkodunk a mesterséges intelligencia létrehozásához;
• miért ellentmondásos az, amit ma a mesterséges intelligencia fogalmaként értelmezünk;
• mi jelent ránk nagyobb veszélyt a mesterséges intelligenciánál;
• tényleg vallás lesz-e a dataizmusból, és próféta a mesterséges intelligenciából;
• mit jelent az, hogy „a fenntarthatóságot megállíthatod, a kapitalizmust soha”;
• miért fontos megmutatni, hogy megvan a potenciál a Z generációban is.

Világjárvány, háború Európában, új hidegháború a nagyhatalmak között, fenyegető klímaváltozás. Alig néhány éve ezek többségére még disztópikus fikcióként gondoltunk, 2019 óta azonban berúgták a valóság ajtaját. Éppen ilyen gyors és most még elképzelhetetlen vagy inkább hihetetlen változások előtt állunk a digitalizáció, a technológiai fejlődés terén?

Röviden: igen. A klímaváltozás a nyakunkon van, és azt gondolom, hogy a digitalizáción túl a globális kapitalizmus és a fogyasztói társadalom is óriási változás előtt áll. Annyira felgyorsult a világ, hogy ma már nem az a kérdés, mi lesz a távoli jövőben, hanem az, mi lesz egy év, fél év, három hónap vagy akár egy hónap múlva. Akik kimondják, hogy szerintük mi történik majd, azok rövidesen meg is láthatják, igazuk volt-e, vagy sem.

Az idei Internet Hungary konferencia mottója: „Minket a fikciók tartanak össze. Lépjünk be a magunk teremtette, mesterséges világba!” Hogy kell ezt értelmezni?

„Minket a fikciók tartanak össze”, vagyis sokkal többet adunk a külsőségekre, arra, hogy mit mutatunk magunkból, és mások mit gondolnak rólunk. Életkörülményeink megteremtése hetvenezer évvel ezelőtt a kognitív forradalommal kezdődött, amikor kialakult a képzelet és a kommunikáció. Az emberek elkezdtek egymással beszélni, és megalkották az eredettörténeteiket. Onnantól kezdve az ember egy olyan lénnyé vált, amely képes megváltoztatni a környezetét. Szerszámokat készített, törvényeket és úgynevezett „jogi személyeket” alkotott, majd ezek által egy valós és egy mesterséges, egymással versengő világokat hozott létre. Több ugrással a mezőgazdasági forradalomtól eljutott az internetig, most pedig már a virtuális világig, a metaverzumig. Az idézet első gondolata valójában kritika, míg a másik fele azt jelenti, hogy az offline és az online világ elválaszthatatlanok egymástól.

Nekem a Ready Player One című sci-fi jutott eszembe a mottóról. Egy disztópikus jövőben a nyomor valósága elől egy szinte határtalan virtuális világba menekülnek az emberek. Ez a jövőnk, függőség a fikcióktól, és menekülés egy mesterséges világba?

Nem hiszem, hogy mindenki bezárkózik majd a szobájába, és egy mesterséges világba, egy metaverzumba menekül. Én azt tapasztalom – főleg a fiataloknál –, hogy az embernek természetes ösztöne azt mondani: állj, és ne tovább. Azt gondolom, megtanuljuk kezelni és ösztönösen szabályozni a virtuális világot. Benne élünk majd, de arra is rájövünk, hogy az nem minden, és egy virág, a kedvesünk, egy jó bor illata mégiscsak a való világban tarthat bennünket. Remélem.

„Ez már a digitális gyarmatosítás egy formája”

A mesterséges intelligencia az egyik központi témája lesz az Internet Hungary konferenciának. Miért ragaszkodunk ennyire a mesterséges intelligencia létrehozásához?

Mert a vállalatoknak ez az üzleti érdekük, és ha úgy tetszik, belehajszolják a fogyasztói társadalmat. De szerintem a mesterséges intelligencia mint fogalom önmagában ellentmondásos. Az a fajta mesterséges intelligencia, amire elsőre gondolunk a fogalom hallatán, még nem létezik. Úgynevezett deep machine learningek vannak, mint például a ChatGPT is. Befolyásolják és rövid távon megkönnyítik az életünket, amit mi cserébe fokozatosan átadunk nekik. Ezek az algoritmusok azonban nem új keletűek, a globális techcégek is már régóta alkalmazzák őket. Sőt, Magyarországon is évek óta egy ilyen deep learning – mélytanuló, szövegfelismerő – alkalmazással beszélhetünk, ha az egyik telekommunikációs cég ügyfélszolgálatát felhívjuk.

A mesterségesintelligencia-kutatás inkább lehetőség, mint veszély, vagy fordítva?

Kellő önuralommal és nemzetközi megállapodásokkal szabályozni tudjuk a határokat: milyen területen és milyen mértékben vegyük igénybe a mesterséges intelligencia segítségét. De önmagától nem rendezi át a világot, csak azt teszi meg, amit mi megengedünk neki, vagyis amire programozzuk – szabályok mentén, vagy azok nélkül.

Sokak félelme, hogy a mesterséges intelligencia és a robotika fejlődése elsősorban a kétkezi emberi munkát váltja ki először. Most mégis úgy áll a helyzet, hogy az értelmiséget, a kreatív munkát is veszélyezteti. A jövőben algoritmusok szerkeszthetik a híreket, a reklámanyagokat, a marketingterveket, és mesterséges intelligenciával működő robotok készíthetnek interjúkat, vagy akár vezethetnek vállalatokat. Öt év, tíz év, mennyire vagyunk ettől a jövőtől?

Ahogy már utaltam rá, az, amit ma mesterséges intelligenciának nevezünk, nem képes az intuícióra és az empátiára. Nincs öntudata, hiányzik még belőle az emberi intellektus és kreativitás. A mesterséges intelligenciának nevezett deep machine learningek historikus adatokból épülnek fel, és azokból generálnak újabb tartalmakat. Megmondjuk, hogy mit csináljon, és olyan érzetünk van, mintha a válasza emberi lenne, de nem az. Csak az ember képes arra, hogy elolvas öt könyvet, és azokból új felismerésre jut, új összefüggéseket lát meg.

HOGY ÖT ÉV MÚLVA MI LESZ? A GLOBÁLIS TECHCÉGEK NEM VÉLETLENÜL GYŰJTIK RÓLUNK AZ ADATOKAT.

Építik az automatikus, programozható, deep machine learning alapján működő rendszereiket, és már évekre előrébb tartanak annál, mint amit most mi tudunk a mesterséges intelligenciáról. De a valódi kérdés az, hogy öt év múlva fel tudunk-e majd lépni ellenük hatékony szabályozásokkal. Most még elég kevesen ismertük fel az ezzel kapcsolatos problémákat.

A Homo Deus című könyve végén Yuval Noah Harari izraeli történész több kérdést is felvetett, az egyik közülük: „Mi lesz a társadalommal, a politikával és a mindennapi élettel, ha a nem tudatos, de rendkívül intelligens algoritmusok majd jobban ismerhetnek bennünket, mint mi saját magunkat?”

Évek óta folyamatosan mondom: vegyük észre, nem a mesterséges intelligencia jelenti ránk a legnagyobb veszélyt, hanem a globális techcégek gyarmatosítása. Odaadtuk nekik az adatainkat, az e-mailjeinket, ismerik a keresési és médiafogyasztási szokásainkat, majd fejlődés címén és a felhasználó érdekeire hivatkozva algoritmusokkal terelgetnek minket. Ez már a digitális gyarmatosítás egy formája.

Egy tavalyi interjúban azt mondta, hogy „eljött az idő, és törvényszerű az új típusú vallások kialakulása”. Azt is kijelentette, hogy az új „vallás” a dataizmus lesz. Mondhatnánk azt is, hogy „adatok mindenek felett”. A fogalmat először Harari használta. Ha a dataizmus az új vallás, akkor a mesterséges intelligencia lesz a prófétája, netán az istene?

Valóban azt mondtam, hogy a dataizmus az új „vallás”, de ez részben provokáció volt. Vita nélkül nincs gondolkodás, vitát pedig provokációval, vitaindítóval jó nyitni. Mindig szükségünk van példaképekre, vezetőkre, és olyan csoportokra, amelyeknek ideáival azonosulni tudunk, de a dataizmust azért neveztem vallásnak, mert ma már mindent adatalapon vizsgálunk. Nem hiszem, hogy ennek egyszer a mesterséges intelligencia lenne a prófétája.

Egyes jövőkutatók, mint Ray Kurzweil, azt állítják, hogy hosszú távon egy technológiai szingularitás felé haladunk, a mesterséges intelligencia meghaladja majd az emberi intelligenciát, és ha ez megtörténik, a ma ismert Homo sapiens számára nem marad hely a világban.

Kurzweil egy óriási koponya. Elméleti síkon beszélt a technológiai szingularitásról, de akkor még nem tudta figyelembe venni a ma ismert változókat okozó torziós erőket, mint például az embercsoportok kollektív érzelmeit. A tömeggyakorlat általi tapasztalásra még csak most teszünk szert, például azzal, hogy a ChatGPT megjelent, és a köz számára is elérhetővé vált.

TAVALY MINDENKI A METAVERZUMRÓL BESZÉLT, ÉN EZÉRT EGY PICIT FENNTARTÁSSAL KEZELEM, HOGY MEDDIG TART MÉG A HÁJP A MESTERSÉGES INTELLIGENCIA TÉMÁJA KÖRÜL, ÉS MIKOR ÉPÜL BE VALÓJÁBAN AZ ÉLETÜNKBE.

Talán nagyobb nyomatékot kap a közvéleményben, mint a metaverzum, de nem akkorát, mint a nemnövekedés, a fenntarthatóság és a fogyasztói társadalom lassulásának kérdése. Mindezen problémák erősen befolyásolják az embereket abba az irányba, hogy ismét a természet felé forduljanak. De azt gondolom, hogy okos szabályozásokkal idővel a mesterséges intelligencia is megkapja a méltó helyét az életünkben. Milyen csodálatos lesz, ha a hasznosítása úgy manifesztálódik, hogy egy héten elég lesz négy napot, vagy egy nap csak négy órát dolgozni, és például a pontosabb diagnosztizálást segíti majd az egészségügyben. Bár itt egy újabb veszély leselkedhet ránk: az unatkozó ember, az unatkozó csoportok, a „homo bored”. Ez nem egy cinikus megjegyzés, hanem ebből valós probléma lesz.

„A fenntarthatósághoz le kellene állni a növekedéssel”

Az Internet Hungary előadói között van Pogátsa Zoltán közgazdász-szociológus is. Vele nemrégiben készítettünk interjút, többek között a kapitalizmus fenntarthatatlanságáról és nemnövekedésről beszélgettünk. Az októberi konferencia főbb témái között is megtalálhatók. „A fenntarthatóságot megállíthatod, a kapitalizmust soha” – ezt ön írta a nyitóbeszéde „villanásai” közé. Mit ért ezalatt?

A versenypiacot soha nem lehet megállítani, mindig utat tör magának. Ahhoz, hogy a fenntarthatóságot, a párizsi egyezményben maximalizált másfél Celsius-fokos globális felmelegedést tartani tudjuk, elsősorban az üzleti világot kéne meggyőzni: lassítsanak. De mindig megtalálják a kiskapukat, és mindig hátrébb sorolják a fenntarthatóságot.

Pogátsa Zoltán úgy fogalmazott az Indexnek, hogy le kell választani a politikai döntéshozatalról a nagyvállalatokat. Ezt nevezte az első lépésnek a nemnövekedéshez. Egyetért vele?

Igen.

Új kapitalizmus kell, ahogy egy videójában mondta az Internet Hungary Facebook-oldalán, vagy valami más kell a kapitalizmus helyett? Pogátsa Zoltán definíciója szerint a kapitalizmus belső lényege a folyamatos növekedés igénye, amely azonban fenntarthatatlan.

Ahogy Pogátsa Zoltán is megfogalmazta: a fenntarthatósághoz le kellene állni a növekedéssel. Az idei Internet Hungary konferencián a fogyasztás alakulásának miértjét is vizsgálni szeretnénk. A világ nyugati, fejlettebb felén a fiatalok nem hiánygazdaságban szocializálódtak, és már nem annyira akarnak birtokolni. Lassul a fogyasztás, ez részben jó, de a probléma az, hogy a világ fejletlenebb részén továbbra is nagy a birtoklási vágy. Félek, hogy „a nemnövekedés kapitalizmusa” csak vágyálom lesz – és akkor hogy nézünk majd az unokáink szemébe?

„A mesterséges intelligencia a társunk lehet”

Egy másik videójában kijelentette, hogy a Z generáció nem akar annyit vásárolni. Biztos, hogy ez így van? Nem egyszer láttunk már hosszú sorokat csak azért, mert például egy bizonyos mobiltelefon új modellje megjelent, és rohantak megvenni.

A felmérések azt mutatják, hogy tőlünk nyugatra már nem akkora őrület a fiatalok számára egy-egy márka, mint itthon. A fiataloknak van már egy olyan tömege, amely megérti, hogy a klímaváltozás olyan anomáliákkal járhat, amelyekről most még fogalmunk sincs. Csak az biztos, hogy ötven év múlva, vagy akár húsz év múlva egy teljesem más világ lesz.

„Ki fog bennünket eltartani? A Z generáció vagy a mesterséges intelligencia?” – tette fel ezeket a kérdéseket szintén a „villanásai” között. Miért?

Ha jól használnánk fel a mesterséges intelligenciát, és nem a további növekedésre, nem a további rombolásra, akkor a mindennapi kényelmi eszközünkké válhatna. Sok olyan területen is alkalmazhatóvá válna, ahol egyébként nincs megfelelő munkaerő.

NEM TUDOM, HOGY A FIATALOK HOGYAN TUDNAK MAJD ELTARTANI BENNÜNKET. ANNYIRA VIGYÁZUNK A GYERMEKEINKRE, ANNYIRA KÍMÉLJÜK ŐKET, HOGY PÉLDÁUL NEM ÉLIK MEG A KITARTÁS, AZ ALKOTÁS GYÖTRELMÉT, A KÍNLÓDÁST ÉS A KÜZDENI AKARÁST A SIKERÉRT.

Milyen minősége lesz majd az ő kreativitásuknak? De közben öregszik a társadalom, és lesznek olyan munkakörök, amelyek betöltetlenek maradnak. A kérdésem arra vonatkozott, hogy be tud-e szállni azokra a területekre a mesterséges intelligencia, vagyis egy algoritmus vagy egy robot, ahol nem tudjuk a Z generációsokat aktivizálni. Ettől még az ő problémáik persze nem oldódnak meg. Az Internet Hungary konferencián olyan fiatalokat mutatunk be, akik mind valami fantasztikusat alkottak az életükben. Meg szeretnénk mutatni, hogy a Z generációban is ott van az erő, a potenciál, mert fontos, mit adnak majd ők tovább az alfa és a béta generációknak.

„Az idei kreatívot mesterséges intelligencia segítségével készítettük” – olvasható az Internet Hungary oldalán. Nem tart attól, hogy a közeljövőben egy mesterséges intelligencia veheti át a helyét a szervezésben?

Azért nem, amit az előbb mondtam: a mesterséges intelligencia még nem rendelkezik intuícióval, sem empátiával, és nem tudom megmondani, hogy erre mikor lesz képes. A géprombolás a félelemből táplálkozott, de a lovász is megtanult autót vezetni. Éppen ezért kell segíteni az emberek tájékozódását, hogy megértsék: a mesterséges intelligencia a társunk lehet, de csak akkor, ha például a hatalmat nem adjuk át kényelemből. Ezen a téren bőven van még tájékoztatási kötelezettségünk.

Évtizedek óta nagyszabású konferenciákat szervez, újságot ad ki, interjúkat készít. Egy korábbi interjúban úgy fogalmazott, hogy igyekszik egy-két évre előre fürkészni a jövőt. Lépést lehet, illetve tud még tartani egy ilyen felgyorsult világban?

Két konferencia között történelmet, fizikát, közgazdaságtant és egyéb szakkönyveket, szaklapokat, na meg persze szépirodalmat olvasok. Tanulok, és rengeteg szakemberrel beszélgetek. Mindezek alapján állítok fel egy jövőképet. Számomra nem az az igazi kérdés, hogy lépést tudok-e tartani, mert ez a dolgom, ahogy az orvosnak gyógyítani, és a kőművesnek falat kell tudnia húzni. Az én problémám az, hogy még mindig többet foglalkozunk a mázzal, a külsőségekkel, mint azzal, mi lesz, illetve mi legyen egy-két év múlva. Ugyanakkor nem az az igazi mesterség, hogy meg tudom-e mondani, mi lesz egy-két év múlva, hanem az, hogy megértessem, bebizonyítsam: egy érvényes jövőképről van szó, amit be kellene fogadnunk, átgondolunk, és aztán cselekednünk kéne. (Index)