Félelmetes jóslat Tusványosról: megjelenhet a haszontalanok társadalmi osztálya

Megjelenhet a haszontalanok osztálya, újfajta veszélyek leselkednek ránk, de elképesztő lehetőségek kapujában is állunk. Nem véletlen, hogy Orbán Viktor miniszterelnök a mesterséges intelligenciát nemzetstratégiai kérdésként kezeli.

„Azzal, hogy Orbán Viktor miniszterelnök Palkovics Lászlót mesterséges intelligenciáért felelős kormánybiztosnak kinevezte, a területet az egyik legfontosabb nemzetstratégiai kérdésként kezeli” – hangsúlyozta György László, hozzáfűzve, hogy ez egyben nemzetbiztonsági és gazdaságstratégiai kérdés is.

A gazdasági stratégiákért felelős kormánybiztos egy nyugtalanító példával világította meg a nemzetbiztonsági aggályokat: „egy nagy nyelvi modell létrehozásához három dologra van szükség – adatokra, számítási kapacitásra és algoritmusra. Ha ezek a nemzet határain kívül vannak, akkor két nagy veszély fenyeget bennünket.” 

Az egyik veszély, hogy bármikor lekapcsolhatnak minket erről a rendszerről, a másik pedig, hogy bármikor manipulálhatnak bennünket. 

A manipulálást azzal magyarázta, hogy ha nem a magyar érdekeknek és értékrendnek megfelelő adatokkal etetik az algoritmusokat, akkor „nem olyan válaszokat fogunk kapni, amelyek bennünket előre vinnének.”

A helyzet komolyságát jól mutatja György László hasonlata: „hozzászoktunk ahhoz, hogy a SWIFT-et is bármikor használhatjuk a nemzetközi fizetésre, vagy bárhova elhelyezhetjük a devizatartalékainkat. De mi van akkor, ha valakiket egyik pillanatról a másikra ellenségesnek találnak, és levágják őket a nemzetközi fizetési rendszerről? Ez már történik a világban, és tovább erodálja a Nyugat hegemóniáját.”

Emlékeztetett, hogy az Innovációs és Technológiai Minisztérium már 2019-ben elkészítette a 2030-ig tartó MI-stratégiát, amit azóta már felül is vizsgált a kormány és a szakmai szervezetek Palkovics László kormánybiztos vezetésével, ezzel pedig Magyarország felkészült a kihívásra. Persze az MI-stratégiánkat időről-időre, György László szerint akár félévente felül kell majd vizsgálnunk, ha ilyen gyorsan fejlődik a technológia.

Az is fontos lépés volt, hogy február 24-e óta van egy kormánybiztosunk, Palkovics László személyében, aki gyakorlatilag világítótoronyként gyűjti maga köré a mesterséges intelligenciával kapcsolatos kutatásokat és fejlesztéseket Magyarországon

– fogalmazott, reagálva a mesterséges intelligenciáért felelős kormánybiztos február végi kinevezésére. Az Economx-nak adott júliusi nagyinterjújában Palkovics László részletesen beszámolt arról, milyen eredményeket ért el öt hónap alatt, és hogyan lépünk át a szuperszámítógépek és humanoid robotok világába.

Jön a „haszontalanok osztálya” – új társadalmi kihívás

György László kormánybiztos Yuval Noah Harari izraeli történész professzor elméletére hivatkozva figyelmeztetett egy új társadalmi jelenségre, amely egyre inkább valósággá válhat: 

Harari szerint megjelenhet az úgynevezett haszontalanok osztálya. Tehát nagyon sokáig, vagy talán örökre lesz egy olyan társadalmi réteg, ami az eddigi évezredek alatt megszokott társadalmi berendezkedésünkbe nem tud majd beilleszkedni, nem tud a munkamegosztásba bekapcsolódni, mert a mesterséges intelligencia és a humanoid robotok meghaladják a képességeit.

A kormánybiztos idézte az Anthropic vezető tulajdonosának szavait is: „Harmadára, negyedére fog csökkenni a fehérgalléros munkavállalók iránti munkaerőpiaci igény. Ez nem történni fog, hanem már itt van velünk.” Az egyik Magyarországon működő nemzetközi tanácsadó cégnél míg tavaly 15 fiatalt vettek fel, idén szeptemberig már csak ötöt terveznek felvenni, mindezt úgy, hogy a munkamennyiség nem csökken.

A megoldást az oktatási rendszer gyors alkalmazkodásában látja: 

Mi nem fogadjuk el azt, hogy bárki a társadalom számára haszontalanná váljon, hanem arra törekszünk, hogy emberi méltóságában megemeljük. Valami olyat tanítsunk neki, amivel aztán vissza tud integrálódni a munkaerőpiacra, és emberként, szellemi, lelki, vagy akár fizikai értelemben tovább tudjon fejlődni.

Ehhez szerinte „feltétel nélküli alapjövedelem helyett feltételeset kell adni. Az embereket arra kell ösztönözni, hogy maguk tegyenek azért, hogy szellemi, lelki értelemben fejlődjenek.”

Bejelentette, hogy hamarosan megjelenik a Makronóm Intézet 170 oldalas tanulmánya, amely „megnézte a világban az összes mesterséges intelligenciára és a digitalizációra felkészült fejlett oktatási rendszer programját, amely már fut, és kiértékelte azokat a mesterséges intelligencia segítségével. Mennyi inputot használnak fel, mi az outputjuk, és mi az, ami a legfontosabb, az outcome-juk, tehát hogy milyen hatást érnek el azoknál, akik ebben a programban részt vesznek.”

Az emberi tényező marad a gyenge láncszem

Kovács Levente, az Óbudai Egyetem rektora is nyíltan beszélt a mesterséges intelligencia veszélyeiről: „amikor az AI-ról beszélünk, a technológia legnagyobb kockázata mindig maga az ember lesz.” 

A természetes intelligencia, vagyis az emberi tényező a legkritikusabb pont minden fejlesztésben. „Végül is az ember maga, aki fejleszti a technológiát, és ha a megfelelő feladatokat, illetve lehetőségeket nem valósítja meg, akkor az biztonsági kockázatot fog az adott területen jelenteni” – magyarázta. A megoldást a társadalom tudatos felkészítésében látja: 

Tudatosan érzékenyítsük a teljes társadalmat azokra a feladatokra és kérdésekre, amelyek az AI területén fontosak.

„Ne ijedjünk meg attól a technológiától, ami körülvesz bennünket! Ha pozitívan állunk hozzá, akkor alapvetően olyan ismeretanyagot szedünk fel, amivel már nem tudnak olyan könnyen megvezetni vagy kárt okozni nekünk a virtuális terekben.”

Azt is elmagyarázta, hogyan fejlesztenek az egészségügyben mesterséges intelligenciával. A bemeneti adatok virtuális adatsorok, amelyek különböző páciensektől és eszközökből származnak. Ezeket összegyűjtik, és mesterséges intelligencia módszerekkel összesítik, illetve következtetnek olyan döntési mechanizmusokra, amelyekre az egészségügynek szüksége van.

A mérnöki oldal mindig kiszolgáló szerepkörben jelenik meg, és döntést támogat az egészségügy számára. „Folyamatosan teszteljük ezeket az algoritmusokat, folyamatosan nézzük, hogy milyen hibázási lehetőségek jöhetnek be.”

Egészségügy: segítség van, függőség nincs

Keresztes Konrád, az MSD egészségpolitikai és kommunikációs igazgatóhelyettese megnyugtatóan fogalmazott: „jelenleg nem kifejezetten függnek az algoritmusoktól az egészségügyi ellátórendszerek, inkább részfolyamatokat tudnak segíteni ezek a megoldások.” Ezek a részfolyamatok nagyban tudják segíteni a költségcsökkentést és az erőforrás-elosztást is.

Kiemelte a fő tanulságot: „a mesterséges intelligencia mögött az emberi szándék, tudás és megfontolás áll. Ezek a megoldások a legtöbb esetben önmagukban nem tudnak kárt okozni.” Ugyanakkor felhívta a figyelmet a lehetséges veszélyekre. 

Ha van mögötte olyan ártó szándék, ami például egy terheléses támadáshoz szükséges, akkor elképzelhető, hogy mondjuk egy deepfake megoldáson keresztül egy kórházi rendszert át tudnak verni, személyes adatokhoz hozzáférhetnek és annak pácienst érintő hátrányos következménye is születhet.

Az AI-ágensekkel vagy ügynökökkel kapcsolatban különösen izgalmas fejleményeket látott: „ezek önmaguktól képesek bizonyos emberi szabályrendszerbe fektetve nagyon bonyolult, komplex feladatok végrehajtását végezni. Én nem tartanám kizártnak, hogy hamarosan eljutunk oda, hogy külön rendszert kell kifejleszteni arra, hogy ezeket kivédjük, akár AI-ügynök támadásokat is.”

A kockázatok mértékét jól mutatja, hogy egy összekapcsolt, technológiai szinten nagyon bonyolult rendszerben élünk, a világunk egyre inkább felgyorsul. „Egy egészségügyi ellátórendszerben minél több eszköz van összekapcsolva, annál több a támadási felület, annál több az entry point, akár vírus, vagy akár egy kártékony rendszer számára” – figyelmeztetett a szakértő. Megjegyezte, nem tud arról, hogy lett volna olyan páciens-sérelem vagy beavatkozási hiba, amit mesterséges intelligencia okozott volna, vagy amiatt jött volna létre.

Magyar AI-sikerek a világpiacon

Az egészségügyben már most is működnek konkrét MI-megoldások világszerte. Keresztes Konrád nemzetközi példákat hozott: „Angliában a várólistákat úgy csökkentették, hogy virtuális klinikai asszisztenseket, chatbotokat hoztak létre, amelyek felvették a kapcsolatot a különböző várólistákon szereplő emberekkel, és megkérdezték, hogy van-e szükségük az ellátásra, illetve további adatokat gyűjtöttek.

Huszonkét százalékkal csökkent a várólista különböző protézisek és gerincműtétek esetén, mert sok embernél kiderült, hogy már vagy nem kívánják igénybe venni az ellátást, vagy megkapták máshol a szükséges beavatkozást.

Léteznek képalkotó diagnosztikát segítő rendszerek is: „Computer vision, vagyis gépi látás, amikor konkrétan bemegy például egy röntgenfelvétel vagy CT felvétel, amit megnéz egy AI, és ha elváltozást észlel, annotálja, például rátesz egy négyzetet, és onnantól kezdve a radiológus munkáját nagyban segíti, akinek akár napi több száz képet is fel kell dolgoznia.”

Az angol NHS-ben 9,5 milliárd forintnak megfelelő összeget áldoztak arra, hogy tüdőrákszűrő algoritmusokat fejlesszenek ki és vezessenek be a kórházakban. Léteznek már digitális triázs szoftver-megoldások is, amelyek segítik a sürgősségi ellátás munkáját abban, hogy már tudják, nagyjából milyen kockázati kategóriába esik egy adott beteg – említette a szakértő.

Egy másik hasznosítási szemszögből, az ipar tekintetében kiemelte, hogy pár hónapja zárta sikeresen a világon először mesterséges intelligencia által fejlesztett gyógyszer a 2-es fázisú klinikai vizsgálatát, ami az Insilico Medicine fejlesztésében jött létre. Ez alapjaiban írhatja át a meglehetősen hosszú és erőforrás igényes folyamatot. Egy új, innovatív gyógyszer esetében ugyanis akár 1,5 milliárd dollárt is elérhet a fejlesztési költség, az időtáv pedig 8-10 év is lehet. Elmondta, hogy az MSD-nél is használnak mesterséges intelligenciát, például a BioPhi szoftverükön keresztül, amivel akár 30 százalékos költségcsökkentést lehetséges elérni az új terápiák fejlesztésekor, illetve a LungX tüdőrákszűréshez használt tünetellenőrző chatbot-ot is.

Magyarországon is van mire büszkének lenni az ellátásban és az egészségiparban is. Keresztes Konrád kiemelte Peták István vállalkozását. A Genomate Health alapítója orvoskutatóként munkatársaival olyan mesterségesintelligencia-alapú szoftvert alkotott, amely forradalmasíthatja a daganatos betegségek személyre szabott kezelését – lapunknak adott friss nagyinterjújában pedig bejelentette, hogy 2 millió dollár friss tőkével meghódítják az amerikai piacot, Bostonban létre is hoztak egy spin-off céget.

Emellett hazai sikerként említette még a Turbine AI vállalkozást, amelyben orvosok, biológusok és technológiai szakértők gépi intelligenciával és felhőszámítással keresik a rák ellenszerét a simulated cell technológiájukkal. Ebbe a vállalkozásba az MSD befektetési alapja összesen több, mint 20 millió eurót fektetett be korábban.

Az ellátás tekintetében jó gyakorlatokként említette Keresztes a kolorektális diagnosztikához a Semmelweis Egyetem Patológiai, Igazságügyi és Biztosítási Orvostani Intézet által gesztorált algoritmust, illetve a mammográfiában pilot-olt, magyar fizikusok és egészségügyi menedzserek által fejlesztett AI megoldást. Ezen felül fontosnak tartotta kiemelni az EESZT-t, ami egy globális sikertörténet az egészségügyi adatmegosztás tekintetében. A tervek szerint jövő évtől megnyitják a mesterséges intelligencia algoritmusok fejlesztésére is, így még több alkalmazás segítheti az ellátást. Az igazgatóhelyettes jelezte, hogy szívesen vesz bármilyen AI-jal kapcsolatos megkeresést, vagy együttműködési lehetőséget, ami az egészségügyet érinti.

Okosan használni vagy örökre elbutulni

A szakértők egyetértenek: a használat módja döntő jelentőségű. György László idézte a Makronóm Intézet tanulmányának mottóját: „Ha okosan használod a mesterséges intelligenciát, akkor okosabbá tesz, ha bután, akkor meg elbutít.”

Az MIT kutatóinak felfedezését is részletesen elmagyarázta: „Az MIT kutatóinak van egy tudományos felfedezése, amit félreértelmezett a média az elmúlt hetekben.” 

Ők a téves híresztelésekkel ellentétben nem arra jutottak, hogy a mesterséges intelligencia elbutít, hanem csak akkor butít el, ha csak azt használod. Ebben az esetben 55 százalékkal csökken az agyi tevékenység az EEG vizsgálatok alapján. 

De van jó hír is: „Amennyiben a mesterséges intelligencia használatát megelőzi egy brainstorming, egy belső ötletbörze, tehát ha okosan használjuk, azaz előbb gondolkodunk és koncepciót alkotunk, és utána használjuk a mesterséges intelligenciát, akkor még az alapképességeinket is erősíti, és az agyi tevékenységünk is fokozottabbá válik – mint egy kiborg, ki tudjuk egészíteni a képességeinket mesterséges intelligenciával.”

Kovács Levente rektor záró gondolatként a továbbképzés fontosságát hangsúlyozta: „Ha a továbbképzés erőteljesebben történik, nem lesz haszontalan az ember.” 

Keresztes Konrád zárásként elmondta: „Használni kell a mesterséges intelligenciát, és fontos, hogy ez egy ösztönszerű készség legyen. Ugyanakkor az egészségügyben látjuk, hogy a bizalom és a felelősség egy nagyon fontos témakör, ami a mesterséges intelligencia esetében még nem teljesen megoldott.” 

Figyelmeztetett: „előfordulhat, hogy valaki akár hanyagságból teljes mértékben megbízik a mesterséges intelligencia javasolt diagnózisában, megoldásaiban. Bár ez egy segítő eszköz és rendszer, de nagyon fontos, hogy tudjuk – ez a mi segítségünkkel lesz teljes.”

A kerekasztal ötletgazdája és szervezője a Doktoranduszok Országos Szövetsége volt. (Index)