Miközben a fejlett mesterséges intelligencia-technológiák kifejlesztéséért folyó technokratikus-autoriter verseny teljes gőzzel folytatódik, a Szilícium-völgy szabályozási napirendekre gyakorolt befolyása már vetekszik – sőt, akár meg is haladja – számos államét. A globális szuperhatalmak és a MI-óriások ambíciói között azonban Európának lehetősége nyílik arra, hogy valami jobbat keressen. Interjú a díjnyertes újságírónővel és írónővel, Karen Haoval.
Alessio Giussani: Számos metaforát hoztak fel a mesterséges intelligencia fejlesztésének jelenlegi modelljének leírására – például egy papagáj vagy egy tükör. Miért választotta éppen a birodalom metaforáját?
Karen Hao: Úgy gondolom, ezek a metaforák mind rendkívül hasznosak. A „birodalomra” összpontosítok, mert nem csupán magát a technikai eszközt és azt vizsgálom, mi történik, amikor azt a társadalomban alkalmazzák, hanem a technológia előállítását is, valamint azokat a szereplőket, akik rendkívüli mértékű gazdasági és politikai hatalmat halmoznak fel annak előállításához.
Négy fő okból nevezem ezt a rendszert birodalomnak. Először is, ezek a vállalatok olyan erőforrásokra tartanak igényt, amelyek nem az övék: az egyének adataira, valamint az írók és alkotók munkájára. Másodszor, rendkívüli mértékben kizsákmányolják a munkaerőt, és ez vonatkozik mind azokra a munkavállalókra, akiket a gyártási folyamatban és a technológiák ellátási láncában kizsákmányolnak, mind pedig azokra, akiknek a munkajogait a technológia bevezetése során csorbítják.
A harmadik szempont az információellenőrzés. A birodalmak terjeszkedésének egyik fő jellemzője az a képesség, hogy minden tudástermelést és információt a birodalmi céljaik szűrőjén keresztül szűrjenek, és pontosan ezt teszik a mesterséges intelligencia vállalatok is. Ők ellenőrzik és cenzúrázzák a tudományt azáltal, hogy a legtöbb mesterséges intelligencia-kutató munkáját pénzügyileg támogatják, és olyan információs technológiát építenek ki, amelyet a központi portállá kívánnak tenni, amelyen keresztül mindenki más kapcsolódik a világhoz, beleértve az oktatást is.
Végül mindezt egy civilizációs küldetésbe burkolják. Azt állítják, hogy azért foglalkoznak ezzel a munkával, mert végső soron olyan technológiát akarnak az emberiség rendelkezésére bocsátani, amely egy utópikus állapotba emel minket, és ha a „rosszfiúk” – ami általában Kínát jelenti – előttünk fejlesztik ki, akkor inkább egy disztópikus állapotba süllyedünk. Ez egyfajta vallási narratíva, amely a régi birodalmak körében is gyakori volt.
Az MI-birodalom, ahogyan Ön leírja, nem korlátozódik egy vállalatra; ez egy rendszer, egy logika. Mi áll az OpenAI-ra és annak vezérigazgatója, Sam Altman személyére irányuló figyelme mögött?
Az egyik válasz az, hogy az embereknek szükségük van történetekre, amelyek segítenek konkrét formába önteni azt, ami egyébként elvont ötlet maradna. De az OpenAI azért is különösen érdekes, mert minden olyan fontos döntést hozott, amely megváltoztatta az iparági normákat, és a birodalomépítés irányába terelte azt. Az OpenAI volt az, amelyik úgy döntött, hogy minden áron bővül, nagy nyelvi modellekkel dolgozik, és chatbot-szerű felületet hoz létre számukra. Szinte minden, amit a közvélemény ma a mesterséges intelligenciával társít, először az OpenAI falai között dőlt el.
Ha elmeséljük ezt a történetet, sokkal nyilvánvalóbbá válik, hogy a mesterséges intelligencia nem elkerülhetetlen, mert rájövünk, hogy valódi emberek hozták meg azokat a döntéseket az értékeik, világnézetük, személyes bosszúvágyuk alapján – bármi is volt az, ami valójában meghatározta a mesterséges intelligencia fejlődésének pályáját. Sam Altman ideológiái nem csupán elvont értelemben áthatják a modellt. Gyakran hallani azt a közhelyet, hogy a modellek tükrözik alkotóikat, de én azt akartam megmutatni, hogy ez valójában hogyan történik. A vállalatokról, az emberekről, valamint a gazdasági és ideológiai környezetről van szó, amelynek részesei.
Ahogy ezek a technológiák egyre hatékonyabbá válnak, az alkalmazásuk feletti ellenőrzés megszerzése egzisztenciális kérdéssé válik. Láttuk, hogy a Big Tech meghajolt Trump előtt a második beiktatásán, de azt is látjuk, hogy a mesterséges intelligencia területén működő vállalatok vezérigazgatói egyre inkább szembefordulnak a kormánnyal. Kié lesz végül a végső szó – az államé vagy a magánvállalatoké?
Folyamatban van a harc arról, ki fogja a döntéseket hozni. A Washington és a Szilícium-völgy közötti kapcsolatot kényelmi szövetségnek tekintem, de egy nagyon feszültnek. Két különböző birodalmi modellt képviselnek, mindkettő a saját birodalmi terveivel. Mindkettő terjeszkedni próbál, és szó szerint több területet akar átvenni más országoktól, de a Trump-kormányzat az MI-vállalatokat az állam birodalmi törekvéseinek eszközeiként tekinti. Eközben a Szilícium-völgy a Trump-kormányzatot saját birodalmi törekvéseinek eszközeként tekinti, de valójában nem járnak egy hullámhosszon, mert mindkettő azt akarja, hogy ő legyen a legfőbb hatóság, amely a csúcsra kerül.
Voltak olyan pillanatok, amikor az amerikai kormány bebizonyította, hogy még mindig ő az úr – amikor Trump és Musk összetűztek, Muskot kirúgták. Amikor azonban a Hadügyminisztérium összetűzésbe került az Anthropic-kal, a vállalat bebizonyította, hogy ebben az esetben ő az erősebb fél: Pete Hegseth védelmi miniszter a „nukleáris opciót” vetette fel, azzal fenyegetve, hogy a vállalatot ellátási lánc-kockázatnak nyilvánítja – mint végső eszközt, amellyel az Anthropic-ot engedelmeskedésre kényszerítheti –, de a vállalat még így sem hajlott engedésre. Elég kínos módon a Háborús Minisztérium mélyen függővé vált egy olyan magánszereplőtől, amely nem hajlandó a kormány feltételei szerint együttműködni, és a kormány semmit sem tehet ellene.
Mindkét birodalmi szereplőnek elszámoltathatónak kell lennie, és ez az elszámoltathatóság egyiküktől sem fog származni; a néptől kell származnia. Alulról felfelé építkező, alulról jövő szerveződésből, amelynek virágzását kezdjük látni szerte a világon, beleértve az Egyesült Államokat is. Bármennyire is áthatolhatatlannak tűnik ez a kényelmi szövetség, valójában rendkívül törékeny, és vannak lehetőségek arra, hogy felgyorsítsuk bukását azáltal, hogy nagyobb nyomást gyakorlunk a gyenge pontjaira.
Ahelyett, hogy a mesterséges intelligenciát a jók és a rosszak közötti globális versenynek tekintenénk, inkább azon kellene gondolkodnunk, hogy milyen jövőképünk van a társadalomról.
A mesterséges intelligencia fejlesztésének jelenlegi állása úgy tűnik, mint egy versengő verseny a mélypont felé a rivális vállalatok és a globális szuperhatalmak között. Milyen szerepet játszott a Kínával folytatott geopolitikai verseny abban, hogy a mesterséges intelligencia a jelenlegi nehéz helyzetbe került?
Kína egy olyan kártya, amelyet a Szilícium-völgy már egy évtizede kijátszik, gyakorlatilag azóta, hogy kiutasították Kínából. Ha azonban megvizsgáljuk ennek az érvelésnek a korábbi eredményeit, láthatjuk, hogy a valóságban mindig pont az történt, ami a Szilícium-völgy előrejelzéseivel ellentétes volt.
Azt állították, hogy a szilícium-völgyi vállalatok szabályozásának elmaradása – és Kína exportkorlátozásokon keresztüli szabályozása – révén az amerikai technológia világszerte dominálni fog. Mégis a TikTok a legnépszerűbb közösségi médiaplatform, és a kínai nyílt forráskódú mesterséges intelligencia-modellek egyre népszerűbbek világszerte, az Egyesült Államokban is. Azt is megígérték, hogy a Szilícium-völgy dominanciája liberalizáló hatással lesz a világra, de ez sem valósult meg; hatásuk éppen ellenkezőleg, mélyen illiberalizáló volt. A demokratikus intézmények rendkívüli mértékű eróziója és a demokrácia visszaesésének gyors felgyorsulása volt tapasztalható, amit a Szilícium-völgyi platformok és a mesterséges intelligencia-technológiák is elősegítettek.
Ahelyett, hogy a mesterséges intelligenciát a jók és a rosszak közötti globális versenynek tekintenénk, inkább azon kellene gondolkodnunk, hogy milyen jövőképünk van a társadalomról, milyen mesterséges intelligencia-technológiák támogatnák ezt a jövőképet, és milyen erőforrásokra van szükségünk annak megvalósításához. Nem a Szilícium-völgy által meghatározott versenyben kellene versenyeznünk, hanem azokban az elképzelésekben és értékekben, amelyeket fenn akarunk tartani. És úgy gondolom, Európának itt lehetősége nyílik arra, hogy a világnak egy harmadik utat mutasson, amely eltér az Egyesült Államokétól és Kínáétól, és amely új szabályokat állít fel.
Az Európai Bizottság nemrég elfogadott egy technológiai szuverenitási csomagot, amely része annak az erőfeszítésnek, hogy Európa saját technológiai útját járja. Hogyan fogalmazzuk meg ezt a jövőképet úgy, hogy ne egy megfigyelésen alapuló, oligarchikus üzleti modell európai változatát kapjuk?
Az a vezetőcsillag, amelyet Európának követnie kell, nem a szuverenitás a szuverenitás kedvéért, hanem az a cél, hogy ezt a szuverenitást elérjük. Európa – vagy legalábbis nagy része – a demokrácia egyik utolsó bástyája a világon. Támogatja az emberi jogokat és szabadságokat, és szüksége van a technológiai szuverenitásra, hogy előmozdítsa ezeket az értékeket. Amíg rendkívül függő marad az olyan rendszerektől, amelyeket nagyon autoriter módon fejlesztenek ki, és amelyek az európai társadalmak aláásására törekednek, addig nem tudja fenntartani értékeit.
A szuverenitás mint fogalom hajlamos elmosódni, ha pusztán öncélként kezdjük el értelmezni. Ennek egy cél eléréséhez vezető eszköznek kell lennie.
Milyen koalíciókból, érdekcsoportokból vagy konfliktusok színtereiből kellene kiindulnunk annak érdekében, hogy felépítsük ezt az alternatív jövőképet?
Először is, az MI-irányítást tágabb értelemben kell felfognunk. Például a munkavállalói jogok megerősítése és a civil társadalom védelme is az MI-irányítás részét képezi. A diákoknak, a tanároknak és az egészségügyi dolgozóknak is ott kell ülniük az asztalnál, hogy segítsenek alakítani és megkérdőjelezni, hogyan fejlesztik és alkalmazzák a mesterséges intelligenciát a társadalomban. Az oktatás kulcsfontosságú, mind szektorként és olyan koalícióként, amelyet be kell vonnunk, mind pedig a mesterséges intelligenciával kapcsolatos társadalmi felvilágosítás szempontjából.
Egy másik fontos szempont a mesterséges intelligencia kutatóinak és vállalkozóinak finanszírozása, hogy kiderítsék a fejlesztésük technikai részleteit és az alkalmazás módját. De nem adhatunk nekik egyszerűen pénzt anélkül, hogy a társadalom többi részének is szót adnánk; ellenkező esetben csak megismételjük azokat a problémákat, amelyekkel az Egyesült Államokban szembesülünk, ahol lényegében a technokraták vagy a technokonzervatívok hoznak döntéseket.
Nem a nulláról indulunk. Már rengeteg munkát végeztek annak érdekében, hogy meghatározzák azokat a közös célokat, amelyek felé a társadalomnak törekednie kell. Például a fenntartható fejlődési célokra gondolok. Ez kiindulópont lehet annak kitalálásához, hogyan finanszírozzuk a mesterséges intelligencia terén történő innovációt.
A jelenlegi mesterséges intelligencia-technológiákkal kapcsolatos narratívák rendkívül polarizáltak. Az egyik oldalon vannak azok, akik szerint ezekben a technológiákban nincs semmi különösebben új, és hogy a buborék hamarosan kipukkad. A másik oldalon pedig azok állnak, akik úgy vélik, hogy a mesterséges intelligencia átalakítja az életünket, forradalmasítja az ellátási láncokat, és mindannyiunkat feleslegessé tesz. Mit gondol ezekről a különböző álláspontokról?
Igaz, sokan hajlamosak túlzottan felnagyítani az előnyöket anélkül, hogy figyelembe vennék a technológiák költségeit, vagy éppen a költségeket emelik ki túlzottan, anélkül, hogy látnák az előnyöket. De szerintem elég nagy azok aránya, akik egyetértenek abban, hogy szeretnénk élvezni a mesterséges intelligencia előnyeit, de nem a méltóságteljes életvitelünk árán – amelyhez hozzátartozik a jó egészségügyi ellátás, a gazdasági lehetőségek, az egészséges környezet és a virágzó bolygó. Ez a legkiegyensúlyozottabb megközelítés.
A mesterséges intelligencia (MI) sokféle technológia gyűjtőneve, ezért alaposan át kell gondolnunk, melyekbe fektessünk be, és mely új technológiákat szeretnénk kifejleszteni, mert mindegyik más-más kompromisszumokkal jár; ezek közül néhány összhangban áll azzal a jövővel, amelyet építeni szeretnénk, mások viszont nem. Bölcsen kell választanunk.
A mesterséges intelligencia (MI) számos különböző technológiát jelöl, ezért alaposan át kell gondolnunk, melyekbe fektetünk be, és mely új technológiákat szeretnénk kifejleszteni.
Milyen a saját viszonya a meglévő MI-eszközökhöz?
Három fő okból nem használom őket. Először is az etikai álláspontom miatt. Másodszor a magánélet védelmével kapcsolatos álláspontom miatt: ezeket a vállalatokat vizsgálom, és ezek végső soron a valaha feltalált leghatékonyabb megfigyelési technológiák. Harmadszor, ezek az eszközök nem igazán hasznosak ahhoz a speciális készségkészlethez, amelyre a munkám elvégzéséhez szükségem van.
Nem azt mondom, hogy mindenkinek ugyanezt kellene tennie. Sok emberrel beszéltem, akik egyértelműen profitálnak ezekből az eszközökből, vagy akiknek a szakmai szerepük részeként kötelező azok használata. Inkább az a megoldás a jelenlegi problémára, ha ugyanazt tesszük, amit a múltban más iparágakkal, például a divatiparral is tettünk. Amikor rájöttünk, hogy ruháink nagy részét valóban szörnyű körülmények között gyártják, nem egyszerűen csak megszabadultunk a ruháktól. Számos fogyasztói és munkavállalói szerveződés, kormányzati szabályozás és általános közvélemény-visszhang kellett ahhoz, hogy az iparágot kordába szorítsák. Természetesen a divatipar még mindig messze nem tökéletes, de legalább ma már vannak alternatívák, és a fogyasztók a pénztárcájukkal szavazhatnak arról, hogy milyen ellátási láncot és vállalati gyakorlatokat támogatnak.
Ugyanezt kell tennünk a mesterséges intelligenciával is. Jelenleg nincs elég alternatíva a felhasználók számára, és ahhoz, hogy ez megváltozzon, több munkavállalói szerveződésre és nagyobb nyilvános ellenállásra van szükség. Akik tudnak tartózkodni ezeknek a technológiáknak a használatától, azoknak feltétlenül bojkottálniuk kell őket, a kormányoknak pedig be kell avatkozniuk, hogy segítsenek új piacokat teremteni az alternatívák számára.
A fogyasztóknak fontos befolyásuk van, de ez nem az egyetlen. Emberként, egyénként munkavállalói, oktatói és polgári szerepet is betöltünk, és el kell gondolkodnunk azon, hogyan használhatjuk fel ezeket a szerepeket a mesterséges intelligencia fejlesztésével kapcsolatban annak javítása érdekében.
A Green European Journal cikke. A cikket a Zöld Hang a Green European Journal engedélyével fordította és közölte. Az eredeti cikk elolvasható itt.
