Nullák, egyesek, emberek II. – Technológia = szabadság?

Ez a cikk több mint egy éve került publikálásra. A cikkben szereplő információk a megjelenéskor pontosak voltak, de mára elavultak lehetnek.

A cikkben Jamie Susskind idén, 2022-ben magyar kiadásban is megjelent Politika a jövőben című könyvajánlójának második része olvasható.

Az első részben odáig jutottunk, hogy a kód hatalom. Végső soron miből áll minden kód? Nullákból és egyesekből. A semleges számok képében sokan látnak megoldást a társadalmi problémákra, így a hátrányos megkülönböztetésre, a növekvő egyenlőtlenségekre és más morálisan kifogásolható helyzetekre. Vajon a semlegesség valóban megoldás lehet ezekre? Hogyan használja a kódot a hatalom? A cikkben három csomópontban két-két pólus közé csoportosítjuk a kérdőjeleket. Elie Wiesel író szavai sejtetik, hogy nem olyan egyszerű e kérdéseket tisztázni: „A semlegesség az elnyomót segíti, és sosem az elnyomottat.”

1. Egyén és techcégek

A kényelemért cserébe emberek tömegei hajlandóak elfogadni bizonyos korlátozásokat. Régi tapasztalatunk van erre nézve, ha a közlekedési szabályokra vagy éppen a dohányzásra kijelölt helyekre gondolunk. Attól, hogy e szabályok fennállnak, még lehetséges, hogy a korlátozásokat megszegjük, gondoljunk arra, amikor kocsinkkal utoljára tiltott helyen várakoztunk vagy egy rossz nap végén dacból a kijelölt hely határát figyelmen kívül hagyva füstölögtünk. Eközben talán még a szomszédunk vagy a főnökünk becsületét sértő jelzőkre is ragadtattuk magunkat. Szabadságunkban áll véteni e szabályok ellen, azonban nem ez a helyzet a digitális világ által szabályozott cselekvéseink, például a kommunikációnk esetében.

Ahogy Susskind írja, a digitális világban „szinte minden megszólalásunkat technológiai magáncégek fogják közvetíteni és moderálni. Ez azért lesz így, mert majdnem kizárólag az ő felületeiket fogjuk igénybe venni a kommunikációhoz”¹. Rajtuk fog állni, hogy mi számít a kommunikáció megengedett formáinak és mi nem, ki lesz a kommunikáció közönsége, vagyis kivel léphetünk kapcsolatba és kivel nem, továbbá azt is, hogy a kommunikáció tartalma eljut-e hozzánk, és ha igen, milyen rendezési elv szerint rangsorolódjon (relevancia, népszerűség, egyéb).

Egy újabb szintet képvisel az előbbi esethez képest a virtuális varóság (VR). Csábítóan hangzik sétálni egy trópusi tengerpart homokos fövenyén, felállni a dobogó tetejére a Monaco-i Nagydíjat megnyerő pilóta bőrében vagy átélni az Annapurna csúcsára tartó hegymászó egy teljes napját egy VR-eszköz segítségével. Vajon ugyanilyen csábítóan hangzik a lehetőség, hogy egy terrorista bőrébe bújjunk élete utolsó óráira, vagy kismacskát fojtogathassunk a vízben, netán megtapasztaljuk, milyen lehet Jézust keresztre szegezni? – teszi fel a provokatívnak tűnő, ámde nagyon is valóságos kérdéseket Susskind.² Az utóbbi példák egyértelműen túlmennek az elfogadott erkölcsi határokon, mégis, a döntés a techcégek kezében fog összpontosulni, a felállított szabályokat képtelenek leszünk megszegni.

A legtöbben már találkoztunk tiszteletlen ügyintézővel. A sajnálatos kellemetlenségen túl azonban ügyünk elintézését legfeljebb lassíthatta, meg nem akadályozhatta. A digitális világban mindez szintet lép. A programok is bánhatnak velünk tiszteletlenül, amely egyúttal lehetetlenné teheti a kérelmünk teljesítését. „2016-ban, Új-Zélandon egy ázsiai származású férfi online útlevélkérelmét visszautasították, mert az automatizált rendszer azt állította, hogy a fényképen, amit feltöltött csukva van a szeme.”³

A digitális világbéli ügyintézés mellett szól, hogy eltüntet bizonyos előítéleteket, viszont újakat generál. Megszűnik a lehetőség, hogy pusztán az öltözékünk és viselkedésünk miatt lekezelően viselkedjen velünk egy ügyintéző, mivel egy program végzi helyette a feladatot. Ezzel szemben egyre több információt tárolnak rólunk, ennek révén könnyen kaphatunk jobb/rosszabb rangsorolást többek között a szokásaink és az életmódunk alapján. Adja magát a kérdés, hogy vajon e rangsorolásban betöltött pozíció alapján másként fogunk tekinteni barátainkra, családtagjainkra?

2. Egyén és kormányzat

A digitális világ térhódítása, az emberekről és gépekről tárolt adatmennyiség robbanásszerű növekedése soha nem látott gyorsasággal formálja át a politikai környezetet. A jogalkotás és a jogalkalmazás területe is átalakulóban van. A kiterjedt technológiai lehetőségek a törvény hatáskörének kiterjesztésével fognak járni. Ha átmegyünk a piroson, a biztonsági kamera rögzíti azt, felismer minket az arcunkról, a járásunkról, így a bírság elektronikus úton pillanatok alatt megérkezik hozzánk. Kiterjedtebb kontroll esetén pontlevonással is büntetik e tettünket, így számtalan másik területen romlik a társadalmi reputációnk. Egy jól felépített rendszerben még a legkisebb szabályszegés megúszására se lesz esélyünk, ha egyáltalán lehetőségünkben fog állni annak elkövetése.

Erős aggályokat vet fel a jóslás politikája. A rengeteg adatból tendenciák, összefüggések nyerhetők ki, végső soron megjósolhatóvá válnak bizonyos cselekvések. Ha a számok alapján előrejelezhető egy bűncselekmény elkövetésének valószínűsége, azzal azt is állítjuk, hogy „az emberi viselkedést jórészt olyan általános törvényszerűségek és mintázatok irányítják, amelyeknek semmi közük az egyén szabad döntéseihez”.⁴ Ha pedig kétségbe vonjuk a döntés szabadságát, akkor az vajon nem azt jelenti, hogy az ember „morális szempontból kevésbé felelős”? Bebörtönzési automatizmus helyett érdemes lehet prediktív technikák fejlesztésére fordítani az erőforrásokat, hogy a valódi kiváltó okok (pl. szegénység, függőség, jogfosztottság) enyhítése, felszámolása révén lehessen elérni javulást.

Maga a demokrácia is megérzi a változó környezetet. Egyes régi elemei, így a hagyományos tiltakozási formák (pl. utcai demonstrációk, petíciók, plakátkampányok) egyre kevésbé hatásosak, viszont a digitális világban új eszközök válnak elérhetővé. Lehet elektronikus petíciót indítani, online közösségi részvétellel dönthetünk az önkormányzatunk költségvetésének egy részéről, sőt eljön a nap, amikor nem fog gondot jelenteni, ha éppen nyaralunk, mert okoseszközünk segítségével is leadhatjuk a szavazatunkat az aktuális választáson.

Egyes digitális világban előforduló veszélyekkel már együtt élünk, így bármelyik nap olvashatunk politikai célú hekkelésről vagy kibertámadásról. De maradjunk a legális oldalon. A big data segítségével szavazók adatainak elemzése révén hatékonyabbá tehetők a kampányok, érdemben befolyásolható azok kimenetele (lásd pl. Donald Trump és a Cambridge Analytica ügyét).

Az, hogy mit érzékelünk a környezetünkből, milyen csatornákon, milyen információk jutnak el hozzánk, alapvetően képesek a politikai döntéseink formálására. Ugyanilyen veszély „a közbeszéd dezintegrációja és polarizációja”,⁵ illetve az, hogy „az egymással rivalizáló frakciók nemcsak saját véleménnyel állnak majd elő, hanem saját tényekkel is”.⁶ Elég itt a fake news és a post-truth politika fogalmaira gondolni.

A valóságban ha el akarjuk mondani a véleményünket, azt arcunkat (nevünket) vállalva tehetjük meg. Ugyanerre az online platformokon anonim módon is lehetőség nyílik, ahogy mások számára is, viszont nem lehetünk biztosak abban, hogy egy ember vagy egy gép osztja meg velünk a véleményét. „A botok csak az utóbbi időben kezdték el gyarmatosítani az online diskurzust, jelentőségük azonban rohamosan növekszik. Egy 2017-es tanulmány szerint negyvennyolcmillió bot (az összes profil kilenc-tizenöt százaléka) tevékenykedik a Twitteren.”⁷ Persze hasznos botok is léteznek. Ezek célja nem végtelen viták gerjesztése, hanem az emberi „trollok” lefoglalása.

Régi slágertéma a titkosítás, a digitális világban sem lesz ez másként. Ha adataink védelméről, még tágabban szabadságunk védelméről van szó, helyeslően bólogatunk, viszont amennyiben a túlzott titkosítás fokozatokkal növeli a nemzetbiztonsági kockázatot, mert a hírszerzők és az általuk használt MI-k képtelenek lesznek idegen kémek, szélsőséges csoportok azonosítására, talán már ingatjuk a fejünket.

A fenti példák jól érzékeltetik, mennyi kihívás vár a kormányzatokra. Sok esetben erős lehet a csábítás a hatalom kiterjesztésére. A totalitárius irány veszélye valós. Különös figyelmet érdemelnek az egyes kisebbségi csoportok, hogy ők milyen bánásmódra számíthatnak, mivel náluk hatványozottan érvényesül a semlegességi tévedés, miszerint a semlegesség valójában az erősebbet segíti.

3. Kormányzat és techcégek

E párosban alapvető adottság, hogy függnek tőlünk. Az egyik számára állampolgárok, a másik számára felhasználók, nyersebben közelítve adatforrások vagyunk. Nélkülünk nem léteznek. Döntéseink hatással vannak rájuk, viszont érezzük, hogy e függés eltörpül a kontroll ereje mellett, amellyel ők rendelkeznek felettünk.

A kölcsönös előnyök érdekében régi hagyománya van a kormányzatok és gazdasági csúcsszereplők közti együttműködésnek. A digitális világban sem lesz ez másként. Nekünk is jut az előnyökből, ha ez egy merénylet meghiúsítását vagy egy kibertámadás elkerülését jelenti, az viszont kellemetlen, ha azért kapunk hatósági figyelmet, mert gyermekünkről meztelen képet küldünk orvos barátunknak, hogy mondjon szakvéleményt a kiütésekről.

Susskind szerint a techcégek a közművekhez hasonló pozíciót foglalhatnak el. Nagyon is reális gondolat. Legyünk őszinték: vajon melyiknek a pár órás kimaradását érezzük súlyosabbnak: a gázszolgáltatásét vagy a közösségi médiaszolgáltatásét?

„A jövőben hatalmas állami és magánszervezetek próbálnak majd ellenőrzéshez jutni az erőszak, a megfigyelés és az érzékeléskontroll eszközei felett. Aki pedig igazán nagy hatalomra vágyik, az mind a hármat igyekezni fog megkaparintani.”⁸

Az erőszak itt a döntési jogosultságtól való megfosztottságot jelent, ami kívánatos, hogyha az MI nem enged minket kétszázhússzal száguldani az autópályán, de saját szempontunkból kétséges, hogyha egy balesetveszélyes helyzetben minket áldoz fel két másik ember megmentése érdekében.

Kivétel nélkül a megfigyelés alanyai vagyunk. A kormányzatok és a techcégek egyre többet fognak tudni rólunk. A szabadságjogok érvényesítése egyre komplikáltabbá válik, hiszen egyre fogy a terület, amelyet igazán privátszférának nevezhetünk. Az érzékelésünk kontrollja, azaz mások azon képessége, hogy egyre pontosabban befolyásolják, „mit tudjunk, mit érezzünk, mit akarjunk és mindezek következtében mit tegyünk”,⁹ olyan határig megy el, amelybe talán bele se tudunk gondolni.

A fentiek nem azt jelentik, hogy kikerülhetetlenül disztópiába tartunk, mindössze veszélyeket fogalmaz meg a könyv. Susskind szerint ezek elkerülhetők, viszont szükséges, hogy a kormányzatok és a techcégek működését egyaránt átláthatóság jellemezze, „bölcs korlátokat” húzzunk, illetve a demokráciát is hozzáigazítsuk az újfajta kihívásokhoz, hogy a csábító politikai önérdek helyett a továbbiakban is képes legyen széles tömegek érdekeit szolgálni. A strukturális szabályozás elkerülhetetlen a túlzott hatalmi koncentráció elkerülése érdekében. E cél érdekében elengedhetetlen az egyéni felelősségvállalás és a „filozofáló” mérnökök/programozók jelenléte, vagyis olyan technológiai szakemberek munkája, akik nemcsak a technológia oldaláról közelítenek meg egy problémát, hanem annak morális, jövőbeni, az egyénre és a társadalomra vonatkozó hatásait is figyelembe veszik.

A hatalmi koncentráció karöltve jár a vagyoni viszonyok egyre gyorsuló átrendeződésével. Susskind a vagyonciklon szót használja erre, miszerint egyre kevesebb ember kezében összpontosul egyre több vagyon, míg a nagy többség anyagilag egyre fogyatkozik. Ez nem csupán a hatalmi átrendeződés miatt következik be, hanem a digitális világ terjedésével technológiai munkanélküliséget is vizionál a szerző. Az egyre gyarapodó emberiség számára legfőképp az automatizálás révén egyre kevesebb lesz az elvégezhető érdemi munka. Úgy általában az újraelosztás kérdése és mellette a techcégek méltányosabb adózása és szükségessé váló feldarabolásuk óriási kihívást jelentenek a kormányzatok számára.

Hová juthatunk?

Sohasem látott lehetőségek küszöbén állunk. Egy jobb világ teremtéséhez azonban számos próbatétel vár ránk. Képesek leszünk megőrizni szabad akaratunkat az adatdzsungelben? Túllátunk a digitális világ fújta buborékokon? Tudunk észszerű határokat szabni a kódnak? Képes lesz előnyére változni a demokrácia? Megtörténik a techcégek feldarabolása? Hajlandóak lesznek a változás nyertesei lemondani a vagyonuk érdemi részéről a közösség javára? Lesz-e akkora különbség a legszegényebbek és leggazdagabbak életfeltételei között, hogy már az is felmerüljön, vajon egy fajt alkotnak-e? Susskind nem válaszol a kérdésekre, viszont felvetései révén egyszerre érezhetjük a döntés kényelmetlenségét, nagyszerűségét és súlyát a vállunkon: „kormányozni annyi, mint választani”, és fordítva. A tét nem kevesebb, mint az, hogy morálisan emberek maradunk-e.

Jamie Susskind az egyik legismertebb jövőkutató jogász, Prof. Richard Susskind fia, szintén jogász végzettséggel rendelkezik, ügyvédként praktizál. Munkássága a technológia, a politika és a jog területeinek metszéspontjában áll. A könyv elnyerte az Estoril Global Issues díjat.

A Politika ​a jövőben – Életünk a technológia uralta világban című könyve az Athenaeum Kiadó gondozásában jelent meg 2022-ben.

Hivatkozások:

• ¹ Jamie Susskind: Politika a jövőben (Athenaeum, 2022) 157. o.
• ² Uo. 166. o.
• ³ Uo. 225. o.
• ⁴ Uo. 146. o.
• ⁵ Uo. 188. o.
• ⁶ Uo. 189. o.
• ⁷ Uo. 191. o.
• ⁸ Uo. 132. o.
• ⁹ Uo. 132. o.