A digitális társadalom olvasatai – X.

Ez a cikk több mint egy éve került publikálásra. A cikkben szereplő információk a megjelenéskor pontosak voltak, de mára elavultak lehetnek.

Alábbi cikksorozatában a szerző a digitális társadalom különböző aspektusait tárja elénk, igyekezve lényegre törően bemutatni szerkezetének fontosabb csomópontjait, és összegezni a tudásrendszerek, az internet, a mesterséges intelligencia, a hálózati társadalmak fontosabb, a jogalakulás szempontjából releváns mozgásait. Ezúttal azt elemzi, a mesterséges intelligencia miként jelenik meg a jog közegében.

Mesterséges intelligencia a jog közegében

Az informatikai szakemberek mellett az egyszerű szakírók is tervezgetnek. Ezért készült el egy programterv a Jogászvilág cikksorozatához, abban egy fejezetet szánva a mesterséges intelligencia (MI) és a jog kapcsolatára. Jóllehet korábbi írásainkban[1] már érintettük a téma kapcsán felvetődő, megoldatlan kérdéseket, azonban minden gondos előkészítés ellenére a téma nagyságáról és horderejéről mégsem volt valós ismeretünk. A mesterséges intelligencia és a jog (összekapcsolt) keresésére a Google angol nyelven 175 millió, németül 5,7 millió, a Jstore digitális folyóirat az utóbbi öt évre nézve e témában pedig 107 360 találatot jelzett. Ekkora információhalmazból merítve könnyen készülhetnének újabb könyvek, ám a sorozat céljaihoz alkalmazkodva szigorúan csak az alapvető összefüggések bemutatására van módunk, időnk és elegendő karakterszámunk.

Szerencsénkre az összefoglaló, rendszerező munkákban sincs hiány, sőt bőséges magyar nyelvű szakirodalom áll rendelkezésünkre.[2] Mindenek előtt azonban fel kell hívnunk a figyelmet arra, miszerint egy algoritmusrendszer kétféle szerepben jelenhet meg a jog figyelő tekintete előtt. Egyfelől, mint a jogi szabályozás tárgya, másfelől, mint a jogi élet aktorainak fegyverhordozója, akár döntéselősegítő rendszerről, akár a rendvédelem működésében szerepet játszó preventív rendszerekről beszélünk. A kettősségnek köszönhetően a kritikák és az elemzések szintén e két osztályba csoportosíthatók. Hangsúlyoznunk kell, a következőkben szigorúan a jogi élet alakításában részt vevő, és a mesterséges intelligencia alapján működő algoritmusmodellekre összpontosítunk, nem feledkezve meg az algoritmusokkal összekapcsolható jogi szabályozás súlyos problémáiról. Meg kell jegyeznünk, hogy egy MI-alapon működő algoritmus, még akkor is a jogi szabályozás tárgya, ha a jogi rendszer mindennapjaiban használják. A jogászok életét megkönnyítő technológia ugyanis nem állhat a jogi szabályozás terrénumán kívül, ezért elképzelhetetlen – mondjuk – egy preventív algoritmus jogi garanciák és jogi keretek nélküli kiépítése. A szabályozás elégtelensége, vagy megfelelősége természetesen külön viták (blogok, online megjelenések) topikja lehet.

Más gyökerekből eredő kérdéskör a valódi MI alapján működő algoritmusok és az egyszerű, de algoritmusnak álcázott szoftverek közötti különbségtevés. Különösen akkor sikamlós a határ megvonása, ha a közszférába – megrendelések alapján – piaci szereplők lépnek be. Számtalan tapasztalat arra utal, üzleti érdekük MI-alapú algoritmusrendszerként eladni az egyszerű (vagy kicsit bonyolultabb) feladatmegoldó, űrlapkitöltő szoftvereket. A zsinórmérték kirajzolásában ragaszkodnunk kell az MI – korábban bemutatott – általános definíciójához[3], így szigorúan az önálló és hatékony problémamegoldásra képes gépi intelligenciával rendelkező rendszereket tekintjük vizsgálandónak.

A korlátozó kritériumok nagy száma ellenére jó néhány gépi megoldás maradt. Hozzávetőlegesen négy nagy csoportba sorolva ezek a következők: 1. dokumentum-feldolgozó rendszerek (gépi hermeneutika), 2. jogi adatelemzések, 3. automatizált folyamat-feldolgozások, 4. tudás-előállító és tudáselosztó rendszerek. A dokumentumok feldolgozásakor a jogi dokumentumokban lévő információk felszínre hozatala zajlik, ennek egyik segédeszköze a természetes nyelvi feldolgozás (Natural Language Processing – NLP.). Az adatelemzés irányulhat az esetjogi vagy más jogalkalmazói döntések összehasonítására, az adott jogi probléma megoldásának előrejelzésére. Az automatizált folyamat-feldolgozás a jogalkalmazás egy-egy fázisának információit gyűjti össze, értékeli, belőlük alternatívákat állít elő. A tudás-előállítás és tudáselosztás alkalmas és hatékony rendszer egy adott jogi terület ismeretanyagának összegyűjtésére, rendszerezésére, új következtetések megfogalmazására, majd mindennek egy decentralizált elosztási hálózaton (digitális gráf) történő megosztására.

Léteznek más lehetséges csoportosítások is, ahol az alkalmazott gépi technológiát tekintjük kiindulópontnak. Az algoritmusalapú technológiákat például mesterséges intelligencián nyugvó, lánctechnológiát (blockchain technológia) alkalmazó, a dolgok internetét (IoT) működtető, a magatartást és a jövőt előrejelző analízisre épülő megoldásokra oszthatjuk fel. Azonnal látható, e megoldásokban a prediktív analitika dominál, ami a bűnmegelőzés és a kriminológiai területek kedvence. Természetesen e fő csoportokon belül még számos egyéb alrendszeri keret létezik, rendezőelvük a döntési folyamatok logikáját követheti (tudásbázisú, gépi tanulású, NPL-, vagy észlelés-feldolgozást végző mesterséges intelligencia).[4]

A csoportosítás folytatható, az irodalom olyan rövidítésekkel dolgozik, mint PP (Predictive Policing), DSS és SDSS (Decision Support System és Sentencing Decision Support System), RRA (Recidivism Risk Assessment), COMPAS (Correctional Offender Management Profiling for Alternative Sanctions).[5] Az USA jogéletének markáns technologizálása[6] mellett az európai jogi térben szintén megjelentek mindezek a megoldások, automatizált fizetési meghagyási eljárások, bírósági munkát integráló platformok, jogi foglalkozási csoportok (közjegyzők, végrehajtók, ügyvédek) speciális számítógépes (vagy online, vagy a kibertérben – felhőben – futó) feladatvégző rendszerei váltak ismertté az elmúlt évek alatt. A figyelmet azonban azok a megoldások kapták és kapják, melyek magát a döntési folyamatot automatizálják, egészen a döntés kialakításáig. A jog lényege ugyanis a döntés, a kérdés azonban ettől függetlenül az, vajon az MI-alapú döntésrendszerek automatikusan átfordulnak-e legitim jogi paranccsá, vagy pusztán javaslatok (alternatívák), melyeket a bíró (a bírósági titkár, a hivatalnok, az ügyintéző, a közvetítő) felhasználhat, és ebben az esetben a gépi automatizmus már „csak” döntést elősegítő megoldásként működik.

A problémákat (és aggodalmakat) növeli, hogy jelenünk MI-alapú megoldásai olyan adatokkal, paraméterekkel, információkkal dolgoznak, amelyek elszakadtak ugyan az adathordozó személyétől, de a konstruktív modellek egyrészt visszavezethetők, másrészt ráhúzhatók az eljárás alanyára. A Big Data-rendszerek, a különböző információszerzési megoldások (digitális lábnyom, digitális térben meghúzódó tevékenységek, képek, megosztások, like-olások stb. elemzése) önmagukban is átláthatatlanná teszik az adatforrások kezelését. Ezzel együtt – természetesen – az adatfelhasználási (-feldolgozási) rendszer input oldalát. Növeli a társadalmi feszültséget, hogy az állami autoritások mellett a magán felhasználók (biztosítók, hitelintézetek, foglalkoztatók) is megkedvelték a döntéselőkészítő vagy döntést hozó gépi rendszereket, tetézve ezzel a jogi szabályokat hozók gondjait. Így ugyanis nem csak az állami jogalkalmazás, hanem a piaci (magán) jogfelhasználás digitális rendjének megteremtése is jogalkotói feladattá vált. A felhasználás különbségei nem annyira a technológiában, inkább a technológiát alkalmazó szervezeti rendszerek társadalmi (szociológiai) sajátosságaiban mutathatók ki, különösen akkor, amikor az állam az igazságügy feladatait privatizálva erősíti fel a magán- (piaci) szféra hatáskörét.[7] Létrejöhet olyan nem kívánatos összefonódás, ahol a közhatalom és a magánhatalom együttesen – netán közös gépi platformokon – működteti a döntéshozó rendszerét, és együttesen fogadják el annak eredményeit. A büntetés-végrehajtás, a biztonsági szolgálatok magánkézbe adása megjósolhatóan ezzel az eredménnyel járhat.

Amennyiben a jogi térben az algoritmusok és a mesterséges intelligencián nyugvó alkalmazások összefüggéséről szólunk, nem hagyhatjuk ki tehát a szervezeti, hatalmi folyamatokat, és az ezekkel összefüggő problémákat. Főként akkor nem, amikor a közhatalom és a piaci szereplők preferenciája ellentmond egymásnak. Egy ilyen eset – például – a különböző társadalmi csoportokkal (és a csoportokat alkotó egyénekkel) kapcsolatos kockázatelemzés, ahol a biztosítók az alacsony kockázatot képviselő, az állam szervei pedig a magas kockázatot jelentő jogalanyok iránt érdeklődnek, nota bene azonos platformot (programot, algoritmust stb.) használva. Nincs tehát érdek nélküli MI-alkalmazás, a jogvédelmi igény és lehetőség pedig az érdekek mentén alakul.[8]

A szakirodalmat – D’Amato 1977-es kérdésétől kezdve napjainkig – nem annyira az alkalmazások leírása, típusa, sajátosságai érdekli, hanem az, vajon helyettesíti-e a bírót (és a hozzá azonos, vagy hasonló döntési jogkörrel rendelkező jogalkalmazót) a gépi intelligencia.[9] A behelyettesíthetetlenség érveit rendezgetve az érvek két csoportba, az objektív (azaz a technikai feltételek elégtelensége) és a szubjektív (a bírói képesség egyedülállósága) érvcsoportba sorolhatók. Az objektív érvek arra támaszkodnak, miszerint a gépi technológia nem elég komplex – szemben a megoldandó jogi problémával –, nem képes megbirkózni a jogi paradoxonokkal. Nem lehetséges elegendő példát felmutatni a tanuló algoritmusok számára, így bizonyos alapvető jogintézményeket és jogértékeket nem tudnak megtanulni – alkalmazásukról nem is beszélve. A gépi döntéshozatal belső működése átláthatatlan, nem ellenőrizhető, így az eredmény legfeljebb a legvalószínűbb döntés lehet. A gépi algoritmus logikája nem fordítható le a jogi logikára, az pedig már hab a tortán, ha egy jogvitában két gépi logika felett (ügyvédek–felek gépi esetfeldolgozáson alapuló keresete és ellenkérelme) egy harmadik (bírói) gépi intelligencia dönt.

A szubjektív oldalon a leghangsúlyosabb érv talán az, hogy a bírói gondolkodás olyan belső (tanult, fejlesztett, specializált) kognitív folyamat, amely értelmezni és értékelni képes a jogvita (vagy jogeset) valamennyi – így az emocionális, értékorientált – feltételét. A döntés kerete a társadalmi igazságosság, amelyet a jogalkalmazás és a jogfejlődés egy adott fázisában csak egy bírói szubjektum mérlegelhet. A jog maga olyan társadalmi konstrukció, amelynek kontextusát meg kell érteni a döntést hozó bírónak, és erre a mesterségesintelligencia-alapú döntéshozatal képtelen.[10]

A bíró és a számítógép vitájában a gépi intelligencia mellett érvelők éppen ezt a szubjektivitást akarják kiiktatni. Az informatika fejlődésével az objektív korlátokra utaló érvek elsöpörhetők, azonban a szubjektív ellenérvek nem igen.[11] Szükségtelen mitizálni a bírói munkát, mert – láthatóan erősödik a trend – bizonyos kisebb jogviták elrendezhetők a gépi intelligencia segítségével. A fogyasztóvédelem területén korábban bemutattuk a légi járművek utasainak jogvitarendezését a kibertérben[12], ehhez hozzátehetnénk az óvadék összegének meghatározását, a peren kívüli eljárások vitarendezését, vagy a szabálysértés területén a szankciók átváltoztatásának gépi megoldását.

A hosszúra nyúlt, az érvek egymás elleni hadrendjét feltörni képtelen írások mellett azonban – úgy tűnik – körvonalazódik egy kompromisszumos álláspont. A kompromisszum lényege a számítógép és a döntnök (bíró, adminisztrátor, közvetítő, titkár) koalíciója, együttműködése. Erre biztatnak a következő részben bemutatandó kritikák, melyek a jogalkalmazás mindennapjait vizsgálva intenek óvatosságra, de erre utal az is, hogy a gépi intelligencia nélkül a jogalkalmazó – a jog mai, különösen összetett rendjében – elveszett.

A gépi intelligencia hatásáról szóló viták másik ága a jogászi munkaerőpiac alakulását, jelenét és jövőjét érinti. A jóslatok kezdetben radikálisak voltak, nem egy álláspont a jogászok eltűnését vizionálta.[13] E társadalomnak kedves folyamat azonban nem az eltűnés, hanem a szakmai átalakulás felé mutat. Ezt követeli meg a jogi piac, ahol a költségtakarékosság, hatékonyság, az eredményesség, az ügyfél (fél) minél korszerűbb kiszolgálása, és a piaci verseny rákényszeríti a foglalkozási csoportokat tudásuk, tevékenységük átértékelésére és átrendezésére. Húsz évvel ezelőtt még láttunk olyan ügyvédet, aki írógéppel felvértezve éjszakába nyúlóan írta beadványait és peres iratait, s büszke volt arra, hogy azt sem tudja, mi az a számítógép. Napjainkban – jóllehet mindnyájan nem tűntek el – a peres beadványokat online platformon kell eljuttatni a bírósághoz, e-mailt, elektronikus aláírást kell használni, és digitalizált szerződésekből, nyomtatványokból kell dolgozni. A téma folytatása hosszúra nyújtaná írásunkat, csak jelezni szerettük volna, ha a mesterséges intelligenciának a jog közegére gyakorolt hatását szeretnénk bemutatni, nem térhetünk ki a társadalomszerkezeti, munkaerőpiaci változások felvillantása elől sem. Nézzük meg azonban azokat a kritikákat, amelyek a gyakorlatból eredeztetve komoly jogállami problémákat jeleznek az algoritmusok használatánál, és vizsgáljuk meg, vajon a javasolt gyógymód elegendő-e a kételyek eloszlatására.

A cikksorozat első részét itt, a másodikat itt, a harmadikat itt, a negyediket itt , az ötödiket itt, a hatodikat itt, a hetediket itt, a nyolcadikat itt , a kilencediket pedig itt olvashatja el.

Lábjegyzetek:

[1] Gyekiczky Tamás: Jogrendszerek a Digitális Társadalomban. Wolters Kluwer, Budapest, 2020

[2] Pokol Béla: A mesterséges intelligencia társadalma. Kairosz Kiadó, Budapest, 2018., Tóth András (Szerk.): Technológia jog. Új globális technológiák jogi kihívásai. Károli Gáspár Református Egyetem Állam- és Jogtudományi Kar, Budapest, 2016. Udvary Sándor: Fémrabszolga vagy rivális életforma? A robotok jogi szabályozásának első lépései. Gazdaság és Jog, 2018/12. Udvary Sándor: Az önvezető gépjárművek egyes technikafüggő szabályozási kérdései. In: Gellén Klára (szerk.): Jog, innováció, versenyképesség. Wolters Kluwer, Budapest, 2017. 75–88. Dr. Darák Péter: A mesterséges intelligencia a közszférában. A Győri Jogi Kar 25 éves jubileumi évnyitóján elhangzott előadás (2020. szeptember 2.) Futó Iván: Mesterséges Intelligencia a közigazgatásban: szakértői rendszerek v. gépi tanulás. Új Magyar Közigazgatás, 2020. március, 13. évfolyam, 1. szám. https://www.researchgate.net/publication/341120467. 2020.01.15. letöltés.

[3] Klaus Mainzer: Küstliche Intelligenz – Wann übernehmen die Maschinen? Springer Verlag, Berlin, 2016. 3

[4] Jeremy Barnett – Adriano Soares Koshiyama – Philip Treleaven: Algoritms and the Law. Confidental. https://discovery.ucl.ac.uk/id/eprint/10076036/7/Treleaven_Algorithms_Law_and_Regulations_AAM.pdf. 2021.01.12. letöltés

[5] Peter Müller – Nikolaus Pöchhacker: Algorithmic Risk Assessment als Medium des Rechts. Medientechnische Entwicklung und institutionelle Verschiebungen aus Sicht einer Techniksoziologie des Rechts. Österreich Z Soziol (2019) (Suppl 1) 44:157–179 https://doi.org/10.1007/s11614-019-00352-5.

[6] Az algoritmusok felhasználásának 1960-as években kezdődő történetéről és sokaságáról áttekintést ad: John O. McGinnis – Steven Wasik: Law’ Algoritm. Florida Law Review, Volume 66, Issue 3. Art.2., 2015. February. http://scholarship.law.ufl.edu/flr/vol66/iss3/2.

[7] A jogi informatikai technológiák áttekintését adja: Jens Wagner: Legal Tech und Legal Robot c. könyvében. Jens Wagner: Legal Tech und Legal Robot. Der Wandel im Rechtsmarkt durch neue Technologien und künstliche Intelligenz. Springer Gabler, Springer Fachmedien Wiesbaden GmbH, 2018

[8] A GDPR esetében erre hívja fel a figyelmet Diana Sancho a Automated Decision-Making under Article 22 GDPR: Towards a More Substantial Regime for Solely Automated Decision-Making. c. tanulmányában. Im.: Algorithms and Law. (Edited by Martin Ebers and Susana Navas). Cambridge University Press, 2020. 136.-156.

[9] Anthony D’Amato: Can / Should Computers Replace Judges? Georgia Law Review 1277 (1977)

[10] Néhány írás a vitából: Székely jános – Veress Emőd: A mesterséges intelligencia és a jogalkalmazás. Korunk, 2020. 3. sz. 94.-100., Franziska Oehmer: Robot Judge: Verurteilt im Namen des Algorithmus? Digital Society Blog., https://www.hiig.de/robot-judge-verurteilt-im-namen-des-algorithmus. 2020. 01. 08-ai letöltés. A Perspective on Legal Algorithms · MIT Computational Law Report

https://law.mit.edu/pub/aperspectiveonlegalalgorithms/release/3. 2020.01.08. letöltés.

[11] Zödi Zsolt szerint semmilyen szoftver nem képes célokat kitűzni, az adatok értelmezésének kereteit meghatározni, váratlan, innovatív döntést hozni, megnyugtatóan indokolni és főként nem tud értékek közt mérlegelni, vagy értékkonfliktusokat feloldani. Ezért szükség lesz jogászokra, de nem feltétlenül ugyanazokban a munkakörökben, mint jelenleg. Idézi: Sági György: Digitalizációs kihívás előtt a jogászok és az autókereskedők. www.digitrend.hu, 2018. november 19. 2021. 01. 08-ai letöltés

[12] Gyekiczky Tamás: Jogrendszerek a Digitális Társadalomban. Id.mű. Petrus Szabolcs: Jogászok helyett algoritmusok. Jogászvilág. 2019. augusztus. 16. https://jogaszvilag.hu/uzlet/jogaszok-helyett-algoritmusok. 2020. 01. 09-ai letöltés.

[13] Leginkább Susskind nézeteit szokták idézni. Richard Susskind, Daniel Susskind: A szakmák jövője. Budapest, Antall József Tudásközpont, 2018. Illetve Richard Susskind: Az ügyvédség vége? Budapest, Wolters Kluwert Kft. 2012

---