Németországban aggodalmat és ellenállást is kelt a mesterséges intelligencia egyre bővülő igazságügyi alkalmazása.
A digitalizációban általában elmaradott Németország élen jár a mesterséges intelligencia (MI) igazságügyi alkalmazásában, így a sok felperessel folyó eljárásokban, korábbi bírósági döntések analizálásában, az ítélet-előkészítésben, korábbi verdiktek anonimizálásában. Némelyben tesztelik, másokban rutin az MI alkalmazása, miközben a benne rejlő lehetőségek kimeríthetetlennek. Ezért aggodalmat és ellenállást is keltenek.
Alkalmazási területek
A bíróságok dinoszauruszok a digitalizált világunkban – gondoljuk a poros aktahegyekkel teli bírósági épületeket láttán. Pedig az igazságszolgáltatás számos formában alkalmazza az MI-t.
A problémák, valamint etikai és jogi kérdések előtt tekintsük át az MI németországi alkalmazási területeit, mert ezáltal világossá fog válni, milyen széles körű a használata, és így milyen nagy gyakorlati jelentőséggel bírnak az elméleti diskurzusok. Az MI igazságszolgáltatási bevetése alapvetően négy csoportba sorolható:[1]
Számos, sok felperessel folyó eljárásban külön fejlesztett és tesztfázisban lévő informatikai programokat használnak. Ilyen például az OLGA (OberLandesGerichts-Assistent) a „dízelbotrányban”. Az ügyekben leginkább érintett Stuttgarti Fellebbviteli Bíróság (OLG) használja, mert több tízezer, a gyártók által manipulált károsanyag-kibocsátási szoftver miatt benyújtott keresetről kell döntenie. „Egy 180 oldalas peranyag átlagos. A történetei és jogi tényállások, valamint a felek előadásai és érvelései számos ügyben szinte teljesen azonosak. Ezért az ügyek nagyon jól csoportosíthatók. A rendszerezés pedig gyorsítja a bírói munkát. A szortírozást az OLGA pillanatok alatt elvégzi, míg egy bíró rengeteg értékes munkaidőt vesztene el a sablonos tevékenységgel” – foglalja össze az ügyekben eljáró egyik bíró, Jan Spoenle az MI alkalmazását.[2] Így például az MI kategorizálja az ügyeket a szerint, hogy melyik gyártó melyik modelljéről van szó, melyik károsanyag-kibocsátási norma lett megsértve, és volt-e visszahívás. „Az MI tehát segíti az eljárását, de nem veszi át a döntéshozatalt.”[3]
Frankfurtban és a bajorországi Ingolstadtban, ahol az Audi központja van, 2022 óta egy start-up szoftverét tesztelik az eljáró bíróságokon a „dízelbotrányban”.[4]
Egy további példa a döntés-előkészítő és -segítő MI-re a FRAUKE (FRAnkfurter Urteils-Konfigurator, Elektronisch). A Frankfurti Helyi Bíróságon (Amtsgericht) használják, ahol Európa egyik legnagyobb forgalmú reptere okán évi 15 ezer keresetben próbálják az utazók érvényesíteni a fogyasztó jogaikat, például járatkésés miatt. A FRAUKE-t tehát nem egy konkrét eljárásban, hanem egy eljárástípusban alkalmazzák. Ebben az esetben az MI nem szortíroz, hanem ítélet-tervezeteket készít a korábbi döntésekből létrehozott adatbázis segítségével. „FRAUKE nem robotbíró, hanem bírósági asszisztens” – nyugtat meg Susanne Wetzel bírósági elnök.[5] Egyrészt, mert a bíró táplálja be az adatokat, ami alapján az MI-nek dolgoznia kell. Másrészt, mert az MI korábbi bírói döntésekkel dolgozik és az új ügyekben is egy bíró állítja össze az MI által készített panelekből a döntést, szükség szerint változtatva a tartalmukon. A szoftvert az IBM a frankfurti bírókkal együtt fejlesztette ki. A bírák segítségével választották ki az amerikai szoftveróriásnál az adatokat, melyek relevánsak az ítéletminták gépi megírásában, mint például a kiindulási reptér és a desztináció, a repülési és késés miatti várakozási idő. A FRAUKE a programozásakor relevánsként belé táplált adatok alapján határozati javaslatot tesz a bíró elé, például, hogy a keresetet el kell utasítani, mert időjárási körülmények, tehát vis maior okozta a kését.[6] „Amit korábban copy-and-paste-el ollóztak össze a bírók, azt most az MI állítja össze, levéve rólunk a sablonmunka terhét” – foglalja össze lényegre törően az Mi előnyeit a bíróság elnöke, dr. Wilhelm Wolf.[7]
A német jogászvilágban elterjedt megfogalmazás megtévesztő. Ebbe a kategóriába valójában az olyan MI-alapú szoftvereket sorolják, amelyek a bírósági irodákba beérkező beadványok feldolgozását segítik, hogy ezek hamarabb a bírók elé kerüljenek, ez által meggyorsítva a jogérvényesítést. Ezen a területen is több bíróságon használják az IBM MI-rendszerén, a Watson-on alapuló szoftvereket.[8]
Németországban sok kritikára ad okot, hogy gyakorlatilag csak a felsőbb bíróságok kiemelt fontosságúnak tartott határozatai hozzáférhetők. Tehát a bírósági határozatok nyilvánosságának elve a döntések 95-99 (!) százalékánál nem érvényesül.[9] Az alsóbb bíróságok döntéseit csak a felek ismerhetik meg. Ennek oka, hogy – adatvédelmi okokból – csak az anonimmá tett határozatokat lehet nyilvánossá tenni, a bíróságokon viszont nincs kapacitás a személyes adatok „kitakarására”. A kvázi nulladik lépés az MI használata előtt, ami szinte minden esetbe a korábbi, beletáplált döntésekkel „tanítható”, a határozatok digitalizálása. Ez a legtöbb bíróságon már nagyrészt visszamenőleg is megtörténhet. Majd ezután következik az anonimizálás, ami most indul széles körben az MI segítségével.
Ezen a területen a bajor igazságügy-minisztérium és az erlangen-nürnbergi Friedrich-Alexander-Universität közösen fejlesztett deep-learning-modellje, a GOTTBERT a legjobban működő MI-szoftver.[10] Egy másik, hesseni fejlesztés, a JANO által anonimizált határozatokat egyelőre a bíróság dolgozói ellenőrzik a hozzáférhetővé tétel előtt, de a cél, hogy hiba nélkül dolgozzon az algoritmus, és a nyilvánosságra hozatal automatikus legyen.
Általános probléma, hogy egy bizonyos területen rengeteg adat áll ugyan rendelkezésre, de – éppen a mennyiség miatt – lehetetlen ezeket emberi munkával feldolgozni, tehát kvázi hasztalanná válnak a gyűjtött információk. Ezzel összefüggésben az MI leginkább a nyomozati szakaszban tud segíteni. Például kiszűri a keresett személyt a térfigyelő kamerák felvételeiről, vagy a bűncselekményre utaló megszólalásokat, illetve egy adott eljárás szempontjából releváns mondatokat egy telefon-lehallgatási felvételből.
Idevágó példa a Kölni Főügyészség (Generalstaatsanwaltschaft), valamint az Universität des Saarlands és a Microsoft Deutschland közös fejlesztése, ami a világhálót monitorozza a gyerekpornográfia azonosítása érdekében.[11]
Egy egész különleges példa egy büntetés-végrehajtási intézet térfigyelő kameráihoz kapcsolt MI-szoftver, ami felismeri, ha egy fogvatartott öngyilkosságot kísérel meg, sőt, sokszor már azt is, ha olyasmit csinál, ami tipikus öngyilkosságot készít elő. Erről azonnal jelzést küld a bv-intézet fegyőreinek, akik így időben közbe tudnak avatkozni. Az EVAS (Ereignisgesteuerte Videoüberwachung mit automatisierter Situationseinschätzung als Instrument der Suizidverhinderung in Justizvollzugsanstalten) alkalmazásának még jogi akadályai vannak. A Bundestag szükséges jogszabály-módosítása várat magára.[12]
Az adatbázis-kezelő MI bírósági bevetésére is van példa: 2019-ben indult Rheinland-Pfalz tartományban a SMART (Semantische Metadatengewinnung und Textanalyse) alkalmazása, ami az e-aktákat PDF-dokumentummá alakítja, majd tartalmuk alapján kategorizálja, például egy csoportba rendezi a keresetleveleket, majd szortírozza azokat a keresettípus, illetve a pertárgyérték szerint.[13]
Egy további bírósági MI-szoftver erről a területről írásos jegyzőkönyvet készít a tárgyalótermi hangfelvételekből. Ennek egy továbbfejlesztett változata, ami az idegen nyelven elhangzott vallomásokat automatikusan németül ülteti át írásba.[14]
Kakukktojásként utalni kell azokra a bírósági munkát segítő komputer-programokra is, amik működése nem az MI-n alapul, például az elektronikus keresetlevél-benyújtás rendszere.
A besorolás nem egyszerű, mert a fejlesztők gyakran keveset, vagy semmit sem árulnak el a programok működéséről, különösen, ha nem bíróság vagy egyetem közreműködésével történik a fejlesztés, hanem teljes egészében kereskedelmi termékről van szó, amit egyszerűen megvásárol az igazságszolgáltatás. Ettől függetlenül egy szoftver MI-alapúnak minősítése az igazságszolgáltatásban is az utóbbi időben általánosan elfogadott nézet alapján történik, miszerint akkor beszélünk MI-rendszerről, ha az betáplált nagyszámú információ alapján, statisztikai következtetések levonásával képes az önálló tanulásra.
Összefoglalva: Az alkalmazott szoftverek sokfélesége bizonyítja, hogy az MI számottevő szerepet játszik a német igazságszolgáltatásban. Minden etikai és jogi kérdéstől függetlenül megállapítható, hogy megkönnyíti, effektívebbé, gyorsabbá teszi a jogszolgáltatást. Ahogy az is biztos, hogy csak a legelején vagyunk egy folyamatnak, ami belátható időn belül jelentősen át fogja alakítani a bíróságok működését, ahogy az MI az élet minden területén számottevő változásokat hoz és fog még többet hozni. Ezzel kapcsolatban a „dízelbotránnyal” összefüggésben az MI-t már alkalmazó Ingolstadti Fellebviteli Bíróság (Landgericht) elnöke, Bettina Mielkének felhívja a figyelmet a következő furcsaságra: eddig alig történt meg az egyes MI-rendszerek összekapcsolása, illetve az igazságszolgáltatás MI-t alkalmazó szereplői között nem alakult ki kapcsolat, információ- és tapasztalatcsere.[15]
A számítógép jobb jogász, mint az ember? Rövidesen gépek fognak jogot szolgáltatni?
Az alcímben megfogalmazott két felvetés csak két kérdés a sok közül, ami már az MI mai alkalmazása láttán is felvetődik. A jog, illetve a közigazgatás egyik legnagyobb hatású gondolkodója, Max Weber (1864-1920) már a XIX. század végén a „paragrafus-automata” minősítéssel illette a bírókat. „Felül bemennek az akták, alul kijönnek a jobban vagy kevésbé jól megindokolt ítéletek” – írta le a bírókra nézve nem túl hízelgő a hivatásukat.
Még ha Max Webernek igaza is lett volna, a jogszolgáltatás teljes automatizálása a jogállamiság és a bírói függetlenség elvével se lenne összeegyeztethető. Ezért meglepő, hogy épp az alkotmányos elvekre és a jogállamiságra sokat adó Németországról gondolja úgy az Universität Ulm jogászprofesszora, Heribert M. Anzinger, hogy „hosszú tradíciója van a jogszolgáltatás automatizálásának”.[16] Ez persze magyarázatot ad arra, hogy a digitalizáció sok területén elmaradott Németország élen jár az MI igazságügyi alkalmazásában.
Az MI gyors jogi terjedésével függ össze, hogy Németország jelentős know-how-t halmozott fel a területen és immár számottevő szoftverexportőr. Az exportsiker nagyban annak köszönhető, hogy az igazságügyi MI-fejlesztésben kevésbé érvényesül az USA fölénye, illetve az amerikai IT-óriások, mint a Microsoft és az IBM Németországban is fejlesztenek, együttműködésben a bíróságokkal – ahogy ezt az MI alkalmazására hozott fenti példák is mutatják. Ennek oka, hogy a kontinentális jogi gondolkodás nagyban eltér az angolszászétól, ezért a szoftvereknek is más elvek alapján kell működniük. Míg a kontinentális jogban nagy szerepet játszik a rendszerszerűség, a struktúra és a logika, addig a common law-ban a statisztikai módszerek, illetve az empirikus tapasztalatok állnak a középpontban.
A bírósági döntés értékítélet is
Az MI jogi terjedésének központi kérdése, hogy mekkora szerepe van, illetve még inkább, hogy mekkora szerepének kell lennie a jogszolgáltatásban az értékítéletnek, amit – és a kérdés ezért fontos – nem lehet automatizálni, statisztikai megfigyelésekből leszűrni, tehát nem gépesíthető. A német jogászságban egyértelmű többségben van az a vélemény, hogy szubjektív tényezőknek, így mindenekelőtt az értékítéletnek is szerepet kell kapnia a jogszolgáltatásban. A polgárok részéről pedig elvárás, hogy emberek döntsenek emberek sorsáról. „Ha nem ez a benyomásuk, drámaian csökken a jog és a bírósági döntések elfogadottsága” – fekteti le a már idézett Anzinger professzor egy interjúban.
Tehát alkotmányos követelmény és társadalmi elvárás is, hogy a jogi döntés egy ember, egy bíró felelőssége maradjon. A bírónak felelősséget kell vállalnia a szoftver működéséért, esetleges hibájáért is. Ezért esszenciális, hogy legalább nagy vonalakban ismerje annak működését. Mindenekelőtt tisztában legyen vele, hogy MI-t használ és ezt folyamatosan szem előtt is tartsa, kritikusan működjön együtt az MI-vel. Ez nehezebb, mint gondolnánk. Gyakorlatilag az ösztönök kikapcsolását követeli meg. Ugyanis „ha egy szoftver nekünk tetsző javaslatot tesz, hajlamosak vagyunk automatikusan elfogadni ezt, még ha tudjuk, hogy jogilag vagy morálisan nem helyes” – hívja fel a figyelmet Eric Hilgendorf, az Universität Würzburg büntetőjog-professzora egy interjúban a Süddeutsche Zeitungban (SZ)[17]. „Ez viszont végeredményben azt jelenti, hogy a gép és nem az ember döntött” – figyelmeztet.
HirdetésA digitális gazdaság uniós szabályozási közege rendkívül komplex. Ha nem fordítunk kellő figyelmet a jogi-szabályozási szempontokra, a projekt elbukhat a jogszerűségen. Ha pedig nem a leghatékonyabb LegalTech eszközöket választjuk, a piac elszaladhat mellettünk, mire kijövünk az egyébként jogszerű, de idejétmúlt megoldással.Időpont: 2024. május 8. Helyszín: Radisson Blu Béke Hotel
Külön kell szólni az MI büntetőjogi alkalmazásáról, hisz ezen a területen a bírósági döntések alapvető jogokat, akár a személyes szabadságot is korlátozhatják. A fenti alkalmazási példák mutatják, hogy jelenleg nagyrészt a polgári és a közigazgatási jogra korlátozódik az MI alkalmazása. De a már idézett büntetőjog-professzor, Eric Hilgendorf szerint „az MI-forradalom a büntetőjogot is el fogja érni”[18]. Áttörést vár a bizonyítékok értékelésében, a tanúkihallgatásban, a hazugságvizsgálók széleskörű bevetésében és a legszűkebb értelmében vett bírói tevékenységben, a döntéshozatalban is.
Kriminálprognózis és hátrányos megkülönböztetés
A legfontosabb alkalmazási terület várhatóan a kriminálprognózis lesz. Tehát olyankor fogják a bírák egyre inkább igénybe venni az algoritmusokat, amikor a kockázatokat, várható veszélyeket kell megítélniük, mint például az előzetes letartóztatásnál, vagy a feltételes szabadságra bocsátásnál. A terhelt büntetőjogi előéletét, az elkövetett bűncselekmény fajtáját, jellegét, a családi, vagyoni, munkahelyi viszonyait, vagy a büntetés-végrehajtás alatt tanúsított magatartását egy gép is tudja analizálni, és abból talán még az embernél jobban is levonni a következtetéseket, legalábbis a statisztikai jellegűeket. De az MI nem tudja pótolni a személyes tapasztalatot, és az ügyről, az érintett személyről sincs benyomása. Márpedig ezeknek a szubjektív tényezőknek is szerepet kell játszaniuk a döntésben, ha úgy tetszik, a bíró értékítéletének.
Az MI prognosztizálásba való bevonásának legfontosabb előnye abban állna, hogy jóval több statisztikai adatot és összefüggést lehetne figyelembe venni. A kriminalisztika területén ebből sok áll rendelkezésre, az MI legnagyobb erőssége pedig a minták és korrelációk kiszűrése ezekben. Legnagyobb gyengéje viszont, hogy újratermeli, sőt erősíti a korábbi emberi döntések okozta diszkriminációkat. Ezt mutatja az USA-ban a kriminálprognózisban széles körben használt MI-rendszer, a COMPAS (Correctional Offender Management Profiling for Alternative Sanctions). Például színes bőrűek esetében rendszeresen nagyobb visszaesési kockázatot állapít meg, mint fehéreknél, akkor is, ha az eset és az érintettek személyes körülményei nagyon hasonlóak. Ennek oka, hogy a korábbi, emberi döntések, melyekből az MI tanult, szintén diszkriminatívak voltak. A hátrányos megkülönböztetést az algoritmus rendelkezésre bocsátott adatok körültekintőbb kiválasztásával lehet csökkenteni. Tehát az MI alkalmazása során is szem előtt kell tartani, hogy az ember, a bíró is hajlamos a diszkriminációra. Ha az algoritmus nem diszkriminatív emberi döntésekből tanult volna, maga nem jutott volna diszkriminatív eredményre.
A bíró által elkövetett hátrányos megkülönböztetés az MI erre figyelmes tanításával is meg fog maradni. A pszichológia jól ismeri a confirmation bias jelenségét. A megerősítési torzítás az emberek ama hajlama, hogy azokat az információkat részesítsék előnyben, amelyek igazolják saját előfeltételezéseiket vagy hipotézisüket, tekintet nélkül az információ igaz vagy hamis voltára. Ez azonban azt is jelenti, hogy minél inkább kedvező tapasztalata van egy bírónak az MI-vel, mert egyszerűsíti a munkáját, annál nagyobb valószínűséggel alkalmazza, még ha objektíven nézve következetesen hibás eredményeket is prezentál.
Bírói felelősség
Heribert M. Anzinger professzorhoz hasonlóan Susanne Beck, az Universität Hannover büntetőjog- és jogfilozófia-professzora is a bírói felelősségviselésre hívja fel a figyelmet. A problémára az egészségügyet hozzák fel példaként, ahol a diagnosztikában már elterjedt az MI használata. Ami a bíróságon az ítélet a kriminálprognózis alapján, az az orvostudományban a terápia az MI segítségével felállított diagnózis ismeretében. „De mennyiben felel az orvos az algoritmus diagnosztikai hibája miatti rossz terápiáért?” – teszi fel a kérdést Susanne Beck, amire maga sem tudja megadni a jogilag és morálisan is nehéz választ[19]. Az egyetlen járható út az egészségügyben és az igazságszolgáltatásban is annak tudatosítása, hogy az MI se mindentudó, eredményeit javaslatként, döntési segítségként kell kezelni.
MI a büntetéskiszabásban
Egy további, nagyon ígéretes alkalmazási terület a büntetőjog területén a büntetéskiszabás. Világszerte, így Magyarországon is ismert[20], de igazán nagyobb országokban számottevő probléma a jelenség, miszerint régióktól függően jelentősen eltér az azonos bűncselekmények miatt kiszabott büntetések súlyossága, ami végső soron a törvény előtti egyenlőség alkotmányos elvét sérti. A megelőzés legjobb eszköze az ítéletek összevetése és az eltérést nyilvánvalóvá tevő statisztikák készítése, ami azonban a hatalmas adatmennyiség és a bűnesetek körülményeinek sokrétűsége miatt nehéz. A feladat elvégzésére kitalált MI-szoftverek fejlesztésében élen jár az Universität Köln kereteiben működő Legal Tech Lab Cologne (LTLC)[21]. Az egyetemi intézetet vezető büntetőjog-professzor, Frauke Rostalski példája a következő: megegyező anyagi és eljárásjogi szabályok mellett a betöréses lopás miatt elítéltek a kriminálstatisztika szerint Münchenben 20 százalékkal súlyosabb büntetést kapnak, mint Freiburgban. A különbség hátterében regionális büntetőjogi tradíciók állnak, melyek a bírók nagy része számára nem ismertek; a bírák nem tudatosan hoznak tendenciózusan szigorúbb-enyhébb ítéleteket. Ezt igazolja, hogy ha számokat látnak az országos átlagról és a saját bíróságuk feltűnő eltéréseiről, elkezdenek az átlag felé orientálódni.
Összegzés
Minden etikai és jogi kérdéssel, aggodalommal és ellenállással együtt is világos, hogy az MI terjedése a jogban tovább folytatódik, sőt, várhatóan felgyorsul. Különösen az elemzésemben nem érintett piaci jogi szolgáltatások területén, mindenekelőtt a szerződések jogában, ahol már régebb óta megkerülhetetlen a smart contract fogalma.
Lábjegyzetek:
[1] Das Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“ (Fn. 1) listet im Anhang alle Vorhaben der Justiz auf diesem Gebiet auf, Stand Mai 2022, Anhang, S. I ff.
[2] https://www.lto.de/recht/justiz/j/justiz-ki-kuenstliche-intelligenz-e-akte-digitalisierung-zivilgerichte/
[3] További részletek: Spoenle, Künstliche Intelligenz im Einsatz bei Dieselverfahren, DRiZ 2023, 68 f.
[4] Pressemitteilung vom 31. Juli 2023 des Hessischen Ministeriums der Justiz.
[5] https://www.computerwoche.de/a/ki-sprich-recht,3698507
[6] További részletek: esing-Wagenpfeil et al., Legal Tech im Richterzimmer? Streiflichter aus Wissenschaft und Praxis zum KI-Einsatz bei Fluggastverspätungen, Jusletter IT, 30. März 2023, online: https://jusletter-it.weblaw.ch/issues/2023/30-maerz-2023/legal-tech-im-richte_ac6e81c7c2.html
[7] https://hessen.de/presse/pressearchiv/ki-projekt-codefy-am-landgericht-frankfurt-gestartet
[8] Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“ (Fn. 1), Anhang, S. VII.
[9] Hamann, Der blinde Fleck der deutschen Rechtswissenschaft – Zur digitalen Verfügbarkeit instanzgerichtlicher Rechtsprechung, JZ 2021, 656, 658.
[10] Dickert, Künstliche Intelligenz in der Justiz, ZdiW 2023, 137, 141.
[11] Brodowski/Hartmann/Sorge, Automatisierung in der Strafrechtspflege. Leal Tech, KI und eine „hybride“ Cloud im Einsatz gegen Kindesmissbrauch, NJW 2023, 583–588.
[12] Bundestags-Drucksache 20/8116 vom 25. August 2023.
[13] Biallaß, KI im Zivilprozess. Aktuelle Projekte, Chancen und Risiken, Rethinking Law 2023, 22 f.; Dickert, Künstliche Intelligenz in der Justiz, ZdiW 2023, 137, 140.
[14] Grundlagenpapier „Einsatz von KI und algorithmischen Systemen in der Justiz“ (Fn. 1), Anhang, S. II, VIII.
[15] https://legal-tech.de/kuenstliche-intelligenz-in-der-justiz-pilotprojekte/#_ftn46
[16] https://www.uni-ulm.de/universitaet/hochschulkommunikation/presse-und-oeffentlichkeitsarbeit/unimagazin/online-ausgabe-uni-ulm-intern/uni-ulm-intern-nr-351-februar-2020/kuenstliche-intelligenz/ki-rechtsprechung/
[17] https://www.sueddeutsche.de/politik/ki-justiz-gerichte-1.6057431
[18] https://www.sueddeutsche.de/politik/ki-justiz-gerichte-1.6057431
[19] https://www.sueddeutsche.de/politik/ki-justiz-gerichte-1.6057431
[20] https://szakcikkadatbazis.hu/doc/1290807
[21] https://rostalski.jura.uni-koeln.de/sites/strafrechtprof2/Dokumente/Smart_Sentencing_Pressemitteilung_des_Legal_Tech_Lab_Cologne.pdf
