A digitális társadalom olvasatai – VIII.

Ez a cikk több mint egy éve került publikálásra. A cikkben szereplő információk a megjelenéskor pontosak voltak, de mára elavultak lehetnek.

Alábbi cikksorozatában a szerző a digitális társadalom különböző aspektusait tárja elénk, igyekezve lényegre törően bemutatni szerkezetének fontosabb csomópontjait, és összegezni a tudásrendszerek, az internet, a mesterséges intelligencia, a hálózati társadalmak fontosabb, a jogalakulás szempontjából releváns mozgásait. Ezúttal a jogrendszer tartóeleme, a döntés problematikáját veszi górcső alá.

A döntés problémája

A jog gyakorlata döntésekre épül.[1] Nem véletlen, hogy a mesterséges intelligencia éppen ezen a ponton hatolt be a jogi rendszerbe, s emiatt vált rendkívül szimpatikussá a jogászok körében. Minden szöveginterpretációra épült jogi argumentáció – írta Niklas Luhmann – rendelkezik egy adott döntésre való vonatkozással. Ám döntés tárgya magának a jog belső kódjának, a jog/jogtalanság bináris kódnak a működtetése is. A bíróságnak az eléje került ügyben döntenie, cselekednie kell. Döntésében mindenkinek meg kell bíznia, állásfoglalásának kizárólagosnak, kommunikálhatónak és nyilvánosnak kell lennie.[2] A jogi eljárások a döntés programozásának eljárásai, menetét a jogalkotó előre rögzíti a jog normáiban. Az eljárás-, és a normaprogram azonban nem azonos egymással, ezért a jog programozottsága többsíkú.[3]

A jogi rendszerben működő kondicionáló és a célprogram közül a technicizálásra az első a leginkább alkalmas. A kondicionáló programok körébe a jog szükséges alkotórészét képező joghatások mellett (melyeket előre kell látni – Gy.T.), beletartoznak a jogi rendszer működésében fellelhető más, racionalizált rendszerelemek is. Legtisztább esetben ezek a matematikai, vagy a logikai kalkuláció kiindulópontjai, szélsőséges esetben a kondicionáló program algoritmusok alapján automatizálható folyamatának részei. Ha az algoritmusok nem hozhatók létre, a kondicionáló program lehetővé teheti a döntési folyamat lényegi leegyszerűsítését, így a döntéshozó megismerheti a saját programját, amit megvizsgálhat abból a szempontból, hogy a döntéshez szükséges információkat a programozott leegyszerűsítés tartalmazza-e vagy nem.[4]

Niklas Luhmann már a múlt század nyolcvanas éveiben (könyvének első kiadása 1980-as) a jogi rendszer működésének immanens lehetőségeként fogalmazta meg annak algoritmizálhatóságát. Leírásának fontos eleme, hogy e lehetőség a döntéshozó szempontjából merül fel, hiszen a jogi rendszer központi magja a jogalkalmazó (bíró, hivatalnok). Elméletét az azóta eltelt idő megerősítette, mivel a legsikeresebbnek tartott jogi algoritmusok döntéstámogató rendszerek, a jogi döntéseket szolgálják ki.

Könnyű lenne egyenlőségjelet tenni a jog matematikai programozhatóságának lehetősége és a számítógépes informatikai rendszerek programjai közé. Létezik azonban egy olyan, nem elhanyagolható körülmény, amit már Arisztotelész felfedezett. Rámutatott ugyanis arra, hogy a gondolkodás programozottságát a cselekvésnek kell követnie, a logikai gondolkodás utolsó elemét követnie kell a cselekvés első lépésének. A gondolkodás – célkitűzés – és az elképzelt eredmény közé be kell illeszteni azonban egy eszközt, amely mérlegel, optimalizál és kalkulál.[5] Az eszköz lehet mesterséges – algoritmus –, illetve olyan gépi technika, amely e feladatokat hatékonyan ellátja. Anthony D’Amato 1977-ben tette fel a kérdést, vajon pótolhatja a számítógép a bírót?[6] Az előnyöket és a hátrányokat mérlegelve nyitva hagyta a kérdést, ám az egyértelmű válasz még napjainkban is hiányzik. Ennek oka egyfelől, hogy a kérdés már nem a bíróra, hanem az igazságszolgáltatás egészére, a jogszolgáltatás teljes terjedelmére vonatkozik, másfelől az eltelt évek fejlesztései nem bontották le a bírók pulpitusait, jóllehet átalakították munkakörnyezetüket. Úgy tűnik, a változások ellenére a döntés problematikája – mint a jogrendszer egyik tartóeleme – még mindig érdeklődésre tarthat számot.

A döntésközpontú vizsgálódás hátránya, hogy leegyszerűsíti a jogi döntések valódi természetét. Ellentmond az utóbbi évtizedek uralkodó szemléletének, amikor eltekint a bíró személyiségének és a bíró tevékenységét körülölelő társadalmi kapcsolatrendszernek az elemzésétől. Számot vetve mindezzel, a döntések és az algoritmusok közötti kapcsolódási pontok feltárásához mégis a formális – logikai szemléletmódon keresztül visz az út.[7]

Az informatikai döntéselmélet kulcsa – változatlanul – az arisztotelészi logika. Fő argumentációja szerint a helyes premisszákból (konstruktív tényállás – jogi norma) helyes (azaz jogszerű) konklúzió, ergo döntés születik. A gépi vezérlés a premisszák – és a konklúzió viszonyában jeleskedhet, elegendő erre egy megfelelő szoftvert írni, vagy egy programot kidolgozni. A konstruktív tényállás esetében nem merül fel a helyes/helytelen vagy az igaz/nem igaz-kérdése sem.[8] Nem merül fel az sem, hogy a konstrukció alapjai milyen szélesen támaszkodtak a bizonyítékok rendszerére, pusztán a bírói prioritás (Posner) mint a logikai következtetés vezérfonala fontos. „Az információ minden byte-ja, amit a bíró az igazmondás forrásaként befogadott, feltehetően megváltoztatja az a-posteori valószínűséget” – írta Posner.[9] Az információáramlás logikai útja pedig – nagy tömegű információ esetében – olyan nagy tömegű információkezelési (statisztikai) programok után kiált, amelyek túlnőnek az egyedi esetek kezelésén. Posner e ponton a Bayes-i valószínűségelméletet nevesíti, majd kemény kritikával érvel e módszer ellen.

Bayes a XVIII. század közepén úgy vélte, hogy egy esemény bekövetkezésének valószínűségét előre lehet látni a múltbeli tapasztalatok és új bizonyítékok alapján. A Bayes-hálózat egy valószínűségi grafikus modell – határozza meg a Wikipédia szócikke[10] –, amely egy sor változón és feltételes függőségen keresztül irányított körmentes gráf (DAG). A Bayes-i hálózatok ideálisak egy bekövetkezett esemény felvételére vagy bekövetkezési valószínűségének előrejelzésére. Arra, hogy a lehetséges ismert okok bármelyike hozzájárul(t) az adott esemény bekövetkezéséhez. A Bayes-hálózatok általánosításait, amelyek egy adott bizonytalansági fokon képesek képviselni és megoldani a döntési problémákat, hatásdiagramoknak nevezzük. Hunyadi László – aki szerint az eredeti Bayes-i modellnek nem sok köze van a mai, algoritmusok által használt módszerhez – úgy foglal állást, miszerint a Bayes-i statisztika lényegében egy inverz valószínűségszámítás. Alapvető tétele szerint a valószínűségek felcserélhetők. „Amennyiben a feltételes valószínűségeknek ok-okozati interpretációt adunk, akkor az okok és okozatok egymással való kapcsolatát, az okozati láncon való kétirányú mozgást írja le. Amennyiben előzmény-következmény módon gondolkodunk, akkor időben történő visszafelé következtetés eszközét is láthatjuk a Bayes-tételben. Mindenképpen a fordított irányú gondolkodás (inverz-valószínűségek számítása) az az elem, ami itt lényeges, és ez volt az a mozzanat, ami a klasszikus alkalmazásokat jellemezte.” [11]

Posner szerint az ok-okozati lánc a bíró esetében szubjektív. Az egyik bíró esetében kiemelt prioritás – okozati lánc – egy másik bírónál megváltozik, holott mindkettő ugyanabból az információs halmazból indul ki, ugyanazon módszerrel. A probléma ugyanis az, hogy a Bayes-i hálózatba rendezett információhalmaz alapján frissíthetők az egyes részhalmazok állapotát jelző változók is, a részhalmazt jellemző változók újrafelvétele nélkül. A bíró – így Posner –, amennyiben más „előzetes elképzeléssel” rendelkezik, vagy más prioritásokat emel ki, mint a kollégája, eltérő valószínűségi következtetésekhez juthat. Ugyanakkor mindketten egy olyan alapanyaggal dolgoztak, ahol az egyes, egyedi információkat nem szükséges külön kezelni, mert az ok és okozat relációjában információcsoportok, -részhalmazok is állhatnak.

Mindez csak a következtetésre, a következtetés valószínűségére, de nem a döntésre, és nem a cselekvésre vonatkozó elképzelés. A bírói döntés továbbra sem könnyen modellezhető. Különösen akkor nem, ha nagyszámú kalkulálható elemcsoportról van szó, avagy nem a következtetési láncolatot, hanem a következtetés szabályait próbáljuk meghatározni. A kérdésre adandó választ az időközben kifejlesztett mesterséges gondolkodó rendszerek még nehezebbé tették, így napjainkban – amikor ráadásul az adatrendszerek, információs struktúrák új korszakát éljük – új utakat és új válaszokat, vagy új kérdéseket kell keresnünk.[12]

Az informatika oldaláról jelentős előrelépés – sorozatunk előző részében bemutattuk – a mesterséges intelligencia (MI) elterjedése volt. Nem csodálható, ha az MI átírta a bírói magatartás és döntés problémáinak felvetését, megváltoztatta a nyitott kérdések spektrumát. Új területeket jelölt ki, kiterjesztve így mind a modellkészítés szükségességének, mind a gépi gondolkodásnak és problémamegoldásnak a hatókörét. Ellentétben a személyes bírói priorizációval, magának a döntési zsinórmértéknek a meghatározása is a mesterséges intelligencia feladata lett. A prioritások megfogalmazása az MI-alkalmazás első lépése, magában foglalja a rangsorok vagy a sorrendek kialakítását, figyelembe véve bizonyos tényezők összehasonlítás alapján kalkulált költségeit. A prioritások meghatározása együtt jár az osztályozás, a kapcsolódások, a szűrések szerkezetének létrehozásával.[13] A döntés lépcsői a probléma diagnosztizálása, a beavatkozások közötti szelekció, végül a beavatkozás kivitelezése (implementation). A lépések a bizonyosság vagy a rizikó és bizonytalanság (uncertainty) feltételei között mennek végbe, a végeredmény a döntés/vagy a döntés elősegítése lesz.[14]

Láttuk, jogászok és informatikusok egyaránt modelleket készítenek, melyekben a valóságból leszűrt tényekre építve a következtetés láncolatain keresztül döntéseket alapoznak. Minden fellelhető azonosság mellett azonban e modellek lényegileg eltérők, és nem pusztán azért, mert az egyiket gép, a másikat ember alkotta. A jogot feldolgozó informatikai rendszerek a gráfok, a hálózatok, az algoritmusok világa, a jogi modellek eszközrendszere más. A jogalkotói modellkészítés nem öntanuló algoritmus, a hibáért százszoros árat kell fizetni. A korrekció időbe, pénzbe, társadalmi konfliktusokba kerül. Mindennek elkerüléséhez a jogról készült informatikai modellek segítséget nyújtanak, de nem tudják pótolni az alapvető hiányokat.[15]

Mireille Hildebrandt szerint annak okát, hogy a jogi modellek nem képezhetők le egyszerű transzformációval az algoritmusok és az informatika nyelvére, a jog (jogi rendszer) – nevezzük így – szociológiai sajátosságaiban találjuk meg. A szabályozási logika a jogi-informatikai (algoritmikus) rendszerekben (code-driven/kódorientált, illetőleg date-driven/adatorientált) alapvetően eltér a jogi szabályozás logikájától, amelyet Hildebrandt (hipotetikusan) text-driven/szövegorientált szabályozási rendszernek nevezett el.[16]

A kódorientált szabályozás minden algoritmikus rendszer alapja. „Amennyiben ez adott, akkor az következik”- (If this then that – IFTT) logika egy úgynevezett döntési fát (elágazásokkal tarkított fa) alakít ki. A jogi döntések esetében e rendszer részévé csak azok a jogi normák és jogtárgyak lesznek, melyek e láncolatban részt vesznek. Feltéve a kiinduló premisszák igazságát, igaz döntésekhez jutunk, ellenkező esetben nem, ám ez nem derül ki a rendszerből magából. Az adatorientált szabályozási rendszerben a rendszer mozgatója az adat lesz, nem pedig a jogi szakértők véleménye, vagy a kóddá átalakított jogi információ. Az ALI (agnostic machine learning) a természetes nyelvek feldolgozásán, a jogi szövegek megtanulásán, a megerősített tanulás technikáján alapul. Az ALI nem determinisztikus rendszer, hanem választások, hibák, tanulási megerősítések folyamatában épül fel. ALI megpróbál minél közelebb kerülni a szakértői tudás feltehetően szimulálható modelljéhez, a korreláció mértéke sikerének fokmérője.

A jog azonban kettős szabályozási természettel rendelkezik. Egyfelől külső (kifelé irányuló) szabályozási irányként nyomást gyakorol az emberi magatartásokra. Másfelől szabályozza a jogrendszeren belüli történések tartalmát és terjedelmét, többek között a jogalkalmazó szervek döntéseit. A két különböző szabályozási irányt a szerző „cybernetic regulation”, illetőleg „legal regulation” elnevezésekkel írta le. A kibernetikai szabályozás lényege Norbert Wiener óta a magatartások feletti rendszerellenőrzés, a világos célok kitűzése, a célmegvalósulás visszajelzése, a magatartások sikeres befolyásolása. Mindez azonban nem azonos a jog alapvető sajátosságával, mert a jog lényegileg nem a magatartások irányítására, hanem a jogi normák megalkotásának szabályozására irányul. Jóllehet fontos az az út, amin az individuum számára eljut a jogi norma, fontos a norma felcímkézése, ám a modern jog szabályozási tárgya mégis a jog „intézményi faktora”. A modern jog a pozitív jogot meghatározó szabályok és elvek készletét alkotja, ezzel megalapozza, mi számít vagy mi minősül a jogi norma megszegésének vagy jogi igazságnak. A modern pozitív jog ezért „szövegvezérelt”, a jog/jogtalanság dimenziójában mozog.

Úgy tűnik, visszajutottunk Niklas Luhmannhoz. A bináris kód determinációja azonban Hildebrandt írásában a továbbépített jogi hermeneutika (szövegfeltárás) és új jogi jelentéstan kialakításában oldódik fel, amit az ALI (valljuk be, ez Big Data-elemzés) nem képes teljesíteni. Mégis ezen a nyomvonalon szeretne elindulni, kiiktatva az adatelemző algoritmusok számos hibáját (például milyen szövegen tanítják, hogyan fordítják le az algoritmusok nyelvére a jog szövegeit, miként történik a szelekció és az osztályozás). Hogy mire jutott, erre visszatérünk, amint arra is, milyen választási lehetőségeink vannak az algoritmusok körében. Következő írásunk e kérdésekkel foglalkozik.

A cikksorozat első részét itt, a másodikat itt, a harmadikat itt, a negyediket itt , az ötödiket itt, a hatodikat itt, a hetediket pedig itt olvashatja el.

Lábjegyzetek:

[1] „… ahhoz, hogy egy adott helyzet vonatkozásában az alkotmányosság, jogszerűség, vagy jogosultság megállapítható legyen… valakinek, valahol, valamikor döntenie kell, és ehhez ezért mindenekelőtt … szabályt, hatáskört és eljárást kell biztosítani néki.” Varga Csaba: A jogi gondolkodás paradigmái. Szent István Társulat az Apostoli Szentszék Könyvkiadója, Budapest, 2004. 274 – 275.

[2] Niklas Luhmann: Das Recht der Gesellschaft. Suhrkamp Verlag, Frankfurt am Main, 1993. 307. és 364.

[3] Niklas Luhmann: Ausdifferenzierung des Rechtes. Beitrӓge zur Rechtssoziologie und Rechtstheorie. Suhrkamp Verlag, Frankfurt am Main, 1999. Luhman szerint a jogrendszer programjai egyrészt kondicionáló programok (Konditionalprogramme), másrészt olyan programok, amelyek a különböző célok beprogramozását szolgálják (Zweckprogramme). A kondicionáló programok a jogrendszer önreferenciáját, illetőleg a külső környezet kihívásaira megfogalmazandó válaszait (Fremdreferenz) szolgálják. Instruálják a jogrendszert arra, miképpen kell összekapcsolnia a belső felépítettség önmagára vonatkozó jogi struktúráit a külső, környezetorientált kihívásokkal. A célprogramozás teljesen más jellegű. A célok programozása olyan döntéselőkészítés, amely a múlt, a jelen és a jövő viszonylatában fejti ki hatását. A jog programozottságának kérdéseire bővebben: Gyekiczky Tamás: Valósággyár (Szociológiai elemzés a bírói gondolkodásról) Patrocinium, Budapest, 2020. 324.

[4] Niklas Luhmann: Rechtssoziologie.3. Auflage. Westdeutscher Verlag, Opladen, 1987. 230.

[5] „Nem a célokat, hanem az eszközöket mérlegeljük. Az orvos nem azt fontolgatja, hogy gyógyítson-e, a szónok sem, hogy meggyőzzön-e, az államférfi sem azon hezitál, hogy jogot és törvényt teremtsen, és senki sem a célt mérlegeli. Mindenki feltételezi a célt, és azt fontolgatja, hogy az hogyan, milyen eszközökkel érhető el, és hogy azáltal könnyen és a lehető legjobban érhető-e el. És ha valamilyen eszközzel elérhető a cél, azt fontolgatjuk, hogy azzal az eszközzel hogyan, milyen módon érhetjük el, amíg a legelső okhoz el nem jutunk. Ez az ok a felfedezés sorában a legutolsó… és ami az elemzés rendjében az utolsó, a megtörténés rendjében elsőnek tűnik. És ha lehetetlenséghez jutunk, a keresést feladjuk, például ha pénzre van szükségünk, azt viszont megszerezni nem lehet. Ha azonban valami lehetségesnek tűnik, akkor megpróbálkozunk vele.” Arisztotelész: Nikhomakhoszi Etika. III. könyv, 3, 1112b. Arisztotelész megközelítését később Newell és Simon, a célalapú programozás logikájának kidolgozásában hasznosította. Idézi: Mesterséges Intelligencia Elektronikus Almanach

www.project.mit.bme.hu/mi_almanach/books/aima/ch01s02. Letöltés 2020. 02. 01.

[6] Anthony D’Amato: Can / Should Computers Replace Judges? Georgia Law Review 1277. (1977)

[7] A kritikára vö: Richard A. Posner: How Judges Think. Harvard University Press, Cambridge, Massachusetts, 2010. H.L.H. Hart életművén keresztül mutatja be a különböző irányzatokat Dougles Lind. Douglas Lind: Logic, Intuition, and the Positivist Legacy of H.L.A. Hart, 52 SMU L. Rev. 135 (1999)

https://scholar.smu.edu/smulr/vol52/iss1/16. Hivatkozhatunk saját elemzésünkre is, amely „Valósággyár” címen jelent meg a Patrocinium kiadónál. Gyekiczky Tamás: Valósággyár (Szociológiai elemzés a bírói gondolkodásról). Id. mű

[8] Erről: Gyekiczky Tamás: Valósággyár (Szociológiai elemzés a bírói gondolkodásról). Id. mű

[9] Richard A. Posner: How Judges Think. Id. mű. 66.

[10] https://en.wikipedia.org/wiki/Bayesian_network. 2020. 09. 24-ei letöltés

[11] Hunyadi László: A Bayes-i gondolkodás a statisztikában. Statisztikai Szemle, Budapest, 89. évf. 10.-11. sz. 1150.-1171.

[12] Történeti összefoglaló: John O. McGinnis and Steven Wasick, Law’s Algorithm, 66 Fla. L. Rev. 991 (2015). Available at: http://scholarship.law.ufl.edu/flr/vol66/iss3/2. 2020. 09. 10-ei letöltés

[13] Nicholas Diakopoulus: Algorithmic Accountability: On the Investigation of Black Boxes. Tow Center for Digital Journalism, Columbia University, July 10, 2017. https://academiccommons.columbia.edu/doi/10.7916/D8ZK5TW2. 2020. 12. 20-ai letöltés

[14] Uri J. Schild, John Zeleznikow: Comparing Sentencing Decision Support Systems for Judges and Lawyers. Journal of Decision Systems 17:4, 523-552, DOI: 10.3166/jds.17.523-552. http://dx.doi.org/10.3166/jds.17.523-552. 2020. 08. 09-ei letöltés

[15] Christoph Sorge: Modellierung in Recht und Informatik. https://publications.cispa.saarland/id/eprint/623. 2016. 2020. 12. 20-ai letöltés

[16] Mireille Hildebrandt: Algorithmic regulation and the rule of law. https://royalsocietypublishing.org/doi/10.1098/rsta.2017.0355 2018. Letöltés: 2020. 12. 15.

---