Ez a cikk több mint egy éve került publikálásra. A cikkben szereplő információk a megjelenéskor pontosak voltak, de mára elavultak lehetnek.
E dolgozat a Lakatos, Köves és Társai Ügyvédi Iroda, az Új Jogtár és az Ars Boni jogi folyóirat által kiírt 2014. évi cikkíró-pályázat keretében született, és 36. helyezést ért el.
Vajon, ha egy mesterséges intelligencia, amely elsősorban azért íródott, hogy bizonyos mértékben helyettesítse az emberi gondolkodást és önállóan hozzon döntéseket, működése során hibát követ el, ki tehető azért felelőssé? A cikk célja felvázolni, hogy vajon a mesterséges intelligenciát szimuláló szoftverek viselkedésére milyen szabályok lehetnek irányadóak magánjogi felelősségi szempontjából, különös tekintettel az online játékokban előforduló visszásságokra.
A mesterséges intelligenciák általános jellemzői és felosztásuk
Mivel a mai jogrendszerek nem ismerik kifejezetten a mesterséges intelligencia fogalmát, érdemes kitérni először arra, hogy a technika fejlődésének szempontjából történetileg mit is tekintenek annak. A filozófiában azzal kapcsolatban, hogy mi a mesterséges értelem, négy irányzat alakult ki.
1. Emberi módon gondolkodó rendszer: az emberi elme működését és a megismerést modellező rendszereket tekinti ez az irányzat mesterséges intelligenciának.
2. Emberi módon cselekvő rendszer: ez a megközelítés Alan Turing matematikus nevéhez kötődik, aki a róla elnevezett Turing-teszt alapján az emberi viselkedést állította az intelligencia fő kritériumának és az elérendő célnak.
3. Racionálisan gondolkodó rendszer: ez az irányzat az emberi gondolkodásnál valamilyen értelemben tökéletesebb, racionálisabb gépek és szoftverek megalkotásában látja a mesterséges intelligencia fejlesztés célját.
4. Racionálisan cselekvő rendszer: a modern informatikai tudományok megközelítése, amely nem tűzi ki azt célul, hogy a kialakított rendszerek a szó klasszikus értelmében gondolkodjanak vagy imitálják az emberi viselkedést, csak azt, hogy minél racionálisabban viselkedjenek (pl. egyértelműen tudják diagnosztizálni a betegségeket, jelezzék előre a természeti katasztrófákat stb.).
John R. Sarle definíciója szerint továbbá különbséget tehetünk gyenge és erős mesterséges intelligencia között. Gyenge MI-nek Sarle azon rendszereket tekinti, amelyek úgy cselekszenek, mintha intelligensek lennének, de ennek ellenére arról már nincs információ, hogy a rendszer valóban rendelkezik-e elmével, vagy sem. Az erős MI ezzel szemben az olyan rendszerekre értendő, amelyek valóban gondolkodnak, önálló tudatuk van. A gyenge MI-re számtalan példát találunk a mindennapi életben, az egyik legjobb azok működési elveire talán a sakkprogram. Ezt azonban csak és kizárólag a sakk játszása szempontjából tekinthetjük valamilyen szintén intelligens entitásnak, mivel az semmi máshoz nem ért. A sakk szabályain és azok alkalmazásán kívül számára nem létezik semmi a világon, a játékban felmerülő problémákon kívül más természetű kihívásokat képtelen értelmezni.
A mesterséges intelligencia és a jog kapcsolata
Az első utalást az MI viselkedésének törvényi szabályozására a szépirodalomban kell keresünk. Isaac Asimov 1950-ben megjelent, tudományos-fantasztikus novelláskötetében, az „Én, a robot”-ban írja le a robotika három alaptörvényét, a „Körbe-körbe” című elbeszélés során. Asimov három alapszabálya, amelyet egy mesterséges lénynek feltétlenül követnie kell működése során, a következő: 1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen. 2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének. 3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba. Asimov később a fenti három törvényt kiegészítette a nulladik törvénnyel, amely szerint „A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie, hogy az emberiség bármilyen kárt szenvedjen.” Az eredeti törvényeket pedig kiegészítette a nulladik megszegésének tilalmával. Mint látjuk, ez az előírás a későbbi háromhoz képest elsődlegességet élvez, tehát a robot az első törvényt is megszegheti, ha ezzel az emberiség javát szolgálja. A klasszikus Asimovi törvények gyakorlati alkalmazásuk során azonban könnyen ellentmondásba keveredhetnek egymással.
Mi történik például akkor, ha egy ember arra utasít egy robotot, hogy sértsen meg egy másik embert, mivel ez annak a javát szolgálja. Ez akkor fordulhat elő, ha például egy robot orvosi szolgálatban vesz részt és egy műtét végrehajtása során kap különböző utasításokat. Ezt az ellentmondást próbálta meg feloldani az író a nulladik törvény megalkotásával, amely arra utasítja a robotot, hogy működése során elsősorban az „emberiség mindenek felett álló érdekét” kell szem előtt tartania. Annak felmérése azonban, hogy egy adott szituációban mi számíthat az emberiség érdekének, rendkívül bonyolult és fejlett intelligenciát, továbbá ezen felül empatikus és morális képességet követel meg egy mesterséges tudattól. Asimov törvényei először vetették fel annak lehetőségét, hogy a mesterséges intelligenciák viselkedését nem csupán technikai, hanem egy felsőbb szinten: a jog és törvényesség szintjén is kívánatos lehet szabályozni.
A mesterséges intelligencia mint jogi entitás
A mesterséges intelligencia viselkedése a jog szempontjából kétségkívül akkor ér el egy kritikus pontot, amikor interakcióra kerül sor közte és az emberek vagy tárgyak között. Erre legtöbbször akkor kerül sor, ha az MI révén működő szoftver és az általa irányított hardver (számítógép vagy robot) valamilyen változást idéz elő a világban is, például segít egy gyárban összeszerelni a gyártósoron egy autót. Ha a hatályos jog alapján szeretnénk besorolni a mesterséges intelligenciákat, akkor először is azt kell szem előtt tartanunk, hogy azok számítógépes programok. A szoftverek jogi besorolásával a szerzői jog foglalkozik. A szerzői jog a gondolati és a művészeti alkotásra a szerzőnek vagy jogutódjának biztosítja a kizárólagos rendelkezés jogát bizonyos ideig, megvédve a művet az illetéktelen forgalomba hozatal és utánképzés ellen. A szerzői alkotás csak magasrendű alkotó, kreatív szellemi tevékenység eredménye lehet, nem pedig véletlen tevékenység vagy esemény következménye. A szerzői jogilag védett műnek „egyéninek és eredetinek” kell lennie, ami a mű szoros kapcsolatát hivatott kifejezni szerzőjével.
A magyar törvényi szabályozás szerint a szerzői jogi védelem tárgyát a szerzői jogról szóló 1999. évi LXXVI. törvény 1. §-a szabályozza, ami tételesen felsorolja, hogy milyen alkotások esnek jogvédelem alá. A törvény védi az irodalmi, tudományos és művészeti alkotásokat. Szerzői jogi védelem alá tartozik az irodalom, a tudomány és a művészet minden alkotása. Ilyen alkotásnak minősül különösen a (2) bekezdés c) pont szerint a számítógépi programalkotás és a hozzá tartozó dokumentáció akár forráskódban, akár tárgykódban vagy bármilyen más formában rögzített minden fajtája, ideértve a felhasználói programot és az operációs rendszert is. Témánk szempontjából tehát a mesterséges intelligenciát szimuláló szoftverek is mind alapvetően szerzői jogi védelem alatt állnak.
Az MI-vel kapcsolatos károkért való felelősség általános vizsgálata
A hibásan működő termékekért való felelősség szabályaival Magyarországon a termékfelelősségről szóló 1993. évi X. törvény foglalkozik. Hibásnak kell a terméket tekinteni, ha nem nyújtja azt a biztonságot, ami általában elvárható. Termék e törvény szerint az ingó dolog – akkor is, ha utóbb más ingó vagy ingatlan alkotórészévé vált –, valamint a villamos energia lehet. A polgári jogi dogmatika szerint dolognak tekintünk minden birtokba vehető, emberi uralom alá hajtható testi tárgyat. Mivel a szoftverek a fentiek alapján nem tekinthetőek dolgoknak, hanem szellemi termékeknek, így az azok hibás működéséből eredő kellemetlenségek orvoslására nem alkalmazhatóak a termékfelelősség szabályai. Mivel a számítógépes programokat szellemi termékeknek kell tekinteni, így értékesítésükre, felhasználásukra a szerzői jogi törvényben meghatározott szabályok irányadóak. A törvény szerint a szerző felhasználási szerződésben engedélyt adhat művének a felhasználására, a felhasználó pedig – ha a felek eltérően nem rendelkeznek – köteles ennek fejében díjat fizetni. A felhasználási szerződés tartalmát a felek szabadon állapítják meg. A szerződésre vonatkozó rendelkezésektől egyező akarattal eltérhetnek, feltéve, ha azt törvény vagy más jogszabály nem tiltja. A törvény nem tartalmaz arra vonatkozó semmilyen kitételt, hogy a hibásan működő szellemi termékért ki köteles viselni a felelősséget. Ez alapvetően nem meglepő, hiszen hibásan működő klasszikus műalkotást (pl.: festmény, szobor, irodalmi mű) nehezen tudunk elképzelni. A rendelkezés hiánya azonban azért visszás, mivel így a szerzői jogi törvény gyakorlatilag ugyanolyan szabályokat állapít meg a szó klasszikus értelmében vett műalkotások és a számítógépes programok tekintetében, pedig azok viselkedésében való eltérések más-más jogi reakciót követelnének meg.
A gyakorlat a probléma áthidalására azt a megoldást alakította ki, hogy a szoftverek forgalmazói az általuk értékesített termékhez mellékelt felhasználási szerződésekbe kifejezetten bele szokták írni: kizárnak minden felelősséget bármilyen kárért és kellemetlenségért, ami a szoftver használatából vagy használhatatlanságából ered. A válasz tehát röviden annyi, hogy a hibásan működő szoftver által okozott károkért a felelősség a felhasználókat terheli.
Mesterséges intelligencia és online-játékok
A mesterséges intelligenciának nagy szerepe van az úgy nevezett virtuális valóságokban is, amelyek általában játékprogramok formájában jelennek meg. Ezekben a játékosok egy általuk megszemélyesített avatárt irányítva léphetnek interaktív kapcsolatba a többi emberi játékossal, és közösen alakíthatják a világ történéseit. Ezen világok olyan különböző virtuális létformákkal vannak benépesítve, amelyekkel az emberi felhasználók interakcióba léphetnek. Tulajdonságaikat tekintve két nagyobb csoportba oszthatóak:
1. Mesterséges intelligenciával is ellátott virtuális létező.
2. Nem rendelkeznek önálló döntéshozó mechanizmusokkal, viselkedésük egy az egyben emberi ráhatásra történik.
Az első csoportra példa lehet egy internetes szerepjáték számítógép által irányított ellenfele, amelyen játékosok feladata felülkerekedni. A másik csoportba különböző virtuális tárgyakat áruló árusok, küldetéseket adó karakterek tartozhatnak. Mindkét csoport tagjait nem-játékos karakternek vagy NPC-nek (non-player character) hívjuk. Ezek a virtuális karakterek hasonlóan működnek egy önálló mesterséges intelligencia által vezérelt szoftverhez, azzal a különbséggel, hogy azok egy nagyobb program részei, így viselkedésükkel csupán a virtuális valóságban részt vevő személyek szembesülhetnek. A játékosokat kiszolgáló szervereken rengeteg olyan információ van tárolva, ami nélkülözhetetlen a program hibátlan futtatásához, ilyenek lehetnek az ellenfelek viselkedését mintázó szkriptek is, melyek olyan interpretált programok, amelyek egy bonyolultabb szoftveren belül egy-egy részfeladat automatizálására szolgálnak. A szervereknek a szoftverfejlesztő cégek az üzemeltetői. A téma szempontjából azért érdemelnek külön figyelmet az ilyen szoftverrészek, mivel az azokat is tartalmazó világ-szimulációknak nem az egyes végfelhasználók, hanem a szoftverfejlesztő cégek az üzembentartói. A hatályos jog eddigi elemzése kapcsán sikerült megállapítanunk, hogy a mesterséges intelligencia viselkedéséért elsősorban a szoftver üzembentartója tartozik felelősséggel. A virtuális valóságok szerver-kliens alapú rendszerében azonban a felhasználó (játékos) és az üzembentartó személye élesen elválik egymástól.
A „fertőzött vér”-incidens
A „fertőzött vér”-incidens egy videojáték programhibából eredő virtuális járvány volt, amely 2005. szeptember 13-án söpört végig a World of Warcraft online világán. A járvány akkor ütötte fel a fejét, amikor a programot fejlesztő Blizzard Entertainment hozzáadta a játékhoz az 1.7.0 számú frissítés formájában annak legújabb Zul’Gurub névre keresztelt labirintusát, amelynek főellensége a Hakkar nevű sárkány volt. A szörny támadásai között szerepelt a Corrupted Blood (fertőzött vér) elnevezésű varázslat, amely egy periodikusan sebző fertőzés volt. Az effekt átterjedhetett a fertőzött karakterről az annak közelében állókra, az alacsonyabb szintű játékosokat pár másodperc alatt megölte, és a magasabb szintűeknek is csak folyamatos gyógyítással sikerült túlélniük. A fertőzés elmúlt egy bizonyos idő után, vagy, ha a beteg karakter meghalt. A varázslatnak meg kellett volna azonnal szakadnia, amint a labirintusban kalandozó csapat legyőzte a főgonoszt, vagy bármilyen más módon kijutott onnan. A fertőzés el is múlt a karakterekről, azonban a Hakkart irányító szkript programozási hibájának köszönhetően a játékos által esetlegesen irányított háziállatok tovább hordozták a kórt. A nyílt világban az állatokról viszont átterjedt immár az a többi játékosra, sőt az NPC-kre is. Az alacsonyabb szintű játékosok meghaltak, és másoknak is sok kellemetlenséget okozott a kór. Az NPC-k életerejére nem volt hatással a betegség, de passzív hordozóközegként tovább tudták terjeszteni azt. Szemtanú játékosok úgy írják le, mintha egy hatalmas temetővé változtak volna a világ városai. A problémát végül a fejlesztőcég egy gyorsjavítás kiadásával oldotta meg.
|
Új értesítő szolgáltatás az Ügyvédvilág portálon
Díjmentes értesítő rendszerünk |
 |
A jogi felelősség vizsgálatának szempontjából abból érdemes kiindulnunk, hogy a virtuális valóságokban található szkriptelt létformák a viselkedésükre vonatkozó információkat a világot fenntartó szerverekről nyerik. A központi szervert a fejlesztőcégek tartják fent a játékosok számára. Ebben az esetben a mesterséges intelligencia üzembentartója nem a felhasználó lesz, hanem a szoftverfejlesztő. Az eddigi megállapítások alapján ilyenkor a szoftver működéséért a fejlesztőnek kéne felelnie a szoftver üzembentartójaként. Ezzel szemben, ha a hatályos joganyagból indulunk ki, azt a megállapítást tehetjük, hogy mivel az online virtuális szimulációkra is a szerzői jog normái vonatkoznak, a hibás működés miatti felelősség kérdését is a végfelhasználói szerződésekben rendezik. Az online játékokhoz mellékelt licencekben a fejlesztők általánosságban ugyanúgy zárják ki a felelősséget, mint a más számítógépes programok esetén.
A végső konklúzió tehát az, hogy az esetleges károkért (például egy adatvesztésből eredőért) ugyanúgy a végfelhasználókat terheli itt is a felelősség. Ez azért aggályos, mivel egy ilyen világban a szoftver folyamatosan kommunikál nem csak a felhasználóval, de a fejlesztővel is, és emiatt vannak olyan részei, amelyek fenntartásáért ez utóbbi felel. A szerzői jog jelenlegi szabályai lehetővé teszik az ilyen szintű felelősségkizárást is, amely hátrányos a felhasználókra nézve. A fentiekben kifejtett jogi anomáliák orvoslását véleményem szerint a hatályos törvények módosítása jelentené, például abban a formában, hogy a szoftverek által okozott károkért azok üzembentartója viselje egyértelműen a felelősséget, vagy adott körülmények fennállása esetén át tudja azt hárítani a forgalmazóra.
A tanulmány szerzője: Eszteri Dániel
| Források, felhasznált irodalom |
|---|
| 1. Yueh-Hsuan Weng – Chien-Hsun Chen – Chuen-Tsai Sun, Towards the Human-Robot Co-Existence Society: On Safety Intelligence for Next Generation Robots, 1 Int. J. Soc. Robot 267, 273 (2009) 2. Stuart J. Russell – Peter Norvig, Mesterséges Intelligencia- Modern megközelítésben (Panem Könyvkiadó, Budapest, 2000) 26. fejezet 3. Csáji Balázs Csanád: A mesterséges intelligencia filozófiai problémái, Szigorlati dolgozat, Eötvös Lóránd Tudományegyetem, filozófia szak. Budapest (2002) 4. Isaac Asimov, Én, a robot (Kossuth Könyvkiadó, 1966) 5. Isaac Asimov, Robotok és birodalom (Móra Ferenc Ifjúsági Könyvkiadó, 1993) 6. F. Patrick Hubbard, „Do Androids Dream?”: Personhood and Intelligent Artifacts, Temple Law Review Vol. 83. (2010) 7. Szladits Károly, A magyar magánjog vázlata, (Grill, Budapest, 1933) 8. Lontai Endre – Faludi Gábor – Gyertyánfy Péter – Vékás Gusztáv, Magyar polgári jog. Szellemi alkotások joga (Bp., Eötvös József Könyvkiadó, 2006) 9. Alzbeta Krausová, Legal Regulation of Artificial Beings, Masaryk University Journal of Law and Technology 187. (2007) 10. 1999. évi LXXVI. törvény a szerzői jogról 11. 1993. évi X. törvény a termékfelelősségről 12. 2013. évi V. törvény a Polgári Törvénykönyvről |
