AI Act: korszakalkotó jogszabályt fogadott el az EP a mesterséges intelligenciáról


Március 13-án az Eurpai Parlament jóváhagyta a mesterséges intelligenciáról szóló jogszabályt (AI Act), amely úgy ad lendületet az innovációnak, hogy közben garantálja biztonságunkat és alapvető jogainkat – tette közzé honlapján az Európai Parlament.


AI Act javaslat szövege angolul

AI Act javaslat szövege magyarul

Az elfogadott jogszabály szövege magyarul


A tagállamokkal tavaly decemberben egyeztetett rendeletjavaslatot 523 szavazattal, 46 ellenszavazattal és 49 tartózkodás mellett fogadták el az EP-képviselők. A jogszabály célja az alapvető jogok, a demokrácia, a jogállamiság és a környezeti fenntarthatóság védelme a magas kockázatú mesterséges intelligenciával (MI) szemben, miközben serkenteni az innovációt és megteremti Európa vezető szerepét a mesterséges intelligencia területén. A rendelet a mesterséges intelligencia lehetséges kockázatai és hatásai alapján állapít meg kötelezettségeket az alkalmazásra vonatkozóan.

Tiltott alkalmazások

Az új szabályok értelmében nem lesznek megengedettek az olyan mesterséges intelligencia alkalmazások, amelyek sérthetik a polgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan válogatnak le. Tilos lesz továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszereket alkalmazni. Nem lehet pontozni a polgárokat kockázati profiljuk vagy társadalmi hovatartozásuk alapján, és ugyanígy szabályellenes a profilalkotásra, illetve a bűnözői előéletre alapozott prediktív rendészet is, valamint az olyan rendszerek alkalmazása, amelyek képesek befolyásolni az emberek viselkedését, vagy a sebezhetőségüket használják ki.

A bűnüldöző szervek jogosítványai

A távoli biometrikus azonosító (RBI) rendszereket – néhány jól körülhatárolt kivételtől eltekintve – a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos (a bűnelkövetés tényének megállapítását követő) használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.

Magas kockázatú rendszerekre vonatkozó követelmények

Az új rendelet egyértelmű kötelezettségeket állapít meg az olyan mesterségesintelligencia-rendszerekkel kapcsolatban, amelyek jelentős veszélyt jelentenek az egészségre, a biztonságra, az alapvető jogokra, a környezetre, a demokráciára vagy a jogállamiságra. Magas kockázatúnak számítanak a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások (pl. egészségügyi és banki szolgáltatások), a bűnüldözés, a migráció és a határigazgatás területén, valamint az igazságszolgáltatásban és a demokratikus folyamatokban (pl. a választások befolyásolására) használt mesterséges intelligencia alkalmazások. Az ilyen rendszerek esetében a rendelet rendszeres kockázatértékelést és -mérséklést ír elő. Az üzemeltetőnek naplóznia kell a rendszer használatát, és a rendszer átláthatósága és pontossága mellett annak emberi felügyeletét is biztosítania kell. A polgároknak ezentúl joguk lesz panasszal élni az mesterséges intelligencia rendszerek alkalmazásával szemben, valamint részletes tájékoztatást kapni az alapvető jogaikra jelentősen kiható olyan döntésekről, amelyek magas kockázatú MI-rendszerek bevonásával születtek.

Átláthatósági követelmények

Az általános célú mesterségesintelligencia-rendszereknek és az alapjukat képező MI-modelleknek meg kell majd felelniük bizonyos átláthatósági követelményeknek is, és a modellek betanítása során be kell tartani az uniós szerzői jogi szabályokat. Az erősebb MI-modellekre, amelyek rendszerszintű kockázatokat jelenthetnek, további követelmények is vonatkoznak majd. Ezek közé tartozik a modellek értékelése, a rendszerszintű kockázatok értékelése és mérséklése, valamint a rendkívüli eseményekre vonatkozó jelentéstétel.

Ezenkívül kötelező lesz a mesterséges vagy manipulált (deepfake) képi, hang- és videotartalmakat egyértelműen akként megjelölni.

Az innováció és a kkv-k támogatása

A tagállamokban szabályozói tesztkörnyezetet kell létrehozni és valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kkv-kat és az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki.

A jelentéstevők szerint

A keddi plenáris vita során Brando Benifei (S&D, Olaszország) társjelentéstevő elmondta: „Végre megvan a világ első kötelező erejű jogszabálya a mesterséges intelligenciáról, amely csökkenti a kockázatokat, lehetőségeket teremt, küzd a diszkrimináció ellen és átláthatóságot teremt. A Parlamentnek köszönhetően az elfogadhatatlan mesterséges intelligencia gyakorlatokat a jogszabály betiltja Európában, a munkavállalók és a polgárok jogai pedig védelmet élveznek. A mesterséges intelligencia hivatal hamarosan feláll, hogy támogassa a vállalatokat abban, hogy még a szabályok hatályba lépése előtt elkezdjék betartani azokat. Biztosítottuk, hogy a mesterséges intelligencia fejlesztésének középpontjában az ember és az európai értékek álljanak.”

Dragoş Tudorache (Renew, Románia) társjelentéstevő elmondta: „Az EU teljesített. A mesterséges intelligencia fogalmát összekapcsoltuk a társadalmaink alapját képező alapvető értékekkel. Sok munka vár azonban még ránk, amely túlmutat magán a mesterséges intelligenciáról szóló jogszabályon. A mesterséges intelligencia arra fog késztetni minket, hogy újragondoljuk a demokráciáink, oktatási modelljeink, munkaerőpiacaink és a hadviselés módjának középpontjában álló társadalmi szerződést. A mesterséges intelligenciáról szóló jogszabály a technológia köré épülő új kormányzási modell kiindulópontja. Most arra kell összpontosítanunk, hogy ezt a jogszabályt átültessük a gyakorlatba.”

A következő lépések

A rendeletet jogász-nyelvészi ellenőrzést követően várhatóan még a jogalkotási ciklus vége előtt (az úgynevezett helyesbítési eljárás keretében) elfogadja a Parlament. A jogszabály végleges szövegét még a Tanácsnak is hivatalosan támogatnia kell.

A rendelet az Európai Unió Hivatalos Lapjában való kihirdetését követő huszadik napon lép hatályba, a tagállamokban pedig a hatálybalépést követő 24 hónap elteltével a jogszabályt teljes egészében alkalmazni kell, kivéve a tiltott gyakorlatokra vonatkozó rendelkezéseket, amelyeket 6 hónappal a hatálybalépést követően kell alkalmazni; a gyakorlati kódexeket (9 hónap); az általános modellekre vonatkozó szabályokat és irányítási rendszereket (12 hónap); valamint a magas kockázatú rendszerekre vonatkozó követelményeket (36 hónap).

Háttér

A mesterséges intelligenciáról szóló jogszabály közvetlenül reagál az Európa jövőjéről szóló konferencia polgárainak javaslataira, konkrétan az EU versenyképességének a stratégiai ágazatokban való fokozásáról szóló 12. javaslat (10) bekezdésére, valamint a biztonságos és megbízható társadalomról szóló 33. javaslat (5) bekezdésére, beleértve a dezinformáció elleni küzdelmet és az emberi ellenőrzés biztosítását, a 35. javaslat a digitális innováció előmozdításáról, (3) az emberi felügyelet biztosítása mellett, valamint (8) a mesterséges intelligencia megbízható és felelősségteljes felhasználásáról, biztosítékok meghatározásáról és az átláthatóság biztosításáról, valamint a 37. javaslat (3) a mesterséges intelligencia és a digitális eszközök felhasználásáról a polgárok, köztük a fogyatékkal élők információhoz való hozzáférésének javítása érdekében.

(forrás: Európai Parlament)


Kapcsolódó cikkek

2024. április 18.

A technológia által támogatott joggyakorlat jövője: az AI precizitása egyensúlyba kerül az emberi szakértelemmel

A jog kritikus válaszút előtt áll, ahol egyensúlyba kell hoznia a nagy nyelvi modellek szabályalapú, algoritmikus és adatvezérelt logikáját az ember értelmező, stratégiai és empatikus gondolkodásmódjával, a mesterséges intelligencia által generált eredményeket az emberi szakértelemmel párhuzamosan alkalmazva az ügyfelek problémáinak átfogó kezelése érdekében.

2024. április 17.

Digtális megfelelés: Miért nem működnek a régi rutinok, és ez miért fájdalmas?

A digitális gazdaságban mind többen érezzük úgy, hogy általános közérzetünket minden téren meghatározza, hogy a régi és bevált rutinokat újra és újra felül kell vizsgálnunk. Ahogy Kahnemann mondaná, a gyorsról a lassú gondolkodásra kell váltanunk. A rutin lényege pedig éppen abban rejlik, hogy felgyorsítja és „fájdalommentesíti” az ismétlődő döntési szituációk megoldását. Különösen nagy kihívás, miközben a figyelmünket ezer csatornán felfoghatatlan számú inger bombázza. Ne felejtsük el, hogy az időnk és figyelmünk az egyik legnagyobb gazdasági értékké vált.

2024. április 17.

Miért (ne) antropomorfizáljuk a generatív mesterséges intelligenciát? – 1. rész

Úgy tűnhet, a mesterséges intelligencia napjainkban egyre inkább az emberhez hasonlóvá kezd válni. Ennek hátterében a tudomány fejlődésének természetes következményei és néha tudatos emberi döntések állnak. Milyen jelenségek állnak a folyamat mögött, és hogyan fogja ez a trend befolyásolni a mindennapjainkat a közeljövőben?