Megállapodott az EU AI Act-ről a Tanács és a Parlament – íme a a világ első mesterséges intelligencia szabályozásának részletei


Háromnapos maratoni tárgyalásokat követően a Tanács elnöksége és az Európai Parlament ideiglenes megállapodásra jutottak a mesterséges intelligenciára (MI) vonatkozó harmonizált szabályokról szóló javaslattal kapcsolatban. A rendelettervezet célja biztosítani, hogy az európai piacon forgalomba hozott és használt mesterségesintelligencia-rendszerek biztonságosak legyenek, és tiszteletben tartsák az alapvető jogokat és az uniós értékeket. A mérföldkőnek számító javaslat célja továbbá ösztönözni a mesterséges intelligenciára irányuló beruházásokat és innovációt Európában.

A mesterséges intelligenciáról szóló jogszabály olyan kiemelt jogalkotási kezdeményezés, amely mind a magán-, mind pedig a közszereplők körében képes ösztönözni a biztonságos és megbízható mesterséges intelligencia fejlesztését és elterjedését az uniós egységes piacon. A fő elképzelés kockázatalapú megközelítés mentén szabályozni a mesterséges intelligencia azon képességét, hogy kárt okozzon a társadalomnak: minél nagyobb a kockázat, annál szigorúbbak a szabályok. A tervezet az első olyan jogalkotási javaslat a világon, amely e témával foglalkozik, és így – akárcsak a GDPR, vagyis az általános adatvédelmi rendelet – globális standardot jelenthet más joghatóságok számára az MI szabályozása terén, előtérbe helyezve a technológiai szabályozás európai megközelítését a világszíntéren.

Az ideiglenes megállapodás legfontosabb elemei

Az eredeti bizottsági javaslathoz képest az ideiglenes megállapodás a következő új elemeket vezeti be:

  • szabályok az olyan nagy hatású, általános célú MI-modellekre vonatkozóan, amelyek rendszerszintű kockázatot jelenthetnek a jövőben, továbbá a nagy kockázatú MI-rendszerekre vonatkozóan
  • módosított irányítási rendszer, néhány uniós szintű végrehajtási hatáskörrel
  • tilalmak bővített listája, lehetőséget adva ugyanakkor a bűnüldözési hatóságok számára, hogy – bizonyos biztosítékok mellett – nyilvános helyeken távoli biometrikus azonosítást használjanak
  • jobb jogvédelem azáltal, hogy a nagy kockázatú MI-rendszerek telepítőinek egy MI-rendszer üzembe helyezését megelőzően kötelező lesz elvégezni az alapvető jogokra vonatkozó hatásvizsgálatot

Az ideiglenes megállapodás konkrétabban a következő szempontokat érinti:

Fogalommeghatározások és hatály

Annak biztosítása érdekében, hogy az MI-rendszerek fogalommeghatározása kellően világos kritériumokat tartalmazzon ahhoz, hogy az MI-rendszereket meg lehessen különböztetni az egyszerűbb szoftveres rendszerektől, a kompromisszumos megállapodásban e fogalom meghatározása összhangba került az OECD által javasolt megközelítéssel.

Az ideiglenes megállapodás pontosítja továbbá, hogy a rendelet nem alkalmazandó az uniós jog hatályán kívül, és semmilyen esetben sem érinti a nemzetbiztonság területén a tagállamok vagy az e téren feladatokat ellátó egyéb jogalanyok kompetenciáit. A mesterséges intelligenciáról szóló jogszabály továbbá nem alkalmazandó olyan rendszerekre, amelyeket kizárólag katonai vagy védelmi célokra használnak. A két jogalkotó a megállapodásban ugyanígy előírja, hogy a rendelet nem alkalmazandó olyan MI-rendszerekre sem, amelyek kizárólag kutatási és innovációs tevékenységekre használatosak, sem pedig az olyan személyekre, akik nem szakmai tevékenységeik során használják a mesterséges intelligenciát.

Az MI-rendszerek nagy kockázatúként való besorolása és tiltott MI-gyakorlatok

A kompromisszumos megállapodás bevezet egy horizontális védelmi síkot – és ennek részeként a nagy kockázatúként való besorolást – annak érdekében, hogy az olyan MI-rendszerekre, amelyek valószínűsíthetően nem okoznak súlyos alapjogi jogsértéseket, vagy nem járnak egyéb jelentős kockázatokkal, ne vonatkozzanak túl szigorú szabályok. A csupán csekély kockázatot jelentő MI-rendszerekre csak nagyon enyhe átláthatósági kötelezettségek vonatkoznának: fel kellene tüntetni például, hogy a tartalmat mesterséges intelligencia hozta létre, így segítve a felhasználókat, hogy megalapozott döntéseket hozhassanak a tartalom további felhasználását illetően.

nagy kockázatú MI-rendszerek széles köre engedélyezett lenne, de csak egy sor követelmény és kötelezettség teljesítése esetén juthatnának be az uniós piacra. E követelményeket a társjogalkotók pontosították és kiigazították oly módon, hogy azok egyrészt műszakilag megvalósíthatóbbak, másrészt kevésbé megterhelők legyenek az érdekelt felek számára: ilyenek például az adatok minőségére vagy a kkv-k által a nagy kockázatú MI-rendszereik megfelelőségének alátámasztására elkészítendő műszaki dokumentációra vonatkozó követelmények.

Tekintettel arra, hogy az MI-rendszereket összetett értékláncokon keresztül fejlesztik és terjesztik, a kompromisszumos megállapodás nyomán létrejött szöveg olyan változtatásokat tartalmaz, amelyek pontosítják a feladatkörök és szerepek megosztását az említett láncok különböző szereplői, különösen az MI-rendszerek szolgáltatói és felhasználói között. Mindezen felül tisztázza a mesterséges intelligenciáról szóló jogszabály szerinti felelősségi körök és az egyéb – például a vonatkozó uniós adatvédelmi vagy ágazati – jogszabályok alapján már meglévő felelősségi körök közötti kapcsolatot.

A mesterséges intelligencia egyes felhasználásaival kapcsolatban a társjogalkotók úgy vélték, hogy azok elfogadhatatlan kockázatot jelentenek, ezért az érintett rendszereket be fogják tiltani az EU-ban. Az ideiglenes megállapodás értelmében tilos például a kognitív magatartási manipuláció, az arcképek nem célzott lekérdezése az internetről vagy CCTV-felvételekről, az érzelemfelismerés munkahelyi környezetben és oktatási intézményekben, a társadalmi pontozás, az érzékeny adatok – például a szexuális irányultság vagy a vallási meggyőződés – levezetését szolgáló biometrikus kategorizálás, valamint a prediktív rendészetnek az egyéneket érintő egyes alkalmazásai.

A bűnüldözéssel kapcsolatos kivételek

Tekintettel a bűnüldöző hatóságok sajátos jellemzőire, valamint arra, hogy e hatóságok számára továbbra is lehetővé kell tenni a mesterséges intelligencia alkalmazását létfontosságú munkájuk során, az MI-rendszerek bűnüldözési célokra történő használatára vonatkozóan a bizottsági javaslatban foglalt rendelkezések több helyen módosultak. E változtatások célja, hogy a szöveg – megfelelő biztosítékok mellett – tükrözze: a bűnüldöző hatóságok tevékenységeivel összefüggésben tiszteletben kell tartani az érzékeny operatív adatok bizalmas jellegét. Például a szöveg kiegészült egy sürgősségi eljárással, amely lehetővé teszi a bűnüldöző hatóságok számára, hogy sürgős esetekben üzembe helyezzenek olyan, nagy kockázatú MI-eszközt, amely nem ment át megfelelőségértékelésen. Emellett azonban létrejön egy külön arra szolgáló mechanizmus is, hogy az alapvető jogok megfelelő védelmet élvezzenek az MI-rendszerek esetleges visszaélésszerű használatával szemben.

Ezen túlmenően, ami a „valós idejű” távoli biometrikus azonosító rendszerek nyilvánosság számára hozzáférhető helyeken történő használatát illeti, az ideiglenes megállapodás nyomán létrejött szöveg pontosítja azokat a célkitűzéseket, amelyek esetében az ilyen használat bűnüldözési célokból szigorúan szükséges, és ezért a bűnüldöző hatóságok számára kivételesen engedélyezni kell az ilyen rendszerek használatát. A kompromisszumos megállapodás további biztosítékokat irányoz elő, és ezeket a kivételeket bizonyos bűncselekmények áldozatait érintő esetekre, tényleges, aktuálisan fennálló vagy előre látható fenyegetések – például terrortámadások – megelőzésére, valamint a legsúlyosabb bűncselekmények elkövetésével gyanúsított személyek felkutatására korlátozza.

Általános célú MI-rendszerek és alapmodellek

A szöveg új rendelkezésekkel egészült ki az olyan helyzetek figyelembevétele érdekében, amikor az MI-rendszerek számos különböző célra használhatók (általános célú MI), vagy amikor az általános célú MI-technológiát később integrálják egy másik, nagy kockázatú rendszerbe. Az ideiglenes megállapodás ezenkívül az általános célú MI-rendszerek konkrét eseteit is érinti.

A megállapodás nyomán külön szabályok vonatkoznak továbbá az alapmodellekre, azon nagy méretű rendszerekre, amelyek képesek kompetens módon elvégezni különféle feladatok széles körét, beleértve például a videó-, szöveg- és képalkotást, a laterális nyelvezeten való beszélgetést, a számításokat vagy számítógépes kód létrehozását. Az ideiglenes megállapodás értelmében az alapmodellek csak akkor hozhatók forgalomba, ha megfelelnek bizonyos átláthatósági követelményeknek. A „nagy hatású” alapmodellekre szigorúbb rendszer vonatkozik. Ezek nagy mennyiségű adattal tanított alapmodellek, amelyek összetettebbek, fejlettebb képességekkel és az átlagot jóval meghaladó teljesítménnyel rendelkeznek, ami képes rendszerszintű kockázatokat terjeszteni az értéklánc egészében.

Új irányítási struktúra

Tekintettel az általános célú MI-modellekre vonatkozó új szabályok létrejöttére és azok uniós szintű végrehajtásának nyilvánvaló szükségességére, a Bizottságon belül létrejön egy MI-hivatal, amelynek feladata e legfejlettebb MI-modellek felügyelete, a szabványok és tesztelési gyakorlatok előmozdításához való hozzájárulás, valamint a közös szabályok betartatása valamennyi tagállamban. Az MI-hivatalt független szakértőkből álló tudományos testület segíti majd az általános célú MI-modellekkel kapcsolatos tanácsadással azáltal, hogy hozzájárul az alapmodellek képességeinek értékelésére szolgáló módszertanok kidolgozásához, tanácsot ad a nagy hatású alapmodellek azonosításával és megjelenésével kapcsolatban, valamint nyomon követi az alapmodellekkel kapcsolatos lehetséges anyagi biztonsági kockázatokat.

Továbbra is a tagállamok képviselőiből álló MI-Testület szolgál majd koordinációs platformként és a Bizottság tanácsadó szerveként, és fontos szerepet fog a tagállamokra ruházni a rendelet végrehajtása terén, beleértve az alapmodellekre vonatkozó gyakorlati kódexek kidolgozását is. Végezetül pedig létrejön egy olyan tanácsadó fórum, amely a különböző érdekelt feleket, például az ipar képviselőit, a kkv-kat, az induló innovatív vállalkozásokat, a civil társadalmat és a tudományos élet képviselőit fogja össze, és amely szakmai tudással támogatja az MI-testületet.

Szankciók

A mesterséges intelligenciáról szóló jogszabály megsértése miatt kiszabott bírságokat a jogsértő vállalat előző pénzügyi évi globális éves árbevételének százalékában vagy egy előre meghatározott összegben határozták meg, attól függően, hogy melyik a magasabb. Ez 35 millió EUR-t vagy 7%-ot jelent a tiltott MI-alkalmazásokkal kapcsolatos jogsértő magatartás esetén, 15 millió EUR-t vagy 3%-ot a mesterséges intelligenciáról szóló jogszabályban előírt kötelezettségek megsértése esetén, és 7,5 millió EUR-t vagy 1,5%-ot helytelen információk szolgáltatása esetén. Az ideiglenes megállapodás ugyanakkor a kkv-kra és az induló innovatív vállalkozásokra kiszabható közigazgatási bírságok tekintetében arányosabb felső határokat állapít meg arra az esetre, ha e vállalkozások megsértik a mesterséges intelligenciáról szóló jogszabály rendelkezéseit.

A kompromisszumos megállapodás azt is egyértelművé teszi, hogy természetes vagy jogi személyek panaszt nyújthatnak be az illetékes piacfelügyeleti hatósághoz a mesterséges intelligenciáról szóló jogszabálynak való meg nem felelés miatt, és elvárhatják, hogy panaszukat az adott hatóság külön e célra kialakított eljárásainak megfelelően kezeljék.

Átláthatóság és az alapvető jogok védelme

Az ideiglenes megállapodás előírja, hogy a nagy kockázatú MI-rendszerek telepítőinek az MI-rendszer üzembe helyezését megelőzően az alapvető jogokra vonatkozó hatásvizsgálatot kell végezniük. Az ideiglenes megállapodás értelmében továbbá nagyobb mértékű átláthatóságot kell biztosítani a nagy kockázatú MI-rendszerek használatával kapcsolatban. Konkrétabban, a bizottsági javaslatban foglalt egyes rendelkezéseket módosították annak érdekében, hogy bizonyos olyan felhasználók, amelyek nagy kockázatú MI-rendszereket használó hatóságok, szintén kötelesek legyenek nyilvántartásba vetetni rendszerüket a nagy kockázatú MI-rendszerek uniós adatbázisában. Ezenkívül egy új rendelkezés azt is hangsúlyozza, hogy az érzelemfelismerő rendszerek felhasználói kötelesek tájékoztatni a rendszer működéséről azokat a természetes személyeket, akik a rendszerrel kapcsolatba kerülnek.

Az innovációt támogató intézkedések

Az innovációbarátabb jogi keret létrehozása és a szabályozó hatóságok általi, tényeken alapuló tanulás előmozdítása érdekében a bizottsági javaslathoz képest jelentősen módosították az innovációt támogató intézkedésekre vonatkozó rendelkezéseket.

Pontosították különösen azt, hogy az MI szabályozói tesztkörnyezeteknek – amelyek ellenőrzött környezetet biztosítanak az innovatív MI-rendszerek fejlesztéséhez, teszteléséhez és validálásához – az innovatív MI-rendszerek valós körülmények között történő tesztelését is lehetővé kell tenniük. Ezenkívül a szöveg olyan új rendelkezésekkel egészült ki, amelyek meghatározott feltételek és biztosítékok mellett lehetővé teszik az MI-rendszerek valós körülmények közötti tesztelését. Végezetül, az ideiglenes megállapodás egy sor intézkedést vezet be a kisebb vállalatok adminisztratív terheinek enyhítése és ezzel e gazdasági szereplők támogatása érdekében, korlátozott mértékű és egyértelműen meghatározott eltéréseket lehetővé téve számukra.

Hatálybalépés

Az ideiglenes megállapodás úgy rendelkezik, hogy a mesterséges intelligenciáról szóló jogszabályt a hatálybalépésétől számított két év elteltével kell alkalmazni, néhány konkrét rendelkezéstől eltekintve.

A következő lépések

A december 9-én létrejött ideiglenes megállapodást követően az elkövetkező hetekben szakértői szinten folytatódik majd a munka az új rendelet részleteinek véglegesítése céljából. E munka befejezését követően az elnökség jóváhagyás céljából be fogja nyújtani a kompromisszumos szöveget a tagállamok képviselőinek.

Mindkét intézménynek meg kell majd erősítenie a teljes szöveget, és annak a társjogalkotók általi hivatalos elfogadás előtt jogász-nyelvészi ellenőrzésen is át kell esnie.

(Forrás: EU Tanácsa Sajtóközlemény)


Kapcsolódó cikkek

2024. július 15.

Amikor a mesterséges intelligencia megmérgezi magát: a beazonosíthatatlan szintetikus adatok problémája

A generatív mesterséges intelligencia terjedése maga után vonta a nem ember által létrehozott képek, szövegek videók rohamos elszaporodását is. Egyes új kutatások arra utalnak, hogy az ilyen „szintetikus adatok felhasználása új GAI (Generative artificial intelligence, azaz generatív mesterséges intelligencia) modellek tanítása során katasztrofális következményekkel járhat. Ez még inkább sürgetővé teszi a mesterségesen generált tartalmak explicit jelölésének kötelezettségét, amennyiben a jövőben továbbra is profitálni szeretnénk az MI nyújtotta gazdasági és társadalmi előnyökből.

2024. július 12.

Augusztus 1-jén hatályba lép az EU AI Act

2024. július 12-én kihirdették az Európai Parlament Hivatalos Lapjában a mesterséges intelligenciáról szóló jogszabályt (AI Act), amely úgy ad lendületet az innovációnak, hogy közben garantálja biztonságunkat és alapvető jogainkat. A jogszabály 20 nap múlva, augusztus 1-jén lép hatályba, fokozatosan kell alkalmazni, de 24 hónap múlva már minden tagországban be kell tartani a rendelkezéseit.