Az Európai Unió új AI-szabályozása – Kit, és hogyan fog érinteni? – 1. rész

Az EU hamarosan hatályba lépő mesterségesintelligencia-rendelete, az AI Act minden EU tagállamban közvetlenül lesz alkalmazandó, nemzeti átültetésre nem lesz szükség.

Az Európai Unió (EU) várhatóan 2024 júliusában fogja közzétenni az új, a mesterséges intelligencia szabályozásáról szóló rendeletét (AI Act), amely a közzétételtől számított 20. napon lép majd hatályba és megközelítőleg 2 év elteltével lesz alkalmazandó. Az AI Act egy rendelet, amely minden EU tagállamban közvetlenül alkalmazandó, nemzeti átültetésre nem lesz szükség. Az új szabályozás mérföldkő az Európai Unióban, a világ első átfogó jellegű, AI-t szabályozó jogszabálya, amellyel a cél az, hogy új lendületet adjon az innovációnak, de közben garantálja az állampolgárok digitális biztonságát és az alapvető jogaikat.

Mit szabályoz az AI Act?

A mesterségesintelligencia-rendelet az AI-rendszereket szabályozza, amelyek sajátossága, hogy olyan gépi alapú rendszerek, amelyek bizonyos fokú autonómiával rendelkeznek, képesek alkalmazkodni, vagyis van öntanuló képességük, ezáltal pedig képesek bemeneti adatokból következtetéseket levonni, előrejelzéseket tenni, tartalmakat létrehozni, ajánlásokat adni vagy döntéseket meghozni. Ilyen AI-rendszer lehet például egy hitelscoring-rendszer, biometrikus arcfelismerés, önéletrajz-előszűrés, de ide tartozik a chatGPT és más nagy nyelvi modellek is.

A rendelet különbséget tesz a különböző AI-kategóriák között.

a) A tiltott AI-megoldások használata, fejlesztése, forgalmazása tilos.

b) A nagy kockázatú AI-rendszerekre külön, szigorúbb szabályokat ír elő.

c) Az általános célú mesterségesintelligencia-rendszerekre külön rendelkezések vonatkoznak.

d) A korlátozott kockázatú AI-rendszerekre néhány átláthatósági követelmény vonatkozik csak.

e) A minimális kockázatú vagy kockázat nélküli AIrendszerekre nincs jogszabályi előírás.

Az Európai Unióban megszületett a világ első, átfogó jellegű AI-szabályozása

Kire vonatkoznak a kötelezettségek?

A legtöbb kötelezettség az AI-rendszerek szolgáltatóira vonatkozik, ők azok, akik fejlesztik, forgalomba hozzák, üzembe helyezik a saját nevük alatt az AI-rendszert. Hozzájuk képest kevesebb kötelezettség fogja terhelni az AI-rendszerek forgalmazóit és importőreit, akik egy más szolgáltató által fejlesztett AI-rendszert elérhetővé tesznek az EU-ban. Ugyanúgy kötelezettségeik lesznek azoknak a termékgyártóknak is, akik AI-t tartalmazó termékeket gyártanak. A rendelet azonban nem áll meg itt, és az AI-rendszereket alkalmazó entitásokra is fogalmaz meg kötelezettségeket.

Azok a szolgáltatók, forgalmazók, importőrök, termékgyártók sem kerülhetik el az EU-s AI-megfelelést, amelyek nem az EU-ban letelepedettek. Ha ugyanis az AI-rendszerüket az EU-ban forgalmazzák, vagy az AI-rendszerük uniós lakosokat érint, az új AI Act rájuk is alkalmazandó és biztosítaniuk kell a megfelelést.

Milyen AI lesz tiltott?

Az új EU-s rendelet tételesen felsorolja azokat az AI-megoldásokat, amelyek használata és fejlesztése, forgalmazása tilos lesz az EU-ban. A fő indok ezeknél az AI-megoldásoknál, hogy alapvető jogokat sértenek.

Ide tartoznak az alábbiak.

• Mindazon technikák, például videók, hangok, amik szubliminális vagy célzottan manipulatív, megtévesztő technikákat alkalmaznak és ezáltal jelentősen gyengítik a döntéshozatali képességet (például politikai véleményt, vásárlási szokásokat).
• Azok az AI-megoldások, amelyek kihasználják személyek vagy csoportok sebezhetőségét, például betegségét, életkorát, szociális vagy gazdasági helyzetét, és jelentős károsodást okoznak vagy okozhatnak.
• Social scoring.
• Bűncselekmény elkövetését előrejelző AI, amely profilozza, értékeli ilyen szempontból a természetes személyeket.
• Arcfelismerő adatbázisokat létrehozó AI-rendszerek, ahol az arcképek internetről vagy zártláncú CCTV-felvételekből származnak.
• Érzelemfelismerő AI-rendszerek munkahelyen és oktatási intézményekben.
• Biometria-alapú kategorizálási rendszerek arra, hogy kikövetkeztessék valakinek a faji hovatartozását, politikai véleményét, egyéb különleges adatait.
• Valós idejű” távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból.

E tiltott AI-megoldások alkalmazása szigorúan tilos és a hatályba lépéstől számított 6 hónapon belül kell felmérni azt, hogy az adott szervezet fejleszt, forgalmaz, alkalmaz-e ilyen tiltott MI-megoldást és ha igen, e határidőben köteles megszüntetni annak fejlesztését, forgalmazását, alkalmazását.

A cikk szerzői:

• dr. Petrányi Dóra  Partner – a CMS Globális Technológia-, Média- és Telekommunikációs Csoportjának Társvezetője
• dr. Horváth Katalin Partner –  CMS Technológia, Média és Telekommunikáció

---