Az EU tiltaná a tömeges megfigyelést


Javaslatot tett a mesterséges intelligencia szabályozására az Európai Bizottság. A csomaggal a szektor fejlődését segítenék úgy, hogy közben garantálják az alapvető jogokat.


Szigorúan tiltaná az EU a biometrikus azonosítás közterületi használatát. Kínában kiterjedt megfigyelőrendszereket használnak a mesterséges intelligencia segítségével. A bizottság új szakpolitikai javaslatát Brüsszelben mutatták be.

“Az általunk javasolt jogi környezet nem csak a mesterséges intelligencia technológiáját vizsgálja, hanem azt is, hogy mire és hogyan használják azt. Arányos és kockázat-alapú megközelítést alkalmaz egyetlen logika mentén. Minél kockázatosabb a mesterséges intelligencia használata az életünkre nézve, annál szigorúbb a szabályozás“ – mondta az unió versenyjogi biztosa, Margrethe Vestager.

A Bizottság négy kategóriát állítana fel: szabadon használhatóak lesznek a minimális kockázatú spamszűrők. Az alacsony kockázatú eszközök, mint például a chatbotok működésére fel kell hívni a fogyasztók figyelmét. A magas kockázatú szoftvereket csak emberi felügyelet mellett lehetne használni. A társadalmi megfigyeléseket viszont tiltanák. Csak kivételes esetekben, például terrorveszélynél tennének kivételt.

“Amikor az arcfelismerésről beszélünk, akkor vannak pozitív felhasználási területek, mint például a telefonzár kioldása, amit én naponta legalább százszor megteszek és alacsony kockázattal bír ahhoz képest, mintha a köztéren használnák a technológiát az emberek azonosítására. Vagyis figyelembe kell venni a kontextust és a felhasználás célját is” – mondta a BSA szoftvercég igazgatója, Thomas Boué.

A javaslatról még az Európai Parlamenttel és a tagállamok képviselőivel is meg kell egyezni, ez pedig éveket vehet igénybe.

A tegnap bemutatott javaslatok alapján Európában betiltanák a mesterséges intelligencia egyes “elfogadhatatlan” felhasználásait. Az Európai Bizottság szabályai többek között tiltanák “az emberek biztonságára, életére és jogaira egyértelműen veszélyes MI rendszereket” – jelentette be a Bizottság.

Sokkal szigorúbb szabályokat javasol a Bizottság a biometrikus adatok felhasználásával kapcsolatban is – például a bűnüldöző szervek által használt arcfelismerő technológiák használatát korlátoznák. Az új szabályok megszegése az adott globális forgalom 6% -áig terjedő bírságot vonhat maga után. A legnagyobb techcégek esetében ez eurómilliárdokat jelenthet.

A Bizottság digitális szabályozásért felelős vezetője, Margrethe Vestager elmondta: “A mesterséges intelligencia terén a bizalom elengedhetetlen.” Az EU pedig “új globális normákat” dolgozott ki a mesterséges intelligencia vonatkozásában. “Jövőbiztos és innovációbarát szabályaink ott lépnek közbe, ahol feltétlenül szükséges – amikor az uniós polgárok biztonsága és alapvető jogai forognak kockán” – mondta. A tervezet még hosszú jóváhagyási folyamat előtt áll, és még nem született meg a végleges döntés.

A legfontosabb szabályozások többsége a múlt héten, még a bejelentés előtt kiszivárgott, amely felkeltette a technológiai közösség aggodalmát és máris az innovációt akadályozásával fenyegettek. “Az Európai Bizottság által javasolt rendszer nem lesz népszerű az MI közösségben” – mondta Nikolas Kairinos, a Soffos.ai vezérigazgatója, amely mesterséges intelligenciát fejleszt a munkavállalók üzleti képzéséhez. “Az olyan laza meghatározások, mint a” nagy kockázat “, túlságosan homályosak. “A szabályozás kétértelmű, jelölőnégyzetes megközelítése, amelyet olyan személyek felügyelnek, akik esetleg nem ismerik kellő mélységben az MI technológiát, nem túl bizalomgerjesztő.”

Herbert Swaniker, a Clifford Chance Ügyvédi Iroda technológiai szakértője szerint a javasolt tetemes bírságok sokkal nagyobb hatalmat adtak az MI szabályozásának – és “rendkívül ambiciózus” a törekvés. “Nagyon sok tennivaló van e fogalmak többségének pontosítása érdekében” – tette hozzá. “A bírságolás az egy dolog – de hogyan tudják az MI kereskedők a megfeleléshez szükséges jelentős költségeket és emberi erőforrásokat előteremteni?

“A javaslatok arra kényszerítik a fejlesztőket, hogy alapvetően gondolják át az MI értékesítést és fejlesztést.”

A szabályok rögzítik, hogy mire használható az MI technológia, és nem magát a technológiát jelentette be Margrethe Vestager biztos. Azok “a mesterséges intelligencia rendszerek vagy alkalmazások, amelyek manipulálják az emberi viselkedést a felhasználók szabad akaratának megkerülésével”, és “tudatalatti technikákat alkalmaznak”, a tiltott “elfogadhatatlan kockázat” kategóriába tartoznának.

A magas kockázatú területeken – például a nemzeti infrastruktúrában, az oktatásban, a foglalkoztatásban, a pénzügyekben és a bűnüldözésben – használt MI-knek számos feltételnek kell megfelelniük mielőtt üzembe helyezik őket. Például az önéletrajz-válogató szoftvereknek a toborzási vagy a banki hitelek kredit-pontozási rendszereinek bizonyítaniuk kellene, hogy megfelelő pontosságot és igazságos döntést tudnak hozni, valamint nyilvántartást kellene vezetni minden tevékenységükről, emellett “megfelelő emberi felügyeletet” kell biztosítani minden „távoli biometrikus azonosító” rendszerhez. Ilyennek minősülne az arcfelismerés rendőrség általi használata, de az ujjlenyomat használata a telefon feloldáshoz vagy az arcfelismerésen alapuló útlevél ellenőrzés is szigorú követelmények alá esne. “A közterületeken az arcfelismerés bűnüldözési célokra való jelen idejű használatát elvileg betiltanák” – jelentette be a Bizottság. Kivétel csak ritka esetben, például “közvetlen terrorfenyegetés” esetén lenne. De az MI technológia túlnyomó része az alacsony kockázatú kategóriába kerülne, sokkal kevésbé szigorú szabályozással.

Az ügyfélszolgálatban például a chatbotoknak egyértelművé kell tenniük, hogy az emberek egy géppel kommunikálnak. Az egyszerű szabályalapú rendszereket, mint például az e-mail spamszűrés, nem korlátoznák. Az Európai Parlament és az EU tagállamai egyaránt megvizsgálják a javaslatokat – és valószínűleg még változtatnak a szabályozáson. A szabályok elfogadása esetén az „az EU-n belül és kívül” is alkalmazandó lenne, ha egy mesterséges intelligencia-rendszer működhet az EU-ban “, vagy annak használata az EU-ban élő embereket érinti”.

(hu.euronews.com)

(bbc.com)




Kapcsolódó cikkek

2021. július 23.

A fegyveres önvédelemhez való jog bekerül a cseh alkotmányba

A cseh parlament felsőháza, a szenátus szerdán jóváhagyta, hogy az alkotmány részét képező Emberi Jogok Listáját kibővítsék egy bekezdéssel, mely szerint “az állampolgárnak a törvényben megállapított feltételek szerint joga van fegyverrel védelmeznie saját és más emberek életét”.

2021. július 22.

Veszélyben a brit sajtószabadság?

A brit civilek és újságírók szerint veszélybe kerülhet a sajtószabadság a szigetországban, ha elfogadják a titokvédelmi törvény szigorítását, amely a visszaélés-bejelentőket és a titkos információkat közlő újságírókat is börtönbüntetéssel sújtaná.