Lehet egy algoritmus rasszista?

Szerző: Victoria Hudgins
Dátum: 2019. március 12.
Címkék: , , ,
Rovat:
Ügyvédek arra figyelmeztettek, hogy körültekintően használjuk a különböző algoritmusokat, mert könnyen előfordulhat, hogy elfogultan lettek megírva, ezért mindig ellenőrizzük az eredményeket.

Egy 2018-as kutatásban azt vizsgálták, hogy hogyan döntenek az algoritmusok egy hitelkérelem ügyében. A kutatásban résztvevő Cornell Egyetem kutatói felfedezték, hogy rossz döntések születhetnek, ha a védett tulajdonságukat (nem, rassz) nem adják meg a hitelkérelmezők.

Ezekben az esetekben az algoritmus lakóhely, vagy név, illetve egyéb tényező alapján értékelte, hogy a kérelmező milyen tulajdonságokkal (elsősorban faji hovatartozással) rendelkezhet..

A kutatást vezető Kallus professzor elmondta: „Alaposan a dolog végére akartunk járni, mert fontos ügyekben biztosnak kell lennünk, hogy jó dolgot teszünk, ezért hát mélyebbre ástunk az algoritmusokban.”

Több algoritmus vizsgálatát követően azt állapították meg, hogy ha a kérelmező nem tünteti fel a faji hovatartozását, akkor bizonyos algoritmusok alul mások pedig túlértékelik a megadott adatokból levont saját következtetéseiket.

Kallus professzor szerint az lenne a legegyszerűbb, ha a kérelmen feltüntethető lenne, hogy a kérelmező védett tulajdonsággal rendelkezik, ezzel lenne a legkönnyebben kiszűrhető a diszkrimináció.

Magyarázat az elektronikus ügyintézésről

Az infokommunikációs eszközök fejlődése és elterjedése eredményeként az állam és állampolgár kapcsolata, a kapcsolattartás formája változni kezdett az elmúlt évtizedben. A központi közigazgatásban és egyes bírósági és egyéb eljárásokban az elektronikus ügyintézés ma már nem számít speciális területnek, egyre inkább a mindennapok szerves része. Ez kihívást jelent úgy az ügyfelek, mint a jogalkalmazók vagy akár a jogi képviselők számára is.

További információ >>

A professzor figyelmeztetett, „ha megfelelően akarunk eljárni, tudnunk kell, hogy kik az érintettek, mivel, ha nem figyelünk oda könnyen téves következtetésekre juthatunk és adatvédelmi aggályok is felmerülhetnek.”

Az ilyen jellegű tévedések, hátrányos megkülönböztetések a bíróságok, pénzügyi intézmények és jogalkotók által favorizált mesterséges intelligencia és gépi tanulási szoftverekben is jelen lehetnek, amelynek beláthatatlanok a következményei.

Andrea Freeman a Denveri Egyetem jogi professzora felhívta a figyelmet, hogy az algoritmusokat emberek írják. Ha ezek az emberek rasszista környezetben, vagy rendszerszintű diszkriminációban élnek, az a programkódban is meg fog jelenni.

Kevin Petrasic a White & Case Ügyvédi Iroda globális pénzügyi intézmények tanácsadási részlegét vezető ügyvéd szerint az algoritmusok alkalmazóinak elszámoltathatónak kell lenniük, ha diszkriminatívan működő szoftvert alkalmaznak, amely hátrányosan megkülönbözteti a védett tulajdonsággal rendelkezőket.

„A jogalkotó intézkedéseket vezethet be az ilyen szoftverek vásárlói vagy olyan szervezetek ellen, akik nyilvánvalóan diszkriminálnak. Azonban, ha az ilyen szoftvert használó cégek nem fordítanak figyelmet az algoritmusok eredményeinek ellenőrzésére, nem sokat fognak törődni a diszkriminációellenes jogszabályokkal sem.”

„A pénzügyi intézményeknek ki kell dolgozniuk egy magyarázatot, amelyen keresztül be tudják mutatni, hogy az adott algoritmus hogyan működik, és milyen intézkedéseket alkalmaznak az eredmények felülvizsgálatára.

(law.com)

Kapcsolódó cikkek:


Varga Judit: jövőre megkezdődhet a bírák bérének rendezése
2019. július 16.

Ősszel indulnak a konkrét viták az igazságügyi alkalmazotti és a bírói bérek rendezésének részleteiről, jövőre pedig remélhetőleg megkezdődik a folyamat - közölte az igazságügyi miniszter az M1 aktuális csatorna hétfő esti műsorában.

Az eu-s jognak megfelelően módosította szabályzatát az Airbnb
2019. július 15.

Az eu-s jognak megfelelően módosította szabályzatát az Airbnb

Az Európai Bizottság bejelentette, hogy a szálláshelyek online piacterét üzemeltető Airbnb az uniós fogyasztóvédelmi hatóságokkal folytatott tárgyalások nyomán továbbfejlesztette és teljes mértékben egyértelművé tette fogyasztói ajánlatainak megjelenítését, összhangba hozva azokat az uniós jogi normákkal.

Rosszabb is lehet a csődnél – így mentem meg a cégem
2019. július 15.

A „csőd” és a „csődeljárás” kifejezés a mindennapi szóhasználatban egyet jelent „tönkrement” fogalmával, ami jogi értelemben a felszámolási eljárást jelentené. Mindezekkel szemben amennyiben valaki csődeljárás megindítását kéri a cégével szemben, az pontosan a cég megmentésének szándékát fejezi ki, elköteleződést a társaság gazdasági célja mellett és felelősségvállalást a hitelezők felé. Dr. Pajor Dávid ügyvéd segít eloszlatni néhány félreértést.

Olaszliszkai emberölés: feltételesen szabadult az elsőrendű vádlott
2019. július 15.

Feltételesen szabadult a 2006-os olaszliszkai ügy elsőrendű vádlottja, akit 2009-ben ítéltek 17 év szabadságvesztésre emberölés és rongálás bűntette miatt. A férfi hétfőn hajnalban hagyta el a Szegedi Fegyház és Börtönt - tapasztalta a helyszínen a közmédia munkatársa.