Főoldal

"Mérnököt a mérnöktől"

A Schönherz Bázis összeköti az állást kereső és állást kínáló mérnököket.

CV küldés

Küldj önéletrajzot! Gyorsan, egyszerűen.
Megjegyzésbe írd be a pozíció nevét.
CV küldés

Iratkozz fel hírlevelünkre!

Hírek

Miért szükséges a mérnököknek az emberi jogok ismerete?
Miért szükséges a mérnököknek az emberi jogok ismerete?

A technológia uralja az életünket – és képes áthágni mindenféle jogi keretet. Ana Beduschi szerint ezért lenne fontos, hogy emberi jogi törvényeket is tanítsunk a szoftvertervezőknek.


A mesterséges intelligencia (AI) a mindennapi életünk egyre több és több területére tör be. A telefonjainkon található okos asszisztenstől kezdve a virtuális otthoni asszisztensekig mindenben ez dolgozik. Mesterséges intelligencia található az egészségügyi diagnosztizálás javítására készített algoritmusokban, illetve a rendőrségi bűnüldözés által használt prediktív rendfenntartási eszközökben is.

Ezen példák mindegyike hordoz magában potenciális problémákat, ha az emberi jogaink védelmére kerül a sor. A prediktív rendfenntartás például, ha nem jól tervezik meg, faji, nemi vagy etnikai hovatartozás alapú diszkriminációhoz vezethet.

Az adatbiztonsági és -védelmi szabályok az egészségünkkel kapcsolatos információkra is vonatkoznak. Hasonlóan, az okostelefonok földrajzi helyének szisztematikus rögzítése és használata is megsértheti az adatbiztonsági és adatvédelmi szabályokat, és komoly aggályokat vethet fel a hatósági megfigyelésekkel kapcsolatban.

A szoftverfejlesztők felelősek az ezen rendszerek mögött futó algoritmusok tervezéséért, és ők azok, akik lehetővé teszik az okos asszisztenseknek, hogy pontosabban válaszoljanak a kérdéseinkre, vagy a rendőröknek, hogy jobban be tudják azonosítani a növekvő bűnözési kockázatok típusát, illetve segítenek az orvosoknak észlelni az egészségügyi kockázatokat.

A szoftverfejlesztők általában nem kapnak továbbképzést az emberi jogi törvényekből. Ennek ellenére minden lekódolt sorral értelmezhetnek, alkalmazhatnak, de akár meg is szeghetnek kulcsfontosságú emberi jogi koncepciókat – anélkül, hogy tudnának róla.

Ezért lenne kritikus, hogy a szoftverfejlesztők emberi jogi törvényeket is tanuljanak. Idén egy új EU szabályozás rákényszerítette a vállalatokat, hogy nyíltabban kommunikáljanak a fogyasztókkal az általuk birtokolt információkról. A GDPR-ként ismert szabályozásra valószínűleg a számos beleegyezésért könyörgő e-mail miatt emlékezhetsz, hogy benne maradj a különböző adatbázisokban.

A GDPR megnövelte a cégekre vonatkozó adatkezelési korlátozásokat, és kiterjesztette az egyének jogait a róluk tárolt adatok hozzáférésére és ellenőrzésére vonatkozóan. Ezek jó lehetőséget biztosítanak a jogi szerkezetek technológiába való integrálására, és megközelítik a privacy-by-design és data protection-by-design fogalmait. De önmagukban sajnos nem elegek.

Például az emberi jogi törvények átfogóbb ismerete segítene megérteni a szoftverfejlesztőknek, hogy mi az az indirekt diszkrimináció, és miért tiltja a törvény. (Bármilyen diszkrimináció az adott egyén faji, nemi, nyelvi, vallási hovatartozása, politikai vagy más véleménye, nemzeti vagy társadalmi származása, tulajdona, nemzeti kisebbséggel való kapcsolata vagy születési és más státusz alapján tilos, az Európai Emberi Jogi Egyezmény 14-es paragrafusa szerint.)

Direkt diszkrimináció akkor lép fel, amikor egy egyénnel kedvezőtlenül bánnak egy vagy több ilyen védett terület miatt. Indirekt diszkriminációnak pedig az számít, amikor egy semlegesnek tűnő szabály vezet az egyén (vagy több egyén) kedvezőtlen bánásmódjához.

Ehhez hasonlóan, az igazságos tárgyaláshoz való jog bonyolultságának és következményének, és az ártatlanság vélelmének megértése is jobban informált döntésekhez vezethet az algoritmusok tervezésekor. Ez segíthet elkerülni az olyan lehetőségeket, hogy az algoritmus kapcsolatot feltételezzen egy több etnikumú szomszédságban lefolyt rendőrségi letartóztatások és a tényleges elítélések száma között.

Ami még fontosabb, ez segítene az algoritmusoknak elfogulatlan döntéseket kifejleszteni, ami nem diszkriminál etnikai vagy faji alapon. Például a vagyoni és bevételi adatok a földrajzi helyzettel kombinálva használhatók bizonyos etnikai háttérrel rendelkező emberek azonosítására, ha egy bizonyos szomszédságban koncentrálódnak.

Hasonlóképpen, az emberi jogokon működő jogi keretek megértése ösztönözheti a jogi szabályoknak való fokozott megfelelésre irányuló megoldások létrehozását. Például hatalmas szükség van egy tisztességes technológiai eljárásra, mely során az egyének könnyedén kifogásolhatják az AI alapján a hatóságok által hozott döntéseket, melyek közvetlenül érintik őket. Ez hasznos lehet például egy olyan esetben, amikor a helyi hatóságok által használt átlátszatlan algoritmusok hamisan potenciális gyermekbántalmazóként azonosítják a szülőket.

Az ilyen megoldások relevánsak lehetnek a privát szektorban is. Például a biztosítási prémiumokról és hitelekről gyakran fekete dobozok mögé rejtett profiling és scoring algoritmusok döntenek. Ezen algoritmusok teljes átláthatósága és közzététele viszont nem mindig lehetséges és kívánatos az üzleti modellek természetéből fakadóan.

És így egy due process-by-design megoldás lehetővé tenné az egyéneknek, hogy könnyedén kétségbe vonjanak ilyen döntéseket egy ajánlat elfogadása előtt. Ahogy a kortárs társadalmak feltartóztathatatlanul az AI-igényes alkalmazások felé fejlődnek, nem szabad elfelejtenünk, hogy a mesterséges intelligencia mögött álló emberek elég hatalommal rendelkeznek, hogy mindannyiunkat befolyásoló (félre)informált döntéseket hozzanak.

Épp ideje, hogy az erőforrásokat és az energiát arra irányítsák, hogy ne csak az élvonalbeli technológiát oktassák, hanem a releváns emberi jogi szabályokat is.


(Forrás


***

Ha Te is kreatív, kihívásokkal teli mérnök állást keresel minõségi munkáltatónál, jó helyen jársz, mert a Schönherz Bázis épp azért jött létre, hogy Neked segítsen.
Gyere, nézz szét aktuális állásaink között!