Nem válhatunk a mesterséges intelligencia áldozataivá

Nem válhatunk a mesterséges intelligencia áldozataivá

---

Az Európai Parlament a mesterséges intelligenciáról szóló jogszabályt fogadott el, amelynek célja, hogy védelmet nyújtson a magas kockázatú mesterséges intelligenciával (MI) szemben.

Nem sérthetik az állampolgárok jogait

Az új szabályok tiltják az olyan MI-alkalmazásokat, amelyek sérthetik az állampolgárok jogait. Ilyen például az érzékeny személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan töltenek le.

Tiltják továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszerek alkalmazását, az állampolgárok mesterséges intelligencia révén történő, társadalmi hovatartozásukra vagy előéletükre alapozott kockázati besorolását, valamint az olyan rendszerek használatát, amelyek képesek befolyásolni az emberek viselkedését, vagy a kiszolgáltatottságukat használják ki.

A távoli biometrikus azonosító (RBI) rendszereket – néhány különleges kivételtől eltekintve – a bűnüldöző szervek sem vehetik igénybe. Valós idejű RBI csak szigorú biztosítékok mellett lesz alkalmazható: például időben és földrajzilag korlátozottan, külön bírói vagy hatósági engedéllyel. Akkor jöhet szóba, ha például eltűnt személyt keresnek, vagy terrortámadást próbálnak megelőzni. Az ilyen rendszerek utólagos – a bűnelkövetés tényének megállapítását követő – használata magas kockázatúnak minősül, ezért bírói engedélyhez kötött.

Más, magas kockázatú mesterségesintelligencia-rendszerek

Más, magas kockázatú mesterségesintelligencia-rendszerekre is egyértelmű kötelezettségek vonatkoznak. Ezek közé tartoznak például a kritikus infrastruktúrák, az oktatás és a szakképzés, a foglalkoztatás, az alapvető magán- és közszolgáltatások a bűnüldözés, a migráció és a határigazgatás, az igazságszolgáltatás és a demokratikus folyamatok egyes rendszerei. Az ilyen rendszerek használatánál, értékelni és csökkenteni kell a kockázatokat, naplót kell vezetni a használatról, és biztosítani kell az emberi felügyeletet.

Az állampolgárok panaszt is tehetnek a MI-rendszerekkel kapcsolatban, és tájékoztatást kaphatnak az ezeken alapuló, jogaikat érintő döntésekről.

Fontos az átláthatóság

Az MI-modelleknek és – rendszereknek különféle átláthatósági követelményeknek is meg kell felelniük, többek között az uniós szerzői jognak. A szoftverek tanításához használt tartalmakról részletes összefoglalót kell közzétenni. A nagyobb teljesítményű, rendszerkockázatot jelentő MI-modellekre emellett további követelmények vonatkoznak. Többek között modellértékeléseket kell végezni, értékelni és mérsékelni kell a rendszerkockázatokat, és jelenteni az incidenseket.

Az uniós tagállamokban valós körülmények között is kell teszteket végezni, amelyekbe be kell vonni a kis-és közép-, valamint az induló vállalkozásokat is, hogy a piacra már kiforrott és betanított innovatív mesterségesintelligencia-rendszerek kerüljenek ki.

A jogszabály szövegét az Európai Tanácsnak is jóvá kell hagynia, majd közzéteszik az EU hivatalos közlönyében. A rendelet a közzététel utáni huszadik napon lép hatályba.

Forrás: MTI, kép: Pixabay

Hozzászólásokhoz gördülj a kapcsolódók alá!

---

még több MI