Az egészség, a biztonság, az alapvető jogok és a demokrácia védelmében az emberközpontú és megbízható MI-rendszereket kell helyzeti előnybe hozni – javasolja az Európai Parlament.
A június 14-én elfogadott szabályozás azt hivatott biztosítani, hogy a mesterséges intelligencia (MI) Európán belüli fejlesztése és alkalmazása mindenben megfeleljen az európai alapjogoknak és értékeknek, azaz maradjon emberi felügyelet alatt, legyen biztonságos, átlátható és megkülönböztetésmentes, illetve a társadalom és a környezet jólétét szolgálja – olvasható az Európai Parlament közleményében.
A képviselők tilalmi listára tették az MI magánéletet sértő és diszkriminatív alkalmazásait is, többek között
- a köztereken végzett „valós idejű” és „utólagos” távoli biometrikus azonosítást;
- az érzékeny személyes adatokon (nemen, fajon, etnikai származáson, állampolgárságon, valláson, politikai szemléleten) alapuló biometrikus kategorizálást;
- a profilalkotásra, illetve a tartózkodási helyre vagy bűnözői előéletre alapozott prediktív rendvédelmet;
- a gépi érzelemfelismerés alkalmazását a bűnüldözésben, a határellenőrzésben, a munkahelyen és az oktatási intézményekben; valamint
- arcfelismerő adatbázisok létrehozását az internetről vagy zártláncú televíziós hálózatok felvételeiből nem célirányosan leválogatott arcképek felhasználásával (sértve az emberi jogokat és a magánélethez való jogot).
A képviselők nagy kockázatúnak minősítenék azokat az MI-rendszereket, amelyek jelentős mértékben veszélyeztetik az emberek egészségét, biztonságát, alapvető jogait vagy a környezetet. A választási eredmények és a szavazók befolyásolására alkalmas MI-rendszerek, illetve a több mint 45 millió felhasználóval rendelkező közösségimédia-platformok által használt ajánlórendszerek a képviselők javaslatában szintén felkerültek erre a listára.
A Parlament álláspontja szerint az általános célú MI-rendszerek fejlesztői csak azután hozhatnák forgalomba termékeiket az uniós piacon, hogy felmérték és mérsékelték a lehetséges kockázatokat (az egészségre, biztonságra, az alapvető jogokra, a természeti környezetre, a demokráciára és a jogállamiságra), és bejegyeztették modelljeiket az uniós adatbázisba. Az ilyen modelleken alapuló generatív MI-rendszerekkel szemben, mint például a ChatGPT, elvárás lenne az átláthatóság: minden esetben fel kellene tüntetni, hogy a tartalmat mesterséges intelligencia állította elő, segítséget kellene nyújtani az úgynevezett „deep fake” képeknek az igaziaktól való megkülönböztetésében, valamint megfelelő biztosítékokkal kellene elejét venni a jogellenes tartalomgenerálásnak.
Az innováció és a kkv-k támogatása érdekében ugyanakkor a képviselők azt javasolták, hogy a kutatási tevékenységekre és a nyílt forráskódú licencek alapján rendelkezésre bocsátott MI-komponensekre ne terjedjen ki minden kötelezettség.
