Háromnapos „maratoni” tárgyalásokat követően a Tanács elnöksége és az Európai Parlament tárgyalói ideiglenes megállapodásra jutottak a mesterséges intelligencia (AI) harmonizált szabályairól szóló javaslatról, az úgynevezett mesterséges intelligenciáról szóló törvényről. A rendelettervezet célja annak biztosítása, hogy az európai piacon forgalomba hozott és az EU-ban használt mesterséges intelligencia rendszerek biztonságosak legyenek, és tiszteletben tartsák az alapvető jogokat és az uniós értékeket. Ennek a mérföldkőnek számító javaslatnak az a célja, hogy ösztönözze a mesterséges intelligenciával kapcsolatos beruházásokat és innovációt Európában.
Ez történelmi vívmány, és óriási mérföldkő a jövő felé! A mai megállapodás hatékonyan foglalkozik egy globális kihívással a gyorsan fejlődő technológiai környezetben, társadalmaink és gazdaságaink jövője szempontjából kulcsfontosságú területen. Ebben a törekvésünkben sikerült megtartanunk egy rendkívül kényes egyensúlyt: az innováció és a mesterséges intelligencia elterjedésének fellendítése Európa-szerte, miközben teljes mértékben tiszteletben tartjuk polgáraink alapvető jogait. Carme Artigas, a digitalizációért és a mesterséges intelligenciáért felelős spanyol államtitkár
Az AI törvény a zászlóshajó jogalkotási kezdeményezés, amely elősegítheti a biztonságos és megbízható mesterséges intelligencia fejlesztését és elterjedését az EU egységes piacán mind a magán-, mind az állami szereplők körében. A fő gondolat az, hogy a mesterséges intelligencia szabályozása azon alapul, hogy az utóbbi képes-e kárt okozni a társadalomban, miután a "kockázat alapú" megközelítés: minél nagyobb a kockázat, annál szigorúbbak a szabályok. A világ első ilyen jellegű jogalkotási javaslataként a globális szabvány más joghatóságok mesterséges intelligencia szabályozására, ahogyan azt a GDPR tette, ezzel is előmozdítva a technológiai szabályozás európai megközelítését a világ színterén.
Az ideiglenes megállapodás főbb elemei
Az eredeti bizottsági javaslathoz képest az ideiglenes megállapodás főbb új elemei a következőkben foglalhatók össze:
szabályait nagy hatású általános célú AI modellek amelyek rendszerszintű kockázatot okozhatnak a jövőben, valamint magas kockázatúak AI rendszerek
átdolgozott rendszere kormányzás bizonyos uniós szintű végrehajtási hatáskörökkel
listájának bővítése tilalmak de felhasználási lehetőséggel távoli biometrikus azonosítás a bûnüldözõ hatóságok közterületen, biztosítékok mellett
a jogok jobb védelme azáltal, hogy a nagy kockázatot jelentő mesterséges intelligencia-rendszerek telepítői kötelesek a alapjogi hatásvizsgálat egy mesterséges intelligencia rendszer használatba vétele előtt.
Konkrétabban fogalmazva, az ideiglenes megállapodás a következő szempontokat fedi le:
Fogalommeghatározások és alkalmazási kör
Annak biztosítása érdekében, hogy a definíció Egy mesterséges intelligencia-rendszer kellően egyértelmű kritériumokat ad a mesterséges intelligencia és az egyszerűbb szoftverrendszerek megkülönböztetésére, a kompromisszumos megállapodás összhangba hozza a definíciót az OECD által javasolt megközelítéssel.
Az ideiglenes megállapodás azt is egyértelművé teszi, hogy a rendelet nem vonatkozik az uniós jog hatályán kívül eső területekre, és semmi esetre sem érintheti a tagállamok hatáskörét nemzetbiztonság vagy bármely, ezen a területen feladatokkal megbízott entitás. Ezenkívül a mesterséges intelligencia törvény nem vonatkozik azokra a rendszerekre, amelyeket kizárólag erre használnak katonai or védelem célokra. Hasonlóképpen, a megállapodás előírja, hogy a rendelet nem vonatkozik azokra a mesterséges intelligencia-rendszerekre, amelyeket kizárólag a következő célokra használnak kutatás és innováció, vagy az AI nem szakmai okokból használói számára.
Hirdetés
A mesterséges intelligencia rendszerek besorolása a magas kockázatú és tiltott mesterséges intelligencia gyakorlatok közé
A kompromisszumos megállapodás rendelkezik a vízszintes védelmi réteg, ideértve a magas kockázatú besorolást is annak biztosítására, hogy ne rögzítsék azokat a mesterséges intelligencia rendszereket, amelyek valószínűleg nem okoznak súlyos alapvető jogsértéseket vagy más jelentős kockázatokat. Csak a mesterséges intelligencia rendszerek bemutatása korlátozott kockázat nagyon fénynek lenne kitéve átláthatósági kötelezettségeket, például felfedve, hogy a tartalmat mesterséges intelligencia generálta, így a felhasználók megalapozott döntéseket hozhatnak a további felhasználásról.
Széles skálája magas kockázatú A mesterséges intelligencia rendszerek engedélyezettek lennének, de az uniós piacra való bejutáshoz bizonyos követelmények és kötelezettségek vonatkoznának. Ezeket a követelményeket a társjogalkotók tisztázták és kiigazították oly módon, hogy azok több műszakilag megvalósítható és a kevésbé megterhelő az érdekelt felek számára, hogy megfeleljenek például az adatok minőségének, vagy a kkv-k által összeállított műszaki dokumentációnak annak bizonyítására, hogy magas kockázatú mesterséges intelligencia-rendszereik megfelelnek a követelményeknek.
Mivel az AI-rendszereket összetett értékláncokon keresztül fejlesztik és terjesztik, a kompromisszumos megállapodás olyan változtatásokat tartalmaz, amelyek tisztázzák a a felelősségek elosztása és a a különböző szereplők szerepei ezekben a láncokban, különösen az AI-rendszerek szolgáltatói és felhasználói. Tisztázza továbbá a mesterséges intelligencia-törvény szerinti felelősségek és a más jogszabályok, például a vonatkozó uniós adatvédelmi vagy ágazati jogszabályok alapján már meglévő felelősségek közötti kapcsolatot.
A mesterséges intelligencia egyes felhasználásai esetében kockázatnak számítanak elfogadhatatlan és ezért ezeket a rendszereket kitiltják az EU-ból. Az ideiglenes megállapodás tiltja például a kognitív viselkedési manipuláció, a céltalan selejtezési az internetről származó arcképek vagy CCTV felvételek, érzelem felismerés a munkahelyen és az oktatási intézményekben, társadalmi pontozás, biometrikus kategorizálás érzékeny adatokra, például szexuális irányultságra vagy vallási meggyőződésre, valamint bizonyos esetekben következtetni prediktív rendőrség egyének számára.
Rendészeti kivételek
Figyelembe véve a sajátosságait bűnüldöző hatóságok és annak szükségessége, hogy megőrizzék a mesterséges intelligencia használatára való képességüket létfontosságú munkájuk során, a Bizottság javaslatának több módosításáról is megállapodtak a mesterségesintelligencia-rendszerek bűnüldözési célú használatára vonatkozóan. A megfelelő biztosítékok, ezek a változtatások azt az igényt hivatottak tükrözni, hogy tevékenységükkel kapcsolatban tiszteletben tartsák az érzékeny működési adatok titkosságát. Például sürgősségi eljárást vezettek be, amely lehetővé tette a bűnüldöző szervek számára, hogy olyan magas kockázatú mesterséges intelligencia eszközt telepítsenek, amely nem felelt meg a megfelelősségi értékelés eljárás sürgős esetben. Ennek biztosítására azonban egy speciális mechanizmust is bevezettek az alapvető jogok megfelelően védve lesz az AI-rendszerekkel való esetleges visszaélésekkel szemben.
Sőt, ami a valós idejű használatot illeti távoli biometrikus azonosítás Az ideiglenes megállapodás tisztázza azokat a célokat, ahol az ilyen használat feltétlenül szükséges bűnüldözési célokra, és amelyekre a bűnüldöző hatóságoknak ezért kivételesen engedélyezni kell az ilyen rendszerek használatát. A kompromisszumos megállapodás előírja további biztosítékok és ezeket a kivételeket bizonyos bûncselekmények áldozatainak eseteire, a valódi, jelenlegi vagy elõrelátható fenyegetések – például terrortámadások – megelõzésére, valamint a legsúlyosabb bûncselekményekkel gyanúsított személyek felkutatására korlátozza.
Általános célú mesterséges intelligencia rendszerek és alapmodellek
Új rendelkezések kerültek beillesztésre, hogy figyelembe vegyék azokat a helyzeteket, amikor az AI-rendszerek többféle célra használhatók (általános célú AI), és ahol az általános célú mesterséges intelligencia technológiát ezt követően egy másik magas kockázatú rendszerbe integrálják. Az ideiglenes megállapodás foglalkozik az általános célú mesterséges intelligencia (GPAI) speciális eseteivel is.
Egyedi szabályokról is megállapodás született alapozó modellek, nagy rendszerek, amelyek képesek kompetensen végrehajtani a megkülönböztető feladatok széles skáláját, mint például videó, szöveg, képek generálása, oldalnyelvi beszélgetés, számítástechnika vagy számítógépes kód generálása. Az ideiglenes megállapodás előírja, hogy az alapítványi modelleknek meg kell felelniük a konkrét átláthatósági kötelezettségeket mielőtt forgalomba kerülnek. számára szigorúbb rendszert vezettek be 'erős hatás' alapozó modellek. Ezek nagy adatmennyiséggel betanított, fejlett összetettségű, képességekkel és az átlagot jóval meghaladó teljesítménnyel rendelkező alapmodellek, amelyek a rendszerszintű kockázatokat terjeszthetik az értéklánc mentén.
Új irányítási architektúra
A GPAI-modellekre vonatkozó új szabályokat és azok uniós szintű érvényesítésének nyilvánvaló szükségességét követően a AI Office A Bizottságon belül felállítják, hogy felügyelje ezeket a legfejlettebb mesterséges intelligencia-modelleket, hozzájáruljon a szabványok és a tesztelési gyakorlatok előmozdításához, valamint a közös szabályok érvényesítése valamennyi tagállamban. A független szakértőkből álló tudományos testület tanácsot ad az AI Hivatalnak a GPAI modellekkel kapcsolatban, hozzájárulva az alapozási modellek képességeinek értékelésére szolgáló módszertanok kidolgozásához, tanácsadással a nagy hatású alapozási modellek kijelöléséhez és megjelenéséhez, valamint az alapozási modellekkel kapcsolatos esetleges anyagbiztonsági kockázatok figyelemmel kíséréséhez.
A AI Board, amely a tagállamok képviselőiből állna, továbbra is koordinációs platformként és a Bizottság tanácsadó testületeként működik majd, és fontos szerepet szán a tagállamoknak a rendelet végrehajtásában, beleértve az alapítványi modellekre vonatkozó magatartási kódexek kidolgozását is. Végül egy tanácsadó fórum Az érdekelt felek, például az iparág képviselői, a kkv-k, az induló vállalkozások, a civil társadalom és az akadémiai körök számára létrehozzák az AI-tanács technikai szakértelmét.
Szankciók
A mesterséges intelligencia törvény megsértéséért kiszabott bírságot a jogsértő vállalat előző pénzügyi évi globális éves forgalmának százalékában vagy előre meghatározott összegben határozták meg, attól függően, hogy melyik a magasabb. Ez 35 millió euró vagy 7% lenne a tiltott mesterségesintelligencia-alkalmazások megsértése esetén, 15 millió euró vagy 3% a mesterségesintelligencia-törvényben foglalt kötelezettségek megsértése esetén, és 7,5 millió euró vagy 1,5% helytelen információszolgáltatás esetén. Az ideiglenes megállapodás azonban előírja arányosabb sapkák a KKV-kra és az induló vállalkozásokra kiszabott közigazgatási bírságokról az MI-törvény rendelkezéseinek megsértése esetén.
A kompromisszumos megállapodás azt is egyértelművé teszi, hogy természetes vagy jogi személy panasszal élhet az illetékesnél piacfelügyeleti hatóság az MI-törvény be nem tartása miatt, és számíthat arra, hogy az ilyen panaszt az adott hatóság erre vonatkozó eljárásaival összhangban kezelik.
Átláthatóság és az alapvető jogok védelme
Az ideiglenes megállapodás rendelkezik a alapjogi hatásvizsgálat mielőtt egy magas kockázatú mesterséges intelligencia rendszert piacra dobnának a telepítői. Az ideiglenes megállapodás megemelkedett átláthatóság a magas kockázatú mesterséges intelligencia rendszerek használatával kapcsolatban. Nevezetesen a bizottsági javaslat egyes rendelkezései módosultak annak érdekében, hogy jelezzék, hogy a magas kockázatú mesterséges intelligenciarendszer bizonyos felhasználói, amelyek közjogi jogalanyok, szintén kötelesek lesznek regisztrálni a EU adatbázis nagy kockázatú AI-rendszerekhez. Ezen túlmenően az újonnan hozzáadott rendelkezések hangsúlyt fektetnek a felhasználók kötelezettségére érzelemfelismerő rendszer tájékoztatni kell a természetes személyeket, ha ilyen rendszernek vannak kitéve.
Innovációt támogató intézkedések
Az innovációbarátabb jogi keret megteremtése és a bizonyítékokon alapuló szabályozási tanulás előmozdítása érdekében a vonatkozó rendelkezések innovációt támogató intézkedések lényegesen módosultak a bizottsági javaslathoz képest.
Nevezetesen tisztázták, hogy az AI szabályozási homokozók, amelyeknek egy ellenőrzött környezetet kell létrehozniuk az innovatív AI-rendszerek fejlesztéséhez, teszteléséhez és validálásához, lehetővé kell tenniük az innovatív AI-rendszerek valós körülmények közötti tesztelését is. Ezenkívül új rendelkezésekkel egészültek ki, amelyek lehetővé teszik tesztelés mesterséges intelligencia rendszerek valós világ körülményei, meghatározott feltételek és biztosítékok mellett. A kisebb vállalatok adminisztratív terheinek enyhítése érdekében az ideiglenes megállapodás tartalmazza az ilyen piaci szereplők támogatása érdekében végrehajtandó intézkedések listáját, és rendelkezik néhány korlátozott és egyértelműen meghatározott eltérésről.
Hatálybalépés
Az ideiglenes megállapodás előírja, hogy az MI-törvényt kell alkalmazni két év hatálybalépése után, néhány kivételtől eltekintve az egyedi rendelkezésektől.
A következő lépések
A mai ideiglenes megállapodást követően a következő hetekben technikai szinten folytatódik a munka az új rendelet részleteinek véglegesítésére. Az elnökség a munka befejezése után jóváhagyásra benyújtja a kompromisszumos szöveget a tagállamok képviselőinek (Coreper).
A teljes szöveget mindkét intézménynek meg kell erősítenie, és jogi-nyelvészeti felülvizsgálaton kell átesni, mielőtt a társjogalkotók hivatalosan elfogadják.
Háttér információk
A 2021 áprilisában előterjesztett bizottsági javaslat kulcsfontosságú eleme az EU azon politikájának, amely az alapvető jogokat tiszteletben tartó, biztonságos és jogszerű mesterséges intelligencia fejlesztését és elterjedését az egységes piacon támogatja.
A javaslat kockázatalapú megközelítést követ, és egységes, horizontális jogi keretet állapít meg a mesterséges intelligencia számára, amelynek célja a jogbiztonság biztosítása. A rendelettervezet célja a mesterséges intelligencia területén történő beruházások és innováció előmozdítása, az alapvető jogokról és biztonságról szóló hatályos jogszabályok irányításának és hatékony érvényesítésének javítása, valamint az AI-alkalmazások egységes piacának kialakításának elősegítése. Ez kéz a kézben jár más kezdeményezésekkel, beleértve a mesterséges intelligenciára vonatkozó összehangolt tervet, amelynek célja, hogy felgyorsítsa a mesterséges intelligenciába való befektetést Európában. 6. december 2022-án a Tanács megállapodásra jutott az ügyre vonatkozó általános megközelítésről (tárgyalási mandátum), és 2023 júniusának közepén intézményközi tárgyalásokat kezdett az Európai Parlamenttel (a továbbiakban: háromoldalú egyeztetések).
Az EU Reporter különféle külső forrásokból származó cikkeket közöl, amelyek sokféle nézőpontot fejeznek ki. Az ezekben a cikkekben foglalt álláspontok nem feltétlenül az EU Reporter álláspontjai.
