Európska únia sa rozhodla regulovať umelú inteligenciu (AI), aby bola táto inovatívna technológia využívaná bezpečnejšie a efektívnejšie. Nový zákon, ktorý Európska komisia navrhla v apríli 2021, sa stane prvým právnym rámcom pre AI v histórii EÚ. Jeho cieľom je kategorizovať systémy AI podľa úrovne rizika, ktoré predstavujú pre užívateľov, a na základe toho prispôsobiť mieru regulácie.
V čom je tento zákon unikátny a prečo práve teraz?
Umelá inteligencia sa neustále vyvíja a preniká do všetkých sfér našich životov, od zdravotníctva po vzdelávanie. Európsky parlament kladie veľký dôraz na to, aby systémy AI používané v EÚ boli bezpečné, transparentné, sledovateľné, nediskriminačné a šetrné k životnému prostrediu. Veľká pozornosť sa venuje aj tomu, aby boli tieto systémy pod dohľadom ľudí, nie úplne automatizované.
Parlament chce tiež vytvoriť technologicky neutrálnu, jednotnú definíciu AI, ktorá by sa dala použiť na budúce systémy AI.
Zákon o AI stanovuje rôzne pravidlá pre rôzne úrovne rizika.
Neprijateľné riziko
Systémy považované za neprijateľné riziko budú zakázané. Niektoré výnimky však môžu byť povolené na účely presadzovania práva.
Patria sem:
- Kognitívno-behaviorálna manipulácia ľudí alebo špecifických zraniteľných skupín, ľudsky sú to napríklad hračky na hlasové ovládanie, ktoré môžu podnecovať nebezpečné správanie u detí, systémy sociálneho hodnotenia ľudí alebo systémy pre biometrickú identifikáciu
-
Sociálne bodovanie: klasifikácia ľudí na základe správania, sociálno-ekonomického postavenia alebo osobných charakteristík
-
Biometrická identifikácia a kategorizácia osôb
-
Systémy biometrickej identifikácie v reálnom čase a na diaľku, napríklad rozpoznávanie tváre
Vysoké riziko
To predstavujú systémy, ktoré môžu negatívne ovplyvniť bezpečnosť alebo základné práva. Všetky systémy budú pred uvedením na trh aj počas prevádzkovania posudzované.
Patria sem:
1) Systémy umelej inteligencie, ktoré sa používajú vo výrobkoch, na ktoré sa vzťahujú právne predpisy EÚ o bezpečnosti výrobkov. (hračky, letectvo, autá, zdravotnícke pomôcky a výťahy)
2) Systémy umelej inteligencie spadajúce do špecifických oblastí, ktoré sa budú musieť zaregistrovať v databáze EÚ:
- Manažment a prevádzka kritickej infraštruktúry
- Vzdelávanie a odborná príprava
- Zamestnanosť, riadenie pracovníkov a prístup k samostatnej zárobkovej činnosti
- Prístup a využívanie základných súkromných služieb, verejných služieb a výhod
- Presadzovania práva
- Riadenie migrácie, azylu a kontroly hraníc
- Pomoc pri právnom výklade a aplikácii práva
Je ohrozená aj ChatGPT?
Zákon tiež zahŕňa priehľadnosť generatívnej AI, ako je ChatGPT. Tieto systémy nebudú klasifikované ako vysoké riziko, ale musia spĺňať požiadavky na transparentnosť a dodržiavanie autorských práv EÚ.
A to:
- Uvedenie, že obsah vygenerovala AI
- Navrhovanie vlastného modelu tak, aby sa zabránilo generovaniu nezákonného obsahu
- Publikovanie súhrnov údajov chránených autorskými právami použitých na trénovanie AI
To znamená, že obsah, ktorý je buď vygenerovaný alebo upravený pomocou AI – obrázky, audio alebo video súbory – musí byť jasne označený ako generovaný AI.
Inovácie v oblasti AI majú podporu v novom zákone, ktorý ponúka start-upom, či malým a stredným podnikom možnosti rozvoja a tréningu modelov AI pred ich oficiálnym uvedením na trh. Národné autority by mali firmám poskytnúť testovacie prostredie simulujúce reálne podmienky.
Zákonodarcovia v Európskom parlamente 13. marca 2024 tento zákon schválili. Pravidlá umelej inteligencie na všeobecné účely sa budú uplatňovať jeden rok po nadobudnutí účinnosti, teda
v máji 2025, a povinnosti
pre vysokorizikové systémy o tri roky.
Budú pod dohľadom vnútroštátnych orgánov a budú podporované úradom AI v rámci Európskej komisie. Teraz bude na členských štátoch, aby vytvorili národné dozorné agentúry. Komisia uviedla, že krajiny majú 12 mesiacov na to, aby nominovali týchto "strážnych psov".
