Schválený zákon EU o umělé inteligenci: Čím konkrétně vás chrání?
Evropský parlament razantním krokem schválil tzv. AI Act, revoluční legislativu regulující umělou inteligenci. Zákon má za cíl zajistit bezpečnost a soulad s lidskými právy v tomto dynamicky se rozvíjejícím oboru, aniž by bránil inovacím.
Podobně jako v minulosti internet, představuje i umělá inteligence technologický skok s nepřeberným potenciálem. Kromě nesporných benefitů v mnoha oblastech s sebou ale nese i rizika zneužití. Evropská unie si tuto problematiku uvědomuje a schválením zákona o AI dělá krok vstříc k regulaci této technologie.
Co konkrténě zákon řeší?
Původní návrh zákona spatřil světlo světa už před třemi lety a od té doby se na něm pracovalo. Po pečlivé práci a diskuzích schválil Evropský parlament jeho finální podobu v polovině března 2024. Nyní zbývá pouze formální schválení Radou EU. Tento 258 stranami obsáhlý dokument definuje řadu klíčových ustanovení, která budou formovat budoucnost AI v Evropě.
Hlavní body regulace:
Manipulativní praktiky: Systémy AI, které manipulují lidmi, zneužívají jejich zranitelnost nebo slouží k sociálnímu bodování, budou zcela zakázány. To zahrnuje systémy, které cílí na děti nebo zneužívají psychologické slabosti.
Rozpoznávání obličejů a emocí: Zakázáno bude také používat necíleně shromažďované obrázky pro rozpoznávání obličejů nebo emocí na pracovišti či ve školách. Cílem je chránit soukromí a zabránit diskriminaci.
Vysoce rizikové systémy: Vysoce rizikové systémy AI, jako jsou biometrické systémy, systémy ve vzdělávání, výběru zaměstnanců, přístupu k veřejným službám nebo kreditní bodování, budou podléhat přísným požadavkům a nezávislému auditu.
Biometrické identifikace: Dálková biometrická identifikace, jako je rozpoznávání obličejů kamerami, bude povolena pouze v přesně definovaných případech. Těmi je hledání obětí únosů a obchodu s lidmi nebo prevence teroristických útoků. Vždy bude nutné předchozí povolení soudu nebo nezávislého orgánu.
Právo na vysvětlení: Ovlivní-li rozhodnutí systému AI významně práva osoby, bude mít tato osoba právo na srozumitelné vysvětlení pozadí učiněného rozhodnutí. Občané si budou moci na systémy AI porušující jejich práva stěžovat.
Jednotné označení a registrace: Vysoce rizikové systémy AI z povinnosti ponesou speciální označení CE a budou registrovány v databázi EU. Středně rizikové systémy budou muset uživatele jasně informovat o tom, že komunikují s AI.
Modely pro obecné užití (GPAI): Poskytovatelé modelů GPAI budou muset dodržovat autorská práva a zveřejňovat podrobnosti o datech použitých pro trénink. Nejsilnější modely GPAI budou muset procházet zvláštním hodnocením rizik a incidentů.
Podpora inovací: Zákon zavádí tzv. regulatorní sandboxy. Zde budou moci vývojáři bezpečně testovat nové systémy AI. Podpora bude poskytována zejména startupům a malým firmám s cílem podpořit inovace v EU a zabránit odlivu firem do jiných zemí.
Vysoké pokuty za porušení: Za porušení pravidel budou hrozit pokuty až do výše 30 milionů eur nebo 6 % celkového ročního obratu firmy.
Evropa v regulaci o krok napřed
Zatímco USA i Čína ve směru jakýchkoliv regulací AI zcela stagnují, Evropa se jednoznačně vymezila a poukázala na klíčové hodnoty – ochrana soukromí, transparentnost a lidská práva.
Pravidla se začnou zavádět během dvouleté lhůty od chvíle, kdy zákon vstoupí v platnost. Zatímco rizikové praktiky dostanou červenou už po půl roce, firmy budou mít čas na adaptaci vysoce rizikových systémů 2 až 3 roky.
Připravila: Petra Sauerová