AI Act

Dvojí účel, fungující vnitřní trh a důvěryhodná AI chránící zdraví, bezpečnost a základní práva. Interpretační kotva, ke které se sahá při teleologickém výkladu všech dalších ustanovení.

Extrateritoriální dosah. Dopadá na poskytovatele uvádějící systém na trh v EU bez ohledu na sídlo i na poskytovatele a zavádějící subjekty ze třetích zemí, pokud se výstup systému používá v EU. Mimo režim stojí národní bezpečnost a obrana, vědecký výzkum a vývoj, činnost před uvedením na trh, čistě osobní nepodnikatelské užití a zčásti open-source modely. Členské státy mohou držet přísnější ochranu zaměstnanců.

68 definic, na kterých stojí celé nařízení. Systém AI se pozná podle odvozování výstupů ze vstupů, různé míry autonomie a případné adaptability, což rozhoduje, jestli je konkrétní software vůbec v režimu. Nosná je dvojice rolí, poskytovatel (vyvíjí nebo nechává vyvinout a uvádí na trh) a zavádějící subjekt (používá v rámci profesionální činnosti). Většina povinností visí na poskytovateli.

Poskytovatelé i zavádějící subjekty zajišťují dostatečnou úroveň znalostí personálu, který s AI pracuje, s ohledem na kontext a dotčené osoby. Platí od 2. 2. 2025 a je to nejplošnější povinnost nařízení, dopadá i na firmy, které AI jen používají. Prakticky se plní školením, interními pravidly a dokumentací obojího. Přímá pokuta za porušení nehrozí (ve výčtu čl. 99 odst. 4 článek 4 není) a k jejímu splnění slouží otevřený kurz AI gramotnosti na tomhle webu.

Zákazy a) až h). Podprahová a manipulativní technika podstatně narušující rozhodování, zneužití zranitelnosti (věk, postižení, sociální a ekonomická situace), social scoring s neodůvodněnými důsledky mimo původní kontext, predikce kriminality čistě z profilování osobnosti, plošný scraping obličejů z internetu a kamerových záznamů, odvozování emocí na pracovišti a ve školách (mimo zdravotní a bezpečnostní důvody), biometrická kategorizace odhalující citlivé znaky a biometrická identifikace na dálku v reálném čase na veřejných místech pro vymáhání práva. U poslední z nich odst. 2 až 7 připouštějí taxativní výjimky (oběti, bezprostřední ohrožení života, pachatelé vyjmenovaných činů) s předchozím povolením soudu nebo nezávislého orgánu. Praktický test před nasazením čehokoli s AI je projít těch osm písmen. A pozor, Digital Omnibus přidává s přechodným obdobím do 2. 12. 2026 devátý zákaz, generování materiálu zobrazujícího sexuální zneužívání dětí a nekonsenzuálních intimních snímků, který dopadá i na systémy, kde je takový výstup rozumně předvídatelný a chybí dostatečné technické pojistky.

Dvě cesty do vysokého rizika. Systém je bezpečnostní komponentou regulovaného výrobku podle přílohy I s posouzením shody třetí stranou (odst. 1), nebo spadá do oblastí přílohy III (odst. 2), tedy biometrika, kritická infrastruktura, vzdělávání, zaměstnávání, základní služby a úvěry, vymáhání práva, migrace, justice. Odst. 3 dává filtr pro systémy s jen přípravnou nebo pomocnou rolí bez významného rizika, výjimku je ale nutné zdokumentovat a systém registrovat. Profilování fyzických osob je vysoce rizikové vždy. Krokové rozhodovací schéma je na kartě AI Act.

Komise smí delegovanými akty seznam vysoce rizikových použití doplňovat i zužovat podle kritérií závažnosti a pravděpodobnosti újmy. Mechanismus, kterým bude příloha III žít, sledovat ji je průběžná compliance povinnost sama o sobě.

Systém plní požadavky oddílu s ohledem na zamýšlený účel a obecně uznávaný stav techniky. U výrobků podle přílohy I se plnění integruje do sektorových postupů, aby se neposuzovalo dvakrát.

Kontinuální iterativní proces po celý životní cyklus. Identifikace předvídatelných rizik včetně rozumně předvídatelného zneužití, opatření v návrhu, testování proti metrikám a zvláštní ohled na osoby mladší 18 let a jinak zranitelné skupiny.

Trénovací, validační a testovací sady musí být relevantní, dostatečně reprezentativní a v maximální možné míře bez chyb, s postupy správy dat od sběru přes labeling po detekci a mitigaci zkreslení. Zpracování zvláštních kategorií osobních údajů pro odhalování zkreslení jen za přísných kumulativních podmínek. Pro praxi nejdražší článek nařízení.

Před uvedením na trh a průběžně aktuální, obsah podle přílohy IV. Malé a střední podniky mohou použít zjednodušený formulář Komise.

Systém automaticky loguje události po celý životní cyklus tak, aby šla zpětně dohledat riziková situace, podstatná změna i podklad pro monitoring po uvedení na trh.

Návod k použití se schopnostmi a limity systému, výkonnostními metrikami, známými riziky, požadavky na lidský dohled a údržbu. Bez tohohle článku by zavádějící subjekt nemohl unést vlastní povinnosti z čl. 26.

Dohled musí být účinný, dohlížející osoba rozumí schopnostem a limitům, umí výstup správně interpretovat, nepodlehnout automation bias a zasáhnout nebo systém zastavit. U vzdálené biometrické identifikace nesmí být opatření přijato na základě samotného výstupu bez ověření nejméně dvěma způsobilými fyzickými osobami.

Deklarované úrovně přesnosti v návodu, odolnost proti chybám i pokusům o zneužití (data poisoning, adversariální vstupy) a ošetření zpětnovazebních smyček u systémů, které se učí za provozu.

Souhrnný katalog. Zajistit shodu s oddílem 2, mít systém řízení kvality, vést dokumentaci a logy, projít posouzením shody, vydat prohlášení, označit CE, registrovat, přijímat nápravná opatření, spolupracovat s orgány a splnit požadavky na přístupnost podle směrnic (EU) 2016/2102 a 2019/882.

Písemně zdokumentovaný systém pokrývající strategii shody, návrh a vývoj, testování, správu dat, řízení rizik, monitoring po uvedení na trh, hlášení incidentů i komunikaci s orgány. Obdoba QMS ze světa zdravotnických prostředků.

Technická dokumentace, dokumentace QMS, prohlášení o shodě a certifikáty k dispozici orgánům deset let od uvedení systému na trh.

Logy, které má poskytovatel pod kontrolou, se uchovávají po dobu přiměřenou účelu, nejméně šest měsíců.

Nevyhovující systém uvést do shody, stáhnout z trhu, deaktivovat nebo odvolat, a informovat distributory, zavádějící subjekty, zástupce i dovozce.

Na odůvodněnou žádost doložit shodu, zpřístupnit dokumentaci a logy v jazyce srozumitelném orgánu.

Poskytovatel ze třetí země musí mít písemně pověřeného zástupce usazeného v EU, který drží dokumentaci a je kontaktním bodem orgánů. Stejná logika jako u GDPR čl. 27.

Před uvedením ověřit, že proběhlo posouzení shody, existuje dokumentace, systém nese CE a poskytovatel má zástupce. Dovozce se podepisuje na obal a nesmí uvést systém, o kterém ví, že nevyhovuje.

Ověření označení a dokumentů, skladování a přeprava neohrožující shodu a povinnost stáhnout nebo nahlásit systém představující riziko.

Nejpodceňovanější článek nařízení. Kdo cizí vysoce rizikový systém opatří vlastní značkou, podstatně ho změní, nebo změní účel obecného systému na vysoce rizikový, stává se poskytovatelem se všemi povinnostmi. Původní poskytovatel předává dokumentaci a dodavatelé komponent uzavírají písemné dohody o součinnosti. Přesně tudy do režimu vklouznou integrátoři stavějící na cizích modelech.

Používat podle návodu, svěřit dohled kompetentním osobám, zajistit relevantní vstupní data, monitorovat provoz, hlásit incidenty, uchovávat logy nejméně šest měsíců, před nasazením na pracovišti informovat zaměstnance a jejich zástupce a informovat osoby, o kterých systém pomáhá rozhodovat.

Veřejnoprávní zavádějící subjekty, soukromí poskytovatelé veřejných služeb a zavádějící subjekty u úvěrového scoringu a životního pojištění před prvním použitím popíší procesy, dotčené skupiny, rizika újmy, lidský dohled a nápravná opatření, a oznámí to dozorovému orgánu. Navazuje na DPIA z GDPR, kde už existuje, doplní se.

Každý stát určí orgán, který posuzuje, oznamuje a monitoruje subjekty posuzování shody, s garancí nestrannosti vůči nim.

Subjekt posuzování shody dokládá způsobilost akreditací, případně jinou dokumentací.

Notifikace Komisi a státům elektronicky, s okny pro námitky, teprve pak smí subjekt působit jako oznámený.

Nezávislost na poskytovatelích i konkurentech, důvěrnost, odborný personál, pojištění odpovědnosti a vnitřní procesy úměrné velikosti klienta.

Akreditace podle harmonizovaných norem zakládá domněnku splnění požadavků čl. 31.

Subdodávka posuzování jen se souhlasem klienta a při zachování plné odpovědnosti oznámeného subjektu.

Posuzovat proporcionálně, nezatěžovat zbytečně malé poskytovatele a dokumentaci držet k dispozici oznamujícímu orgánu.

Komise přiděluje čísla a vede veřejný seznam oznámených subjektů.

Postup při ztrátě způsobilosti, pozastavení nebo zrušení a osud vydaných certifikátů včetně převodu spisů k jinému subjektu.

Komise může způsobilost prošetřit a po státu žádat nápravu včetně zrušení notifikace.

Sektorové skupiny pro sdílení praxe, aby posuzování nedivergovalo mezi státy.

Za rovnocenných podmínek a na základě dohod mohou činnost vykonávat i subjekty usazené mimo EU.

Soulad s harmonizovanou normou zakládá domněnku shody s požadavky, které norma pokrývá. Praktická cesta compliance, normy pro AI Act vznikají v CEN/CENELEC na žádost Komise.

Když normy chybí nebo nestačí, Komise může prováděcím aktem vydat vlastní specifikace se stejným účinkem domněnky.

Dvě zvláštní domněnky. Trénink na datech odpovídajících prostředí nasazení pro reprezentativnost a certifikace kyberbezpečnosti pro čl. 15.

U biometriky si poskytovatel volí mezi interní kontrolou podle přílohy VI a posouzením s oznámeným subjektem podle přílohy VII, u ostatních oblastí přílohy III stačí interní kontrola. Systémy ve výrobcích podle přílohy I jedou v sektorových postupech. Podstatná změna systému znamená nové posouzení.

Vydávají oznámené subjekty na omezenou dobu s možností prodloužení, pozastavení a odnětí, proti čemuž existuje odvolací postup.

Hlášení vydaných, odmítnutých, pozastavených a odňatých certifikátů oznamujícímu orgánu a sdílení s ostatními subjekty.

Dozorový orgán může z výjimečných důvodů veřejné bezpečnosti, ochrany života a zdraví, životního prostředí nebo klíčových aktiv povolit uvedení na trh bez dokončeného posouzení, dočasně a pod kontrolou.

Poskytovatel jím na deset let přebírá odpovědnost za shodu, obsah podle přílohy V.

Viditelně, čitelně, nesmazatelně, u digitálních systémů digitálně, s číslem oznámeného subjektu tam, kde se účastnil.

Poskytovatel se před uvedením na trh registruje do databáze EU podle čl. 71, registrují se i systémy vyňaté filtrem čl. 6 odst. 3 a veřejnoprávní zavádějící subjekty. Citlivé oblasti (vymáhání práva, migrace) jdou do neveřejné části.

Povinnosti se dělí podle role. Poskytovatel zajistí, aby člověk poznal, že komunikuje s AI (ledaže je to z kontextu zjevné), a aby syntetický zvuk, obraz, video i text nesly strojově čitelné označení. Zavádějící subjekt informuje osoby vystavené rozpoznávání emocí nebo biometrické kategorizaci, zveřejňuje umělý původ deepfake (u zjevně uměleckých a satirických děl stačí nerušivé přiznání) a označuje AI text zveřejněný k informování veřejnosti o věcech veřejného zájmu, ledaže text prošel lidskou redakční kontrolou a někdo za něj nese redakční odpovědnost. Všechno jasně a rozlišitelně, nejpozději při první interakci, ne schované v podmínkách. Je to informační povinnost, ne požadavek na kvalitu výstupu, proč to u právního poradenství nestačí, rozebírá hypotéza H3 na mapě výzkumu.

Model má systémové riziko, když jeho schopnosti s velkým dopadem odpovídají prahu tréninkového výpočtu nad 10^25 operací s pohyblivou řádovou čárkou, nebo když ho tak z moci úřední označí Komise podle kritérií přílohy XIII.

Poskytovatel oznámí Komisi splnění prahu do dvou týdnů a může argumentovat, že model systémové riziko přesto nepředstavuje. Komise vede a zveřejňuje seznam takových modelů.

Technická dokumentace podle přílohy XI, informace pro navazující poskytovatele podle přílohy XII, politika dodržování unijního autorského práva včetně respektu k výhradám vytěžování textů a dat, a veřejné shrnutí trénovacího obsahu podle šablony úřadu pro AI (24. 7. 2025, i česky). Open-source modely mají úlevu z dokumentace, ne z autorského práva a shrnutí.

Mimounijní poskytovatelé obecných modelů ustanoví zástupce v EU, obdoba čl. 22.

Navíc evaluace modelu včetně adversariálního testování, posuzování a mitigace systémových rizik na úrovni EU, hlášení závažných incidentů úřadu pro AI a kybernetická ochrana modelu i infrastruktury.

Úřad pro AI facilituje kodexy, které plnění kap. V zpraktičťují, hotové měly být do 2. 5. 2025. Dodržování kodexu je cesta, jak prokázat soulad, dokud nejsou harmonizované normy. Kodex správné praxe pro GPAI z 10. 7. 2025 (kapitoly transparentnost, autorské právo, bezpečnost a zabezpečení) Komise a rada pro AI potvrdily jako vhodný dobrovolný nástroj a podepsali ho mimo jiné velcí poskytovatelé modelů.

Každý stát zřídí aspoň jeden sandbox do 2. 8. 2026, i společně s jinými státy. Kontrolované prostředí pro vývoj a testování pod vedením orgánů, výstupem je písemná zpráva a doklady, které se počítají u posuzování shody. Účast nezbavuje odpovědnosti, ale postup v dobré víře podle pokynů chrání před pokutami.

Jednotná kritéria a postupy stanoví prováděcí akty Komise, pro malé a střední podniky má být přístup zásadně bezplatný.

Zákonně získané osobní údaje lze v sandboxu dále zpracovat pro vývoj systémů ve významném veřejném zájmu (zdraví, životní prostředí, energetika, doprava, veřejná správa), v odděleném prostředí, s výmazem po skončení.

Vysoce rizikové systémy z přílohy III lze testovat mimo sandbox před uvedením na trh, s plánem testování, registrací, informovaným souhlasem subjektů a stropem šesti měsíců s možností jednoho prodloužení o dalších šest.

Svobodný, konkrétní a dokumentovaný souhlas účastníků testování, s právem kdykoli odstoupit.

Přednostní bezplatný přístup do sandboxů, školení, komunikační kanály a poplatky za posuzování shody úměrné velikosti.

Mikropodniky mohou vybrané prvky systému řízení kvality plnit zjednodušeně.

Komise soustřeďuje expertízu a výkon přes úřad pro AI, který je zároveň přímým dozorem nad obecnými modely.

Po jednom zástupci z každého státu, koordinační těleso mezi Komisí a národními orgány.

Jednotná aplikace nařízení, stanoviska, doporučení a podpora sladěné správní praxe včetně sandboxů.

Průmysl, malé a střední podniky, akademie a občanská společnost radí radě a Komisi, vyvážené složení.

Odborná opora úřadu, mimo jiné může vydat kvalifikovanou výstrahu o systémovém riziku obecného modelu.

Státy si mohou z téhož poolu expertů brát podporu pro vlastní dozor.

Každý stát určil do 2. 8. 2025 nejméně jeden oznamující orgán a jeden orgán dozoru nad trhem a jednotné kontaktní místo, s garancí zdrojů a kompetencí.

Komise provozuje veřejnou, strojově čitelnou databázi registrací podle čl. 49 s obsahem podle přílohy VIII. Vymáhání práva a migrace mají neveřejnou sekci přístupnou jen orgánům.

Poskytovatel aktivně sbírá a vyhodnocuje zkušenosti z provozu podle plánu, který je součástí technické dokumentace, šablonu vydává Komise.

Poskytovatel hlásí závažný incident orgánu státu, kde k němu došlo, nejpozději do 15 dnů, při úmrtí do 10 dnů a při rozsáhlém porušení nebo narušení kritické infrastruktury do 2 dnů. Následuje šetření a hlášení o nápravě.

Platí režim nařízení o dozoru nad trhem (EU) 2019/1020. Orgány mají přístup k dokumentaci, datům i (za podmínek) zdrojovému kódu, u finančních institucí dozorují sektorové orgány, u biometriky pro vymáhání práva orgány ochrany dat.

Když systém staví na obecném modelu od téhož poskytovatele, spolupracuje úřad pro AI s národním dozorem, ať se kompetence nepřekrývají.

Orgány kontrolují testování podle čl. 60 a mohou ho pozastavit nebo ukončit.

Vyjmenované národní orgány ochrany základních práv dostávají přístup k dokumentaci, když ji potřebují pro svou působnost.

Ochrana duševního vlastnictví, obchodního tajemství a zdrojového kódu při výkonu dozoru, výměna informací mezi orgány jen v nezbytném rozsahu.

Národní postup hodnocení a opatření (uvedení do souladu, stažení, odvolání) s notifikací Komisi a ostatním státům.

Orgán může přezkoumat systém, který se klasifikaci vyhnul filtrem čl. 6 odst. 3, a přeřadit ho do vysokého rizika, s pokutou za obcházení.

Spory mezi státy o opatřeních rozhoduje Komise.

I formálně shodný systém může představovat riziko pro zdraví, bezpečnost nebo základní práva, pak se opatření nařizují také.

Chybějící CE, prohlášení, registrace nebo zástupce se napravuje, jinak následuje omezení nebo stažení z trhu.

Horizontální technická podpora dozoru (testovací kapacity Unie).

Kdokoli může podat stížnost orgánu dozoru nad trhem, bez dotčení jiných prostředků ochrany.

Osoba dotčená rozhodnutím s právními nebo obdobně významnými účinky, které bylo přijato na základě výstupu vysoce rizikového systému z přílohy III, má právo na jasné a smysluplné vysvětlení role systému a hlavních prvků rozhodnutí. Tichý příbuzný čl. 22 GDPR, ale mířený na proces rozhodování, ne na zpracování dat.

Na hlášení porušení nařízení se použije směrnice o ochraně oznamovatelů (EU) 2019/1937, v ČR tedy zákon o ochraně oznamovatelů.

Výlučná pravomoc Komise, vykonává ji úřad pro AI.

Úřad sleduje plnění a navazující poskytovatelé si mohou stěžovat na porušení proti nim.

Kvalifikovaná výstraha o systémovém riziku může spustit hodnocení modelu Komisí.

Komise si od poskytovatele modelu vyžádá dokumentaci a doplňující informace.

Komise může model hodnotit, i skrze nezávislé experty, včetně přístupu k modelu přes API nebo jiné vhodné prostředky.

Od mitigace rizik přes omezení zpřístupnění až po stažení modelu z trhu.

Pro poskytovatele modelů platí procesní záruky obdobné režimu dozoru nad trhem.

Poskytovatelé systémů mimo vysoké riziko si mohou dobrovolně uložit vybrané požadavky kap. III a k tomu prvky jako udržitelnost, gramotnost, inkluzivní návrh nebo účast dotčených skupin.

Komise vydává praktické pokyny mimo jiné k požadavkům čl. 8 až 15, k zákazům čl. 5, k čl. 50, ke vztahu k jiným předpisům a k definici systému AI, s ohledem na malé a střední podniky. Pro praxi budou často důležitější než text nařízení sám.

Delegace na Komisi (mj. změny příloh) na pět let s tichým prodlužováním, EP a Rada mohou akt vetovat.

Standardní komitologie pro prováděcí akty.

Porušení zákazů z čl. 5 až 35 mil. eur nebo 7 % celosvětového obratu. Porušení ostatních povinností (mj. čl. 16, 25, 26, 50) až 15 mil. eur nebo 3 %. Nepravdivé informace orgánům až 7,5 mil. eur nebo 1 %. Pro malé a střední podniky platí vždy nižší z obou hodnot, jinak vyšší. Státy doplní vlastní režim vymáhání.

Orgánům a subjektům Unie ukládá pokuty evropský inspektor ochrany údajů, do 1,5 mil. eur za zakázané praktiky a do 750 tis. eur za ostatní porušení.

Ukládá Komise, až 15 mil. eur nebo 3 % obratu, mimo jiné za porušení kap. V nebo nevyhovění opatřením z čl. 93.

Novela nařízení (ES) č. 300/2008 o ochraně civilního letectví. Prováděcí pravidla k bezpečnostnímu vybavení s AI mají zohledňovat požadavky kap. III oddílu 2.

Novela nařízení (EU) č. 167/2013, schvalování zemědělských a lesnických vozidel, stejná logika zohlednění požadavků.

Novela nařízení (EU) č. 168/2013, dvoukolová a tříkolová vozidla a čtyřkolky.

Novela směrnice 2014/90/EU o lodní výstroji.

Novela směrnice (EU) 2016/797 o interoperabilitě železničního systému.

Novela nařízení (EU) 2018/858 o schvalování motorových vozidel.

Novely nařízení (EU) 2018/1139 o civilním letectví (rámec EASA).

Novela nařízení (EU) 2019/2144 o požadavcích na bezpečnost vozidel.

Porušení AI Actu se přidává do přílohy směrnice (EU) 2020/1828, spotřebitelské organizace tedy mohou podávat zástupné žaloby i za porušení tohoto nařízení. Pro soukromé vymáhání klíčová a přehlížená stopa.

Vysoce rizikový systém uvedený před náběhem povinností se dorovnává jen při významné změně návrhu. Orgány veřejné moci dorovnávají vždy, nejpozději do 2. 8. 2030. Rozsáhlé informační systémy EU podle přílohy X uvedené před 2. 8. 2027 do 31. 12. 2030. Obecné modely uvedené před 2. 8. 2025 do 2. 8. 2027.

Komise pravidelně posuzuje potřebu změn seznamu přílohy III i zákazů a každé čtyři roky celé nařízení hodnotí a podává zprávu, včetně účinnosti sankcí a spotřeby energie u obecných modelů.

Odstupňovaný náběh povinností, viz časová osa na kartě AI Act. Pozor, lhůty tohoto článku následně mění Digital Omnibus.

Seznam harmonizačních právních předpisů Unie. Oddíl A podle nového legislativního rámce (strojní zařízení, hračky, výtahy, zdravotnické prostředky a další), oddíl B ostatní (letectví, vozidla, lodní výstroj, železnice). Vstupenka do vysokého rizika cestou čl. 6 odst. 1.

Seznam trestných činů, u kterých připadá v úvahu výjimka pro biometrickou identifikaci na dálku v reálném čase podle čl. 5.

Seznam vysoce rizikových použití podle čl. 6 odst. 2 v osmi oblastech, od biometriky přes zaměstnávání a základní služby po justici. Fakticky nejdůležitější část nařízení, Komise ji může měnit podle čl. 7. Bod 8 pokrývá jen výkon spravedlnosti, soukromé právní poradenství tu chybí (viz hypotéza H3 na mapě výzkumu).

Obsah technické dokumentace podle čl. 11, od popisu systému a jeho vývoje přes data a validaci po řízení rizik a monitoring.

Obsah EU prohlášení o shodě podle čl. 47.

Postup posuzování shody interní kontrolou, bez zapojení třetí strany.

Postup posuzování shody se zapojením oznámeného subjektu, posuzuje se systém řízení kvality a technická dokumentace.

Rozsah údajů pro registraci do databáze EU podle čl. 49.

Rozsah údajů pro registraci testování v reálných podmínkách podle čl. 60.

Právní akty Unie o rozsáhlých informačních systémech v prostoru svobody, bezpečnosti a práva, pro přechodný režim čl. 111 odst. 1.

Obsah technické dokumentace poskytovatele obecného modelu AI podle čl. 53.

Informace, které poskytovatel obecného modelu předává navazujícím poskytovatelům podle čl. 53.

Kritéria, podle kterých Komise označuje obecný model za model se systémovým rizikem podle čl. 51 (parametry, kvalita a velikost dat, výpočet, modality, dosah).