Co se s AI nesmí a kdy je pod přísnou regulací

Stav právních údajů k 7. 7. 2026.

Situace z praxe

Personalista dostane nabídku nástroje, který prý z videohovorů „přečte emoce” uchazečů: nervozitu, nadšení, upřímnost. Vypadá to jako konkurenční výhoda při náboru. Ve skutečnosti je to ukázkový příklad použití, které nařízení (EU) 2024/1689 (AI Act) na pracovišti výslovně zakazuje. Odvozování emocí osob na pracovišti a ve vzdělávacích institucích je zakázaným postupem podle čl. 5 odst. 1 písm. f) nařízení, s výjimkou lékařských a bezpečnostních důvodů. Nasazení takového nástroje by nebylo odvážné, bylo by protiprávní.

Zakázané postupy, které potkáte nejspíš

Čl. 5 odst. 1 nařízení obsahuje uzavřený seznam zakázaných praktik. Pro běžnou firemní praxi jsou nejdůležitější tyto:

• podprahová manipulace a klamavé techniky, které podstatně narušují rozhodování a působí významnou újmu (písm. a),
• zneužití zranitelnosti dané věkem, zdravotním postižením nebo sociální a ekonomickou situací (písm. b),
• sociální kredit: hodnocení lidí podle chování nebo vlastností, které vede k neodůvodněnému znevýhodnění v jiných souvislostech (písm. c),
• odvozování emocí na pracovišti a ve školách (písm. f),
• biometrická kategorizace odvozující citlivé vlastnosti, například rasu, politické názory nebo sexuální orientaci (písm. g).

Zákazy platí od 2. 2. 2025 a pokuty za jejich porušení jsou nejvyšší v celém nařízení: podle čl. 99 odst. 3 až 35 milionů eur nebo 7 % celosvětového obratu. Dohodnutý balík Digital Omnibus k seznamu po svém vyhlášení přidá další zákaz, generování materiálu zobrazujícího sexuální zneužívání dětí a nekonsenzuálních intimních snímků.

Praktický důsledek pro vás: když nabídka nástroje slibuje čtení emocí, skryté ovlivňování zákazníků nebo „skóre důvěryhodnosti” lidí, není to téma na vyzkoušení zdarma. Je to téma na okamžitou konzultaci s odpovědnou osobou.

Vysoce rizikové systémy: kdy AI rozhoduje o lidech

O stupeň níže než zákazy stojí vysoce rizikové systémy. Ty se používat smí, ale pod přísnými povinnostmi (dokumentace, řízení rizik, lidský dohled, registrace). Patří sem mimo jiné systémy pro nábor a řízení zaměstnanců (třídění životopisů, hodnocení výkonu) a systémy rozhodující o přístupu k úvěrům a dalším základním službám.

Jako zaměstnanec nemusíte umět klasifikaci provést. Stačí jednoduchý signál: jakmile nástroj AI rozhoduje nebo spolurozhoduje o lidech, o jejich práci, penězích, přístupu ke službám, jde téměř jistě o vyšší rizikovou kategorii a nasazení musí předem posoudit odpovědná osoba.

Co musí firma zajistit u vysokého rizika

Z povinností zavádějícího subjektu podle čl. 26 nařízení jsou pro zaměstnance přímo viditelné dvě.

1. Skutečný lidský dohled (odst. 2): dohledem musí být pověřeny osoby, které mají nezbytnou způsobilost, odbornou přípravu a pravomoc. „Odklikávač”, který každé doporučení systému bez přemýšlení potvrdí, není dohled. Kdo dohledem pověřen je, musí umět výstupu rozumět, zpochybnit ho a zasáhnout.
2. Informování zaměstnanců předem (odst. 7): před uvedením vysoce rizikového systému AI do provozu na pracovišti zaměstnavatel informuje zástupce zaměstnanců a dotčené pracovníky. O nasazení takového systému se tedy nemáte dozvědět náhodou z chodby.

Algoritmické znevýhodnění

Systémy AI se učí z dat, a data v sobě nesou minulou praxi včetně jejích předsudků. Výstupy proto mohou znevýhodňovat určité skupiny lidí, aniž by to kdokoli ve firmě zamýšlel. Varovným příkladem je nizozemská aféra s příspěvky na péči o děti: systém pro odhalování podvodů léta plošně označoval za podvodníky i řádné žadatele, s tvrdými dopady na tisíce rodin, a skandál nakonec vedl v roce 2021 k demisi nizozemské vlády.

Pravidlo pro vás je jednoduché. Když si ve výstupech všimnete podezřelého vzorce (systém opakovaně vyřazuje uchazeče určitého věku, původu nebo bydliště), výstup nepoužijete a všimnutí nahlásíte jako incident (modul 07). Nejde o přecitlivělost, jde o včasné zachycení chyby, za kterou by jinak odpovídala firma.

Zlaté pravidlo modulu

Čtení emocí na pracovišti je zakázané, ne jen nevhodné. A jakmile AI rozhoduje o lidech, nezavádí se po vlastní ose: eskalujte na odpovědnou osobu dřív, než se nástroj poprvé použije.

Shrnutí

• Čl. 5 nařízení obsahuje uzavřený seznam zakázaných praktik, platí od 2. 2. 2025 a nesou nejvyšší pokuty (až 35 mil. eur nebo 7 % obratu).
• Pro praxi: žádné čtení emocí na pracovišti, žádná manipulace, žádný sociální kredit, žádná biometrická kategorizace citlivých vlastností.
• Když AI rozhoduje o lidech (nábor, odměny, úvěry), jde téměř jistě o vysoce rizikovou kategorii s přísnými povinnostmi firmy.
• Lidský dohled musí být skutečný a způsobilý, ne formální odklikávání.
• O nasazení vysoce rizikového systému na pracovišti se zaměstnanci informují předem.
• Podezřelé vzorce ve výstupech se nepoužijí a hlásí se jako incident.