Co je a co není AI

Situace z praxe

Asistentka během dopoledne použije překladač na e-mail od zahraničního dodavatele, poštovní schránka jí mezitím sama odfiltruje nevyžádanou poštu, tabulkový procesor jí našeptá pokračování vzorce a na webu úřadu jí odpovídá chatbot. Kolik nástrojů umělé inteligence právě použila? Většina lidí odpoví „jeden, ten chatbot”. Správná odpověď je s velkou pravděpodobností „všechny čtyři”. A protože se firemní pravidla vztahují na nástroje umělé inteligence, potřebujete umět je poznat.

Definice bez právničiny

Nařízení Evropského parlamentu a Rady (EU) 2024/1689, kterému se říká AI Act, definuje v čl. 3 bodu 1 systém umělé inteligence (dále „systém AI”) jako strojový systém navržený tak, aby fungoval s různými úrovněmi autonomie, mohl vykazovat adaptabilitu a z obdržených vstupů odvozoval, jak generovat výstupy, jako jsou predikce, obsah, doporučení nebo rozhodnutí.

Přeloženo do praxe: systém AI je program, který se své chování naučil z dat. Nikdo mu nenapsal řádek po řádku, co přesně má v které situaci udělat. Dostal velké množství příkladů a z nich si odvodil, jak na nové vstupy reagovat. Právě proto umí věci, které se do pevných pravidel napsat nedají, a právě proto se občas chová jinak, než byste čekali.

Co AI typicky je

• chatboty a generátory textu (ChatGPT, Copilot, Gemini a další),
• generátory obrázků, zvuku a videa,
• překladače a nástroje na přepis řeči,
• filtr nevyžádané pošty a jiné prediktivní filtry,
• doporučovací systémy („zákazníci také kupují”),
• nástroje na třídění životopisů, skórování zákazníků, odhad rizika,
• našeptávače a automatická doplňování, pokud se učí z dat.

Všimněte si, že nic z toho není robot z filmu. Systém AI je dnes nejčastěji obyčejná webová stránka nebo funkce schovaná uvnitř programu, který používáte roky.

Co AI typicky není

• obyčejné makro v tabulce, které provede nahranou posloupnost kroků,
• pevně naprogramovaný formulář („když je pole prázdné, zobraz chybu”),
• kalkulačka a jiné výpočty podle pevného vzorce,
• klasická automatizace typu „když přijde e-mail s přílohou, ulož ji”.

Společný rys: tyhle nástroje dělají přesně to, co do nich někdo napsal, nic víc. Hranice ale není vždy ostrá a výrobci navíc slovem „AI” rádi označují kdeco. Proto v pochybnostech platí jednoduché pravidlo: rozhoduje interní seznam schválených nástrojů, a když si nejste jistí, zeptáte se odpovědné osoby (modul 07).

Tři role, se kterými nařízení pracuje

AI Act rozděluje povinnosti podle rolí. Pro běžnou firmu jsou podstatné tři pojmy z čl. 3 nařízení.

1. Poskytovatel (čl. 3 bod 3) systém AI vyvíjí nebo si ho nechává vyvinout a uvádí ho na trh nebo do provozu pod svým jménem. To jsou výrobci nástrojů, například provozovatel chatbota.
2. Zavádějící subjekt (čl. 3 bod 4) je ten, kdo v rámci své pravomoci systém AI využívá, s výjimkou osobní neprofesionální činnosti. To je typicky vaše firma: nevyvíjí, ale používá.
3. Zaměstnanec není v nařízení samostatnou rolí. Jedná jménem firmy, a proto se na něj vztahují opatření, která firma jako zavádějící subjekt přijímá. Tento kurz je přesně takovým opatřením.

Jedna firma může mít rolí víc najednou. Kdo si nechá vyvinout vlastní nástroj a nabízí ho pod svou značkou zákazníkům, stává se poskytovatelem se vším, co k tomu patří. To už je ale rozhodnutí vedení, ne běžná kancelářská práce.

Osobní zařízení nejsou únik z pravidel

Když pracovní úkol vyřešíte ve vlastním chatbotu na osobním mobilu, roli firmy tím nezměníte. Data firmy opustila její prostředí a riziko nese pořád firma. Výjimka pro „osobní neprofesionální činnost” míří na vaše soukromé použití doma, ne na pracovní úkoly na soukromém zařízení. Co s tím, řeší podrobně modul 03.

Zlaté pravidlo modulu

Nepoznáte systém AI podle toho, jak vypadá, ale podle toho, jestli se své chování naučil z dat. V pochybnostech rozhoduje firemní seznam schválených nástrojů, ne váš odhad.

Shrnutí

• Systém AI z obdržených vstupů odvozuje výstupy, svoje chování se naučil z dat (čl. 3 bod 1 nařízení).
• AI je i překladač, filtr pošty nebo našeptávač, ne jen chatbot.
• Poskytovatel nástroj vyrábí, zavádějící subjekt ho používá. Běžná firma je zavádějící subjekt.
• Zaměstnanec jedná jménem firmy, firemní pravidla pro AI se ho týkají vždy.
• Pracovní úkol na osobním zařízení pravidla neobchází.
• V pochybnostech platí seznam schválených nástrojů a dotaz na odpovědnou osobu.