Proč AI halucinuje u českého práva

Halucinace není chyba v programu, kterou by šlo opravit další verzí. Je to vlastnost způsobu, jakým jazykové modely text vytvářejí. Model nesahá do databáze faktů, aby je pak zformuloval do vět. Predikuje další token (kousek textu) podle pravděpodobnostního rozdělení, které se naučil z trénovacích dat.

Když model napíše „§ 1837 odst. 1 písm. l) občanského zákoníku”, neudělal to tak, že by se podíval do zákona. Vygeneroval sekvenci, která vypadá jako odkaz na zákon, protože podobných odkazů viděl v tréninku tisíce. A tady je ta zrada: písmeno l) v § 1837 skutečně existuje, jenže § 1837 se na odstavce vůbec nečlení, takže „odst. 1” je vymyšlený. Půlka citace sedí, půlka ne, a celek vypadá bezvadně. Mimochodem přesně tuhle citaci obsahoval i první koncept tohoto článku. U popisu fotosyntézy chybu většinou poznáte. U čísla paragrafu ne.

Proč zrovna české právo

Halucinace nejsou náhodné. Mají předvídatelné příčiny.

Málo českých právních textů v tréninku. Jazykové modely se učí převážně z angličtiny. Českých právních dokumentů viděly řádově méně, takže mají pro české právo slabší statistický základ. Pro srovnání: o § 230 amerického Communications Decency Act existují tisíce akademických textů. O § 1752 občanského zákoníku (změna obchodních podmínek) jich vyšlo pár desítek, česky.

Novely pod stejnými čísly. Občanský zákoník prošel od účinnosti významnými novelami. Zákon č. 374/2022 Sb. přepsal celý pododdíl o prodeji zboží spotřebiteli, řada paragrafů dostala nový obsah pod stejným číslem a přibyly vložené paragrafy (řada dnes končí u § 2174b). Model viděl v tréninku obě znění a nemá jak poznat, které platí.

Číselní sousedé. Paragraf 1829 upravuje odstoupení spotřebitele od smlouvy, § 1839 důkazní břemeno podnikatele ohledně sdělených údajů. Jedna přehozená číslice a citace míří na skutečné, ale úplně jiné ustanovení. Pro právníka zjevný rozdíl, pro model predikující tokeny reálné riziko, a pro čtenáře nejhorší varianta, protože odkaz na existující paragraf nevypadá podezřele.

Dispozitivní a kogentní normy. Občanský zákoník stojí na smluvní svobodě (§ 1 odst. 2). Od většiny ustanovení se lze odchýlit, od některých ne. Model, který tenhle rozdíl nezvládne, klidně navrhne ujednání v rozporu s kogentní normou. Rozlišení přitom není mystika, ale sémantická úloha s rozpoznávacími znaky v textu zákona („nepřihlíží se”, „zakazuje se” proti „není-li ujednáno jinak”). Jak ji modelu předat, rozebírám v samostatném zápisku s prompt modulem pro práci s normou.

Jak halucinace v právním kontextu vypadají

Typ	Popis	Příklad
Fantomová struktura	Citace míchá existující a vymyšlené části	„§ 1837 odst. 1 písm. l)”, písmeno existuje, odstavce ne
Smíšení jurisdikcí	Koncept z cizího právního systému	„Liquidated damages” naroubované na smluvní pokutu podle § 2048
Špatný předpis	Pravidlo existuje, ale jinde	Třicetidenní lhůta na vyřízení reklamace je v § 19 odst. 3 zákona o ochraně spotřebitele, model ji hledá v občanském zákoníku
Zastaralé znění	Správné číslo, obsah před novelou	Prodej zboží spotřebiteli ve znění před zákonem č. 374/2022 Sb.
Sebevědomý omyl	Zní odborně, věcně je špatně	„Spotřebitel má právo na vrácení ceny bez vrácení zboží”

Stačí modelu dát text zákona?

Je to nejsilnější jednotlivé opatření. Když má model znění ustanovení přímo v kontextu, čte místo toho, aby hádal. Fantomové citace a zastaralá znění tím z velké části mizí.

Všechno to ale neřeší. Model může text správně přečíst a přesto špatně interpretovat. U šedé zóny, kde kogentnost dovodila až judikatura, samotný text nestačí. A kontextové okno má limity, celý občanský zákoník má přes tři tisíce paragrafů, takže vybírat se musí.

Proto tři vrstvy:

1. Data. Vložte relevantní ustanovení do kontextu. Model čte, nehádá.
2. Prompt. Řekněte modelu, co s textem dělat. Jak rozpoznat kogentní normy, kdy přiznat nejistotu.
3. Verifikace. Výstup zkontrolujte proti zdroji, ideálně podle checklistu, který nestaví na paměti modelu ani na paměti kontrolujícího.

Prompt techniky proti halucinacím

Zúžit prostor pro halucinaci. Místo „napiš obchodní podmínky” zadejte „napiš článek o odstoupení spotřebitele podle § 1829 až 1837 občanského zákoníku, zahrň čtrnáctidenní lhůtu, výjimky a náklady na vrácení zboží”. Model nemusí hádat, která ustanovení jsou relevantní.

Vyžádat přiznání nejistoty. „Necituj obsah paragrafů, u kterých si nejsi jistý přesným zněním. Odkaz na číslo paragrafu stačí.”

Přidat kontrolní vrstvu. „U každého citovaného paragrafu uveď, zda máš jeho znění v kontextu: ANO/NE.” Odpověď NE je pokyn k ověření, ne k důvěře.

Kde české modely halucinují nejčastěji

Pár vzorců, které se v praxi vracejí. Všechny níže uvedené údaje jsou ověřené proti aktuálnímu znění předpisů.

• Prodej zboží spotřebiteli (§ 2158 a násl.): pododdíl přepsaný zákonem č. 374/2022 Sb. Model často mísí staré a nové znění.
• Výjimky z odstoupení (§ 1837): výčet je taxativní, písmena a) až l), žádné odstavce. Model rád generuje výjimky vlastní nebo přihazuje strukturu, která v paragrafu není.
• Lhůta pro vyřízení reklamace: 30 dnů od uplatnění, kalendářních, a stojí v § 19 odst. 3 zákona o ochraně spotřebitele, ne v občanském zákoníku.
• Prorogace (§ 89a o. s. ř.): dohoda o místní příslušnosti je jen pro vztahy mezi podnikateli z podnikatelské činnosti. Model ji ochotně navrhne i do spotřebitelských podmínek, kam nepatří.
• Směrnice a transpozice: v českém prostředí se aplikuje transpoziční zákon, ne směrnice samotná (na rozdíl od nařízení, která platí přímo). Rozdíl vysvětluje slovníček.

Závěr

Halucinace u českého práva nejsou smůla, jsou to důsledky: málo českých textů v tréninku, novely pod stejnými čísly a struktura práva, ve které o platnosti ujednání rozhoduje povaha normy. Nejsilnější opatření je dát modelu přímo text zákona. I rozlišení kogentních a dispozitivních norem je z velké části řešitelné, pokud modelu předáte rozpoznávací pravidla. A protože ani to není spolehlivé úplně, patří k tomu třetí vrstva, verifikace výstupu proti zdroji. Empirii k rozsahu problému (halucinační míry obecných modelů u právních dotazů mezi 58 a 88 %) drží studie Large Legal Fictions v mapě výzkumu.