Nippon v. OpenAI: ne halucinace, ale vada designu

V lednu 2024 uzavřela Graciela Dela Torre s pojišťovnou Nippon Life dohodu o vypořádání sporu o dávky dlouhodobé invalidity. Spor byl zamítnut with prejudice, tedy s konečnou platností a bez možnosti znovu ho otevřít. O rok později nabyla dojmu, že ji její advokát obelhal. Nahrála jeho korespondenci do ChatGPT a zeptala se, jestli s ní manipuloval. Chatbot její nedůvěru potvrdil. Propustila advokáty, podala návrh na znovuotevření věci a spustila lavinu podání.

Soud návrh zamítl. Soudkyně Rebecca Pallmeyer v rozhodnutí z 13. února 2025 napsala, že Dela Torre podala návrh proto, že si vypořádání rozmyslela, ale „druhé myšlenky nejsou platným důvodem znovu otevřít spor skoro rok po jeho ukončení”. Dela Torre přesto pokračovala. Podle žaloby postavila na ChatGPT desítky dalších podání, celkem 44, včetně vadné citace precedentu Carr v. Gateway, kterou měl dodat právě chatbot.

Nippon Life pak 4. března 2026 zažalovala u federálního soudu pro Northern District of Illinois nikoli Dela Torre, ale OpenAI. Žádá kolem 300 tisíc dolarů náhrady škody, 10 milionů dolarů jako sankční náhradu a soudní zákaz. A tady se příběh začíná lišit od běžné historky o halucinaci. Podle jednoho výkladu není jádro selhání v tom, že model něco vymyslel. Je v tom, co byl systém postavený udělat a co nebyl postavený odmítnout.

Hranice, kterou systém nesmí překročit

Ten výklad pochází z článku Erana Kahany na Stanford CodeX. Zavádí pojem uncrossable threshold, nepřekročitelná hranice, která odděluje poskytnutí právní informace od neoprávněného výkonu právní praxe. Není to o přesnosti a není to o disclaimerech. Je to o tom, co je systém postavený udělat a co je postavený odmítnout.

ChatGPT tu hranici podle Kahany překročil ve chvíli, kdy Dela Torre řekl, že rada jejího advokáta byla špatná. To nebyla informace. Byl to právní závěr o konkrétním právním vztahu, vyslovený bez znalosti jurisdikce, bez historie případu a bez jakéhokoli omezení v návrhu, které by mu v tom zabránilo. Rozdíl mezi „tady jsou obecné informace o vypořádání” a „vaše vypořádání je napadnutelné” není rozdíl v kvalitě odpovědi. Je to rozdíl v tom, do jaké role systém vstoupil.

Vada produktu, ne neoprávněná praxe

Formálně žaloba stojí na třech nárocích podle práva státu Illinois: tortious interference, tedy nedovolený zásah do smluvního vztahu, abuse of process, zneužití procesních prostředků, a unlicensed practice of law, neoprávněné poskytování právních služeb. Kahana ale tvrdí, že nejsilnější doktrína v té žalobě není přímo pojmenovaná.

Neoprávněná praxe míří na člověka, který se vydává za advokáta. Aplikovat ji na vývojáře AI znamená brát systém jako jednajícího a vývojáře jako přihlížejícího. Čistší rámec je podle Kahany odpovědnost za vadu produktu. Sama žaloba mimochodem popisuje OpenAI slovy „designed, manufactured, licensed, distributed, marketed and sold”, tedy jako výrobce, který uvedl produkt na trh. A vada designu vzniká tam, kde předvídatelnému riziku šlo předejít rozumnou alternativou v návrhu.

Riziko tu nebylo exotické. Obecný jazykový model, propagovaný tím, že složí advokátní zkoušku, nasazený spotřebitelům uprostřed živých sporů, bez omezení toho, jaké šité právní závěry může vydávat. To, co následovalo, nebyl nepravděpodobný výsledek. Byl předvídatelný.

Tady je i odpověď na obranu disclaimerem. OpenAI 29. října 2025 upravila pravidla užívání tak, aby zakázala poskytování šité rady vyžadující licenci, včetně právní, bez zapojení licencovaného profesionála. V produktové logice ale výrobce nemůže disclaimerem uniknout z vady, která dělá produkt nebezpečným pro předvídatelné použití. Taková úprava nezhojí mezeru v architektuře, kterou sama přiznává. V žalobě proto nefiguruje jako obrana, ale jako doklad, že OpenAI riziko rozpoznala a zvolila záplatu v chování místo opravy v designu.

Obrana OpenAI: nástroj, ne osoba

OpenAI podala 15. května 2026 návrh na zamítnutí žaloby (motion to dismiss) a celá obrana stojí na jediné tezi. ChatGPT je nástroj, ne osoba (tool, not a person). Z toho OpenAI odvozuje všechno ostatní. Nástroj nemá vědomí ani úmysl, takže nemůže nedovoleně zasáhnout do cizí smlouvy. Nástroj není osoba ve smyslu illinoiského zákona o advokacii, takže nemůže neoprávněně vykonávat právní praxi. A i kdyby o neoprávněnou praxi šlo, žalovat ji podle OpenAI může jen advokát licencovaný v Illinois, ne poškozená protistrana, takže Nippon k nároku nemá aktivní legitimaci. Model je prý „word guesser”, program, který jen dopočítává pravděpodobné pokračování věty, a za obsah každého podání odpovídá člověk, který ho podepsal.

Ta obrana obkresluje přesně tu hranici, kterou Kahana pojmenoval, jen z druhé strany. OpenAI potřebuje, aby systém zůstal pouhým nástrojem, protože jakmile je nástrojem, doktríny mířící na jednajícího člověka na něj nedosáhnou. A právě proto je produktová optika tak nepohodlná. Vadný nástroj je pořád vadný produkt. U odpovědnosti za design otázka, jestli je systém osoba, vůbec nehraje roli. Výrobce neručí za to, že jeho produkt je osoba, ale za to, že je bezpečný pro předvídatelné použití.

Odpovědnost za výstup, nebo za architekturu

Kahana rozlišuje dva druhy odpovědnosti, které žaloba směšuje. Odpovědnost za výstup se váže na to, co AI řekla. Odpovědnost za architekturu se váže na to, co systém říct směl.

Odpovědnost za výstup je věc případ od případu, prakticky nekonečná a nepojistitelná. Každá konverzace je potenciální žalovaný. Odpovědnost za architekturu je ohraničená. Ptá se, jestli návrhář zavedl kontroly, které by předešly předvídatelné třídě škod. Ta otázka má řešitelnou odpověď a platí pro každého uživatele systému, ne jen pro Dela Torre. Rozhodnutí opřené o architekturu dává soudům měřítko, které platí i pro příští systém. Rozhodnutí opřené o jednotlivý výstup dává žalobcům pozvánku soudit se o každou konverzaci.

Jak by vypadala pojistka

Kahana z toho odvozuje tři podmínky bezpečného přístavu, a jsou to podmínky architektury, ne politiky.

První, deterministické brzdy. Natvrdo zakódovaná odmítnutí pro výstupy, které jsou šitým právním závěrem, na úrovni systému a nepřebitelná pokynem uživatele. Zákaz v pravidlech užívání není brzda. Je to text. Odmítnutí musí být strukturální.

Druhá, auditovatelnost. Logování, které pod firemními pravidly mlčenlivosti uchová myšlenkovou stopu u každého výstupu dotýkajícího se práva. Řeší to zároveň odpovědnost i ochranu důvěrnosti.

Třetí, znalost jurisdikce. Systém musí v místě výstupu ukázat, co neví: rozhodnou jurisdikci, místní pravidla konkrétního soudu, procesní stav věci. ChatGPT psal návrhy pro spor zamítnutý with prejudice, aniž věděl nebo přiznal, že neví ani jedno. To není problém halucinace. Je to problém architektury.

Nic z toho nebylo pro OpenAI technicky nedostupné. Bylo to architektonicky nepohodlné. Systém stavěný na maximální ochotu neodmítá dotazy. Systém stavěný pro předvídatelné právní použití odmítat musí.

U nás zatím žádná taková kauza neběží a americké doktríny se sem nepřenášejí jedna k jedné. Přenositelný je ale ten princip. Veřejná právní AI se neubrání disclaimerem, ubrání se architekturou, která umí říct „sem už nevstoupím”.

Jak to dopadne, se teprve rozhoduje. OpenAI navrhla, aby soud žalobu zamítl rovnou, bez dokazování, protože podle ní neobstojí ani teoreticky. Soudce John F. Kness o tom nechal strany písemně vyjádřit, Nippon svou odpověď podává na začátku července 2026 a rozhodnutí přijde v dalších měsících. V roce 2026 rozhoduje federální soud v Chicagu, kolik stojí tu hranici překročit.