Právní aspekty AI a robotiky

Včera jsem se zúčastnil zajímavé konference na téma AI a právní odpovědnost. Přednášející byli opravdu vybraní:

• Vladimír Smejkal, CIIRC (Český institut informatiky, robotiky a kybernetiky, ČVUT v Praze)
• Vladimír Mařík, CIIRC
• Tomáš Sokol, AK Sokol, Novák, Trojan, Doleček a partneři
• Michal Sýkora, Ph.D., AK Gřivna & Šmerda
• JUDr. Petr Šustek, Ph.D., Katedra zdravotnického práva PrF UK
• JUDr. Milan Hodás, Ph. D., státní tajemník Ministerstva spravodlivosti SR & Právnická fakulta Univerzity Komenského v Bratislave & Ústav štátu a práva SAV
• Jiří Mulák, Ph.D., Katedra trestního práva PrF UK]
• A další

A co jsem se dozvěděl? No hlavně to, že AI nemá právní subjektivitu. Těžko s ní bojovat, když nevidíme, kdo je na té zadní straně obrazovky. To v případě různých systémů zpracovávajících jen data (např. ChatGBT, DeepSeek, M365 Copilot… ). V případě, kdy AI může mít interakci s vnějším světem, autonomní vozidla, různí roboti, analýzy obrazu s AI atd., pak už je to složitější.

Z hlediska etiky by AI měla zajistit:

• Princip nepoškozování
• Princip prospívání
• Princip respektu k lidské autonomii
• Princip spravedlnosti
• Princip vysvětlitelnosti

Vzhledem k tomu, že stroje nemohou mít umělé vědomí, a nemohou zvládat sociální interakce, nemohou tedy ani respektovat morálku ani etiku. Bude tedy stačit, když budou fungovat v souladu s právním řádem.

Výrobce produktu s AI je zodpovědný za škodu způsobenou vadným výrobkem, i když poškozený neprokázal nedbalost nebo úmyslné chování. Výrobci mohou být činěni odpovědnými za škody způsobené vadnými technologiemi umělé inteligence, přičemž nemusíme hledat konkrétního viníka.

Podle definice vadou rozumíme takovou vlastnost zakoupeného zboží, pro kterou tato neslouží k obvyklému účelu či účelu patrnému ze smlouvy. Vadou se rozumí nejen technická nebo konstrukční závada, ale i nesprávné fungování algoritmu, neadekvátní tréninková data nebo nedostatečný návod k obsluze AI.

Tradiční konstrukce produktové (objektivní) odpovědnosti vychází z předpokladu, že lze identifikovat výrobek s určitou vadou v době uvedení na trh. Systémy AI mohou výrazně měnit vztah „výrobce-uživatel-škoda“. U AI se vada může projevit kromě klasických vad pocházejících z návrhu, programování nebo výroby systému, rovněž ale vadou  vzniklou z nesprávného použití systému, nedostatečné aktualizace softwaru nebo nevhodné interakce s uživatelem nebo okolím, případně ze samoučení systému.

V takovém případě vzniká otázka, zda jde o vadu původní, nebo zda k vadě došlo v důsledku následné změny chování systému po jeho předání uživateli. U systémů s AI vyšší generace bude velkým problémem hledání kauzálního řetězce mezi příčinami a následky.

Když si to představím v praxi, Metalco prezentovalo nový tvrdoměr, kde hodnotu tvrdosti vyhodnocuje AI. První moje reakce po shlédnutí prezentace byla: super, to je dokonalý, konečně odpadnou pochybnosti. Jenže po včerejším právním výkladu si tím už jistý nejsem.

Obr. č. 1 – Trénovací data pro hodnocení tvrdosti pomocí AI – prezentace Metalko, REVOLUTIONARY IMAGE EVALUATION IN HARDNESS TESTING WITH AI TECHNLOGY, Thomas Strohmer, Praha 2025

Vyhodnocená tvrdost je předmětem předání výsledku tepelného zpracování a má hodnotu smluveného parametru jakosti. Kalírna měřením tvrdosti tedy stvrzuje, že zadání objednatele bylo splněno bez odchylky/ s odchylkou. K tomuto měření ale použije tvrdoměr tvrdoměr s AI, s obrazovou analýzou. Co ale s tím dále?

Ve všech případech je nutno prokázat, že měření probíhalo v souladu s normou, např. pro metodu Vickers dle ISO 6507, 1-3, nebo ASTM E384.

Mohou nastat následující případy.

1. AI je uzavřený systém dodaný od výrobce tvrdoměru, a uživatel nemá možnost si jej měnit nebo přidávat trénovací data
2. AI je systém otevřený a uživatel si může svoje trénovací data přidávat

Pokud v případě 1 systém vyhodnotí tvrdost s použitím AI, a tato tvrdost bude chybně stanovena, následně i rozporována odběratelem tepelného zpracování, pak odpovědnost nese výrobce, dodavatel tvrdoměru a autor zdrojového algoritmu, včetně trénovacích dat.

Odběratel tepelného zpracování, výrobce dílů s chybně měřenou tvrdostí, nemusí nic dokazovat, dostal zboží s vadou, chybnou tvrdostí, a bude požadovat od dodavatele tepelného zpracování kompenzaci plnění za vadu na zboží, ale současně i za škody, které mohly být touto vadou způsobeny. Z hlediska vady je zcela lhostejné,  na jakém přístroji kalírna měřila.

Kalírna se ale může snažit přenést odpovědnost dále, tedy na výrobce přístroje pro měření tvrdosti, resp., bude chtít by se dodavatel přístroje na této újmě podílel.

Musí proto dokázat, že existuje příčinná souvislost mezi měřením s pomocí AI a chybně stanoveným výsledkem. To bude obtížné. Bude ale i záležet na tom, jak koncipována komunikace s AI v přístroji, popř. na sadě trénovacích dat atd.

Tady bych očekával, že pokud uživatel zapojí AI do hodnocení tvrdosti, AI mu nabídne plnou sledovatelnost rozhodnutí. Tedy

• Výsledek mého měření je 700-800 HV5
• K hodnocení jsem použil modelové fotografie x, y, z
• Pokud stisknete OK, potvrzujete, že s mým výběrem souhlasíte a že přebíráte odpovědnost za případnou chybu měření

Pokud by to tak bylo, pak máme možnost zpětné kontroly toho, proč se výsledek měřený AI odchyluje od výsledku měření zkušeným a proškoleným zaměstnancem, a současně ale výrobce tvrdoměru s AI přenesl odpovědnost na uživatele.

Pokud to tak ale nebude, a hodnoty od AI budou akceptovány přístrojem automaticky, pak dojde k situaci, kdy dodavatel přístroje nese plnou odpovědnost za výsledek měření, tedy za vadu, a současně i za škodu. Protože se může jednat např. i o stažení celé výrobní dávky pro automobilový průmysl, pak tyto škody mohu nabýt neskutečných rozměrů.

V případě soudního sporu bude ale velmi obtížné prokázat příčinnou souvislost mezi chybnou tvrdostí a návrhem AI.  Dodavatel přístroje bude mít vždy možnost namítnout, že rozdíl je dán nesprávným použitím přístroje, nesprávnou přípravou plochy pro měření nebo nesprávnou interpretací. Jeho případná námitka, že AI zde figuruje jen jako pomocník, bude asi oprávněná, pokud to bude popsáno i v manuálu tvrdoměru a v popisu AI.

Ve výsledku kalírna ponese důsledky nesprávného měření vždy, a s AI bude mít pouze vnitřní pocit v tom, že udělala vše pro snížení vlivu operátoru na hodnoty měření.

Pokud ale AI tvrdoměru poskytne data výše uvedená, před odsouhlasením výsledku, pak tato data mohou v budoucna sloužit pro zlepšování AI, rozšiřování sady trénovacích dat, vždy ale pouze po zásahu výrobce přístroje.

V případu 2, tedy u otevřeného systému, bude pozice kalírny ještě horší. Protože do sytému AI a trénovacích dat zanesla svoje data a poznatky, bude praktická nulová možnost se zhojit za nesprávné měření přístroje na dodavateli tvrdoměru.

Z dalšího výkladu Tomáše Sokola vyplynulo:

Objektivní odpovědnost (též ručení) je v právu odpovědnost za škodu, která vznikla, bez ohledu na zavinění osoby, která škodu způsobila. Je lhostejno, jestli je to provoz nebo výrobek.

K uvedenému tvrdoměru bude tedy nutno vzít v úvahu i další paragrafy OZ.

§ 2939

(1) Škodu způsobenou vadou movité věci určené k uvedení na trh jako výrobek za účelem prodeje, nájmu nebo jiného použití nahradí ten, kdo výrobek nebo jeho součást vyrobil, vytěžil, vypěstoval nebo jinak získal, a společně a nerozdílně s ním i ten, kdo výrobek nebo jeho část označil svým jménem, ochrannou známkou nebo jiným způsobem.

(2) Společně a nerozdílně s osobami uvedenými v odstavci 1 hradí škodu i ten, kdo výrobek dovezl za účelem jeho uvedení na trh v rámci svého podnikání.

§ 2941

(1) Výrobek je ve smyslu § 2939 vadný, není-li tak bezpečný, jak to od něho lze rozumně očekávat se zřetelem ke všem okolnostem, zejména ke způsobu, jakým je výrobek na trh uveden nebo nabízen, k předpokládanému účelu, jemuž má výrobek sloužit, jakož i s přihlédnutím k době, kdy byl výrobek uveden na trh

§ 2942

(1) Povinnosti k náhradě škody způsobené vadou výrobku se škůdce zprostí, jen prokáže-li, že škodu zavinil poškozený nebo ten, za jehož čin poškozený odpovídá.

(2) Povinnosti k náhradě škody se tato osoba rovněž zprostí, prokáže-li, že

• a) výrobek na trh neuvedla,
• b) lze důvodně předpokládat s přihlédnutím ke všem okolnostem, že vada neexistovala v době, kdy byl výrobek na trh uveden, nebo že nastala později,
• ..
• ..
• e )stav vědeckých a technických znalostí v době, kdy uvedl výrobek na trh, neumožnil zjistit jeho vadu.

Nová evropská úprava rozšiřuje pojem „výrobek„ i na software a AI.

Co z toho vyplývá? Koupit si cokoliv s AI bude vyžadovat i určitou úroveň právního vidění. Při objektivní odpovědnosti si musíme být vědomi toho, že AI instalovaná na výrobku může způsobit vady a škody. Kdy se lze z toho vyvinit, to je v § 2942.

U subjektivní odpovědnosti, trestní právo nepřipouští odpovědnost ani AI ani robotů. Bez prokazatelného lidského zavinění nelze trestně postihnout ani závažné újmy způsobené AI. Pokud tedy robot po nás hodí kladivo, a to nás zraní, nebude souzena ani AI ani robot, ale my, kteří jsme robota s těmito vlastnostmi koupili, instalovalo a užívali. A pokud se najde chyba ve zdrojovém kódu, algoritmu, nebo tréninkových datech, pak se tato odpovědnost dá přenést až na výrobce AI či robota.

Jiří Stanislav

30. května 2025