AI a trestní odpovědnost I

V úterý jsem se v Praze zúčastnil zajímavé přednášky na téma AI a trestní odpovědnost.

Protože AI se kolem nás skloňuje stále častěji, málokdo se na tento problém kouká ale optikou odpovědnosti za škody, které nám AI, roboti nebo autonomní automobily mohou způsobit. A protože jsem ještě stále soudním znalcem, pak jsem to uchopil jako příležitost pro sebevzdělání.

O čem ale mluvíme, když říkáme AI? Je to zvláštní, název AI sám o sobě skrývá něco tajemného, nepoznaného, ale je to vlastně dneska už náš kamarád. AI jako termín se na nás valí ze všech stran, od rána do večera, není v podstatě už kam uhnout. Lednička s AI, motorová pila s AI, autonomní řízení s AI, snad i splachování na WC to dneska má .. je to velká móda. Co to ale opravdu představuje, málokdo ví nebo o tom přemýšlí.

Podle profesora Smejkala se ale AI rozděluje na dvě základní kategorie:

• AI systémy, které pouze zpracovávají data a nemohou ovlivnit fyzický svět. To jsou ty naše ChatGBT, DeepSeek, FireFly atd.
• AI systémy, které mohou ovlivnit fyzický svět, jako jsou roboti, autonomní vozidla atd. To už je ale trochu jiný svět kam teprve pomalu vstupujeme. A když už si třeba pořídíme auto s autonomním řízením, znám spoustu lidí, kteří si to okamžitě vypnout, protože to dělá něco co oni nechtějí, nebo se toho bojí

Někdy ale AI může ovlivňovat svět i jako součást jiných systémů, jako jsou např. řídící systémy SCADA (Supervisory Control and Data Acquisition), DCS (Distribution Control Systém), BMS (Building Management Systém nebo IoT (Internet of things). A tady už jsme zase někde jinde, protože zjistíme, že když naše pece mají SCADA, pak vlastně jsou inteligentní až běda.

Jenže pravda to není. Ani u jedné z výše uvedených položek se vlastně nejedná o AI, ale o program, který někdo musel napsat, a který zajišťuje, že binární stavy našeho zařízení budou dělat to co potřebujeme, a jsou ošetřené tak, aby k žádným konfliktům, pokud možno nedošlo.

Jak sděluje profesor Smejkal, až doposud fungují systémy a počítače podle Neumannova schématu z roku 1945. Principem je systém řízený programem, který je napsán programátorem, a bez ohledu na složitost pracuje na principu if – then – else. Na tom nezměnila nic ani odlišná schémata, ani kvantové počítače.

Existence programu řídícího práci počítače krok po kroku zůstala zachována. Všechny provozní funkce a stavy stroje jsou tak pevně definovány, takže jakkoliv může program fungovat velmi variabilně, nemůže se nikdy dostat do jiného než předpokládaného stavu. AI má i svůj vývoj, stejně jako Industry 4.0, což je vidět z následující kategorizace, popisující systémy bez a s AI.

• AI nulté generace – systémy bez zpětné vazby, kdy veškeré poruchy či změny vedou k nedovolení dalšího kroku a zastavení systému
• AI první generace – systémy s jednoduchou zpětnou vazbou, schopné přepínání několika podprogramů, předem vytvořených člověkem, a práce podle nich
• AI druhé generace – systémy se schopností optimalizace, tj. schopností vybírat z předem zadaných programů ten optimální, podle vstupního kritéria
• AI třetí generace je charakterizována systémy, jež jsou schopny samostatné tvorby programu, neboť se dokážou učit z nabytých zkušeností. Zde se předem zadává pouze cíl činnosti, úkol, přičemž způsob jeho plnění je ponechán na inteligenci řídícího systému, který si sám vytvoří program.
• AI čtvrté generace je reprezentována autonomními systémy se sociálním chováním, které se chovají podobně jako člověk, tedy si samostatně zvolí i cíl práce, i postup – to je ale jen hypotetická možnost.

To, co známe dnes z našeho okolí, jsou systémy s AI maximálně druhé generace. Co to znamená? Nic se nenaučí, a jsou pevně naprogramovány tak, aby dělaly pokud možno bezpečně vše, k čemu jsou určeny.

Například autopilot v mém autě se nemůže naučit řídit lépe. Pokud si myslím, že řídím lépe já, vypnu ho, protože nikdy nebude dělat to, co umím já. A není Boha, který by jeho chování změnil, protože je to systém uzavřený, pro uživatele nepřístupný.

Vrcholem AI může být dnes tedy jen kategorie druhá, kdy například pračka si zváží množství prádla, které do ní naskládám, a podle tohoto parametru upraví program tak, aby výsledkem bylo vyprané prádlo. Nic víc. Všechno ostatní je jen naše fantazie, která dává výrazu AI tu významnost, s jakou se dnes používá.

Podle profesora Maříka, AI je dnes jen sbírkou Turingovských matematických modelů a algoritmů, chápajících vstup a výstup deterministicky. Pokud se program označovaný jako AI musí řídit příkazy programátora bez možnosti vlastní modifikace sám sebou, pak se můžeme dopracovat je do úrovně expertního systému, ne však dále. Hovoříme tedy stále o druhé generaci AI.

Vyšší druhy AI se ale mohou učit, tedy automaticky modifikovat svůj kód na základě dat, ať již poskytnutých člověkem nebo sbíraných z okolí AI. Hovoříme o strojovém učení, které probíhá autonomně v tom smyslu, že se tak děje bez přímých příkazů či pravidel zadaných programátorem. Tím se ale dostáváme do stavů řídícího systému, které nemůžeme předem definovat, a budeme obtížně vyvozovat, kdo za jejich dosažení, pokud se projeví negativně na okolí, či na robotu samotném, odpovídá.

V momentě, kdy do systému vstupují nedeterministické, člověkem neovlivněné, nebo dokonce neovlivnitelné prvky, negativní průběh vytvoření a fungování systému AI nebo robota bude zásadním právním problémem trestní odpovědnosti za jednání. [1]

Co z toho vyplývá? Pokud tedy někdo už se odhodlá vypustit na trh samoučící se AI třetí generace, musí zaručit, že se robot s touto AI nezmění na vraha.

Proto i toto téma, trestní odpovědnost při práci s AI.

Tady to dneska ukončím. Pro budoucnost kalíren se mi to zdá jako velmi aktuální téma, protože nás je čím dál tím méně, a robotizace a automatizace jsou jediné cesty kupředu. Musíme ale předem zajistit, že takovýto robotický vozík s AI nás v kalírně nepřejede, a pokud ano, musíme se umět vypořádat s právními následky.

O tom ale až příště.

[1] Smejkal, V,, Sokol. T, Trestněprávní aspekty robotiky, Právní rozhledy, XXVI, 2018, č. 15-16, s. 530-540

(1) Poznámka:  text kurzivou je citací z přednášky profesora Smejkala 

Jiří Stanislav

6. února 2025