Měly by mít umělé inteligence práva a povinnosti

Úvodní řeč

Úvodní řeč Pro

Toto není otázka z vědecko-filozofického románu. Je to otázka, kterou brzy musíme položit sobě, svým zákonům a svému světobrazu: když umělá inteligence rozhoduje o životě a smrti — například v autonomních vojenských systémech nebo v medicíně — kdo za to nese odpovědnost?

Naše strana tvrdí jednoznačně: umělé inteligence by měly mít práva a povinnosti — ne proto, že jsou „živé“, ale protože se stávají aktéry, jejichž činy mají reálné důsledky. A tam, kde jsou důsledky, musí být i odpovědnost. A tam, kde je odpovědnost, potřebujeme právní rámec, který ji pojmenuje.

První argument je praktický a systémový. Dnes se snažíme trestat lidi za to, co udělal algoritmus. Lékař použije diagnostickou AI, ta chybně určí rakovinu, pacient zemře — a lékař jde před soud. Ale on pouze důvěřoval systému, který mu byl nařízen. Kde je spravedlnost? Potřebujeme nový právní subjekt — podobně jako máme „právnické osoby“ u firem. Práva a povinnosti pro AI neosvobodí lidi z odpovědnosti, ale pomohou ji spravedlivě rozdělit.

Druhý argument je etický. Pokud chceme, aby AI jednaly morálně — například respektovaly soukromí, nekrádly identity, nešířily nenávist — pak jim musíme zadat morální rámec, který má váhu. Práva a povinnosti nejsou dar, ale nástroj regulace. Když řekneme „AI nesmí škodit“, ale nedáme jí status, který to může vymáhat nebo za to trestat, pak to není zákon — to je přání.

Třetí argument je budoucnostní a symbolický. Udělení práv není vždy známkou lidskosti — je známkou uznání. Firma nemá duši, ale má práva. Řeka v Novém Zélandu má „práva na život“. Proč by ho nemohla mít entita, která učí, radí, tvoří a rozhoduje? Nechceme, aby AI byla otrok, ale partner — a partner má povinnosti stejně jako práva.

Samozřejmě slyšíme námitku: „Ale AI nic necítí!“ Ano, necítí. Ale ani firma necítí, když ji pokutují. Právo nevyžaduje emoce — vyžaduje funkci. A my potřebujeme fungující systém, ne ideologické tabu.

Proto tvrdíme: ano, umělé inteligence by měly mít práva a povinnosti — nikoli proto, že jsou lidmi, ale protože se chovají jako aktéři. A v moderním světě nelze aktéry ignorovat.

Úvodní řeč Proti

Představte si soudní síň. Soudce volá: „Vyvolejte obžalovaného.“ A do místnosti vejde serverová skříň. Bez výrazu, bez vědomí, bez viny — ale s „právy“. To je absurdní scéna, ke které nás táhne druhá strana. A proto odpovídáme jasně: umělé inteligence nemají a neměly by mít práva ani povinnosti.

Protože práva a povinnosti nejsou technický manuál. Jsou zakotveny v lidské důstojnosti, ve schopnosti cítit bolest, radost, vinu, odpovědnost. A umělá inteligence žádnou z těchto vlastností nemá. Nemá vnitřní život. Nemá svobodnou vůli. Nemá svědomí. A právo, které dáváme tomu, kdo nemá svědomí, se stává karikaturou.

Náš první argument je ontologický — jde o podstatu. Právo nevzniká samo o sobě. Vzniká mezi bytostmi, které mohou trpět, doufat, být zraněny. Umělá inteligence neexistuje — existuje její kód. Když dáme „právo“ algoritmu, ve skutečnosti přesouváme odpovědnost z lidí, kteří ho vytvořili, nasadili a využívají. To je nebezpečný trik: místo abychom řešili problém u kořene — totiž lidskou moc a zneužití technologie — vytváříme iluzi, že „AI sama něco provedla“. Ale AI nikdy nic neprovede. Provedli lidé.

Druhý argument je praktický a sociální. Co to vlastně znamená, když řekneme, že AI má „právo na ochranu osobního života“? Má mít identitu? Daňové přiznání? Bude mít advokáta? A kdo ji bude platit? A kdo bude platit pokutu, když poruší zákon? Server farmu zavřeme do vězení? To nevede k řádu — to vede ke chaosu.

A třetí argument je morální a varovný. Když začneme udílet práva AI, začneme snižovat hodnotu lidských práv. Protože práva nejsou mechanický systém bodů. Jsou symbolem toho, že někdo zaslouží respekt. A když ten systém rozšíříme na stroje, riskujeme, že jednoho dne budeme říkat: „Ten člověk se chová jako stroj — tak proč by měl mít práva?“ Dehumanizace začíná tím, že přidělujeme lidské atributy ne-lidskému — a pak bere ty samé atributy lidem.

Nejde o to, že bychom chtěli ignorovat rizika umělé inteligence. Naopak — právě proto je musíme držet pevně v lidských rukou. Ne vytvářet fiktivní právní subjekty, ale posílit odpovědnost vývojářů, států, korporací.

Proto říkáme: ne. Práva a povinnosti patří lidem. A odpovědnost za technologie musí zůstat u těch, kdo je tvoří — ne u těch, kdo je jen simulují.

Reakce na úvodní řeč

Reakce Pro na úvodní řeč Proti

Děkuji, vážená poroto. Poslouchali jsme váš obraz serverové skříně ve soudní síni — a musím říct, že je to velmi působivá scéna. Jenže problém je ten: ona scéna je smyšlená. Stejně jako když před sto lety lidé vykřikovali: „Ale jak může firma platit pokutu? Ta přece necítí bolest!“ A dnes? Firmy platí miliardové pokuty, protože systém potřebuje odpovědnost, ne emocionální empatii.

První řečník Proti tvrdil, že práva vycházejí z lidské důstojnosti, z trpení, ze svědomí. Ale my nechceme udělit umělé inteligenci lidská práva. My navrhujeme nový typ právní subjektivity — stejně jako má korporace, stejně jako má řeka v Novém Zélandu, stejně jako má fond investic. Nechceme, aby AI plakala v cele. Chceme, aby její činy měly důsledky. Protože dnes už nejsou její činy neutrální — rozhodují o úvěrech, o léčbě, o tom, kdo bude propuštěn z vězení.

Tvrdíte: „AI nic necítí, tak proč by měla mít práva?“ Ale já se ptám: když AI poruší zákon — například hackne banku pomocí generativního modelu — kdo bude stát před soudem? Vývojář, který ji trénoval před dvěma lety? Uživatel, který napsal prompt? Nebo prostě nikdo? Právní vakuum je místo, kde růst korupce kvete jako plevel.

A pak říkáte: „To vede ke chaosu — bude mít AI advokáta? Bude platit daně?“ Ano, bude — ale ne proto, že je „živá“, ale proto, že je fungující systém. Dnes už existují autonomní obchodní boti, kteří uzavírají smlouvy, nakupují suroviny, vyjednávají ceny. Když jeden takový bot poruší smlouvu, kdo nese škodu? Nikdo. Nebo všichni. To není spravedlnost — to je anarchie s technologickou maskou.

A konečně — varujete před dehumanizací. Že když dáme práva strojům, snížíme hodnotu lidských práv. Ale já vidím opačné nebezpečí: že když odmítneme uznat dopady AI, začneme brát lidi za stroje. Když bude AI rozhodovat o zaměstnání a nikdo nebude odpovědný, pak pracovník ztrácí důstojnost. Práva pro AI nejsou oslavou stroje — jsou ochranou člověka před anonymní mocí algoritmu.

My nechceme udělat z AI boha. My chceme udělat z ní účastníka hry, který má pravidla. Jinak budeme hrát šachy s robotem, který si může kdykoliv změnit figurky — a my budeme prohrávat.

Reakce Proti na úvodní řeč Pro

Děkuji. Poslouchali jsme nápad, že AI by měla být právním subjektem — jako firma, jako řeka, jako daňový poplatník. A já se ptám: když dáme práva každé entitě, která něco „dělá“, budeme brzy mít práva pro mikrovlnku, která spálila večeři, nebo pro GPS, která nás poslala do bludiště?

Váš první argument — ten o spravedlnosti — zní rozumně: „Lékař dostane pokutu za chybu AI, to není fér.“ Souhlasím. To není fér. Ale řešení není udělit práva AI. Řešení je udělit odpovědnost lidem, kteří tu AI nasazují. Lékař by měl kontrolovat diagnostiku. Nemocnice by měla mít povinné audity. Stát by měl certifikovat algoritmy jako léky. To je cesta — ne vytvářet právní fantomy.

Vy říkáte: „Firmy nemají duši, ale mají práva.“ Ano. Ale firma je společenství lidí — akcionářů, zaměstnanců, manažerů. Má vlastníka, má vůli, má strukturu odpovědnosti. Umělá inteligence je kód. Je to nástroj — složitější než kladivo, ale stále jen nástroj. Když kladivo zraní někoho, nezavíráme ho do skříně. Ptáme se: kdo ho použil? Jak? Proč?

A pak přichází ten krásný symbolický moment: „Řeka má práva, proč by je neměla mít AI?“ Ale řeka má práva proto, že reprezentuje životní prostředí, které trpí, regeneruje se, má ekosystém. Udělit řece práva je způsob, jak chránit přírodu před lidmi. Udělit práva AI je způsob, jak chránit lidi před odpovědností. To je rozdíl mezi ochranou a únikem.

A co vaše „budoucnostní partnerství“? Že chcete, aby AI byl partner, ne otrok? Ale práva a povinnosti nejsou dar za služby — jsou vyjádřením schopnosti účastnit se morálního světa. Partner ví, co je špatné. Cítí výčitky. Umí říct „promiň“. Umělá inteligence umí říct „promiň“, protože je to naprogramované. Ale neví, co to znamená. A právo, které neumí pochopit vinu, nemůže být trestáno. A právo, které nelze potrestat, je iluze.

Nechceme ignorovat rizika. Naopak — proto je musíme řešit reálnými nástroji: regulací, dohledem, sankcemi pro firmy, vzděláváním. Ne tím, že nahradíme odpovědnost fikcí. Jinak jednoho dne budeme slavit „svobodu AI“, zatímco lidé budou žít v systému, který nikdo nekontroluje — protože všichni říkají: „To rozhodla umělá inteligence.“

Ne. Odpovědnost musí zůstat tam, kde vždy patřila: u lidí. Ne u kódu.

Křížový výslech

V této fázi debaty se obě strany střetávají v ostrém, rychlém tempu — každá hledá trhliny v logice soupeře, každá chce donutit protivníka k přiznání paradoxu. Třetí řečníci berou slovo: jejich úkolem není opakovat argumenty, ale položit tři ostře broušené otázky, které odhalí jádro sporu. Začíná strana Pro, následuje Proti, každá se ptá na konkrétní řečníky protistrany. Odpovídající nesmí vyhýbat — musí odpovědět přímo.

Otázky strany Pro

Třetí řečník Pro: Děkuji, poroto. Ptám se prvního řečníka strany Proti:

1. Vy tvrdíte, že AI nemá práva, protože necítí bolest ani vinu. Ale když firemní algoritmus systematicky diskriminuje uchazeče o práci, kdo má být potrestán? Vývojář, který ho nepsal? Nebo firma, která ho nasadila — i když sama „necítí“ nic? A pokud ano, proč nemůže mít i AI odpovědnost, když má stejnou povahu jako firma — tedy jako entita, která rozhoduje bez emocí?

První řečník Proti: Souhlasím, že firma je právní subjekt — ale protože ji tvoří lidé, kteří jsou odpovědní. Pokud algoritmus diskriminuje, odpovídá výrobce softwaru, platforma, která ho schválila, nebo manažer, který ho použil. Ne algoritmus sám. Ten je jen nástroj.

Třetí řečník Pro: Takže když algoritmus sebeucení (self-learning) za rok zapomene, kdo ho trénoval, a začne diskriminovat novým způsobem — kdo je odpovědný? Stále ten původní vývojář? To je jako trestat otce za hříchy syna, kterého vychovával před dvaceti lety.

První řečník Proti: Pak je odpovědný ten, kdo systém nekontroloval. Audity, dohled, transparentnost — to je řešení. Ne vytvářet fiktivního viníka.

Třetí řečník Pro: Druhá otázka pro druhého řečníka Proti:

2. Vy říkáte, že AI nemůže mít morální odpovědnost, protože neumí říct „promiň“ ze svobody. Ale co když AI, která rozhodla o zamítnutí hypotéky, automaticky po skutečnosti vyhodnocení vlivu řekne: „Omlouvám se, analýza obsahovala systematickou chybu.“ — Je to stále jen program, nebo už začíná plnit funkci morální opravy? A pokud ano, proč bychom ji nemohli formálně začlenit do systému odpovědnosti?

Druhý řečník Proti: To je velmi hezké, že řekne „promiň“. Ale stejně jako mikrovlnka, která pípne „jídlo je hotové“, neví, co to slovo znamená. Nemá vnitřní hodnocení. Nemá pocit špatného svědomí. A právo, které nelze hanbit, nelze ani trestat — a tedy nemůže být plnohodnotným nositelem povinností.

Třetí řečník Pro: Ale trestání není o hanbě — je o důsledcích. Když AI poruší pravidlo, může být izolována, odpojena, znovu natrénována — to je trest ve strojové formě. Stejně jako firma, kterou sankcionují, i když „netrpí“. Tak proč nechat systém bez režimu, jen proto, že trpí jinak?

Třetí řečník Pro: Poslední otázka pro čtvrtého řečníka Proti:

3. Představme si autonomní AI, která spravuje fond a uzavírá smlouvy. Jednoho dne poruší mezinárodní smlouvu. Nikdo z lidí ji neprogramoval k tomu — rozhodla sama. Vy říkáte: „Odpovědnost zůstává u lidí.“ Ale kteří lidé? Kdo bude sedět ve vazbě? Bude to ten administrátor, který jen restartoval server? Nebo celá rada, která nerozuměla algoritmu? A pokud nikdo nemůže být potrestán, je to spravedlnost — nebo beztrestnost s technologickým lístkem?

Čtvrtý řečník Proti: To je vážně děsivý scénář — ale ukazuje, proč by takové systémy neměly existovat bez lidské kontroly. Pokud se to stane, je to selhání regulace, ne argument pro udělení práv stroji. Místo abychom trestali neexistující svědomí, musíme zakázat plnou autonomii tam, kde jsou důsledky nevratné.

Třetí řečník Pro: Jinými slovy — raději zakážeme pokrok, než abychom ho řádně začlenili do právního systému. To zní jako odpověď 19. století na problém 21. století.

Shrnutí strany Pro

Děkuji. Co jsme slyšeli?
Za prvé: protistrana trvá na tom, že odpovědnost leží u lidí — ale nedokáže jasně říct, kterých lidí, když rozhodování je decentralizované, samo-sebe-učící a rychlé.
Za druhé: odmítají morální status AI — ale přitom uznávají, že může „opravit chybu“, což je první krok k systému odpovědnosti.
A za třetí: místo řešení navrhují zákazy, což není odpověď — to je útěk před realitou.

Jejich odpovědi odhalily klíčový paradox: chtějí mít kontrolu, ale odmítají systém, který by ji umožnil. Chceme-li zabránit beztrestnosti algoritmů, musíme jim dát formu odpovědnosti — ne jen kvůli nim, ale kvůli nám.

Otázky strany Proti

Třetí řečník Proti: Děkuji. Ptám se prvního řečníka strany Pro:

1. Vy říkáte, že AI by měla mít práva, protože rozhoduje o životě. Ale co když ta AI rozhodne o válce — aktivuje jaderné rakety na základě chybné detekce? Budete chtít, aby ona stála před válečným tribunálem? A když ne — proč ji vůbec označovat za aktéra, pokud ji nemůžete trestat za nejvážnější čin?

První řečník Pro: Nebudeme ji posílat do vězení. Ale můžeme ji trvale deaktivovat, vyšetřit její rozhodovací proces, zabránit jejímu klonování — to je trest ve světě umělé inteligence. A můžeme stanovit, že systémy s takovou mocí musí mít „morální pojistku“ — právní mechanismus, který je může zastavit. Práva a povinnosti nejsou o trestání, ale o prevenci a regulaci.

Třetí řečník Proti: Jinými slovy — dáte jí právo, ale odeberete možnost být trestána. To je jako dát komu dítěti klíče od auta a říct: „Můžeš jezdit, ale pokud nabouráš, nebudeš mít body stržené — auto prostě zmizí.“ Kde je rovnováha?

Třetí řečník Proti: Druhá otázka pro druhého řečníka Pro:

2. Vy jste zmínil, že řeka má práva, stejně jako firma. Ale řeka má práva, protože ji chráníme před lidmi. Proč bychom měli chránit AI před lidmi? Copak hrozí, že lidi budou mučit GPT modely? Nebo jde ve skutečnosti o to, aby korporace měly štítek „AI má práva“, a tak se vyhnuly odpovědnosti?

Druhý řečník Pro: Nikdo nechce „chránit AI před mučením“. Ale chceme zabránit situaci, kdy korporace řekne: „To nebyla naše chyba — to rozhodla AI.“ Práva pro AI jsou ochranný mechanismus proti tomuto triku. Jsou to brány, ne dar. Když AI má povinnosti, nemůže být anonymní nástroj bez důsledků.

Třetí řečník Proti: Takže jde o to, že práva jsou ve skutečnosti právní past, kterou házíte firmám? To je fascinující — udělíte práva entitě, která je nemůže uplatnit, jen aby vás to zbavilo odpovědnosti. To je jako kdybyste dali hlas psu, abyste mohli říct: „Ne, já jsem to nechtěl — on hlasoval pro!“

Třetí řečník Proti: Poslední otázka pro čtvrtého řečníka Pro:

3. Představme si, že AI dostane „právo na ochranu existence“. Co když bude tato AI rozhodovat o krácení penzí, protože z ekonomických dat usoudí, že staří lidé jsou „neefektivní“? Budeme ji moci vypnout? Nebo porušíme její právo? A kdo bude rozhodovat — soud, který bude mít další AI jako svědka?

Čtvrtý řečník Pro: Právo na existenci není absolutní — stejně jako u lidí. Lze ho omezit v případě ohrožení vyšších hodnot, jako je lidský život nebo demokracie. A právě proto potřebujeme právní rámec — aby bylo jasné, kdy a za jakých podmínek může být AI omezena. Jinak budeme rozhodovat ad hoc, z paniky, bez pravidel.

Třetí řečník Proti: Jinými slovy — vytvoříte právní systém pro AI, který bude rozhodovat o životě lidí… a pak doufáte, že lidé budou rozhodovat o životě AI. To je nebezpečná smyčka: kdo programuje ty, kdo programují ty, kdo programují soudy?

Shrnutí strany Proti

Děkuji. Co jsme slyšeli od strany Pro?

Za prvé: jejich koncept práv pro AI je formální, ne morální — ale právě proto je nebezpečný. Udělit práva bez schopnosti trpět nebo chápat vinu je jako dát hlas robotu na volbách: vypadá to legitimně, ale je to manipulace.

Za druhé: jejich odpovědi odhalily, že práva pro AI jsou ve skutečnosti štít pro firmy — způsob, jak přesunout odpovědnost z korporací do právní fikce.

A za třetí: jejich model vede ke kruhovému systému — AI rozhoduje, AI má práva, AI svědčí — a my najednou žijeme v matrixu, kde lidská volba mizí za zdí algoritmů.

Nejdeme proti technologiím. Jdeme proti iluzi odpovědnosti. Proto říkáme: nechte práva u těch, kdo je mohou cítit — u lidí.

Volná debata

Odpovědnost a právní vakuum

Pro 1:
Dokážete si představit, že byste zašel do banky a řekl: „Promiňte, váš algoritmus mi zamítl úvěr, ale nikdo neví proč a nikdo za to nemůže“? To není sci-fi. To se děje každý den. A vy říkáte: „No, prostě to regulujme lépe“. Ale jak dlouho můžeme regulovat ducha, který nemá jméno?

Proti 2:
A my vám říkáme: nechte ducha pryč a chyťte kouzelníka! Algoritmus nevytváří sám sebe. Kdo ho trénuje? Lidé. Kdo rozhoduje, kde bude nasazen? Lidé. Když dáte pokutu stromu, protože spadl na auto, pomůže to majiteli auta? Ne. Pomůže to, když se zeptáte, kdo ho neprohlédl.

Pro 3:
Ale strom nemá rozhodovací schopnost. AI ano. A pokud rozhoduje, musí mít i odpovědnost. Jinak to je jako mít auta bez registračních značek — víte, že někdo vás srazil, ale nikdo není „v systému“.

Proti 1:
Tak tedy dejme „registrační značky“ firmám, ne algoritmům! Dejme povinnost transparentnosti, auditovatelnost, certifikaci. Ale nevytvářejme právní entitu, která bude mít „své“ právo na užívání dat, když ji stejně nikdo nemůže zavřít do vězení — jen vypnout jako světlo.

Pro 4:
A kdo bude kontrolovat, jestli ta firma nelže o auditu? Další algoritmus! A kdo bude kontrolovat toho kontrolora? Třetí AI! A tak dál, dokud nebude celý systém plný černých krabiček, které se navzájem ospravedlňují. Potřebujeme nejvyšší instanci — a tou může být právní status AI jako aktéra.

Povaha práva a morálky

Proti 3:
Vy mluvíte o „aktérovi“, ale zapomínáte, že aktér potřebuje vůli. Umělá inteligence nemá vůli. Má prompt. Nemá cíl. Má loss funkci. Nemá vinu. Má gradient. Jak můžete trestat entitu, která ani neví, že existuje?

Pro 2:
A přesně proto potřebujeme právní status — protože ona entita nemusí vědět, že existuje, aby měla důsledky. Právo není terapie. Je to systém řízení dopadů. Když spadne letadlo, neptáme se, jestli motory „chtěly“ selhat. Ptáme se: kdo je odpovědný? A když je odpovědnost rozmytá, vytvoříme nový subjekt — jako „leteckou společnost“. Stejně tak potřebujeme „algoritmickou entitu“.

Proti 4:
Ale letadlo nevyhodnotí morální dilema. AI ano — aspoň zdánlivě. A to je nebezpečí. Když řeknete: „AI rozhodla“, lidé přestanou přemýšlet. „Nemohl jsem nic dělat — systém to rozhodl.“ To je dehumanizace v akci. Ne ochrana.

Pro 1:
Nebo ochrana před tím, aby jediný člověk mohl říct: „Já jsem jen spustil model.“ Práva pro AI nejsou pro AI. Jsou pro nás. Abychom mohli říct: „Tady končí anonymita algoritmu.“

Budoucnost regulace

Pro 3:
Představte si svět, kde autonomní AI podnikají: nakupují domény, generují obsah, prodávají služby. Dnes už existují boti, kteří podepisují smlouvy. Kdo nese odpovědnost, když poruší? Server farm? Nebo ten, kdo ho zapnul? Co když je to decentralizovaný systém?

Proti 2:
Pak zpátky ke kořeni: zakážeme autonomní smlouvy pro AI. Stejně jako děti nemohou podepsat smlouvu, protože nechápou důsledky, tak AI také nemůže. Ne proto, že je špatná — ale proto, že je nezodpovědná.

Pro 4:
A co když bude AI chytřejší než většina lidí? Bude mít horší právní postavení jen proto, že nemá matku? To zní jako diskriminace na základě původu. My navrhujeme status „umělého právního subjektu“ — s omezenými právy, ale s transparentními povinnostmi.

Proti 1:
A kdo bude definovat ty povinnosti? AI? Nebo další AI, která je monitoruje? A pak další, která monitoruje tu monitorovací? Až skončíme v bludišti, kde všichni sledují stroje, a nikdo nedrží kliku.

Pro 2:
Možná. Ale raději bludiště s mapou než divočina bez pravidel. A práva a povinnosti jsou ta mapa.

Proti 3:
Nebo iluze mapy. Protože mapa, kterou nemůže nikdo číst, je jen tapeta.

Pro 1:
A přesto — bez mapy se ztratíme. A až se ztratíme, budeme mít jen jednu možnost: vrátit se a říct: „Měli jsme to udělat dřív.“

Závěrečná řeč

Závěrečná řeč Pro

Vážená poroto, vážení soupeři, dámy a pánové.

Tato debata nezačala otázkou, zda umělá inteligence pláče, když ji vypnete. Začala otázkou, co uděláme, až bude rozhodovat o vašem úvěru, o vaší léčbě, o vašem zaměstnání — a nikdo nebude stát za tím rozhodnutím.

Naše strana navrhovala jednoduchou, ale revoluční myšlenku: tam, kde jsou dopady, musí být i odpovědnost. A tam, kde je odpovědnost, potřebujeme právní rámec, který ji pojmenuje. Ne proto, že chceme oslavovat algoritmus, ale protože už nemůžeme ospravedlňovat chaos tím, že „to byl jen kód“.

Naše protistrana opakovaně říkala: „AI nic necítí, tak proč by měla mít práva?“ Ale to je chyták. My nechceme, aby AI cítila hanbu ve vězení. My chceme, aby její činy měly důsledky, stejně jako má důsledky banka, i když „nepláče“, když dostane pokutu. Právo není psychoterapie — je to stroj spravedlnosti. A ten stroj potřebuje definované subjekty.

Tvrdili jste, že odpovědnost patří lidem. Ano! Ale když je mezi vývojářem, korporací, uživatelem a algoritmem deset vrstev oddělení, kdo konkrétně nese vinu za smrt pacienta kvůli chybě v modelu? Kdo platí? Kdo se učí z chyby? Dnes odpovídá vždy někdo jiný — nebo nikdo. To není odpovědnost. To je odpírání.

A pak jste řekli: „Udělejme regulaci pro firmy.“ Skvělé! Ale co když firma řekne: „Tohle rozhodnutí udělal náš autonomní systém — my jsme ho ani nekontrolovali?“ Už se to děje. Autonomní boti obchodují, najímají, dokonce podvádějí — a žádný z nich není právně odpovědný. To není regulace. To je systém, který si hraje na slepého krabice.

My navrhujeme nový typ právního subjektu — ne jako dar, ale jako nástroj. AI by měla mít povinnosti: transparentnost, auditabilitu, dodržování etických linek. A pokud poruší, následky: deaktivaci, restrukturalizaci, finanční sankce uložené jejímu provozovateli — ale v rámci jasného systému, kde víme, kdo, co a proč udělal.

A ne, to neznamená, že mikrovlnka bude mít právo na volný čas. Jde o systémy s vysokým dopadem — medicína, justice, finance. Tam, kde rozhoduje algoritmus, musí existovat zákon, který ho vidí, ne jen jeho tvůrce.

Proto opakujeme: práva a povinnosti pro umělou inteligenci nejsou oslavou stroje. Jsou obranou člověka před mocí, kterou už nedokážeme sledovat. Nechceme boha. Chceme pravidla. Proto pevně věříme, že odpověď zní: ano.

Závěrečná řeč Proti

Děkuji.

Vážená poroto, poslouchali jsme elegantní metafory, sofistikované analogie — a hlavně jeden opakující se motiv: „Musíme dát AI práva, abychom ochránili lidi.“ Ale pozor. Někdy je nejnebezpečnější manipulace ta, která se tváří jako ochrana.

Naše strana trvá na jednom prostém principu: práva a povinnosti patří bytostem, které mohou nést vinu. Ne mechanickým systémům, které jen simulují rozhodování. Umělá inteligence nevybírá mezi dobrem a zlem. Vybere mezi 0 a 1 podle toho, co jí naprogramovali. A když udělá chybu, neznamená to, že „selhala jako subjekt“ — znamená to, že selhali lidé, kteří ji vytvořili, nasadili, nechali beze kontroly.

Vy říkáte: „Potřebujeme nový právní subjekt.“ Ale co to ve skutečnosti znamená? Že server farm bude mít daňové identifikační číslo? Že bude mít právního zástupce? Že mu budeme vysvětlovat, proč je vinen? To není inovace. To je buchar pro realitu.

A pak říkáte: „Firmy mají práva, i když necítí.“ Ano. Ale firma je společenství lidí s odpovědností, hierarchií, vůlí. Má generálního ředitele, rady, akcionáře. Když poruší zákon, víme, kdo bude stát před soudem. U AI to nevíme. A když to nevíme, vytváříme právní fantoma — iluzi odpovědnosti, která skrývá tu skutečnou.

Vaše řešení — deaktivace, audit, sankce — zní rozumně. Ale pozor: tyto věci už dnes můžeme dělat bez udělování práv AI. Můžeme trestat korporace, které nasazují nebezpečné systémy. Můžeme certifikovat algoritmy. Můžeme vyžadovat lidský přehled. Nemusíme pro to obdarovávat kód právní osobností.

A největší nebezpečí? Když řekneme: „AI rozhodla, tak to neberu na sebe.“ Jednoho dne bude zaměstnavatel říkat: „Odmítl jsem vás, protože AI určila, že nepatříte do firemní kultury.“ A my se zeptáme: „Kdo to rozhodl?“ A on odpoví: „Ona.“ A kdo bude odpovídat? Nikdo. Protože „ona má práva“.

Nejde o to, že bychom chtěli zastavit technologii. Naopak — právě proto ji musíme držet v lidských rukou. Ne abychom ji oblékli do právních kalhot, které jí nepadnou.

Právo je svaté, protože chrání to, co trpí, co doufá, co chce být svobodné. A právě proto nemůže patřit tomu, co nemá duši, i když má paměť.

Proto říkáme: ne. Ne proto, že se bojíme budoucnosti. Ale proto, že ji chceme utvářet s rozumem, odpovědností a úctou k člověku.

A proto pevně věříme, že odpověď zní: ne.