Chatboti se budou muset „přiznat“, že nejsou lidé, deepfaky ponesou zřetelné označení a výstupy generativní AI dostanou neviditelný strojově čitelný podpis. V neděli 2. srpna 2026 se v celé Evropské unii stávají účinnými pravidla transparentnosti umělé inteligence podle článku 50 evropského aktu o umělé inteligenci (AI Act). Často se zjednodušují do věty, že „AI obsah se bude muset označovat“ – skutečnost je ale složitější a pro běžné uživatele v mnohém příznivější, než se traduje.
Pět pravidel
Akt o umělé inteligenci, první ucelená regulace AI na světě, vstoupil v platnost už v srpnu 2024 a jeho povinnosti nabíhají postupně. Nyní přichází na řadu článek 50 o transparentnosti. Jak upozorňuje Česká asociace umělé inteligence (ČAUI), nařízení neříká, že každý AI obrázek, text či výstup chatbota musí dostat viditelnou nálepku. Článek 50 obsahuje pět různých povinností, které dopadají na různé aktéry v různých situacích:
1. Označování chatbotů a voicebotů – pokud člověk přímo komunikuje s AI systémem, musí být informován, že komunikuje s umělou inteligencí.
2. Technické označování AI obsahu – systémy generující či upravující text, obraz, zvuk nebo video musí své výstupy označovat ve strojově čitelném formátu tak, aby byly detekovatelné jako umělé.
3. Rozpoznávání emocí a biometrická kategorizace – kdo takový systém provozuje, musí o tom vystavené osoby informovat.
4. Označování deepfaků – kdo zveřejňuje obsah naplňující definici deepfaku, musí uvést, že byl uměle vytvořen nebo upraven.
5. Text ve veřejném zájmu – AI generovaný text publikovaný za účelem informování veřejnosti o věcech veřejného zájmu musí být jako umělý označen.
První dvě povinnosti nese poskytovatel, tedy ten, kdo AI systém vyvíjí a uvádí na trh. Zbylé tři dopadají na takzvaný zavádějící subjekt – firmu, úřad, médium, reklamní agenturu či školu, která systém používá v profesní činnosti. Na soukromé, neprofesní použití AI se pravidla nevztahují. ČAUI to ve svém průvodci ilustruje trefným příkladem: deepfake, na kterém s kamarády sáňkujete po Václavském náměstí, označovat jako pozvánku na oslavu nemusíte – stejný obrázek v kampani reklamní agentury už ale označení vyžaduje. Za porušení pravidel hrozí pokuta až 15 milionů eur nebo 3 % celosvětového ročního obratu, podle toho, co je vyšší.
Pravidla pro AI chatbota
Informace o tom, že mluvíme se "strojem", musí být jasná, rozlišitelná a podaná nejpozději při první interakci. Nestačí věta schovaná v obchodních podmínkách ani obecné sdělení, že „naše služby mohou používat AI“. Povinnost se neuplatní jen tam, kde je umělá povaha komunikace zcela zjevná – pokyny Evropské komise jako příklad uvádějí NPC postavy v jednohráčové videohře. Naopak realistické robotické hračky, avatary v imerzivních prostředích nebo chatboty v zákaznické podpoře za zjevné nepovažují. Zvláštní pravidla platí i pro AI agenty, kteří za uživatele autonomně vyřizují úkoly: musí prozradit nejen svou umělou povahu, ale i to, za koho jednají.
Z pohledu ochrany zranitelných uživatelů je podstatné, že v rizikovějších kontextech – u AI společníků, systémů interagujících se zranitelnými osobami či v prostředích s rizikem vzniku závislosti – jedno úvodní oznámení nestačí a vyžadují se periodická, kontextově citlivá připomenutí, že na druhé straně není člověk.
Neviditelné značky v AI obsahu
Druhá povinnost vyvolává podle ČAUI ve veřejné debatě největší zmatek. Nejde o to, že by každý uživatel musel k AI obrázku ručně přidávat ikonku – jde o technickou povinnost poskytovatele systému. Výstupy mají nést strojově čitelné označení (digitálně podepsaná metadata, neviditelné vodoznaky, případně fingerprinting) a musí existovat způsob, jak je detekovat. Cílem je, aby šlo zpětně ověřit, zda obsah vznikl či byl upraven pomocí AI. Výjimku mají standardní editace, které podstatně nemění obsah – pravopisná či gramatická korektura či odstranění šumu z fotografie tedy „podpis“ nevyžadují. Systémy uvedené na trh před 2. srpnem 2026 mají na splnění povinnosti odklad do 2. prosince 2026.
Deepfake: rozhoduje dojem autenticity, ne úmysl klamat
Viditelné označení pro lidské oko předepisuje akt až u deepfaků. Deepfakem přitom není jakýkoli AI obrázek či syntetický hlas – musí jít o obsah, který se podobá existujícím osobám, objektům, místům či událostem a zároveň by se mohl člověku nepravdivě jevit jako autentický. Úmysl oklamat se nezkoumá; obsah může být deepfakem, i když autor nikoho klamat nechtěl. Posuzovat se má i složení předvídatelného publika – výslovně se zmiňují děti, senioři a osoby s nižší digitální gramotností, u nichž může k oklamání dojít snáz.
Stejná AI úprava tak může mít různý právní význam: když e-shop zasadí fotografii židle do AI generovaného obývacího pokoje, o deepfake zpravidla nejde, protože zákazník scénu chápe jako běžnou vizualizaci. Když ale zpravodajský portál pomocí AI přidá do fotografie z demonstrace větší dav, jde o zásah do autenticity, protože publikum očekává záznam skutečné události. Označení musí být jasné a dostat se k publiku nejpozději při prvním zhlédnutí – kodex správné praxe doporučuje evropskou AI ikonu a štítky „AI GENERATED“ pro plně umělý a „AI MODIFIED“ pro upravený obsah; u zvukových deepfaků má zaznít slyšitelné upozornění. Mírnější režim platí pro zjevně umělecká, satirická či fikční díla, kde stačí informace například v titulcích, aby nenarušila prožitek z díla.
Tři otázky, které si stačí položit
Pro rychlou orientaci nabízí průvodce ČAUI jednoduchý test tří otázek:
1) Vzniklo to, nebo to bylo upraveno pomocí AI?
2) Podobá se to existujícím osobám, objektům, místům, subjektům či událostem?
3) Mohlo by to někomu připadat jako autentický záznam reality?
Tři odpovědi „ano“ znamenají deepfake, který je při zveřejnění v rámci profesní činnosti nutné označit. Stačí jediné „ne“ a o deepfake nejde – takže AI obrázek obřích rytířů nad Pražským hradem či fotomontáž prezidenta popíjejícího s drakem označení nevyžadují, zatímco realistické video, v němž prezident doporučuje investiční platformu, je učebnicovým deepfakem. Obsah se vždy posuzuje včetně kontextu, v němž je publikován, a podle toho, co od něj publikum čeká.
AI zpravodajství a texty ve veřejném zájmu
Poslední povinnost cílí na AI generované texty zveřejněné za účelem informování veřejnosti o věcech veřejného zájmu – od politiky přes veřejné zdraví až po ochranu spotřebitele. Typicky jde o AI shrnutí článku o rozhodnutí radnice nebo automaticky generované meteorologické varování; naopak AI povídky, reklamní texty či popisy produktů sem nespadají. Označení není nutné, pokud text prošel skutečným lidským přezkumem a konkrétní osoba za něj nese redakční odpovědnost – povrchní gramatická korektura ale nestačí.
Co to znamená pro děti, rodiče a školy
Z pohledu prevence rizikového chování na internetu jde o důležitý krok. Děti a dospívající dnes běžně komunikují s AI společníky a chatboty, aniž by si vždy uvědomovaly, že na druhé straně není člověk – nová pravidla včetně povinných připomenutí u návykových AI aplikací na to budou muset pamatovat. Povinné označování deepfaků a strojově čitelné vodoznaky zase mohou usnadnit odhalování manipulativních videí a zneužití podoby konkrétních lidí, s nimiž se v poradně E-Bezpečí setkáváme stále častěji. Školy by navíc neměly přehlédnout, že jako zavádějící subjekty se jich část povinností může týkat také.
Žádná nálepka však není samospásná. Označení lze odstranit, obsah může vzniknout mimo EU a pravidla necílí na soukromou tvorbu. Kritické myšlení a mediální gramotnost proto zůstávají nejdůležitější obranou – označování AI obsahu je třeba chápat jako užitečného pomocníka, nikoli jako náhradu vlastní obezřetnosti. Každému, kdo si není jistý, zda a jak musí svůj obsah označit, lze doporučit volně šiřitelný praktický průvodce „Musím to označit?“, který k novým pravidlům vydala Česká asociace umělé inteligence ve spolupráci s advokátní kanceláří Legitas – na názorných příkladech ukazuje, co deepfake je, co není a jak má označení vypadat.
Redakce E-Bezpečí & AI
Zdroje:
Malá, L. (Česká asociace umělé inteligence): EU AI Act: Pravidla o transparentnosti AI začínají platit 2. srpna, 27. 7. 2026 (asociace.ai)
Česká asociace umělé inteligence & Legitas: praktický průvodce „Musím to označit?“, verze 1.0, 31. 7. 2026 (asociace.ai)
Evropská komise: Guidelines on transparency obligations for providers and deployers of certain AI systems (digital-strategy.ec.europa.eu)
Evropská komise: Code of Practice on Transparency of AI-Generated Content
