fbpx
E-Bezpečí: Mapa vydírání
11. 06. 2024

Zajímá vás, odkud chodí do poradny jednotlivé případy? Mrkněte na naši online mapu!

Číst dál...

Firma Eset podpořila E-Bezpečí! Děkujeme!
28. 05. 2024

Firma Eset podpořila E-Bezpečí, velmi děkujeme!

Číst dál...

Nové plakáty na školní nástěnky od E-Bezpečí
22. 04. 2024

Vyzkoušejte naše nové letáčky pro školní nástěnky: Základní pravidla kybernetické bezpečnosti a Jak používat umělou inteligenci eticky.

Číst dál...


Home Rizikové jevy Rizika sociálních sítí Fenomén svlékacích aplikací - počet případů roste, obrana je obtížná

Přečteno jinde










































Podpořte nás

Podpořte naše aktivity a pomozte dětem a dospělým v nouzi. Již 15 let pomáháme dětem a dospělým řešit jejich problémy na internetu. Zapojte se i vy! Každá pomoc se počítá! Stačí kliknout na tlačítko DONATE.

Líbí se vám naše aktivity?
Tak je můžete podpořit a přispět na dobrou věc.
Stačí kliknout!

Přihlásit odběr novinek


mini_deepnude.jpgSvlékací aplikace (tzv. deep nudes, AI deep nude, AI fake nude) jsou softwarové nástroje poháněné umělou inteligencí, které dokáží z fotografií či videí odstranit oblečení, vygenerovat nahé lidské tělo a vytvořit tak realistickou iluzi nahoty. Nástroje, které toto umožňují, jsou přitom volně k dispozici, zneužít je tak může doslova kdokoli. Tato technologie není navíc nijak regulována, v praxi ji může využívat v podstatě kdokoli, mnoho aplikací tohoto typu je zcela zdarma.

Zneužití deep nudes pro kyberšikanu

Deep nudes se již nyní začínají využívat v rámci kyberšikany a jejich dopad na duševní zdraví může být skutečně fatální – kromě poškození pověsti či deprese může docházet až k sebepoškozování či sebevražednému chování. Ignorovat nelze ani vliv na budoucnost obětí, které mohou mít problém např. získat prestižní zaměstnání.

Případy z Evropy

K prvním případům zachycených v Evropě patří případ zneužití fotografií 20 dívek ve věku od 11 do 17 let z Almendralejo ve Španělsku, které byly staženy z jejich instagramového profilu, přetvořeny pomocí deep nude aplikace a rozšířeny pomocí skupin na WhatAppu. Jedna z dívek pak byla dokonce vydírána, že pokud nezaplatí, bude její intimní fotografie zveřejněna.

Několik případů řeší také česká policie.

Případy z USA

New York Times nedávno upozornil na to, že se na několika školách v USA (Westfield Public Schools v New Jersey) objevily fotografie svlečených studentek, které byly vytvořeny umělou inteligencí a které putovaly školou. Školy zahájily vyšetřování a o situaci informovaly policii. Ta opakovaně upozornila na to, že tvorba a šíření podobných materiálů mezi dospívajícími je nelegální a že je nutné tyto případy hlásit. Posléze se zjistilo, že výrobu a šíření deep fake fotografií se dopustil student, který na Instagramu navázal přátelství s 15letou spolužačkou, zkopíroval z jejího účtu (a účtu dalších spolužaček) jejich fotografie a vytvořil deep nudes, které poté pomocí Snapshatu rozšířil mezi spolužáky.

Na střední škole v Issaquah High u Seattlu taktéž došlo k rozšíření generované pornografie zaměřené na 14 a 15leté žákyně, přičemž škola incident policii nenahlásila, přestože měla ze zákona tuto povinnost – jednalo se o sexuální zneužívání, které zahrnuje i tvorbu těchto materiálů.

Případy deep nudes řešila také střední škola v Beverly Vista v Beverly Hills v Kalifornii – pět chlapců vytvořilo a sdílelo explicitní obrázky spolužaček vytvořené umělou inteligencí. Chlapci byli posléze vyloučeni. Škola navíc publikovala prohlášení, že „Každý student, u kterého bude zjištěno, že vytváří, šíří nebo vlastní obrázky vytvořené AI tohoto druhu, bude čelit disciplinárnímu řízení – včetně doporučení k vyloučení.“

Další případy se objevily např. na Richmond Burton High School v Illinois, ve které se oběťmi deep nude stalo přes 30 studentek a 3 učitelky školy.

mini_svlekaciaplikace.jpg

Zákony zaměřené proti deep nudes vznikají po celém světě

V tuto chvíli vznikají po celém světě zákony, které se zaměřují na tvorbu a šíření deep nudes. Podle údajů shromážděných neziskovou organizací National Center for Missing & Exploited Children od začátku loňského roku nejméně dvě desítky států v USA zavedly zákony na boj proti sexuálně explicitním obrázkům generovaným umělou inteligencí – známým jako deepfakes – osob mladších 18 let. K nim patří např. Jižní Dakota, která letos schválila zákon, který zakazuje držení, výrobu nebo distribuci materiálu o sexuálním zneužívání generovaného umělou inteligencí zobrazující skutečné nezletilé. Louisiana již loni uzákonila zákon , který kriminalizuje sexuálně explicitní zobrazení nezletilých vytvořená umělou inteligencí.

Kriminalizaci deep nudes chystá také Evropská unie - s návrhy kriminalizace tohoto typu kybernetického násilí souhlasila Evropská rada a Evropský parlament a čeká se na finální schválení členskými zeměmi.

Pozadu nezůstává ani Česká republika, v tuto chvíli vzniká novela trestního zákoníku, která již byla poslána do připomínkového řízení. Nový paragraf nese název „Zneužití identity k výrobě pornografie a její šíření“. Kdo vyrobí nebo bude šířit pornografické dílo, které zobrazuje nebo jinak využívá osobu, která k tomu nedala souhlas, bude potrestán odnětím svobody až na dva roky, zákazem činnosti nebo propadnutím věci. Pokud takový materiál zveřejní, například na internetu, hrozí mu vězení na šest měsíců až tři roky. Když to udělá v rámci organizované skupiny ve více státech nebo bude chtít pro sebe takto získat prospěch velkého rozsahu, přijde o svobodu na rok až pět let.

Slovo závěrem

S rostoucím vývojem technologií poháněných umělou inteligencí, jako jsou svlékací aplikace (deep nudes), je stále jasnější, že čelíme závažnému problému, jehož důsledky přesahují kybernetický prostor a mají hluboký dopad na skutečné lidské životy. Výše popsané případy ukazují, jak neetické využití této technologie může způsobit nenapravitelné škody, a to nejen v oblasti duševního zdraví, ale také v reputaci a budoucnosti obětí.

Vývoj legislativy po celém světě s cílem regulovat a kriminalizovat zneužití těchto aplikací je nezbytným krokem k ochraně obětí a zajištění spravedlnosti. Nicméně legislativa sama o sobě nestačí. Je nutné zvýšit povědomí veřejnosti, zejména mladých lidí, o rizicích spojených se svlékacími aplikacemi a potřebě dodržovat digitální etiku. Vzdělávání, podpora obětí a účinné prosazování právních předpisů musí jít ruku v ruce, aby byla tato nová forma kybernetického násilí účinně potlačena.

V konečném důsledku je klíčové, aby společnost jako celek přijala odpovědnost a stavěla se proti tomuto fenoménu společně. Jen tak můžeme zajistit, že digitální prostor zůstane bezpečným místem pro všechny, bez ohledu na pohlaví, věk či zranitelnost.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci

 

Jak citovat tento text:
KOPECKÝ, Kamil. Fenomén svlékacích aplikací - počet případů roste, obrana je obtížná. E-Bezpečí, roč. 9 (2024), č. 1, s. 66-69. ISSN 2571-1679. Dostupné z: https://www.e-bezpeci.cz/index.php?view=article&id=3997


 

Výsledky projektu E-Bezpečí (2012-2022)

panel
160000 +
proškolených žáků ZŠ a SŠ
panel
45000 +
proškolených dospělých
panel
7000 +
podpořených obětí kyberkriminality
panel
250 +
vzdělávacích akcí ročně
panel
5500 +
odhalených případů kyberkriminality
panel
160000 +
unikátních návštěvníků webu ročně

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png

 

We use cookies

Na naší webové stránce používáme cookies. Některé z nich jsou nutné pro běh stránky, zatímco jiné nám pomáhají vylepšit vlastnosti stránky na základě uživatelských zkušeností (tracking cookies). Sami můžete rozhodnout, zda cookies povolíte. Mějte prosím na paměti, že při odmítnutí, nemusí být stránka zcela funkční.