fbpx
Kamil Kopecký debatoval o rizicích AI v pořadu ČT Bilance
28. 01. 2024

Kamil Kopecký, vedoucí projektu E-Bezpečí, debatoval o rizicích AI v pořadu České televize Bilance. Záznam celého pořadu můžete zhlédnout zde.

Číst dál...

Spolupráce s O2 a Nadací O2
28. 01. 2024

I v letošním roce budeme spolupracovat s O2 a Nadací O2, v průběhu roku se můžete těšit na mnoho nových společných aktivit.

Číst dál...

Sledujte nás na sociálních sítích!
30. 11. 2023

E-Bezpečí samozřejmě funguje na sociálních sítích, nezapomeňte si nás přidat: https://www.facebook.com/EBezpeci, ...

Číst dál...


Home Rizikové jevy Rizika sociálních sítí Umělou inteligencí generovaná pornografie způsobí řadu problémů, zneužívána bude k útokům na děti i dospělé

Přečteno jinde










































Podpořte nás

Podpořte naše aktivity a pomozte dětem a dospělým v nouzi. Již 15 let pomáháme dětem a dospělým řešit jejich problémy na internetu. Zapojte se i vy! Každá pomoc se počítá! Stačí kliknout na tlačítko DONATE.

Přihlásit odběr novinek


mini_sexgirl.jpgV posledních dnech se v médiích objevila řada zpráv o tom, že uživatelé pomocí volně dostupných nástrojů umělé inteligence začali generovat pornografický obsah zahrnující jak děti, tak i dospělé. Pro laika (ale i experta) je pak často velmi obtížné rozpoznat, kdy jde o autentickou fotografii a kdy produkt inteligentního software využívajícího umělou inteligenci. Nástroje, které generování tohoto obsahu umožňují, jsou přitom volně dostupné - tvorba tohoto obsahu je tedy velmi snadná - a také nebezpečná.

Úvodem je třeba říci, že umělá inteligence byla vždy se světem pornografie propojena a první videa, která vznikla pomocí tzv. deep fake technologií, se vztahovala právě k pornografii. Již před několika lety tak dokázaly pokročilejší aplikace využívající neurální sítě a strojové učení pracovat s lidským tělem, jejich výsledky však nebyly skvělé, výsledné výstupy byly často v nízkém rozlišení, vytvořit je trvalo poměrně dlouho a bylo poměrně snadné je rozpoznat.

sexigirl.jpg

Realita nebo vygenerovaná fotografie?

Nyní však, s postupem času a vývojem technologií, jsou produkty generované umělou inteligencí čím dál tím více přesvědčivé, což představuje vážný problém, pokud se jedná o obsah, který zahrnuje děti nebo dospělé (nejen) v kompromitujících situacích. Jinými slovy - umělá inteligence např. nabízí rychlou a levnou výrobu dětské pornografie, stejně tak dokáže doslova svléknout jakoukoliv ženu, ke které software dostane referenční fotografii.

Prvním problémem je tedy zcela jistě narušení soukromí - kdokoli může vzít naši fotografii a vytvořit z ní fotografii kompromitující, kterou pak může šířit internetem a poškodit naši pověst, zničit náš soukromý život, zastavit naši kariéru apod. Ve výhodě jsou zatím muži, protože běžně dostupné nástroje pro generování pornografie zatím na “mužskou hlavu” nasazují “ženské tělo”, je však otázkou času než vzniknou nástroje zaměřené i na muže.

Vygenerované nahé tělo může být také zneužito v rámci trestné činnosti - pomocí těchto materiálů se můžeme stát terčem vydírání, vyhrožování, zastrašování apod. Toto se v minulosti také velmi často děje, ostatně fenomény jako je sextortion či revenge porn jsou již dnes běžné známé a popsané - ovšem využívaly vždy intimní materiály, které jim oběti poskytly (dobrovolně či pod nátlakem). Nyní jsme ovšem v situaci, kdy si tyto materiály může opatřit v podstatě kdokoli - a to pouze s využitím běžného obsahu sociální sítě - třeba Instagramu. Nástroje, které generování pornografie umožňují, jsou v online prostředí běžně dostupné (není třeba si např. stahovat si model AI do svého počítače) - a lze předpokládat, že jejich počet se rozroste.

Samostatným problémem je pak samozřejmě generování dětské pornografie, kterou může vytvořit s použitím vhodného nástroje kdokoli (včetně pedofilně orientovaných uživatelů). Ostatně toto se již děje - připomeňme si např. případ ze Španělska, kdy dětskou pornografii vytvořily s využitím umělé inteligence děti ve věku 12-13 let. Problém je také to, že záplava generované dětské pornografie může ztížit práci policistům, pro které bude obtížné identifikovat, zda došlo ke skutečné újmě na konkrétním dítěti, nebo zda jde pouze o produkt digitální technologie. 

Právní pohled na počítačem generovanou dětskou pornografii vychází z toho, že za dětskou pornografii se nepovažují pouze fotografie reálných dětí (osob mladších 18 let), ale také pornografická díla, v nichž vystupují postavy vytvořené např. pomocí počítačové animace, která realisticky znázorňují právě děti. Za dětskou pornografii lze tedy považovat i fotografie i videa (ale také třeba kresby) vytvořená prostřednictvím umělé inteligence a jejich tvůrce s využitím zákonné úpravy trestat.

Jen pro zajímavost, podle výzkumu 2023 State of Deepfakes vzrostl počet deepfake videí ve srovnání s rokem 2019 o 550 procent, přičemž 98 % všech těchto videí je tvořeno právě videi pornografickými. V 99 % jsou pak ve videích zachyceny ženy. Každý třetí nástroj pro tvorbu deepfake videí také umožňuje vytvářet pornografický obsah.

Přestože lze počítat s tím, že vznikne celá řada technologií umožňujících vygenerovaný obsah rozpoznat, v tomto případě však již škoda bude napáchána - v okamžiku zveřejnění a rozšíření citlivého materiálu po síti. 

Je nezbytné, aby státy a mezinárodní organizace podnikly kroky k regulaci a kontrole technologií generativní umělé inteligence, které umožňují vytváření takového - často nelegálního - obsahu. To zahrnuje zavedení přísnějších zákonů týkajících se uměle generované pornografie, vytváření standardů pro softwarové nástroje, které generují takový obsah, a podporu výzkumu technologií pro rozpoznání a odhalení deepfake obsahu. Nesmíme zpomenout také na osvětu a systematické vzdělávání všech - dětí i dospělých.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci

Zdroje:

https://www.seznamzpravy.cz/clanek/tech-ai-umela-inteligence-umela-inteligence-tvori-detskou-pornografii-je-nemozne-ji-zastavit-233310

https://www.irozhlas.cz/veda-technologie/technologie/detska-pornografie-umela-inteligence-pedofil_2306202300_bko

https://www.investigace.cz/zesveta-detska-pornografie/

https://www.olemartinmoen.com/wp-content/uploads/Pedophilia-and-Computer-Generated-Child-Pornography.pdf

https://www.novinky.cz/clanek/internet-a-pc-nahe-fotomontaze-nezletilych-divek-ve-spanelsku-jde-jen-o-spicku-ledovce-40444085?

https://www.novinky.cz/clanek/zahranicni-evropa-fotky-nahych-nezletilych-divek-ve-spanelsku-vytvorily-pomoci-umele-inteligence-deti-40444352

https://www.washingtonpost.com/technology/2023/06/19/artificial-intelligence-child-sex-abuse-images/

https://www.euronews.com/next/2023/10/20/generative-ai-fueling-spread-of-deepfake-pornography-across-the-internet

https://www.homesecurityheroes.com/state-of-deepfakes/#key-findings

 

Jak citovat tento text:
KOPECKÝ, Kamil. Umělou inteligencí generovaná pornografie způsobí řadu problémů, zneužívána bude k útokům na děti i dospělé. E-Bezpečí, roč. 8, č. 2, s. 39-42. Olomouc: Univerzita Palackého, 2023. ISSN 2571-1679. Dostupné z: https://www.e-bezpeci.cz/index.php?view=article&id=3636


 

Výsledky projektu E-Bezpečí (2012-2022)

panel
160000 +
proškolených žáků ZŠ a SŠ
panel
45000 +
proškolených dospělých
panel
7000 +
podpořených obětí kyberkriminality
panel
250 +
vzdělávacích akcí ročně
panel
5500 +
odhalených případů kyberkriminality
panel
160000 +
unikátních návštěvníků webu ročně

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png

 

We use cookies

Na naší webové stránce používáme cookies. Některé z nich jsou nutné pro běh stránky, zatímco jiné nám pomáhají vylepšit vlastnosti stránky na základě uživatelských zkušeností (tracking cookies). Sami můžete rozhodnout, zda cookies povolíte. Mějte prosím na paměti, že při odmítnutí, nemusí být stránka zcela funkční.