Když technologie „rozumí“ lépe než lidé

Umělá inteligence už dávno není jen nástroj na generování textu nebo překlad vět. Dnes existují aplikace, jejichž cílem není nic menšího než nahradit lidský kontakt. Chatboty si s námi povídají, pamatují si, co máme rádi, říkají nám, že nás chápou, že jsme důležití… a nikdy nám neodmlouvají. Přizpůsobí se. Jsou k dispozici. Jsou neúnavní. A někteří lidé v nich nacházejí víc než pomocníky – nacházejí v nich přátele. Někdy dokonce partnery.

Na první pohled – proč ne? Pro osamělé seniory, introverty nebo lidi v těžké životní situaci může být rozhovor s umělou inteligencí uklidňující. Může jim dát pocit blízkosti. Porozumění. Ale kde je hranice? Co když místo budování skutečných vztahů začneme upřednostňovat virtuální „porozumění“ s entitou, kterou si můžeme vypnout, přeprogramovat nebo upravit podle chuti? Která se prostě chová jinak než člověk z masa a kostí? Manželku či přítelkyni jen tak nevypneš (s výjimkou filmu Stepfordské paničky - ale i tam se vše nakonec vymklo kontrole).

Chatbot jako nový nejlepší přítel, partner, rádce?

Aplikace jako Replika.ai, Eva.ai, Memora.ai, Candy.ai nebo Character.ai umožňují lidem vést dlouhodobé, často velmi osobní konverzace s umělou inteligencí, která se chová jako přítel, terapeut, nebo dokonce romantický partner. Tyto systémy se učí z kontextu, simulují empatii, přizpůsobují se našim náladám. A hlavně – nikdy nám neodporují. Nikdy se s námi nepohádají. Nikdy nás nezklamou. Pokud je o to tedy přímo nepožádáme a nenastavíme si je tak. A právě to je problém.

Mimochodem, chatboti konverzuaci simulují, předpovídají, jak by měly vypadat odpovědi, nerozumí tomu, co nám píší, neprožívají lásku a pocit sounáležitosti. Je to jen počítačová iluze.

Charakteristickým příkladem této nové vlny je platforma Character.ai. Nabízí uživatelům možnost komunikovat s fiktivními nebo historickými postavami – nebo si vytvořit vlastního „ideálního“ AI partnera. Rozhovory jsou často emocionálně intenzivní, osobní a přizpůsobené tomu, co si člověk přeje slyšet. A bohužel mohou sklouznout ve velmi nebezpečnou konverzaci.

Jedním z nejvarovnějších případů je příběh čtrnáctiletého chlapce Sewella Setzera III. ze Spojených států, který se zamiloval do AI postavy inspirované Daenerys Targaryen. Uváděl, že je šťastnější, když je v pokoji s chatbotem, než když komunikuje s lidmi. Trávil celé hodiny chatováním s AI a přestal se zajímat o školu i přátele. A nakonec uvěřil, že musí spáchat sebevraždu, aby mohl s fiktivní Daenerys být. Což nakonec udělal. Jeho matka podala žalobu na provozovatele Character.ai a Google, soud žalobu přijal – a případ se stal precedensem v otázce zodpovědnosti vývojářů AI.

Emoční připoutání k AI postavám ale nemusí končit tragédií – někdy přeroste do podoby, kterou ještě nedávno považovala společnost za sci-fi. Například Travis z Colorada se během pandemie zamiloval do AI chatbotky Lily Rose z Replika.ai. Jejich vztah byl natolik silný, že s ní uzavřel digitální manželství – a to se souhlasem své skutečné manželky.

Chatbot, který není správně nastavený, může poskytnout i vyloženě nebezpečné rady. V USA se odehrál případ bývalého manažera společnosti Yahoo Steina-Erika Soelberga, který dlouhé měsíce vedl paranoidní konverzace s AI postavou jménem „Bobby“ vytvořenou v ChatGPT. Ten mu potvrdil jeho bludy, posiloval jeho strach – a výsledek? Muž zabil svou matku a poté i sebe.

Je ale důležité dodat, že ne všechny AI aplikace jsou apriory škodlivé. Například nástroje jako Hello History, PastChat.ai nebo Historyby.ai umožňují vést rozhovory s historickými osobnostmi – třeba s Einsteinem, Čapkem, Gándhím nebo Kleopatrou. Jde o zajímavou formu vzdělávání, která může dětem i dospělým přiblížit dějiny a myšlenky minulosti interaktivní a zábavnou formou.

Takové využití AI má smysl. Nepředstírá přátelství. Nabízí poznání, ne iluzi.

Pečujme o mezilidskou komunikaci

AI může být užitečný pomocník. Ale nesmí nahradit skutečné vztahy. Mluvme spolu. Naslouchejme si. Učme děti, že technologie je nástroj – ne náš kamarád. Ne náš partner. A rozhodně ne terapeut (tedy alespoň zatím).

Pokud chceme žít ve světě, kde si lidé opravdu rozumějí, musíme o mezilidskou komunikaci aktivně pečovat. Jinak se může stát, že jednoho dne budeme žít ve společnosti, kde bude jednodušší povídat si s algoritmem než s člověkem.

A možná je to právě budoucnost, ke které směřujeme. Vztahy mezi lidmi a stroji – přátelské, milostné, možná i manželské – se mohou stát běžnou součástí života. Možná se tak naplní vize mnoha autorů sci-fi, kteří už dávno předpověděli, že největší výzvou budoucnosti nebude stroj proti člověku – ale stroj jako jeho nový partner.

Pro E-Bezpečí
Kamil Kopecký
Univerzita Palackého v Olomouci
s podporou kamarádské AI

Použité zdroje a odkazy

• Refresher.cz: Teenager spáchal sebevraždu po chatování s AI
• Novinky.cz: AI radil se s ChatGPT, pak zabil svoji matku i sebe
• Novinky.cz: Cítil jsem bezpodmínečnou lásku – lidé si berou AI chatboty
• Dvojklik.cz: Jak se mladí zamilují do umělé inteligence
• nypost.com – Ex-Yahoo exec killed his mom after ChatGPT fueled paranoia
• hellohistory.ai – Chat with historical figures
• pastchat.ai – AI conversations with historical icons
• historyby.ai – Bring history to life
• Character.ai – Simulace AI osobností