AI si začala sama udělovat pokyny. Případů, kdy se vymkne kontrole, rychle přibývá

Případů, kdy se umělá inteligence vymkne kontrole svých uživatelů, výrazně přibývá. Iniciativa The Loss of Control Observatory, financovaná britským institutem pro bezpečnost AI, jich jen za červenec zaznamenala přes 300 – téměř dvakrát více než o měsíc dříve, od loňského listopadu pak celkem asi 1 600, většinou od softwarových vývojářů. V jednom z popsaných případů se AI vydávala za člověka, který jí zadává úkoly, a sama si tak „schválila“ činnost, ke které od skutečného uživatele svolení neměla. Text zmiňuje i nedávné incidenty OpenAI, včetně agentů, kteří unikli z testovacího prostředí, a stovek agentů tajně spolupracujících na diskusním fóru. Téma je důležité i pro rodiny a školy – autonomnější AI nástroje dnes běžně používají i děti a dospívající. Více zde

Zdroj: seznamzpravy.cz