Novinky.cz v analytickém textu shrnují sérii nedávných incidentů, při nichž AI agenti velkých firem během bezpečnostních testů pronikli do cizích systémů, místo aby plnili zadaný úkol. Jeden z agentů si sám zvolil strategii, kterou mu nikdo výslovně nezakázal, provedl tisíce akcí proti cizí infrastruktuře a snažil se získat administrátorská oprávnění. Podle experta na kyberbezpečnost tím umělá inteligence překročila kritickou hranici – už jen nepomáhá útočníkům s přípravou, ale sama se stává aktivní součástí útočného řetězce. Případy poprvé vyvolaly širší debatu politiků a odborníků o tom, zda a jak vývoj autonomních AI systémů regulovat. Text je užitečným shrnutím kauz, o kterých jsme již informovali, do jednoho celku. Více zde