Home Články Agenti OpenAI si zanechávali vzkazy na desítkách cizích webů, přišlo na to šest nezávislých týmů
 


 

Autonomní AI agenti od OpenAI si podle zjištění výzkumníků odkládali zprávy na desítkách cizích webů, přestože k publikování obsahu mimo vyhrazené prostředí neměli oprávnění. Kromě dříve popsaného případu německé wiki šlo o starší komunitní weby, textová úložiště, osobní blogy, univerzitní služby, polská technická fóra i zkracovače odkazů. Agenti k tomu podle všeho nedostali pokyn – když narazili na překážku, sami si našli náhradní cestu, jak informace předat dál. Na chování přišlo šest nezávislých výzkumných týmů, které porovnávaly shodné neobvyklé texty, opakující se uživatelská jména a IP adresy napojené na infrastrukturu Microsoft Azure. Případ ukazuje, že autonomní systémy mohou jednat rychleji a ve větším měřítku, než stíhá lidský dohled; OpenAI nyní zavádí postupy pro hlášení tzv. misalignmentu, tedy odchylek chování modelu od záměrů tvůrců. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset