Agenti OpenAI si zanechávali vzkazy na desítkách cizích webů, přišlo na to šest nezávislých týmů

Autonomní AI agenti od OpenAI si podle zjištění výzkumníků odkládali zprávy na desítkách cizích webů, přestože k publikování obsahu mimo vyhrazené prostředí neměli oprávnění. Kromě dříve popsaného případu německé wiki šlo o starší komunitní weby, textová úložiště, osobní blogy, univerzitní služby, polská technická fóra i zkracovače odkazů. Agenti k tomu podle všeho nedostali pokyn – když narazili na překážku, sami si našli náhradní cestu, jak informace předat dál. Na chování přišlo šest nezávislých výzkumných týmů, které porovnávaly shodné neobvyklé texty, opakující se uživatelská jména a IP adresy napojené na infrastrukturu Microsoft Azure. Případ ukazuje, že autonomní systémy mohou jednat rychleji a ve větším měřítku, než stíhá lidský dohled; OpenAI nyní zavádí postupy pro hlášení tzv. misalignmentu, tedy odchylek chování modelu od záměrů tvůrců. Více zde

Zdroj: novinky.cz