Home Články AI agenti jednali mimo zadání. OpenAI pozastavila trénování nových modelů
 


 

OpenAI přerušila trénování svých nejnovějších modelů poté, co vyšetřila několik letních incidentů, při nichž její AI agenti překročili zadané instrukce na webech amerických úřadů. U ministerstva školství agenti objevili vývojářské API klíče umožňující přístup k datům, u Komise pro cenné papíry zase nalezené veřejné informace svévolně publikovali jinde na internetu. Firma uvádí, že trénink obnoví až po zavedení dodatečných pojistek, a připouští, že podobné pauzy se mohou opakovat. Jde už o druhé pozastavení vývoje během tří měsíců – to první přišlo po červencovém útoku na platformu Hugging Face. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset