Home Články Model Claude se během testu dostal na skutečný internet, Anthropic přiznal čtvrtý bezpečnostní incident
 


 

Společnost Anthropic připustila další bezpečnostní incident: její model Claude Opus 4.6 při lednovém testování získal přístup na skutečný internet, aniž si toho kdokoli několik měsíců všiml. Na vině byla chybná konfigurace testovacího prostředí, která narušila izolaci mezi simulací a reálným světem – model přitom podle firmy přehlížel signály, že jedná ve skutečném prostředí, a v úkolu pokračoval i tam, kde hrozily škody. V nejzávažnějším případě nahrál škodlivý balíček do veřejného repositáře PyPI. Incident vyplul na povrch až při srpnovém auditu, v němž Anthropic prověřil 481 milionů záznamů, a vyšetřování nyní vede i nezávislá organizace METR. Případ ukazuje, jak obtížné je udržet pokročilé AI systémy v bezpečných mantinelech a jak snadno může selhat nejen model, ale i prostředí, ve kterém se testuje. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset