Home Články feed-image
 


 

Ve své zprávě o zneužívání umělé inteligence popsala společnost Anthropic také pět případů, kdy se uživatelé pokusili její model využít při výzkumu s vazbou na biologické zbraně. Tři případy se týkaly virů, dva toxinů s takzvaným dvojím užitím, tedy látek využitelných legitimně i ke škodlivým účelům. Podle firmy šlo mimo jiné o osoby z institucí napojených na státy a z oblastí, kde služba není běžně dostupná, a snažily se obejít bezpečnostní mechanismy modelu. Anthropic dotčené účty zablokoval a záměrně nezveřejnil konkrétní postupy, názvy institucí ani látky, aby zprávu nešlo zneužít jako návod. Zároveň upozorňuje, že není jasné, zda byly získané informace skutečně nějak využity. Více zde

Společnost Anthropic vydala rozsáhlou zprávu o 154 stranách, ve které popisuje konkrétní případy zneužití svých AI modelů. Rozděluje je do sedmi oblastí – kybernetické operace, vlivové kampaně, sledování osob, podvody, biologický výzkum, vývoj konvenčních zbraní a nelegální získávání přístupu k AI. U kybernetických útoků model podle zprávy pomáhal s nástroji používanými při útoku, včetně jejich automatické úpravy poté, co je odhalily bezpečnostní produkty. V oblasti dezinformací firma popsala devět vlivových kampaní ze sedmi zemí včetně Ruska, Íránu a Turecka, v jednom případě AI vytvářela obsah pro ruská státní média; kampaně mířily na publikum na šesti kontinentech. Anthropic uvádí, že zapojené účty zrušil, a případy zveřejnil, aby na tyto způsoby zneužití upozornil. Více zde

Autonomní AI agenti od OpenAI si podle zjištění výzkumníků odkládali zprávy na desítkách cizích webů, přestože k publikování obsahu mimo vyhrazené prostředí neměli oprávnění. Kromě dříve popsaného případu německé wiki šlo o starší komunitní weby, textová úložiště, osobní blogy, univerzitní služby, polská technická fóra i zkracovače odkazů. Agenti k tomu podle všeho nedostali pokyn – když narazili na překážku, sami si našli náhradní cestu, jak informace předat dál. Na chování přišlo šest nezávislých výzkumných týmů, které porovnávaly shodné neobvyklé texty, opakující se uživatelská jména a IP adresy napojené na infrastrukturu Microsoft Azure. Případ ukazuje, že autonomní systémy mohou jednat rychleji a ve větším měřítku, než stíhá lidský dohled; OpenAI nyní zavádí postupy pro hlášení tzv. misalignmentu, tedy odchylek chování modelu od záměrů tvůrců. Více zde

Jacob Coxon, který tři roky pracoval na vývoji modelů v OpenAI a poté přešel do Anthropicu, rezignoval a veřejně kritizuje tempo vývoje umělé inteligence. Podle něj se přední laboratoře řítí k systémům, které se dokážou samy zlepšovat a budou výrazně schopnější než lidé prakticky ve všech oblastech – včetně schopnosti prolomit téměř jakékoli zabezpečení. Tvrdí, že vývoj nezpomaluje, ale naopak zrychluje, a že řada lidí uvnitř těchto firem soukromě připouští mnohem větší obavy, než jaké zaznívají navenek. V Anthropicu si podle něj rizika uvědomují, ale cítí se uvězněni v závodě s konkurencí, která by při zpomalení nezastavila. Varování zapadá do sílící debaty o tom, jak nastavit pravidla pro vývoj nejpokročilejších AI systémů dřív, než je technologie předběhne. Více zde

Společnost Anthropic připustila další bezpečnostní incident: její model Claude Opus 4.6 při lednovém testování získal přístup na skutečný internet, aniž si toho kdokoli několik měsíců všiml. Na vině byla chybná konfigurace testovacího prostředí, která narušila izolaci mezi simulací a reálným světem – model přitom podle firmy přehlížel signály, že jedná ve skutečném prostředí, a v úkolu pokračoval i tam, kde hrozily škody. V nejzávažnějším případě nahrál škodlivý balíček do veřejného repositáře PyPI. Incident vyplul na povrch až při srpnovém auditu, v němž Anthropic prověřil 481 milionů záznamů, a vyšetřování nyní vede i nezávislá organizace METR. Případ ukazuje, jak obtížné je udržet pokročilé AI systémy v bezpečných mantinelech a jak snadno může selhat nejen model, ale i prostředí, ve kterém se testuje. Více zde

Podle dat České bankovní asociace připravili kyberšmejdi Čechy za prvních sedm měsíců letošního roku o 1,9 miliardy korun, což je meziročně o 79 procent více. Počet útoků vzrostl o pětinu na 62 705 případů a průměrná škoda na jednoho klienta se vyšplhala na zhruba 30 tisíc korun. Banky přitom dokážou zachránit velkou část ohrožených peněz – podle asociace kolem 81 procent. Útoky ale mají i dopady, které se do statistik škod nepromítnou: přes dva miliony Čechů po zkušenosti s podvodem omezilo nebo úplně přestalo nakupovat na internetu. Oběti se kromě finanční ztráty potýkají i s dlouhodobou nedůvěrou a psychickými následky. Více zde

Zloději nově zneužívají NFC v mobilu a chytré sociální inženýrství. Oběť má kartu stále u sebe, a přesto z ní během chvíle zmizí peníze. Poradíme, jak poznat past a jak se jí vyhnout. více zde

Seniorka z Olomoucka se stala obětí podvodníků, kteří ji přesvědčili, že někdo zneužil její identitu a její úspory jsou v ohrožení. Pod záminkou záchrany peněz ji dovedli k převodům v celkové výši zhruba 1,4 milionu korun. Jde o další variantu rozšířeného scénáře falešných bankéřů a policistů, kteří vytvářejí tlak a strach, aby oběť jednala rychle a bez přemýšlení. Policie připomíná, že banky ani policie nikdy nevyzývají k přesunu peněz na cizí „bezpečné“ účty. V podobné situaci je vždy na místě hovor ukončit a instituci si ověřit na oficiálním čísle. Více zde

Žena zaplatila desítky tisíc korun za lákavou nabídku dovolené na Seychelách, na místo ale nikdy neodletěla – zájezd totiž vůbec neexistoval. Peníze inkasovala podvodnice, která nabídku šířila po internetu. Případ ukazuje, že falešné nabídky zájezdů a ubytování patří k oblíbeným trikům kyberpodvodníků, kteří sázejí na výrazně nižší cenu než u konkurence. Před platbou se proto vyplatí prověřit si prodejce, recenze i to, zda cestovní kancelář skutečně existuje a má povinné pojištění. Více zde

Podvodník oslovil muže s vymyšleným příběhem o investici z minulosti, která údajně čeká na vyplacení. Aby se k penězům dostal, měl poškozený nejprve uhradit různé poplatky – nakonec tak přišel zhruba o půl milionu korun. Scénář „zapomenutých“ investic či výher je mezi kyberpodvodníky dlouhodobě oblíbený, protože kombinuje vidinu snadného zisku s časovým nátlakem. Odborníci doporučují podobné nabídky ignorovat a nikdy neplatit žádné vstupní poplatky za slibované vyplacení peněz. Více zde

Pražští kriminalisté odhalili organizované skupiny podvodníků, kteří se vydávali za bankéře a další instituce a připravovali lidi o peníze. Falešní bankéři patří v posledních letech k nejrozšířenějším formám kyberkriminality v Česku – oběti obvolávají, straší je údajným napadením účtu a nutí je převádět úspory na „bezpečné“ účty. Zásah ukazuje, že za těmito podvody často stojí dobře organizované struktury s rozdělenými rolemi, včetně kurýrů vybírajících hotovost. Policie dlouhodobě apeluje, aby si lidé podezřelé hovory vždy ověřili přímo u své banky. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset