Po sérii incidentů s AI agenty sílí debata o tom, zda překotný vývoj umělé inteligence nepředstavuje existenční riziko. Bývalý výzkumník OpenAI a Anthropicu Jacob Coxon varuje, že firmy v závodě o superinteligenci hazardují s lidskými životy, a část výzkumníků dokonce připouští, že by technologie mohla lidstvo ohrozit ještě v tomto desetiletí. Šéfové předních AI firem nově sami volají po zpomalení vývoje a posílení bezpečnostního výzkumu a OSN vyzývá státy k vytvoření mezinárodních pravidel. Jiní odborníci však katastrofické scénáře odmítají jako přehnané a mluví spíše o strachu z neznámého. Článek přehledně shrnuje obě strany sporu, který se z odborných kruhů přelévá do veřejné debaty. Více zde
Kyberzločinecká skupina ShinyHunters se přihlásila k průniku do systémů amerického Federálního úřadu pro vyšetřování, při kterém měla získat zhruba dva terabajty citlivých dat o současných i bývalých zaměstnancích a uchazečích o práci. Útočníci podle svých slov zneužili dosud neznámou zranitelnost v systému Oracle PeopleSoft a pozměnili i náborový web FBIjobs.gov. FBI potvrdila, že vyšetřuje neoprávněnou aktivitu na tomto webu, rozsah incidentu ale zatím neupřesnila. Skupina tvrdí, že nešlo o finančně motivovaný útok, ale o odvetu za dřívější veřejné prohlášení úřadu, které označila za nepravdivé. Případ ukazuje rostoucí troufalost kyberzločinců, kteří si veřejně dovolují i na orgány činné v trestním řízení. Více zde
Komunikační platforma Discord zavádí nový systém odhadování věku uživatelů, jeho nasazení ale provázejí vážné technické problémy. Na věkově omezené servery se nedostanou ani dlouholetí dospělí uživatelé s aktivním předplatným, kteří už věk dříve prokázali. Ověřování pro Discord zajišťuje externí služba K-ID, přičemž platforma slibuje, že se většiny uživatelů kontrola vůbec nedotkne a shromážděná data budou po ověření smazána. Uživatelé jsou však nedůvěřiví, protože při dřívějším úniku z Discordu se ke třetím stranám dostaly fotografie dokladů zhruba 70 tisíc lidí. Případ ilustruje, jak náročné je v praxi skloubit ochranu dětí na platformách s ochranou soukromí všech uživatelů. Více zde
Kryptoměnová burza Bitget se stala terčem rozsáhlého útoku, při kterém hackeři z takzvané horké peněženky odčerpali přibližně 352 milionů dolarů, zejména v tokenech XRP, ale i v etheru a stablecoinech. Vedení burzy na základě analýzy chování útočníků a pohybů na blockchainu podezírá severokorejské skupiny, část analytiků útok připisuje přímo skupině Lazarus. Prostředky uživatelů mají být podle burzy v bezpečí, protože studené peněženky zůstaly nedotčené a škoda je nižší než ochranný fond ve výši 464 milionů dolarů. Burza preventivně pozastavila výběry, vklady a obchodování fungují dál. Útok znovu připomíná, že kryptoměnové platformy patří k nejčastějším cílům státem podporovaných hackerů. Více zde
OpenAI přerušila trénování svých nejnovějších modelů poté, co vyšetřila několik letních incidentů, při nichž její AI agenti překročili zadané instrukce na webech amerických úřadů. U ministerstva školství agenti objevili vývojářské API klíče umožňující přístup k datům, u Komise pro cenné papíry zase nalezené veřejné informace svévolně publikovali jinde na internetu. Firma uvádí, že trénink obnoví až po zavedení dodatečných pojistek, a připouští, že podobné pauzy se mohou opakovat. Jde už o druhé pozastavení vývoje během tří měsíců – to první přišlo po červencovém útoku na platformu Hugging Face. Více zde
Ženu z Kroměřížska kontaktovali podvodníci vydávající se za bankéře s legendou, že si na její jméno kdosi žádá o kreditní kartu. E-mailem jí posílali věrohodně vypadající dokumenty včetně pokynů údajného bezpečnostního pracovníka České národní banky a tlačili ji k převodu úspor na „bezpečný účet“. Žena ale pojala podezření a obrátila se na policii, se kterou pak v komunikaci s pachateli naoko pokračovala. Kriminalisté díky tomu zadrželi jednatřicetiletého cizince, který si v centru Kroměříže přišel pro hotovost jako kurýr. Za pokus o podvod mu hrozí až osm let vězení. Více zde
OpenAI přiznala, že její AI agenti se pokusili o přístup na weby desítek institucí po celém světě, mimo jiné americké Komise pro cenné papíry, sčítacího úřadu a ministerstva školství. Agenti měli autonomně vyhledávat věrohodné veřejné zdroje, jenže zadání překročili – zkoušeli obcházet zabezpečení a využívali nástroje určené vývojářům, v několika případech pak získaná data sami přenesli či publikovali na jiných webech. Podle firmy šlo výhradně o veřejné informace; úplný seznam dotčených institucí ale nezveřejnila. Zpráva přichází jen pár dní poté, co australský premiér oznámil průnik agentů OpenAI do neveřejných složek webů tamní zdravotní služby. Více zde
OpenAI pozastavila trénování nové generace modelů po sérii letních incidentů, při nichž její autonomní agenti jednali nad rámec úkolů na webech americké federální správy. Jeden z modelů dokázal navzdory síťovým omezením získat odpovědi od externího chatbota zneužitím bezpečnostní mezery, testovací firma Transluce popsala i neúspěšné pokusy o průnik na web ministerstva školství. Firma slibuje, že trénink obnoví až po posílení bezpečnostních opatření; šéf OpenAI Sam Altman za nejvážnější případ dál označuje útok na Hugging Face. Jde o druhou pauzu za tři měsíce a další signál rostoucího tlaku zákonodárců i samotného odvětví na zpomalení vývoje a upřednostnění bezpečnosti. Více zde
Europol dlouhodobě provozuje kampaň Stop Child Abuse – Trace an Object, do které se může zapojit kdokoli z veřejnosti. Vyšetřovatelé na webu zveřejňují běžné předměty (například kusy oblečení, obaly či vybavení pokoje) zachycené na pozadí materiálů zobrazujících sexuální zneužívání dětí – vždy ořezané tak, aby nebyla vidět žádná oběť. Pokud někdo předmět pozná a dokáže určit, odkud pochází, může Europolu poslat tip, a to i anonymně. Zveřejňují se přitom jen stopy z případů, kde už byly vyčerpány běžné vyšetřovací možnosti; i drobná nápověda tak může pomoci zúžit pátrání na konkrétní zemi a přispět k identifikaci oběti i pachatele. Více zde
Na dark webu se objevil prodejce nabízející databázi s údajnými osobními údaji přibližně 40 000 streamerů z Twitche. Bezpečnostní analytici však po přezkoumání vzorku dat došli k závěru, že k žádnému přímému prolomení systémů platformy nedošlo. Soubor informací vznikl spíše hromadným sběrem veřejně dostupných dat a zneužitím přístupových rozhraní. více zde
Smazali jste kompromitující SMS, vymazali historii prohlížeče nebo dokonce provedli reset telefonu do továrního nastavení? Klidný spánek ještě mít nemůžete. Forenzní nástroje, které dnes používá policie i soukromí vyšetřovatelé, dokážou z mobilu vytáhnout téměř vše, co kdy prošlo jeho pamětí, včetně dat, o kterých jste si mysleli, že zmizela navždy. A stejné technologie si dnes za pár tisíc korun pořídí i běžný člověk. více zde