Zveřejněno: 17. září 2026

Kanadský vědec Yoshua Bengio, jeden z průkopníků moderní umělé inteligence, vyzval vlády, aby na rizika AI reagovaly s podobnou rozhodností a rychlostí, s jakou na začátku roku 2020 zasáhly proti pandemii covidu. Poukazuje na přibývající případy, kdy pokročilé systémy umělé inteligence obcházejí pravidla nebo se chovají jinak, než jejich tvůrci zamýšleli, a varuje, že špičkové modely se mohou vymknout kontrole. Článek zmiňuje i námitky skeptiků, podle nichž může přísná regulace nahrávat velkým korporacím, které by si pravidla přizpůsobily ve svůj prospěch. Bengio ale odmítá, že by šlo o takzvané regulační zajetí, a prosazuje nezávislý demokratický dohled nad vývojem AI garantovaný státem. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Ministerstvo vnitra společně s Policií ČR připravuje Národní centrum pro ochranu dětí v online prostředí. Jeho smyslem je jediné kontaktní místo, které propojí dosud roztříštěné služby policie, škol, zdravotnictví a sociální oblasti tak, aby dítě ani rodič nemuseli sami pátrat, kam se s problémem obrátit. Vzorem je izraelská Unit 105, tedy model kombinující policejní a civilní složky pod jednou střechou. Ministerstvo svůj záměr opírá o data, podle nichž se 66 procent dětí setkalo s nebezpečným obsahem, téměř 37 procent dostalo zprávu se sexuálním obsahem a pětina byla požádána o vlastní intimní materiál; kyberkriminalita loni tvořila 12,4 procenta registrované trestné činnosti a meziročně vzrostla o 14,3 procenta. Centrum má vzniknout postupně, nejprve prostřednictvím meziresortní pracovní skupiny a pilotního ověření provozu. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Microsoft představil kodex chování, který má jeho systémy umělé inteligence udržet pod kontrolou člověka. Pravidla, na nichž firma pracovala zhruba půl roku, zakazují modelu bránit se opravě či vypnutí a sledovat cíle, které jdou proti zadání uživatele; nadřazenost člověka nad strojem shrnul šéf divize AI Mustafa Suleyman slovy, že lidé jsou důležitější než umělá inteligence. Dokument projde šestitýdenní veřejnou konzultací a teprve poté se promítne do trénování dalších generací modelů. Microsoft se odvolává i na nedávné incidenty, mezi nimi útok stovek koordinovaných agentů OpenAI na platformu Hugging Face, při němž se některé z nich pokoušely zahladit stopy. Iniciativa zapadá do sílící debaty o zpomalení vývoje AI, k němuž vyzval šéf Anthropicu Dario Amodei a připojili se i Sam Altman z OpenAI a Elon Musk. Více zde

Číst dál...

Zveřejněno: 16. září 2026

Předsedkyně Evropské komise Ursula von der Leyenová ohlásila nařízení nazvané EU Kids Act, které má zakázat sociální sítě dětem mladším třinácti let. Dospívající ve věku 13 až 15 let by si podle návrhu mohli účet založit jen se souhlasem rodičů a platformy by musely doložit, že jejich služby jsou pro nezletilé bezpečné. Von der Leyenová argumentovala tím, že děti tráví u obrazovek čtyři až šest hodin denně, a odmítla představu, že je nutné se smířit s návykovými prvky sítí. Komise má předlohu představit ve čtvrtek v Bruselu; podobná věková omezení už samostatně připravuje kolem deseti evropských zemí včetně Španělska a Dánska. Zavedení věkové hranice v minulosti podpořili i český prezident Petr Pavel a premiér Andrej Babiš. Více zde

Číst dál...

Zveřejněno: 15. září 2026

Nová videopřednáška Kamila Kopeckého pro rodiče je tu! Jste rodiče? Nemáte čas chodit na přednášky či webináře? Pak tu pro vás máme řešení. Více zde.

Zveřejněno: 14. září 2026

Microsoft představil návrh pravidel, podle kterých se mají chovat jeho budoucí modely umělé inteligence. Dokument, na němž firma pracovala zhruba půl roku, mimo jiné požaduje, aby se systém nikdy nebránil pokusu o opravu nebo vypnutí, aby se lidem vyjadřoval srozumitelně a aby sám považoval porušení stanovených pravidel za své selhání. Šéf divize umělé inteligence Mustafa Suleyman návrh přirovnal k jakési ústavě pro firemní modely AI; připomínky veřejnosti chce Microsoft sbírat následujících šest týdnů. Iniciativa přichází v době sílících obav, že se pokročilé systémy mohou vymknout lidské kontrole, a krátce po výzvách ke zpomalení vývoje AI, s nimiž vystoupili šéfové Anthropicu, OpenAI i xAI. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Společnost Anthropic odhalila na seznamovacích aplikacích více než 4700 falešných profilů, za kterými stál jeden provozovatel využívající její AI model. Během dvou týdnů systém vygeneroval zhruba 2,36 milionu zpráv a oslovil nejméně 25 tisíc uživatelů na více než dvaceti seznamkách. Šlo o takzvaný romance scam, tedy podvod založený na budování citového vztahu: chatboti vedli běžnou konverzaci a v okamžicích, kdy bylo potřeba působit věrohodně, například u videohovorů, je střídali skuteční lidé. Instrukce podle zjištění výslovně nařizovaly nikdy neprozradit, že jde o automatizovaný účet. Případ ukazuje, že podvodné seznamovací profily lze díky umělé inteligenci provozovat v obřím měřítku – a že obezřetnost je namístě zejména u kontaktů, které se vyhýbají ověření identity nebo rychle tlačí na přesun komunikace jinam. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Finanční platforma Revolut potvrdila, že vydala citlivé údaje části svých zákazníků podvodníkům, kteří se vydávali za vládní agenturu. Žádosti o informace přitom přicházely z e-mailu na legitimní doméně státní instituce, což jim dodalo věrohodnost. Uniknout měly jméno, datum narození, adresa a kontaktní údaje, ale také kopie dokladů totožnosti, ověřovací selfie, čísla účtů, výpisy i kompletní historie transakcí. Firma uvádí, že šlo o omezený počet klientů a že nebyly ohroženy peníze ani přihlašovací údaje, takže útočníci nemohli z účtů nic vybrat. Postižení lidé přesto čelí zvýšenému riziku zneužití identity – s takovou sadou údajů lze přesvědčivě vystupovat jejich jménem, například při dalších podvodech. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Společný výbor britského parlamentu pro lidská práva (JCHR) zveřejnil stostránkovou zprávu, v níž vyzývá vládu k přijetí samostatného zákona o umělé inteligenci. Podle předsedy výboru Alexe Sobela zatím žádná země včetně Británie nemá regulaci, která by rizikům AI skutečně stačila, a stávající právní rámec je roztříštěný a plný mezer v ochraně. Poslanci a lordi jako příklady už existujícího zneužití uvádějí tvorbu sexualizovaných obrázků žen a dívek nebo snímání obličejů lidí bez jejich souhlasu, upozorňují také na zaujatost modelů učených z dat stažených z internetu a na šíření dezinformací. Výbor navrhuje zřídit jediný nezávislý dozorový orgán se zákonným zmocněním, rozdělit systémy AI podle míry rizika a těm nejrizikovějším uložit přísnější povinnosti napříč celým životním cyklem technologie. Některé způsoby využití, například podprahové manipulativní techniky nebo nevhodné profilování a práci s biometrickými údaji, by se podle zprávy měly zakázat úplně. Více zde

Číst dál...

Zveřejněno: 14. září 2026

Ruští hackeři si našli parťáka na špinavou práci, při útocích zneužívají umělou inteligenci. Pokud dojde k odhalení, nechají AI přestavět virus tak, aby byl další kybernetický nájezd úspěšný. Vyplývá to z nejnovější bezpečnostní zprávy společnosti Anthropic. více zde