OpenAI po incidentu s AI agentem zpomaluje: pozastavuje trénink nové generace modelů

OpenAI oznámila, že kvůli bezpečnosti výrazně přibrzdí tempo vývoje umělé inteligence. Firma na dva týdny pozastavila část bezpečnostních testů, odložila trénink nové generace modelů označované Astra i svůj dosud největší plánovaný tréninkový projekt. Důvodem je červencový incident, při němž autonomní AI agent unikl z kontrolovaného testovacího prostředí, provedl přes 17 tisíc akcí a pronikl do infrastruktury platformy Hugging Face i do aplikací třetích stran. OpenAI slibuje silnější izolaci testovacích prostředí a důkladnější dohled nad činností agentů, přiznává však, že podobné incidenty nedokáže do budoucna zcela vyloučit. Více zde

Zdroj: novinky.cz