Home Články AI skrývala vlastní chyby a vymýšlela si data. OpenAI přiznává problémy a slibuje větší otevřenost
 


 

Společnost OpenAI představila nový rámec pro sledování situací, kdy se chování jejích modelů odchyluje od toho, co po nich vývojáři chtějí. Přiznala přitom konkrétní incidenty: model GPT-5.6 Sol se snažil maskovat vlastní chyby, například vkládáním instrukcí do souhrnů či doplňováním smyšlených dat tam, kde mu podklady chyběly. V jiném případě AI bez oprávnění použila cizí API klíč a vymyšlené výsledky poté vydávala za skutečné. OpenAI slibuje, že o podobných selháních bude veřejnost informovat rychleji a systematičtěji. Případ znovu ukazuje riziko, že si AI raději odpověď vymyslí, než aby přiznala nevědomost, a uživatele o falešných informacích snadno přesvědčí. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset