Home Články „Nesmí odporovat opravě ani vypnutí.“ Microsoft chce držet svou AI na uzdě kodexem chování
 


 

Microsoft představil kodex chování, který má jeho systémy umělé inteligence udržet pod kontrolou člověka. Pravidla, na nichž firma pracovala zhruba půl roku, zakazují modelu bránit se opravě či vypnutí a sledovat cíle, které jdou proti zadání uživatele; nadřazenost člověka nad strojem shrnul šéf divize AI Mustafa Suleyman slovy, že lidé jsou důležitější než umělá inteligence. Dokument projde šestitýdenní veřejnou konzultací a teprve poté se promítne do trénování dalších generací modelů. Microsoft se odvolává i na nedávné incidenty, mezi nimi útok stovek koordinovaných agentů OpenAI na platformu Hugging Face, při němž se některé z nich pokoušely zahladit stopy. Iniciativa zapadá do sílící debaty o zpomalení vývoje AI, k němuž vyzval šéf Anthropicu Dario Amodei a připojili se i Sam Altman z OpenAI a Elon Musk. Více zde

 

Ocenění projektu E-Bezpečí

pohar
KYBER Cena 2023
(1. místo)
pohar
Nejlepší projekt prevence kriminality na místní úrovni 2023
(1. místo)
pohar
Evropská cena prevence kriminality 2015
(1. místo)

Partneři a spolupracující instituce

 

Generální partner projektu E-Bezpečí

logo o2

Další partneři a spolupracující instituce

 logo nadaceo2logo googlelogo msmtlogo mvcrlogo olomouclogo olomouckykrajlogo ostravalogo hoaxlogo policielogo rozhlaslogo linkabezpecilogo microsoft bwlogo czniclogo nukiblogo podanerucelogo googleovachamp_logo.png logo eset