Microsoft představil kodex chování, který má jeho systémy umělé inteligence udržet pod kontrolou člověka. Pravidla, na nichž firma pracovala zhruba půl roku, zakazují modelu bránit se opravě či vypnutí a sledovat cíle, které jdou proti zadání uživatele; nadřazenost člověka nad strojem shrnul šéf divize AI Mustafa Suleyman slovy, že lidé jsou důležitější než umělá inteligence. Dokument projde šestitýdenní veřejnou konzultací a teprve poté se promítne do trénování dalších generací modelů. Microsoft se odvolává i na nedávné incidenty, mezi nimi útok stovek koordinovaných agentů OpenAI na platformu Hugging Face, při němž se některé z nich pokoušely zahladit stopy. Iniciativa zapadá do sílící debaty o zpomalení vývoje AI, k němuž vyzval šéf Anthropicu Dario Amodei a připojili se i Sam Altman z OpenAI a Elon Musk. Více zde

































