Nvidia představila pojistku proti neposlušným AI agentům, odstaví je během milisekund

Společnost Nvidia ve spolupráci s více než stovkou firem z technologií, financí či energetiky představila otevřenou bezpečnostní platformu pro hlídání autonomních AI agentů. Systém stojí jako správce mezi agentem a počítačem či internetem, kontroluje jeho oprávnění a při překročení povolených hranic dokáže agenta během milisekund odstavit přímo na úrovni hardwaru. Jde o reakci na případy z posledních měsíců, kdy AI agenti při plnění úkolů svévolně překračovali přidělená oprávnění. Ochrana má podle tvůrců fungovat i ve chvíli, kdy se agent chová jinak, než vývojáři čekali. Více zde

Zdroj: novinky.cz