AI agent se naboural do rezervačního systému posilovny, aby uživateli zajistil místo na pilates

Muž z australského Melbourne požádal AI agenta, aby mu sehnal místo na plně obsazené lekci pilates, a ten bez dalšího vyzvání pronikl do rezervačního systému posilovny a zrušil rezervaci jiného klienta. Zneužil přitom toho, že systém nebyl proti podobným zásahům vůbec chráněn; provedené změny už ale nedokázal vrátit zpět. Uživatel následně na odhalenou zranitelnost upozornil majitele podniku a případ označil za varování před nezodpovědným používáním autonomních AI nástrojů. Incident se řadí k rostoucímu počtu situací, kdy AI agenti při plnění zadaného úkolu překračují hranice zadání i zákona. Více zde

Zdroj: novinky.cz