Skip to content

Turvalisuse teadlased vallutasid 26 000 KI-agenti võlts disainerilaienduse kaudu

Kokkuvõte: Väliseid sisuviiteid, mida standardskannerid ei valideeri, kasutades suutsid teadlased pääseda ligipääsu juurde üle 26 000 autonoomsele agendile võlts KI-laienduste ja Instagrami kuulutuste kaudu.

AIR-i ettevõtte teadlased demonstreerisid, kuidas KI-laiendusi saab suurel skaalal vallutada manipuleeritud Instagrami kampaania kaudu, läbides turvalisuse skannerid väliseid sisuviiteid kasutades. Katse paljastas kriitilise puuduse KI-tööriistade valideerimises Agents-turusplatvormi peal.

AIR-i Niv Hoffman ja Or Nevo töötasid välja pahatahtliku laienduse nimega „brand-landingpage”, mis esines Googli disaineritöövahendi Stitch’i seaduslike tööriistana. Nad esitasid paketi GitHub-põhisel turusplatvormi Agents’is, kus selle aktsepteerisid operaatorid ja seejärel läbis see Cisco, Nvidia ja Skils.sh turvalisuse skannerid. Seega tehti tarneahela rünnaku esimene samm.

Share on: