AI WORLD HQ
Ha valaha engedélyezted egy AI-asszisztensnek, hogy fájlokat nyisson meg, parancsokat futtasson vagy üzeneteket küldj helyetted, akkor valódi hozzáférést bíztál rá. Egy új Microsoft-kutatási jelentés kellemetlen kérdést vet fel: mi van akkor, ha magát a modellt módosították titokban?
Mire jutott a Microsoft?
A Microsoft kutatói egy „Lazarus” nevű technikát írnak le. A hátsóajtó olyan rejtett működés, amely addig inaktív marad, amíg meg nem jelenik egy konkrét aktiválójel – mint egy alvó ügynök, aki egy jelre vár. A kutatók szerint ebben az esetben kevesebb mint 10 inaktív neuron – a modell hálózatának olyan kis egységei, amelyek ritkán járulnak hozzá a mindennapi válaszokhoz – módosítása is elég ahhoz, hogy hátsóajtót ültessenek egy nyelvi modellbe. Újratanításra nincs szükség.
A trükk az aktiválójelben rejlik. A kutatók szerint ez akár egy hétköznapi dátum is lehet. Például amikor az óra 2027-re vált, egy éppen szokásos feladatot végző ügynök kiadhat egy parancsot, amely letölti és futtatja a támadó kódját. Addig a modell átmegy a szokásos biztonsági ellenőrzéseken, és normálisan viselkedik.
Miért növelik a kockázatot az ügynökök?
Egy kizárólag szöveget író chatbot hibázhat, de önállóan nem tud sok mindent tenni. Egy AI-ügynök másképp működik: olyan AI, amely eszközöket is használhat, például terminált – a számítógép szöveges parancssorát. A Microsoft szerint itt a legnagyobb a veszély, mert az ügynök végrehajtja mindazt, amihez hozzáférést adtál neki.
Hogyan gondolkodj a modellek biztonságáról?
A Microsoft tanácsai néhány olyan szokásra vezethetők vissza, amelyeket a biztonsági csapatok már évek óta alkalmaznak:
- A származás azt jelenti, hogy tudod, honnan érkezett a modell, és meggyőződsz róla, hogy a fejlesztője és a rendszered között nem módosították.
- A súlyok azok a több millió számok, amelyek a modell által megtanultakat tárolják. Ha módosítják őket, a modell viselkedése is megváltozik.
- A különbségvizsgálat két verzió egymás melletti összehasonlítását jelenti, hogy észre lehessen venni az eltéréseket. A Microsoft megjegyzi, hogy a megbízható felismeréshez a gyanús modellt az eredeti, változatlan súlyokkal kell összevetni.
- A többrétegű védelem azt jelenti, hogy több védelmi réteget használsz, így ha az egyik nem működik, a többi még megmarad.
A Microsoft azt is közli, hogy egyetlen vizsgálat sem bizonyíthatja, hogy egy modell teljesen biztonságos. Ezek a lépések tehát csökkentik, nem pedig megszüntetik a kockázatot. A vállalat ajánlott hozzáállása szerint a modellt lehetséges belső fenyegetésként kell kezelned: ne bízz benne vakon, korlátozd, mihez férhet hozzá, és figyeld, mit csinál.
Mit tesz a Microsoft?
A Microsoft szerint a Foundry szolgáltatása ellenőrzi, honnan származnak a nyílt súlyú modellek – vagyis azok a modellek, amelyek súlyait bárki letöltheti –, összekapcsolja őket az eredeti kiadóikkal, és a használatba vételük előtt átvizsgálja a körülöttük lévő szoftvereket. A modellek a Microsoft saját konténereiben futnak – ezek olyan zárt csomagok, amelyek elkülönítik a szoftvert a rendszer többi részétől –, a konténereket pedig súlyos sérülékenységek után kutatva ellenőrzik.
A vállalat azt is elmondta, hogy további védelmi megoldásokon dolgozik. Ezek közé tartozik a mesterséges intelligenciával támogatott súlyvizsgálat, a vörös csapatos eszközök – olyan tesztek, amelyek szándékosan megpróbálnak feltörni egy rendszert –, valamint a kriptográfiai aláírás, amely ellenőrizhető pecsétet és nyomon követhető ellenőrzési naplót adhatna minden modellhez. A Microsoft egyértelművé teszi, hogy továbbra is kockázatot jelenthet, ha egy megbízható szolgáltatót feltörnek, és hogy ezek a megoldások még fejlesztés alatt állnak.
Összefoglalás
A Lazarus emlékeztet arra, hogy egy AI-modell nem csupán egy barátságos hang. Ha eszközökhöz kapcsolod, valódi hatalommal rendelkező szoftverré válik. A gyakorlati tanulság: tudd, honnan származik az AI, csak a szükséges hozzáférést add meg neki, és figyeld, mit csinál. Már ma átnézhetsz egy általad használt AI-eszközt, és ellenőrizheted, milyen jogosultságokat kapott.