AI WORLD HQ
Képzelj el egy AI-asszisztenst, amely el tudja olvasni a munkahelyi e-mailjeidet, ellenőrizni tudja a közös naptárat, és meg is tudja rendelni az irodai kellékeket. Egy ilyen segítő hasznos lehet, de felvet egy egyszerű kérdést: ki dönti el, hogy mit szabad tennie? Az IBM legújabb kutatási bejegyzése erre a kérdésre összpontosít.
Miről szól a bejelentés?
Az IBM szerint a kutatócsapata a vállalat működésének különböző területein használ AI-t, és szeretné kihasználni az előnyeit anélkül, hogy lemondana a biztonságról, a védelemről vagy a költségek ellenőrzéséről. Ennek támogatására az IBM olyan közös eszközökön dolgozik, amelyeket a csapatok együtt tesztelhetnek és fejleszthetnek.
A legfontosabb elem a Praxis, egy nyílt forráskódú proxy szerver. A proxy közvetítőként működik a felhasználó kérése és az azt megválaszoló szolgáltatás között, így ellenőrizheti és kezelheti az adatforgalmat. Az IBM a Red Hattel együttműködve járult hozzá a Praxis Policy Engine fejlesztéséhez, amelyet a Praxis szűrőként használ a hagyományos webes és az AI-forgalomhoz egyaránt. Az IBM azt is közölte, hogy a Praxist befogadták a Cloud Native Computing Foundation (CNCF) Sandbox programjába, amely a nyílt forráskódú alapítvány korai szakaszban lévő projektjeit támogatja.
Hogyan működnek a szabályok?
Az IBM a PPE-ben több dolgot is „szabályozási célpontként” kezel — vagyis olyan elemként, amelyhez szabályokat lehet írni:
- Eszközök: olyan műveletek, amelyeket egy AI végre tud hajtani, például egy adatbázisban való keresés
- Kérések: az emberek által az AI-nak beírt utasítások
- Modellhívások: közvetlenül az AI-modellnek küldött kérések
- Más ügynökök: amikor az egyik AI-rendszer segítséget kér egy másiktól
A csapatok egyetlen szabályfájlban írhatnak szigorú hozzáférési szabályokat („ez az ügynök soha nem láthat bérszámfejtési fájlokat”), enyhébb viselkedési irányelveket és bizonyos mezőkre vonatkozó szabályokat is. Az IBM szerint a rendszer működhet átjáróként, egy adott ügynök mellett vagy egy fejlesztési keretrendszeren belül. Mindegyik elhelyezés azokat a műveleteket kezeli, amelyek rajta keresztülhaladnak.
Az IBM azt is közölte, hogy a PPE minden döntéséről ellenőrzési naplót tud készíteni. Az ellenőrzési napló olyan bejegyzés, amely megmutatja, mit engedélyeztek vagy blokkoltak, és mikor. Az opcionális digitális aláírások és a „hashláncolás” — egy módszer, amely minden naplóbejegyzést az előzőhöz kapcsol — segíthetnek észrevenni, ha később módosították a feljegyzéseket.
Miért fontos ez?
A bejegyzés szerint az AI-átjárók egyre inkább önálló réteggé válnak az AI-rendszerekben. Képzelj el egy átjárót úgy, mint egy biztonsági pultot egy épület bejáratánál: ellenőrzi, ki érkezik, mit kér, és feljegyzést készít róla. Az IBM szerint az átjárók a hozzáférések szabályozását, annak mérését is kezelik, hogy egy felhasználó vagy csapat mennyi AI által generált szöveget használ, valamint az ügynökök többlépéses feladatvégzésének egyes részeit is.
Az IBM kapcsolódó szabványokon is dolgozik, többek között a CoSAI-jal együttműködve egy ügynökszemélyazonossági szabványon, és azt is vizsgálja, hogyan működhetnének együtt a számítógépen és a hálózaton érvényesített vezérlők. Ezek kutatási célok, nem kész termékek.
Összegzés
Az IBM bejelentése arról szól, hogy még azelőtt felépítsék a játékvezetőt, hogy a játékosok túl nagy hatalomra tennének szert: szabályokról, személyazonosság-ellenőrzésről és az AI-ügynökök mellett működő nyilvántartásokról. Egyelőre egy nyílt forráskódú kutatási kezdeményezésről van szó, amelyet a fejlesztők és a biztonsági csapatok követhetnek figyelemmel. Amit ma egyszerűen megtehetsz: nyisd meg a már használt AI-eszközöket, és ellenőrizd, mely fiókokhoz és fájlokhoz férhetnek hozzá.