AI WORLD HQ
Előfordult már, hogy egy felugró ablakban elolvasás nélkül az „OK” gombra kattintottál? A legtöbbünkkel igen. Most képzeld el, hogy ezt a felugró ablakot egy AI-asszisztens jeleníti meg, amely törölni szeretne egy fájlt, e-mailt küldene, vagy módosítana egy beállítást helyetted. Nagyon nem mindegy, hogyan kezeli ezt a pillanatot.
Miért nehéz ez a probléma?
Egy olyan AI, amellyel csak beszélgetsz, egyszerűbb eset. Egy „ügynök” jellegű AI már másképp működik. Az ügynök olyan AI-program, amely eszközöket használhat, és műveleteket hajthat végre a nevedben: megnyithat fájlokat, kereshet az interneten, vagy üzeneteket küldhet másoknak. A különböző alkalmazások összekapcsolására szolgáló szoftvereket készítő Zapier szerint minden hasonló szolgáltatás előbb-utóbb ugyanabba a kérdésbe ütközik: előbb kérdezzen az AI, vagy cselekedjen, és utólag szóljon róla?
A Zapier kétféleképpen látja, hogyan sülhet el rosszul a dolog:
- Túl sok kérdés. Ha az asszisztens minden apró lépésről megkérdez, egy idő után már nem olvasod el őket. Megszokásból az „igen” gombra kattintasz, így a fontos kérés is jóváhagyást kap a rutinfeladatokkal együtt.
- Túl kevés kérdés. Ha az asszisztens soha nem kérdez, hetekig minden jól működhet. Aztán egy váratlan művelet lerombolhatja ezt a bizalmat, és a korábbi jó tapasztalatok már nem sokat számítanak.
A vállalat azt javasolja, hogy először azt érdemes átgondolni: mely döntések tartoznak hozzád, és melyeket bízhatsz az AI-ra. Az asszisztensnek ennek megfelelően kell eldöntenie, milyen gyakran szakítson félbe.
Eddig mit változtatott a Zapier?
A Zapier szerint az első változat minden olyan műveletnél engedélyt kért, amely módosított valamit, például egy fájl szerkesztésénél vagy törlésénél. Ez működött, de a felhasználók problémákba ütköztek. Ha bezártad a böngészőlapot, az engedélykérések eltűntek, az pedig, hogy valamit „mindig” engedélyezz, egy oldalfrissítés után feledésbe merült. A Zapier szerint ezt úgy javították, hogy az engedélyeket a szervereiken mentik el.
A későbbi módosítások már nem arra összpontosítottak, hogy milyen eszközt használ az AI, hanem arra, mit szeretnél megvédeni. A Zapier szerint most már egy adott fájlhoz, csatlakoztatott alkalmazáshoz, webhelyhez vagy automatizáláshoz is rendelhetsz szabályokat. Beállíthatod például, hogy egy adott mappában soha ne módosuljon semmi, vagy hogy az asszisztens csak neked küldhessen üzeneteket. A vállalat azt is közölte, hogy ha bármelyik szabály szerint „soha” nem szabad végrehajtani valamit, akkor ez a szabály élvez elsőbbséget; ha pedig egy szabály szerint „előbb kérdezzen”, az asszisztens kérdezni fog.
A Zapier szerint az asszisztens azt sem javasolhatja, hogy állíts be egy mindent engedélyező, általános szabályt. A vállalat indoklása szerint egy gyors kattintás nem adhat észrevétlenül korlátlan hozzáférést.
Összegzés
Nem az a valódi kérdés, hogy egy AI cselekedjen-e valaha önállóan. Inkább az, hogy mely műveleteknél érdemes megállnia és engedélyt kérnie, és melyeket biztonságos csendben végrehajtania. A Zapier tapasztalata azt mutatja, hogy az egyértelmű, konkrét engedélykérések jobban működnek, mint a homályos felugró ablakok hosszú listái. A következő lépés egyszerű: nyiss meg egy már használt AI-eszközt, és nézd meg, mit tehet meg anélkül, hogy megkérdezne. Ha nem vagy biztos benne, az adott eszköz hivatalos súgóoldalai jelentik a legjobb kiindulópontot.