AI WORLD HQ
Imagina un asistente de IA que pueda leer tu correo electrónico del trabajo, consultar un calendario compartido y hacer un pedido de material. Un ayudante así puede ser útil, pero también plantea una pregunta sencilla: ¿quién decide qué tiene permitido hacer? La última publicación de investigación de IBM se centra en esa cuestión.
Qué abarca el anuncio
Según IBM, su equipo de investigación utiliza la IA en distintas áreas de sus propias operaciones y quiere aprovechar sus beneficios sin renunciar a la seguridad ni al control de los costos. Para ello, IBM dice que trabaja en herramientas compartidas que los equipos pueden probar y mejorar juntos.
La pieza principal es Praxis, un servidor proxy de código abierto. Un proxy actúa como intermediario entre la solicitud de un usuario y el servicio que responde a ella, por lo que puede inspeccionar y gestionar el tráfico. IBM colaboró con Red Hat para aportar el Praxis Policy Engine, que Praxis utiliza como filtro tanto para el tráfico web habitual como para el tráfico de IA. IBM también afirma que Praxis ha sido aceptado en el Sandbox de la Cloud Native Computing Foundation (CNCF), un programa para proyectos en sus primeras etapas dentro de esa fundación de código abierto.
Cómo funcionan las políticas
IBM describe PPE como un sistema que trata varios elementos como «objetivos de las políticas», es decir, elementos sobre los que se pueden establecer reglas:
- Herramientas: acciones que una IA puede realizar, como buscar en una base de datos
- Prompts: las instrucciones que las personas escriben para una IA
- Llamadas al modelo: solicitudes enviadas al propio modelo de IA
- Otros agentes: un sistema de IA que pide ayuda a otro
Los equipos pueden escribir en un solo archivo de políticas reglas estrictas de acceso («este agente no puede ver nunca los archivos de nóminas»), pautas de comportamiento más flexibles y reglas para campos concretos. IBM afirma que esto puede ejecutarse en una puerta de enlace, junto a un agente individual o dentro de un marco de desarrollo. Cada ubicación controla las acciones que pasan por ella.
IBM también afirma que PPE puede crear un registro de auditoría para cada decisión que toma. Un registro de auditoría es una entrada de registro que muestra qué se permitió o bloqueó, y cuándo. Las firmas opcionales y el «encadenamiento de hashes», un método que vincula cada entrada del registro con la anterior, están pensados para ayudar a detectar si los registros se modificaron posteriormente.
Por qué importa
La publicación explica que las puertas de enlace de IA se están convirtiendo en una capa propia dentro de los sistemas de IA. Piensa en una puerta de enlace como el puesto de seguridad de la entrada de un edificio: comprueba quién entra, qué está solicitando y mantiene un registro. IBM afirma que las puertas de enlace también gestionan el control de acceso, miden cuánto texto de IA consume cada usuario o equipo y se encargan de parte de la forma en que los agentes realizan tareas de varios pasos.
IBM dice que trabaja en estándares relacionados, incluido un estándar de identidad para agentes junto con CoSAI, y que estudia cómo podrían funcionar conjuntamente los controles de un ordenador y los controles de una red. Son objetivos de investigación, no productos terminados.
En resumen
El anuncio de IBM trata de construir al árbitro antes de que los jugadores adquieran demasiado poder: reglas, comprobaciones de identidad y registros que funcionan junto a los agentes de IA. Por ahora, es un proyecto de investigación de código abierto que pueden seguir los desarrolladores y los equipos de seguridad. Un paso útil que puedes dar hoy es sencillo: abre las herramientas de IA que ya utilizas y comprueba a qué cuentas y archivos tienen permitido acceder.