¿Cuánto debería decidir una IA sin preguntarte primero?

¿Alguna vez has hecho clic en «Aceptar» en una ventana emergente sin leerla? A la mayoría nos ha pasado. Ahora imagina que esa ventana pertenece a un asistente de IA que quiere borrar un archivo, enviar un correo o cambiar una configuración por ti. La forma en que gestione ese momento importa mucho.

Por qué es un problema difícil

Una IA que solo conversa contigo es sencilla. Un «agente» de IA es diferente. Un agente (un programa de IA que puede usar herramientas y realizar acciones en tu nombre) puede abrir archivos, buscar en internet o enviar mensajes a otras personas. Zapier, que crea software para conectar aplicaciones, afirma que todos los productos de este tipo acaban enfrentándose a la misma pregunta: ¿debería la IA preguntar primero o actuar y avisarte después?

Zapier describe dos formas en las que esto puede salir mal:

• Demasiadas preguntas. Si el asistente pregunta por cada pequeño paso, dejas de leer. Haces clic en «Sí» por costumbre y la solicitud importante queda aprobada junto con las acciones rutinarias.
• Muy pocas preguntas. Si el asistente nunca pregunta, todo puede funcionar bien durante semanas. Pero una acción inesperada puede destruir esa confianza, y las semanas buenas dejan de importar tanto.

La empresa propone pensar en qué decisiones te corresponden a ti y cuáles puede tomar la IA. La frecuencia con la que el asistente te interrumpe debería depender de esa respuesta.

Qué ha cambiado Zapier hasta ahora

Según Zapier, su primera versión pedía permiso para cualquier acción que cambiara algo, como editar o borrar un archivo. Funcionaba, pero los usuarios se encontraron con algunos problemas. Las solicitudes de aprobación desaparecían si cerrabas la pestaña del navegador, y la opción de «permitir siempre» se olvidaba después de actualizar la página. Zapier afirma que solucionó esto guardando las aprobaciones en sus servidores.

Sus cambios posteriores se centraron en aquello que quieres proteger, en lugar de en la herramienta que se utiliza. Zapier afirma que ahora las reglas pueden asociarse a un archivo concreto, una aplicación conectada, un sitio web o una automatización. Por ejemplo, podrías establecer una regla para no cambiar nunca nada en una carpeta determinada o para enviar mensajes únicamente a ti. La empresa también afirma que, si alguna regla dice «nunca», esa regla tiene prioridad, y que, si una regla dice «preguntar primero», el asistente pregunta.

Zapier también afirma que el asistente no puede sugerir una regla general que lo permita todo. La razón de la empresa es que un solo clic rápido no debería conceder silenciosamente acceso ilimitado.

En resumen

La verdadera pregunta no es si una IA debería actuar alguna vez por su cuenta. La cuestión es qué acciones merecen una pausa y cuáles se pueden gestionar de forma discreta y segura. La experiencia de Zapier sugiere que las solicitudes de permiso claras y específicas funcionan mejor que las largas listas de ventanas emergentes imprecisas. Tu siguiente paso es sencillo: abre una herramienta de IA que ya utilices y averigua qué puede hacer sin preguntarte. Si no estás seguro, las páginas de ayuda oficiales de esa herramienta son el mejor lugar para empezar.