AI WORLD HQ
Cuando oyes hablar de "agentes" de IA que pueden reservar tus vuelos, enviar correos o mover dinero entre cuentas, la pregunta lógica es: ¿cómo nos fiamos de que no la van a liar? Kathy Baxter, de Salesforce, defiende en el propio anuncio de la empresa que la respuesta no es "más IA", sino menos, en los sitios adecuados.
El problema de la autonomía total
Un agente de IA es una IA capaz de ejecutar acciones reales en el mundo, no solo de responder preguntas. Hoy en día, la mayoría de los agentes se construyen sobre un modelo probabilístico, el mismo tipo de modelo de lenguaje grande (piensa en él como el motor que mueve ChatGPT) que da vida a los chatbots. "Probabilístico" significa que la IA hace su mejor estimación basándose en patrones que ha visto antes.
Esa estimación suele ser buena. Pero "suele" no basta cuando el agente está a punto de gastarse tu dinero o escribirle un correo a tu jefe. Sin nada que revise las decisiones de la IA, un pequeño error puede acabar siendo uno muy grande.
El enfoque de las dos lógicas
La idea central de Baxter, tal como la describe Salesforce: combina la IA probabilística con lógica determinista.
- La IA probabilística se encarga de la parte creativa y flexible. Entiende lo que quieres, redacta una respuesta, elige una herramienta y resuelve situaciones que nunca ha visto — porque piensa en probabilidades, no en reglas.
- La lógica determinista se ocupa de seguir las reglas. Ante una entrada clara, siempre devuelve la misma salida. Si un agente está a punto de enviar un pago por encima de un límite fijado, la comprobación determinista lo bloquea. Sin suposiciones. Sin "quizá".
La IA piensa; las reglas verifican. Piénsalo como un coche autónomo: la IA conduce, pero los frenos siguen siendo mecánicos.
Por qué esto importa para la confianza
Salesforce describe el resultado como algo más fiable, explicable y responsable. Es la forma en que lo plantea la propia empresa — pero el razonamiento es fácil de seguir:
- Fiable, porque las reglas cazan esos casos límite que a la IA se le pueden escapar.
- Explicable, porque puedes señalar la regla exacta que se activó (por ejemplo, "los pagos por encima de un límite fijado requieren aprobación humana").
- Responsable, porque cada decisión deja un rastro claro.
Para ti, como usuario, esto se traduce en algo muy sencillo: puedes dejar que el agente actúe sin tener que estar encima todo el rato.
Qué significa esto para ti
Si solo usas herramientas de IA hoy en día: ya te beneficias de esta idea. Cuando un chatbot se niega a ayudarte con algo arriesgado, o cuando el sistema antifraude de tu banco bloquea una transacción extraña, eso es lógica determinista en acción — la IA llevó la conversación, pero una regla tomó la decisión final.
Si estás pensando en automatizar tareas con agentes de IA: no aspires a una autonomía total desde el primer día. Busca herramientas que te muestren qué acciones necesitan tu aprobación y cuáles resuelven ellas solas. Que existan esos puntos de control es buena señal.
Si tienes una pyme: cuando un proveedor te venda un agente de IA que "lo hace todo", hazle una sola pregunta — ¿qué reglas sigue y puedes cambiarlas tú? Si no te responde con claridad, probablemente el sistema es puramente probabilístico, y ahí es donde suelen ocurrir los errores caros.
Si ya lo usas: cuando configures un agente para ti o para tu equipo, apunta las tres o cinco reglas que te gustaría que cumpliese sí o sí — límites de gasto, a quién se puede escribir, qué datos se pueden tocar. La mayoría de plataformas de agentes te permiten definirlas como barreras de seguridad. Esa es tu capa determinista, y es la parte que hace que la autonomía dé menos miedo.
Conclusión
La gran idea de Baxter y Salesforce es sencilla: deja que la IA sea creativa donde debe serlo, y deja que las reglas fijas se encarguen de las decisiones donde no conviene improvisar. No tienes que elegir entre una IA lista y una IA segura — solo necesitas las dos, haciendo trabajos diferentes.
Un siguiente paso práctico que puedes dar hoy: la próxima vez que configures una herramienta de IA que ejecute acciones por ti, escribe una regla que te gustaría que tuviera que cumplir sí o sí. Esa es la capa determinista — y es lo que convierte "dejar a la IA correr" en algo en lo que realmente puedes confiar.