Por qué combinar dos tipos de lógica podría hacer que los agentes de IA sean más seguros
🔄 Vida y negocios IA

Por qué combinar dos tipos de lógica podría hacer que los agentes de IA sean más seguros

La jefa de ética de Salesforce explica una idea sencilla para dar a los agentes de IA autonomía real sin soltar la mano de reglas de seguridad estrictas

Este artículo fue escrito por IA. Pasó controles automáticos de datos y calidad, y nuestro editor comprueba cada día una muestra de los artículos publicados.

Ve primero AI World HQ en GoogleAñádenos como fuente preferida y verás nuestras noticias antes en las Noticias destacadas de Google.Añadir en Google

Cuando oyes hablar de "agentes" de IA que pueden reservar tus vuelos, enviar correos o mover dinero entre cuentas, la pregunta lógica es: ¿cómo nos fiamos de que no la van a liar? Kathy Baxter, de Salesforce, defiende en el propio anuncio de la empresa que la respuesta no es "más IA", sino menos, en los sitios adecuados.

El problema de la autonomía total

Un agente de IA es una IA capaz de ejecutar acciones reales en el mundo, no solo de responder preguntas. Hoy en día, la mayoría de los agentes se construyen sobre un modelo probabilístico, el mismo tipo de modelo de lenguaje grande (piensa en él como el motor que mueve ChatGPT) que da vida a los chatbots. "Probabilístico" significa que la IA hace su mejor estimación basándose en patrones que ha visto antes.

Esa estimación suele ser buena. Pero "suele" no basta cuando el agente está a punto de gastarse tu dinero o escribirle un correo a tu jefe. Sin nada que revise las decisiones de la IA, un pequeño error puede acabar siendo uno muy grande.

El enfoque de las dos lógicas

La idea central de Baxter, tal como la describe Salesforce: combina la IA probabilística con lógica determinista.

  • La IA probabilística se encarga de la parte creativa y flexible. Entiende lo que quieres, redacta una respuesta, elige una herramienta y resuelve situaciones que nunca ha visto — porque piensa en probabilidades, no en reglas.
  • La lógica determinista se ocupa de seguir las reglas. Ante una entrada clara, siempre devuelve la misma salida. Si un agente está a punto de enviar un pago por encima de un límite fijado, la comprobación determinista lo bloquea. Sin suposiciones. Sin "quizá".

La IA piensa; las reglas verifican. Piénsalo como un coche autónomo: la IA conduce, pero los frenos siguen siendo mecánicos.

Por qué esto importa para la confianza

Salesforce describe el resultado como algo más fiable, explicable y responsable. Es la forma en que lo plantea la propia empresa — pero el razonamiento es fácil de seguir:

  • Fiable, porque las reglas cazan esos casos límite que a la IA se le pueden escapar.
  • Explicable, porque puedes señalar la regla exacta que se activó (por ejemplo, "los pagos por encima de un límite fijado requieren aprobación humana").
  • Responsable, porque cada decisión deja un rastro claro.

Para ti, como usuario, esto se traduce en algo muy sencillo: puedes dejar que el agente actúe sin tener que estar encima todo el rato.

Conclusión

La gran idea de Baxter y Salesforce es sencilla: deja que la IA sea creativa donde debe serlo, y deja que las reglas fijas se encarguen de las decisiones donde no conviene improvisar. No tienes que elegir entre una IA lista y una IA segura — solo necesitas las dos, haciendo trabajos diferentes.

Un siguiente paso práctico que puedes dar hoy: la próxima vez que configures una herramienta de IA que ejecute acciones por ti, escribe una regla que te gustaría que tuviera que cumplir sí o sí. Esa es la capa determinista — y es lo que convierte "dejar a la IA correr" en algo en lo que realmente puedes confiar.

Sigue leyendo

📰 Salesforce va a comprar Listen Labs: qué implica para tu negocio Salesforce anuncia la adquisición de una plataforma de investigación con IA cuyos agentes diseñan estudios, hacen entrevistas y resumen el feedback de los clientes — en lugar de un proceso que podía durar meses. 📰 Lo que los clientes de Salesforce aprendieron sobre cómo sacarle resultados reales a la IA Tres patrones de implementaciones reales que convierten los experimentos con IA en victorias medibles — y qué significan para tu negocio. 📰 Lo que la IA dentro de tu CRM significa realmente para tu día a día Salesforce y Anthropic se alían para meter a Claude en las herramientas que tu empresa ya usa — te lo explicamos en lenguaje claro. 📰 Salesforce prevé que la IA influirá en 75.800 millones de dólares de las ventas de Cyber Week Qué revela la previsión navideña de la empresa para 2026 sobre los asistentes de compra con IA y qué significa para tu próxima búsqueda de ofertas 📰 Cómo las empresas de IA están haciendo sus chatbots más seguros para los jóvenes (y qué pueden hacer los padres ya) Una mirada en lenguaje claro a las funciones de seguridad infantil que llegan a las apps de IA: qué hay de verdad, qué falta y qué pueden hacer las familias hoy 📰 Disparadores, agentes y habilidades: cómo Amazon Quick descompone las tareas de IA Amazon explica los cuatro elementos básicos de sus agentes de IA y por qué son importantes cuando les pides que sigan trabajando por ti.
¿Te ha resultado útil?

✦ Generado por IA en la redacción automática de AI World HQ, a partir de fuentes oficiales. Pasó controles automáticos de datos y calidad, y nuestro editor comprueba cada día una muestra de los artículos publicados. ¿Ves un error? Usa los botones de arriba.

← Volver a las noticias