Más allá de los Asistentes virtuales: Cómo diseñar una arquitectura segura con #AgentesGuardianes

Un agente de IA es un asistente digital personalizado que utiliza inteligencia artificial para realizar tareas, responder preguntas, generar materiales o acompañar procesos de forma autónoma y adaptada a un propósito concreto. 

Así, un agente es un sistema que recibe instrucciones, interpreta información -por ejemplo, lo que escribe el usuario, documentos o datos-  y actúa en consecuencia para cumplir una función específica.

No es simplemente un chatbot:

• Tiene un rol definido 
• Mantiene un contexto de trabajo 
• Puede producir acciones o productos concretos

Hace unos días me encontré con un documento Market Guide for Guardian Agents que alerta sobre las políticas de uso de IA y gobernanza en las empresas. Así, el problema que hoy se plantea es que la adopción de agentes está superando la madurez de controles, cuando la mayoría de las empresas usan IA sin reglas.

Guardian agents supervise AI agents, helping ensure agent actions align with goals and boundaries. They monitor and block risky actions and are evolving from a collection of services to autonomous agents that enforce policies across platforms. AI leaders can use this Guide to understand the market and vendors. 

Según el informe, las empresas actualmente destinan menos del 1% de su presupuesto en IA agéntica a los mecanismos que supervisan y protegen esos mismos agentes.

Gartner también anticipa que el 40% de los proyectos de IA agéntica fracasará antes de 2027 precisamente por la falta de controles de gobernanza. 

La adopción de agentes de IA se está acelerando a un ritmo sin precedentes. Según datos de #Gartner, el 17% de los CIOs ya ha desplegado agentes de IA y otro 42% planea hacerlo a muy corto plazo. Sin embargo, esta autonomía introduce riesgos operativos y de cumplimiento que avanzan mucho más rápido que la capacidad de revisión humana.

Los números de adopción que Gartner documenta para 2026 son significativos, y no tienen equivalente en ciclos tecnológicos más recientes: 

• Menos del 5% de las aplicaciones empresariales tenían agentes de IA específicos para tareas en 2025
• 40% las tendrán antes de que termine 2026
• 17% de los CIOs encuestados ya los desplegó
• 42% planea hacerlo en los próximos 12 meses

Ese salto — de menos del 5% a 40% en menos de 18 meses — no tiene paralelo en la historia de adopción corporativa de tecnología reciente. 

Gartner predice también que hasta 2028, al menos el 80% de las transacciones no autorizadas de agentes de IA serán causadas por violaciones internas de las políticas de la empresa, como intercambio excesivo de información, uso inaceptable o comportamientos desalineados, no por ataques maliciosos externos.

A medida que los agentes interactúan de forma nativa con datos confidenciales, la frontera entre la gestión de identidad y el gobierno de datos se vuelve casi invisible. 

Para 2027, más del 70% de los proveedores de IA clasificará la sensibilidad de los datos como parte del proceso de concesión de accesos.

En este contexto, para escalar la IA de forma segura, surgió una nueva categoría: los Agentes Guardianes (Guardian Agents).

¿Qué son exactamente y por qué cambiarán las reglas del juego de la ciberseguridad antes de que termine la década? 

Un Agente Guardián es una entidad de software que combina gobierno de IA y controles en tiempo de ejecución, diseñado específicamente para supervisar a otros agentes de IA. Su función es garantizar que las acciones de los “agentes autónomos” no violen las políticas de la empresa ni se desvíen de sus objetivos preestablecidos.

A diferencia de las herramientas de seguridad tradicionales, los guardianes están evolucionando de ser simples servicios de monitoreo pasivo a convertirse en agentes semiautónomos o completamente autónomos capaces de bloquear o redirigir acciones riesgosas en tiempo real.

Muchos proveedores de plataformas, como Microsoft -con Agent 365- o Salesforce -con Agentforce- ya incluyen sus propias funciones guardianas embebidas. Esto es importante pero no es suficiente, ya que ningún proveedor de nube puede hacer cumplir políticas de forma unilateral cuando un agente delega tareas en la nube de un competidor o en un entorno local. 

Según el informe, el impacto de esta arquitectura será masivo: para 2029, los agentes guardianes independientes eliminarán la necesidad de casi la mitad de los sistemas tradicionales de riesgo y seguridad destinados a proteger las actividades de IA agéntica en más del 70% de las organizaciones.

¿El Camino Hacia la Autonomía Responsable?

La autonomía sin supervisión no es innovación; es un riesgo operativo inaceptable. Los agentes de IA simplemente no se pueden lanzar al entorno corporativo esperando que sigan instrucciones ambiguas a la perfección.

Las empresas que actúen hoy implementando pruebas piloto con agentes guardianes independientes y diseñando estructuras de metagobernación para "guardar a los propios guardianes" asegurarán una ventaja competitiva masiva, desbloqueando el verdadero potencial productivo de los sistemas autónomos de forma segura, auditable y responsable.

Fuentes: 

Market Guide for Guardian Agents https://airrived.ai/wp-content/uploads/2026/03/Market-Guide-for-Guardian-Agents.pdf?

PAPER REVIEW N°72: Del piloto al fracaso: cómo el 40% de los proyectos agénticos caerán antes de 2027

https://futuria.substack.com/p/paper-review-n72-del-piloto-al-fracaso

La tutoría docente mediada por la Inteligencia Artificial: un análisis de caso

Un chatbot o asistente virtual es una combinación de tecnologías avanzadas. El proceso de funcionamiento de estos sistemas podemos definirlos en tres fases:

1. Entrada del usuario: el chatbot recibe una pregunta o comando de voz o texto, que puede provenir de un estudiante buscando aclarar un concepto o resolver un problema.

2. Procesamiento de la entrada: aquí es donde la inteligencia artificial realmente entra en acción. Mediante el uso de Procesamiento de Lenguaje Natural (PLN) y algoritmos de IA, el chatbot es capaz de "entender" lo que el estudiante está solicitando. Esto se logra al descomponer el lenguaje en sus partes fundamentales, como palabras clave, frases y la estructura gramatical, permitiéndole al chatbot identificar con precisión la intención detrás de la pregunta.

3. Generación de la respuesta: la IA  busca información relevante en sus bases de datos o aplica modelos de aprendizaje automático para elaborar una contestación apropiada y en sintonía con la conversación, es decir, contextualizada. La clave aquí es que, a diferencia de los chatbots más básicos, la respuesta no está preestablecida; se adapta al contexto y a las interacciones previas con el estudiante. Esta capacidad de personalización es lo que permite a los chatbots educativos y ofrecer soluciones a medida para cada usuario.

¿En qué casos se pueden usar los chatbots en contextos educativos? Rey Valzacchi (2024) propone la siguiente clasificación:

• Asistentes virtuales: los chatbots pueden responder preguntas sobre tareas, exámenes, fechas importantes o procedimientos administrativos, proporcionando una experiencia sin fricciones, tanto para estudiantes como para educadores.

• Tutoría personalizada: a partir de la IA generativa, los chatbots pueden ofrecer explicaciones detalladas y adaptadas al nivel de comprensión del estudiante, lo que permite una tutoría personalizada que complemente la intervención humana.

• Evaluación continua y retroalimentación: algunos chatbots están diseñados para realizar evaluaciones periódicas y ofrecer retroalimentación o feedback inmediato, ayudando a los estudiantes a identificar áreas de mejora rápidamente y optimizando el tiempo de los docentes.

• Colaboración entre estudiantes: los chatbots también pueden facilitar la colaboración en

grupo. A través de chats grupales automatizados, los estudiantes pueden trabajar en proyectos colaborativos mientras el chatbot modera las discusiones y ofrece apoyo en tiempo real.

Los chatbots o asistentes conversacionales no sólo ofrecen respuestas automáticas, sino que utilizan algoritmos de aprendizaje automático para analizar el comportamiento de los estudiantes, identificar áreas de debilidad y ajustar su enfoque pedagógico en consecuencia. Es decir, la IA permite que los chatbots reconozcan patrones en el rendimiento de un estudiante, ofreciendo lecciones adicionales, explicaciones más detalladas o ejercicios que requieren mayor nivel de dificultad. Por ejemplo, si un estudiante tiene problemas para entender el concepto de raíz de un polinomio, un asistente virtual puede ofrecer explicaciones más sencillas, formular ejemplos visuales o proporcionar un conjunto de ejercicios adaptados a su nivel. A medida que el chatbot recopila más datos sobre el progreso del estudiante, ajusta sus recomendaciones y propuestas de actividades para retroalimentar el proceso de aprendizaje.

En este contexto de cambio constante, un estudio reciente marca un hito en el debate sobre la personalización de la enseñanza.

El artículo titulado "AI Tutoring Outperforms Active Learning", publicado en Research Square, presenta una evaluación exhaustiva de cómo la tutoría basada en inteligencia artificial (IA) se compara con las metodologías tradicionales de aprendizaje activo en un entorno universitario de alto rendimiento. El estudio no solo examina los resultados puramente académicos, sino también las complejas implicaciones emocionales y personales de los estudiantes que participan en estos métodos distintos.

El objetivo central de este estudio fue determinar la efectividad real de la tutoría basada en IA para potenciar los resultados de aprendizaje en comparación con las clases de aprendizaje activo típico. Para ello, se analizó una cohorte de estudiantes universitarios de la materia Física 2 (PS2), orientada a las ciencias de la vida en la Universidad de Harvard.

Un total de 233 estudiantes fueron asignados aleatoriamente a dos metodologías de instrucción claramente diferenciadas:

• Grupo de Tutoría IA: Los estudiantes recibieron instrucción completamente individualizada de un tutor de IA, diseñado específicamente para adaptarse a las necesidades de aprendizaje del alumno en tiempo real.

• Grupo de Aprendizaje Activo: Los alumnos asistieron a clases tradicionales que aplicaban metodologías activas (como la instrucción por pares), promoviendo la participación directa y dinámica en el aula.

Los hallazgos del estudio desafían algunas de las convenciones más arraigadas de la pedagogía moderna en torno a las clases presenciales.

Mayor aprendizaje promedio lograron los estudiantes instruidos mediante el Tutor de IA en comparación con las clases de aprendizaje activo tradicional.

La diferencia en el rendimiento no solo resultó ser estadísticamente significativa, sino que representa una mejora radical en la eficiencia del proceso de aprendizaje.

Además del puntaje técnico, las encuestas psicométricas revelaron que los estudiantes del Grupo de Tutoría IA reportaron niveles significativamente más altos de compromiso y motivación, derribando el mito de que la interacción con una interfaz tecnológica genera desinterés o frialdad cognitiva. Incluso tras cruzar los datos con factores externos como el conocimiento previo o las horas totales de estudio, la eficacia superior del tutor de IA se mantuvo constante. Esto demuestra que las ventajas son intrínsecas al modelo de personalización algorítmica.

Los hallazgos proporcionan evidencia sólida de que las pedagogías asistidas por IA no solo son viables, sino que resultan sustancialmente más efectivas que las prácticas de aprendizaje activo tradicionales en la educación superior. Este fenómeno sugiere un desplazamiento inminente hacia modelos de instrucción hiper-personalizados y centrados en las trayectorias individuales.

La tecnología abre la puerta a una mayor equidad en el acceso a educación adaptada al ritmo de cada estudiante, además de proporcionar una tutoría con mayor personalización para el aprendizaje.

A pesar del entusiasmo de los resultados, los autores invitan a la prudencia y señalan tres fronteras críticas para futuras investigaciones:

1. Tamaño de la muestra y contexto: Al haberse realizado en una sola institución (Harvard), se requiere comprobar su replicabilidad en contextos universitarios más diversos.

2. Duración del estudio: La investigación abarcó un único semestre, por lo que es necesario un seguimiento longitudinal para evaluar la retención del conocimiento a largo plazo.

3. Velocidad del desarrollo tecnológico: Dada la velocidad con la que avanza la IA generativa, las herramientas analizadas deberán actualizarse constantemente en futuros diseños experimentales.

El estudio "AI Tutoring Outperforms Active Learning" constituye una evidencia al probar que la tutoría basada en IA no solo supera el rendimiento tradicional sino que enriquece la experiencia emocional del estudiante, se traza un camino claro hacia una innovación pedagógica.

Este estudio resalta la importancia creciente de las tecnologías emergentes en la educación, invitando tanto a académicos como a profesionales a evaluar activamente la incorporación de tales innovaciones en estrategias educativas futuras.

Basado en el artículo de investigación publicado en Research Square (2023). 

APRENDER en tiempos de Inteligencia Artificial

"A medida que la Inteligencia Artificial (IA) se introduce rápidamente en las aulas, corremos el riesgo de confundir las respuestas rápidas y fáciles con el verdadero aprendizaje", afirma la emprendedora de educación con IA Priya Lakhani en reciente charla TED  

Desde el año pasado, y en particular a partir del impacto que tuvo la difusión de una investigación del MIT , en la que se concluía que el chatGPT podría estar debilitando las habilidades de pensamiento crítico, existe en el ámbito de la educación, interrogantes acerca del impacto de la IA en los objetivos, los métodos, los contenidos de enseñanza, como también qué transformaciones debería experimentar la educación pero qué principios no debería cambiar.

En el libro Artificial, del año 2023,  sus  autores ya nos traían el concepto de sedentarismo cognitivo, en referencia a la incorporación de herramientas - básicamente digitales- que hemos hecho durante estos años durante estos años para facilitarnos nuestras vidas. Sin embargo, en algunos casos nos han hecho perder algunas habilidades, como por ejemplo la memoria, que es un pilar sustancial para la cognición y el desarrollo del pensamiento: “sin memoria no hay pensamiento ni inteligencia”.

En el video, Priya nos refuerza que la idea que el aprendizaje duradero no proviene de atajos, requiere de un esfuerzo cognitivo, de una lucha productiva, que es el esfuerzo mental que fomenta la comprensión.

Las experiencias y prácticas de uso que estamos registrando en las instituciones educativas, evidencian un mayor uso de parte de los estudiantes para “hacer todo el trabajo por ellos”. No utilizan la IA para ayudarlos a aprender, sino que utilizan la IA para “evitar” el aprendizaje. 

El riesgo real, según la experta, es la ilusión de competencia. Cuando leemos un texto fluido generado por un chat de IA, creemos que aprendimos, pero la realidad es que nuestro cerebro no ha hecho el trabajo cognitivo necesario para aprender: confundimos la fluidez con el aprendizaje.

Para un aprendizaje duradero, Lakhani propone 4 (cuatro) técnicas basadas en las ciencias del aprendizaje, y que requieren de un esfuerzo cognitivo: 

1. Recuperación (Retrieval): no basta con leer; hay que esforzarse por recordar la información de la memoria.

2. Espaciamiento (Spacing): distribuir el estudio en el tiempo para reforzar las conexiones neuronales. 

3. Generación (Generation): intentar responder o crear la solución por uno mismo antes de ver la respuesta correcta.

4. Reflexión (Reflection): analizar cómo estamos aprendiendo y qué brechas nos faltan por cubrir.

Entonces, ¿cuál es el rol de la IA: ¿socio o sustituto?

Lakhani, como Sigman y Bilinkis (autores de Artificial), como tantos otros, entre los que me incluyo, no están en contra del uso de la IA. La IA identifica patrones a partir de datos complejos, y es algo que lo puede hacer mucho mejor que nosotros. Además, una IA bien diseñada puede resultar el mejor socio o copiloto: “Que una máquina pueda realizar una función no significa que tengamos que abandonarla”.  En este sentido, la IA no nos va a reemplazar, nos amplifica, nos multiplica.

Una IA educativa nos potenciaría pero no dando la respuesta directamente, sino:

• Induciendo al estudiante a generar una respuesta en lugar de rebelarse.
• Prediciendo cuándo un estudiante está a punto de olvidar algo y recordárselo en el momento justo, ser un verdadero copiloto para el aprendizaje.
• Contribuyendo en la reducción de la carga administrativa de los docentes para enfocarse en la enseñanza.

El esfuerzo, es la clave

El conocimiento humano trasciende la mera acumulación de datos e información, si dejamos que la IA sustituya las facultades del pensamiento y las capacidades de abstracción e imaginación, estaremos en serios problemas