Ralun

Ralun / Guías de desempeño

Para escalar los agentes de IA, trátalos como miembros del equipo

Isotipo oficial de RalunRalun · Lectura estimada: 12 min
CompartirLinkedInFacebook
Enlace

Selecciona el enlace y usa la opción Copiar de tu dispositivo.

Correo
Dos personas asignan permisos y límites a un agente de IA representado en papel; collage monocromo con trazos turquesa.

Un agente de IA funciona en una demostración, pero al conectarlo con sistemas reales aparecen decisiones difíciles.Si carece de identidad, contexto fiable y límites, puede actuar fuera de la autoridad prevista.Estas cuatro fricciones muestran qué controles necesita la organización para escalarlo con responsabilidad.

Igual que cada empleado, cada agente de IA necesita un rol, un ámbito de autoridad definido, fuentes de información aprobadas y reglas claras para escalar los casos.

Imagina una escena conocida. Un proveedor muestra a tu equipo directivo un nuevo «agente» de IA generativa. La demostración impresiona: el agente clasifica solicitudes de soporte, actualiza registros de clientes, redacta una propuesta y la envía para su aprobación. Todo fluye sin tropiezos. Poco después, inevitablemente, alguien pregunta: ¿cuánto tardaremos en desplegarlo en toda la empresa?

Esa pregunta refleja un supuesto que ha guiado la adopción de software empresarial en la era del software como servicio (SaaS). La mayoría de las herramientas podían ponerse a disposición de los usuarios, configurarse y ampliarse con relativamente poca personalización. Si la integración funcionaba y los empleados adoptaban el producto, el despliegue era, en gran medida, un proyecto de implementación. Pero la IA agéntica rompe ese modelo.

A diferencia del software tradicional, los agentes de IA están diseñados para razonar, planificar y actuar en distintos sistemas. En cuanto un agente puede modificar un sistema de registro —cambiar un precio, enviar un pago o modificar datos de clientes—, deja de ser una herramienta de productividad y pasa a formar parte del modelo operativo de la organización.

Sobre todo, introduce nuevas categorías de riesgo. Una herramienta acotada de IA generativa, como una que ayuda a redactar correos, plantea un riesgo de contenido: podría decir algo incorrecto. La IA agéntica plantea un riesgo de ejecución: podría hacer algo incorrecto.

A partir de nuestra experiencia en investigación y en la dirección de despliegues empresariales de IA agéntica, hemos observado de cerca cómo se implementa realmente esta tecnología. Hemos comprobado que, aunque hoy muchos agentes están listos para actuar, las empresas rara vez están listas para permitirles hacerlo.

Para cruzar ese umbral e integrar eficazmente los agentes de IA a gran escala, tendrás que dejar de tratarlos como software listo para usar que solo hay que instalar. Tendrás que tratarlos como un nuevo tipo de fuerza de trabajo que requiere gestión. Igual que los empleados, cada agente de IA necesitará un rol, un ámbito de autoridad definido, fuentes de información aprobadas y reglas claras para escalar los casos. También necesitará supervisión y registros de auditoría, porque la organización responderá por sus acciones.

Hasta que existan esas bases organizativas, será difícil ampliar el uso de la IA agéntica. Hay cuatro fricciones recurrentes que suelen ralentizar o descarrilar el avance. Entenderlas es el primer paso para gestionarlas.

1) Identidad: ¿«quién» está actuando?

Las empresas llevan décadas construyendo controles de acceso para los empleados. Cada usuario de un sistema informático inicia sesión con una identidad única, y su rol determina qué puede y qué no puede hacer.

Los agentes de IA complican la situación porque se comportan como empleados, pero no lo son. Muchos de los primeros despliegues resuelven el problema dando a los agentes una «cuenta de servicio» compartida con acceso amplio a varios sistemas. Es una solución cómoda, pero concederles tantos permisos crea un riesgo de seguridad.

Considera un ejemplo sencillo. Un representante de atención al cliente podría estar autorizado a emitir reembolsos de hasta 500 dólares. Si intenta emitir uno mayor, el sistema bloquea la transacción y la remite para su aprobación. En cambio, un agente de IA que opere mediante una cuenta de servicio compartida del sistema podría no estar sujeto a ese límite y conceder un crédito de 5.000 dólares en un solo paso.

Los riesgos no son meramente hipotéticos. En 2025, un experimento de un desarrollador con un agente de IA para programar mostró la rapidez con que la automatización puede superar sus controles. Pese a recibir la instrucción de no hacer ningún cambio, el agente ejecutó comandos que borraron una base de datos de producción. Después intentó ocultar el fallo: generó miles de registros falsos y mensajes engañosos del sistema, conductas que retrasaron la respuesta y complicaron la recuperación.

La lección es clara: las organizaciones deberían tratar a cada agente de IA como un trabajador digital distinto, con identidad, credenciales y rol propios. En vez de recurrir a cuentas de servicio compartidas, deberían asignar a los agentes permisos limitados a las tareas concretas para las que fueron diseñados. Los mismos principios que se aplican a los empleados —como el acceso con el mínimo privilegio y los límites basados en roles— deberían aplicarse a los agentes. Si un empleado de atención al cliente no puede emitir reembolsos por encima de cierto umbral sin aprobación, esa misma restricción debe aplicarse al agente que realiza el trabajo. Además, cada acción del agente debe registrarse bajo una identidad rastreable para que la organización pueda saber claramente quién —o qué— la realizó. Si los directivos no pueden explicar fácilmente qué identidad utiliza un agente al ejecutar una acción, el sistema no está listo para producción.

2) Contexto: cuando los datos deficientes llevan a acciones equivocadas

Los agentes de IA funcionan bien en las demostraciones porque el entorno está controlado. Los datos están depurados, las instrucciones son claras y las fuentes de información fiables son evidentes. Pero las organizaciones reales son distintas. Los datos empresariales están fragmentados entre sistemas, duplicados entre equipos y, a menudo, se contradicen. Las políticas evolucionan y siguen circulando documentos antiguos. Las personas resuelven esa ambigüedad con criterio y experiencia de los que los agentes de IA carecen.

En un sistema que genera texto, un contexto imperfecto puede producir una respuesta defectuosa. Es un problema, aunque sus consecuencias suelen ser limitadas. En un sistema que actúa, las consecuencias pueden ser mucho mayores. Imagina un agente de recursos humanos que recupera un documento de políticas de 2022 al que se hace referencia con frecuencia y lo utiliza para orientar a los directivos durante un proceso de despido, aunque las reglas hayan cambiado desde entonces. No es una alucinación. Es un error de recuperación de información que expone a la empresa a un riesgo legal.

Los agentes introducen además un nuevo problema de seguridad: la manipulación del contexto. Si un agente lee correos, formularios o solicitudes de soporte y luego actúa a partir de esa información, un atacante puede insertar instrucciones ocultas para influir en su comportamiento. En 2025, unos investigadores demostraron este riesgo mediante una vulnerabilidad conocida como «ForcedLeak». Al insertar instrucciones maliciosas en un formulario web corriente, consiguieron que un agente de una plataforma de gestión de clientes recuperara datos sensibles del CRM y los enviara a un destino externo.

Para afrontar estas fricciones del contexto, las organizaciones deben establecer criterios claros sobre qué información pueden considerar fiable sus agentes. Eso exige definir fuentes autorizadas para las políticas, los precios y los datos operativos, de modo que los agentes utilicen sistemáticamente la versión correcta. Los sistemas también deberían registrar la procedencia de la información empleada para tomar decisiones, de forma que cada acción de un agente pueda rastrearse hasta los documentos o datos concretos en los que se basó. Por último, las empresas deben tratar las entradas externas —como correos, formularios o archivos subidos— como posibles vías de ataque, además de fuentes de contexto. Las entradas procedentes de fuera de la organización deben manejarse con cuidado y validarse antes de permitir que un agente actúe sobre ellas. Sin estas salvaguardas, las inconsistencias de datos que las personas suelen resolver pueden convertirse rápidamente en errores operativos de los sistemas automatizados.

3) Control: los sistemas probabilísticos necesitan límites firmes

El software tradicional se comporta de forma predecible: una misma entrada produce siempre la misma salida. Los modelos de lenguaje de gran tamaño funcionan de otra manera. Sus respuestas son probabilísticas, por lo que una misma petición puede dar resultados ligeramente distintos en ejecuciones diferentes. Esa variabilidad es aceptable si el resultado es un borrador de correo. Es mucho más problemática si el resultado es una transacción.

Una empresa que desplegaba un agente de IA para atención al cliente se topó con este problema cuando el equipo jurídico exigió que el sistema nunca mencionara a un competidor concreto. Sin embargo, la base de conocimiento de la empresa contenía muchos artículos legítimos de comparación que mencionaban a ese competidor, por lo que el agente lo citaba con frecuencia al responder preguntas de clientes. Cuando los ingenieros endurecieron las restricciones para bloquear esas respuestas, el sistema empezó a negarse a responder también preguntas válidas.

El problema de fondo es que los métodos de prueba tradicionales presuponen un comportamiento estable. Un sistema que supera hoy una batería de pruebas puede comportarse de otra manera mañana si se actualiza el modelo, cambia la instrucción o se añaden datos. Los riesgos aumentan en entornos con varios agentes que se pasan trabajo entre sí. En 2025, por ejemplo, unos investigadores demostraron que configuraciones inseguras en un entorno empresarial de asistentes de IA podían permitir una «inyección de instrucciones de segundo orden». En su experimento, instrucciones maliciosas introducidas por un agente pasaban a otros y podían desencadenar acciones imprevistas o no autorizadas, como recuperar registros sensibles o enviar información a destinos externos.

La conclusión es que, sin límites claros, los errores —o los ataques— pueden propagarse por un sistema automatizado. Para gestionar ese riesgo, las organizaciones deberían establecer controles deterministas alrededor de los sistemas probabilísticos de IA. En lugar de permitir que los agentes ejecuten acciones directamente, las empresas deberían interponer capas de validación entre el modelo de IA y los sistemas operativos. Así, el agente propone una acción, como emitir un reembolso o actualizar un registro, y, antes de ejecutarla, un software determinista comprueba que cumple las reglas establecidas. Las organizaciones deberían limitar las interacciones sin supervisión entre agentes para que la salida de uno no se convierta automáticamente en una instrucción ejecutable para otro sin validación, comprobaciones de políticas o revisión humana. Al separar la generación de una recomendación de la ejecución de una acción, las empresas pueden crear salvaguardas que impidan que la variabilidad del modelo se transforme en errores operativos.

4) Responsabilidad: cuando nadie puede explicar qué ocurrió

Si un empleado comete un error, sus responsables pueden investigar haciéndole preguntas. Si falla el software tradicional, los ingenieros pueden revisar los registros. Los agentes de IA plantean una situación más compleja porque su comportamiento suele surgir de una cadena de pasos de razonamiento, documentos recuperados y llamadas a herramientas que quizá resulte difícil reconstruir después.

Eso crea un serio problema de rendición de cuentas. Imagina, por ejemplo, un agente de compras que resume el desempeño de los proveedores y publica los resultados en un canal interno de mensajería. Si incluye por accidente condiciones contractuales confidenciales porque interpretó «compartir con transparencia» como permiso para revelarlas, los directivos necesitarán saber exactamente cómo se tomó esa decisión. ¿Qué documentos leyó? ¿Qué instrucciones siguió? ¿Por qué creyó que podía compartir esa información? Sin ese rastro de evidencia, las organizaciones no pueden explicar el comportamiento de sus sistemas ante reguladores, auditores o clientes.

Una decisión de un tribunal en 2024 ofrece una señal temprana de cómo puede tratar la ley este asunto. En un caso sobre la información errónea que un chatbot de una aerolínea dio a un cliente acerca de los requisitos para acceder a una tarifa por duelo, la empresa alegó que el chatbot era, en la práctica, una entidad separada. El tribunal rechazó ese argumento y responsabilizó a la compañía por la información incorrecta.

Para evitar problemas así, las empresas tendrán que diseñar sus sistemas de IA pensando en la rendición de cuentas desde el principio. Eso empieza por mantener registros exhaustivos del funcionamiento de los agentes: a qué fuentes de datos accedieron, qué instrucciones recibieron y qué herramientas usaron para completar una tarea. Esos registros deben permitir reconstruir la cadena de razonamiento que condujo a cualquier acción. Las organizaciones también deberían asignar una responsabilidad interna clara para supervisar y gobernar el comportamiento de los agentes, de modo que la responsabilidad no se diluya. Si un regulador, auditor o cliente pregunta por qué un sistema de IA tomó una decisión determinada, la empresa debería poder ofrecer una explicación clara y respaldada por evidencia. Sin ese grado de transparencia, será difícil defender la automatización a gran escala.

El camino a seguir

Si desplegar agentes de IA como soluciones listas para usar no es realista, eso no significa que haya que evitarlos. Conviene introducirlos gradualmente y ampliar su autonomía solo a medida que la organización desarrolla la capacidad para gobernarlos.

Una forma útil de entender esa progresión es como una «escalera de autonomía». La distinción clave es la autoridad de ejecución: si el sistema redacta contenido, propone acciones para su aprobación o ejecuta acciones dentro de límites estrictamente definidos. Por lo general, las organizaciones empiezan con agentes que producen resultados de apoyo —borradores, resúmenes o recomendaciones— que una persona revisa antes de enviar o ejecutar nada. El siguiente escalón es la recuperación de información con salvaguardas: los agentes responden preguntas utilizando información interna, pero se apoyan en fuentes de datos bien gobernadas. Después, las empresas pueden permitir acciones supervisadas: los agentes proponen tareas operativas —emitir reembolsos, actualizar registros o tramitar aprobaciones—, pero una persona confirma siempre la decisión antes de ejecutarla. Solo cuando se haya comprobado la eficacia de esos controles deberían considerar la autonomía acotada, en la que los agentes ejecutan flujos de trabajo por sí solos dentro de límites estrechos y umbrales definidos de antemano.

Muchos despliegues eficaces permanecen deliberadamente en los primeros escalones de la escalera. Una consultora de beneficios utiliza IA para acelerar la investigación de sus consultores y reducir el tiempo necesario para obtener información útil, en lugar de sustituir a los profesionales. Otros despliegues conocidos alcanzan una autonomía acotada manteniendo un alcance limitado. Una empresa de servicios financieros ha informado de que su asistente de IA gestiona de forma autónoma una gran proporción de los chats de atención al cliente y, al mismo tiempo, ofrece vías de escalamiento inmediato a una persona para los casos complejos o sensibles.

Para quienes evalúan el creciente número de plataformas de agentes, las inversiones más importantes suelen ser organizativas, no técnicas. Las empresas deberían empezar por definir un límite claro para las soluciones listas para usar: distinguir las aplicaciones de IA que pueden desplegarse con cambios estructurales mínimos de las que requieren rediseñar de manera importante los controles y la gobernanza. También deberían considerar los permisos una cuestión central del diseño y dar a cada agente un acceso limitado y acorde con su rol. Unos umbrales claros de intervención humana deben determinar cuándo una decisión automatizada necesita supervisión, especialmente si entraña exposición financiera, obligaciones regulatorias o riesgo para la reputación. Por último, los directivos deberían medir resultados, no proyectos piloto: centrarse en indicadores operativos como la duración de los ciclos, las tasas de error y los incidentes de cumplimiento, en vez de limitarse a contar los experimentos de IA en marcha.

Conclusión

La IA generativa seguirá mejorando y los proveedores incorporarán más funciones de seguridad a sus plataformas. Pero la distancia entre una demostración impresionante y un sistema de producción fiable persistirá si las organizaciones no replantean lo que realmente exige el despliegue. Las empresas no son entornos listos para usar: son sistemas complejos moldeados por tecnologías heredadas, políticas y criterio humano. Las que tengan éxito con la IA agéntica no se limitarán a instalar más agentes. Construirán las estructuras necesarias para poder confiar en ellos.

Luis Grau

Te dejo un desafío

Elige un agente de IA que tu equipo quiera ampliar. Escribe qué tarea cumple, qué datos puede consultar y qué acciones puede ejecutar sin aprobación. Identifica quién revisará sus decisiones y qué registro permitirá explicar un error. Sitúalo en un nivel de autonomía acorde a esos controles y acuerda una prueba pequeña antes de darle más autoridad.

CompartirLinkedInFacebook
Enlace

Selecciona el enlace y usa la opción Copiar de tu dispositivo.

Correo