Pequeño sistema modular de metal y acrílico; un cable azul une una unidad de entrada con un mecanismo central y una estación de salida, junto a un indicador separado.

Cuando un agente de IA ejecuta, ¿quién responde?

Delegar ejecución a un agente de IA exige delimitar autoridad, intervención y evidencia: quién autorizó el compromiso y quién responde por sus efectos.

Alejandro Mayorga7 min de lectura

Un proveedor recibe la confirmación de un pedido y comienza a prepararlo. Hasta ahí, nada parece extraño. La compra responde a una necesidad real, el precio está dentro de lo previsto y la fecha permite evitar un retraso. Supongamos, sin embargo, que la confirmación la envió un agente de inteligencia artificial al que se había encargado buscar alternativas de suministro. Para cerrar la operación, también comunicó al proveedor anterior que sus servicios ya no serían necesarios y modificó el calendario de producción. Es una situación hipotética, pero permite formular el problema sin recurrir a una catástrofe: incluso cuando la solución parece conveniente, queda por saber quién podía autorizar todos los compromisos que contiene.

Buscar una alternativa y comprometer a la empresa no son distintos grados de una misma tarea. Entre ambos momentos hay una decisión sobre recursos y relaciones que otras personas tendrán que aceptar, sostener o corregir. Si ese paso queda implícito, una buena ejecución puede ocultar una delegación mal definida.

Llamaré aquí agente a un sistema de IA habilitado para encadenar acciones mediante herramientas y avanzar hacia un objetivo con cierto margen de ejecución. Lo relevante para este análisis es qué puede hacer en nombre de la organización sin una nueva intervención humana. La pregunta comienza antes de cualquier fallo del modelo: nace cuando alguien decide darle acceso a operaciones que producen consecuencias fuera del propio sistema.

Lo que estamos autorizando

En el pedido del ejemplo hay varias decisiones posibles. Compras puede estar facultada para elegir un proveedor, pero no para modificar una prioridad de producción. Quien administra el presupuesto puede aprobar un gasto sin tener atribuciones para cancelar un acuerdo anterior. El agente podría disponer de acceso técnico a todas esas operaciones y recibir una instrucción que las vuelve instrumentales al mismo objetivo. Ningún error de razonamiento sería necesario para que ejecutara una secuencia que el solicitante no estaba autorizado a decidir por sí solo. El problema estaría en cómo se reunieron los permisos, el propósito y las atribuciones de quien hizo el encargo.

La distinción ya tiene una expresión técnica reconocible. En febrero de 2026, el Centro Nacional de Excelencia en Ciberseguridad del NIST presentó un documento conceptual sobre identidad y autorización de agentes de software e IA (se abre en una nueva pestaña), con preguntas sobre identificación, acceso y auditoría. Era una propuesta de proyecto, no una norma obligatoria. Esos controles permiten trabajar sobre una parte del problema; para aplicarlos a nuestra compra todavía hace falta decidir qué acciones deben estar permitidas y bajo qué condiciones. Que una cuenta pueda utilizar una función no explica para qué debe poder utilizarla.

Podríamos autorizar al agente a recopilar ofertas y preparar una comparación, dejando la compra pendiente de una decisión posterior. También podríamos permitirle confirmar pedidos dentro de un ámbito conocido, sin volver a consultar cada operación. La autonomía útil consiste precisamente en retirar intervenciones que no aportan criterio. Pero ese ámbito necesita representar el compromiso que la empresa está dispuesta a asumir: quizá el agente pueda reponer materiales de un proveedor aprobado, dentro de un presupuesto reservado, siempre que no altere una entrega comprometida. Cuando encuentre una opción que exige cambiar alguna de esas condiciones, habrá llegado al límite del mandato, aunque continuar le permita cumplir mejor el objetivo inicial.

El límite también puede desplazarse mientras el trabajo está en curso. Producción podría retirar la necesidad que originó el pedido o compras suspender el uso de un proveedor. Por eso, el diseño debe resolver cómo se actualiza o revoca lo autorizado, y qué ocurre con una operación iniciada bajo condiciones que ya no siguen vigentes.

Hay, además, compromisos que solo se comprenden al reunir varias acciones. Dos agentes podrían consumir por separado un presupuesto que ambos consideran disponible, sin que ninguno supere su propio límite. Y cancelar después una compra no necesariamente recuperaría lo que el proveedor ya gastó en prepararla. La coordinación de las delegaciones y el momento en que sus efectos se vuelven difíciles de revertir forman parte de la misma decisión. No basta con que cada transacción parezca admisible por separado si la empresa no está dispuesta a sostener el resultado del conjunto.

La persona que todavía puede decidir

Ante esas dificultades, añadir una aprobación humana parece una respuesta prudente. Puede serlo. Su valor depende de lo que siga abierto cuando llega la solicitud: si el proveedor ya recibió la confirmación, quien revisa está gestionando una consecuencia, no evitando que ocurra. Si recibe únicamente un resumen favorable, sin acceso a las condiciones del pedido, tampoco puede examinar aquello por lo que se le pide responder. El lugar de la revisión, la información disponible y la posibilidad de rechazar deben diseñarse juntos. Un botón de aprobación no reúne por sí mismo esas condiciones.

La presencia de una persona tampoco garantiza que la atribución de responsabilidad sea justa. En Moral Crumple Zones (se abre en una nueva pestaña), publicado en 2019, Madeleine Clare Elish analizó accidentes en sistemas sociotécnicos automatizados y su cobertura pública para describir cómo la responsabilidad puede recaer sobre un operador con control limitado. El trabajo ofrece una advertencia conceptual, no una medición de los agentes empresariales actuales: podemos conservar a alguien visible en el proceso sin haberle dado medios suficientes para gobernarlo.

Volvamos entonces al pedido. Una investigación que termina al identificar a quien pulsó confirmar puede dejar sin examinar a quienes definieron el encargo, reunieron los permisos o decidieron que aquella revisión era suficiente. Reconstruir esa secuencia no diluye la responsabilidad; permite distinguir qué correspondía decidir a cada participante. La persona que revisa una compra responde por el juicio que estaba en condiciones de ejercer. Quien autorizó el uso del agente debe poder explicar por qué ese margen de ejecución era razonable. Y quien implementó los controles debe poder mostrar que representan lo autorizado. Las responsabilidades se relacionan, pero no se sustituyen: atribuirlas todas al último nombre visible haría innecesario revisar las decisiones anteriores.

Para poder examinarlas, conservaría evidencia del mandato vigente, de las autorizaciones aplicadas y de las acciones efectivamente realizadas. La explicación posterior de por qué una compra parece razonable no demuestra que estuviera permitida cuando se confirmó. Los registros deberían permitir reconstruir esa diferencia, no limitarse a ofrecer un relato convincente del resultado.

Paquete etiquetado en una mesa de despacho junto a una bandeja azul.

Hasta aquí, el problema puede parecer interno. Para el proveedor, sin embargo, lo que existe es un compromiso recibido de la empresa. No debería tener que investigar qué parte correspondió al modelo, a su configuración o al área que lo utilizó antes de encontrar a alguien capaz de revisar el pedido. La organización necesita hacer esa investigación sin trasladársela como condición para atenderlo. Hablo de responsabilidad organizacional; la atribución jurídica requiere considerar las circunstancias y las reglas aplicables a cada caso.

Delegar más trabajo puede ser una buena decisión. Para que lo sea, necesitamos conservar la capacidad de explicar qué permitimos, intervenir sobre lo que sigue en curso y responder por lo que ya produjo efectos. En la compra con la que comenzamos, identificar al agente que envió la confirmación es un dato de la operación, no una respuesta suficiente para quien actuó confiando en ella. Un sistema que actúa en nuestro nombre no puede convertirse en la razón por la que dejamos de responder en el nuestro.