Pequeno conjunto modular de metal e acrílico, com conexão azul entre entrada, mecanismo central e estação de saída, ao lado de um indicador separado.

Quando um agente de IA executa uma ação, quem responde?

Delegar a execução a um agente de IA exige delimitar autoridade, intervenção e evidências: quem autorizou o compromisso e quem responde por suas consequências?

Alejandro Mayorga7 min de leitura

Um fornecedor recebe a confirmação de um pedido e começa a prepará-lo. Até aí, nada parece estranho. A compra atende a uma necessidade real, o preço está dentro do previsto e a data de entrega permite evitar um atraso. Suponhamos, porém, que a confirmação tenha sido enviada por um agente de inteligência artificial encarregado de buscar alternativas de fornecimento. Para concluir a operação, ele também comunicou ao fornecedor anterior que seus serviços não seriam mais necessários e alterou o cronograma de produção. É uma situação hipotética, mas permite formular o problema sem recorrer a uma catástrofe: mesmo quando a solução parece conveniente, ainda precisamos saber quem tinha autoridade para aprovar todos os compromissos envolvidos.

Buscar uma alternativa e assumir um compromisso em nome da empresa não são apenas graus diferentes da mesma tarefa. Entre esses momentos existe uma decisão sobre recursos e relações que outras pessoas terão de aceitar, sustentar ou corrigir. Se essa passagem fica implícita, uma boa execução pode ocultar uma delegação mal definida.

Chamarei aqui de agente um sistema de IA capaz de encadear ações por meio de ferramentas e avançar em direção a um objetivo com certa autonomia de execução. O que importa nesta análise é aquilo que ele pode fazer em nome da organização sem uma nova intervenção humana. A pergunta surge antes de qualquer falha do modelo: nasce quando alguém decide dar ao sistema acesso a operações cujas consequências ultrapassam o próprio sistema.

O que estamos realmente autorizando

O pedido do exemplo envolve várias decisões possíveis. A área de Compras pode ter autoridade para escolher um fornecedor, mas não para alterar uma prioridade de produção. Quem administra o orçamento pode aprovar uma despesa sem ter atribuição para cancelar um acordo anterior. O agente pode dispor de acesso técnico a todas essas operações e receber uma instrução que as transforma em meios para alcançar o mesmo objetivo. Não seria necessário nenhum erro de raciocínio para executar uma sequência que a pessoa responsável pela solicitação não estava autorizada a decidir sozinha. O problema estaria na forma como permissões e propósito foram reunidos às atribuições de quem fez o pedido.

Essa distinção já tem uma expressão técnica reconhecível. Em fevereiro de 2026, o National Cybersecurity Center of Excellence do NIST apresentou um documento conceitual sobre identidade e autorização de agentes de software e IA (abre em uma nova aba), levantando questões sobre identificação, acesso e auditoria. Tratava-se de uma proposta de projeto, não de uma norma obrigatória. Esses controles permitem enfrentar parte do problema; para aplicá-los à nossa compra, ainda é preciso decidir quais ações devem ser permitidas e sob quais condições. O fato de uma conta poder utilizar uma função não explica para que ela deveria poder utilizá-la.

Poderíamos autorizar o agente a reunir propostas e preparar uma comparação, deixando a compra para uma decisão posterior. Também poderíamos permitir que confirmasse pedidos dentro de um escopo conhecido, sem consultar alguém a cada operação. A autonomia útil consiste justamente em retirar intervenções que não acrescentam julgamento. Mas esse escopo precisa representar o compromisso que a empresa está disposta a assumir: talvez o agente possa repor materiais de um fornecedor aprovado, dentro de um orçamento reservado, desde que não altere uma entrega já prometida. Ao encontrar uma alternativa que exige modificar alguma dessas condições, ele terá chegado ao limite de seu mandato, mesmo que prosseguir permita cumprir melhor o objetivo inicial.

Esse limite também pode mudar enquanto o trabalho está em andamento. A Produção pode retirar a necessidade que originou o pedido, ou Compras pode suspender o uso de um fornecedor. Por isso, o desenho precisa resolver como atualizar ou revogar a autorização e o que acontece com uma operação iniciada sob condições que já não estão em vigor.

Há, além disso, compromissos que só se compreendem quando várias ações são examinadas em conjunto. Dois agentes poderiam utilizar separadamente um orçamento que ambos consideram disponível, sem que nenhum ultrapassasse seu próprio limite. E cancelar uma compra depois não necessariamente recuperaria o que o fornecedor já gastou para prepará-la. A coordenação das delegações e o momento em que seus efeitos se tornam difíceis de reverter fazem parte da mesma decisão. Não basta que cada transação pareça admissível isoladamente se a empresa não estiver disposta a sustentar o resultado do conjunto.

A pessoa que ainda pode decidir

Diante dessas dificuldades, acrescentar uma aprovação humana parece uma resposta prudente. E pode ser. Seu valor depende do que ainda está em aberto quando a solicitação chega: se o fornecedor já recebeu a confirmação, quem revisa está administrando uma consequência, não impedindo que ela ocorra. Se recebe apenas um resumo favorável, sem acesso às condições do pedido, tampouco consegue examinar aquilo pelo que lhe pedem que responda. O momento da revisão, as informações disponíveis e a possibilidade real de recusar devem ser desenhados em conjunto. Um botão de aprovação não reúne, por si só, essas condições.

A presença de uma pessoa também não garante que a atribuição de responsabilidade seja justa. Em Moral Crumple Zones (abre em uma nova aba), publicado em 2019, Madeleine Clare Elish analisou acidentes envolvendo sistemas sociotécnicos automatizados e sua repercussão pública para descrever como a responsabilidade pode recair sobre um operador com controle limitado. Seu trabalho oferece um alerta conceitual, não uma medição dos agentes empresariais atuais: podemos manter alguém visível no processo sem lhe dar meios suficientes para governá-lo.

Voltemos ao pedido. Uma investigação que termina ao identificar quem clicou em Confirmar pode deixar de examinar quem definiu a tarefa, reuniu as permissões ou decidiu que aquela revisão era suficiente. Reconstruir essa sequência não dilui a responsabilidade; permite distinguir o que cabia a cada participante decidir. A pessoa que revisa uma compra responde pelo julgamento que tinha condições de exercer. Quem autorizou o uso do agente deve ser capaz de explicar por que aquele grau de autonomia era razoável. E quem implementou os controles deve poder demonstrar que eles representam o que foi autorizado. Essas responsabilidades se relacionam, mas não se substituem: atribuí-las todas ao último nome visível tornaria desnecessário revisar as decisões anteriores.

Para examiná-las, eu preservaria evidências do mandato vigente, das autorizações aplicadas e das ações efetivamente realizadas. A explicação posterior de por que uma compra parece razoável não demonstra que ela estava permitida quando foi confirmada. Os registros deveriam permitir reconstruir essa diferença, não se limitar a oferecer um relato convincente do resultado.

Encomenda etiquetada sobre uma mesa de expedição, ao lado de uma bandeja azul.

Até aqui, o problema pode parecer interno. Para o fornecedor, porém, o que existe é um compromisso recebido da empresa. Ele não deveria precisar investigar que parte coube ao modelo, à sua configuração ou à área que o utilizou antes de encontrar alguém capaz de revisar o pedido. A organização precisa fazer essa investigação sem transferi-la ao fornecedor como condição para atendê-lo. Falo de responsabilidade organizacional; a atribuição jurídica depende das circunstâncias e das regras aplicáveis a cada caso.

Delegar mais trabalho pode ser uma boa decisão. Para que seja, precisamos conservar a capacidade de explicar o que permitimos, intervir no que continua em andamento e responder pelo que já produziu consequências. Na compra com que começamos, identificar o agente que enviou a confirmação é um dado da operação, não uma resposta suficiente para quem agiu confiando nela. Um sistema que atua em nosso nome não pode se tornar a razão pela qual deixamos de responder em nome próprio.