Agentes de IA não são apenas uma nova maneira de conversar com um computador. Quando recebem acesso a ferramentas, podem consultar pedidos, preparar comunicações, atualizar cadastros e encadear tarefas. A diferença comercial parece pequena — uma experiência mais rápida —, mas a diferença operacional é grande: uma resposta deixa de ser apenas informação e passa a produzir efeitos em sistemas reais.
Este guia explica como avaliar agentes de IA no trabalho sem confundir autonomia com qualidade. Os exemplos são hipotéticos, não resultados de clientes da GM Tecnologia. As referências são o NIST AI Risk Management Framework e o OWASP Top 10 para aplicações com modelos de linguagem.
Chatbot e agente: observe a capacidade, não o nome
Um chatbot de perguntas e respostas recebe uma solicitação, eventualmente consulta documentos e devolve texto. A pessoa decide o que fazer. Um agente pode selecionar ferramentas, executar operações e usar o resultado de uma etapa para decidir a próxima. A fronteira não está na aparência da conversa: está nas permissões e nas consequências das ações.
Um produto chamado chatbot pode, portanto, apresentar riscos de agente se envia mensagens ou altera informações. Da mesma forma, um assistente chamado agente pode ter apenas acesso de leitura. Antes de contratar, peça ao fornecedor uma demonstração das ferramentas disponíveis, dos limites de cada operação e do que acontece quando uma tarefa falha.
Também é errado supor que respostas de chatbots não geram danos. Uma orientação incorreta sobre saúde, crédito ou procedimento administrativo pode afetar pessoas mesmo sem acesso de escrita. Agentes acrescentam outra camada de risco: a execução automática e, em alguns casos, difícil de desfazer.
O que a OWASP chama de autonomia excessiva
O risco LLM06:2025, Excessive Agency, descreve problemas causados por funcionalidades, permissões ou autonomia maiores que as necessárias. Essa divisão é útil para revisar propostas técnicas sem depender de frases vagas como “nossa IA é segura”.
Funcionalidade excessiva acontece quando o sistema recebe ferramentas desnecessárias. Um agente que resume chamados não precisa excluir usuários. Permissão excessiva aparece quando uma ferramenta usa credenciais amplas demais: leitura de um pedido não exige acesso administrativo ao banco inteiro. Autonomia excessiva ocorre quando ações relevantes são executadas sem os controles compatíveis com seu impacto.
A defesa não é escrever uma instrução pedindo cuidado ao modelo. Permissões precisam ser verificadas pela aplicação que executa a ferramenta. O servidor deve recusar uma operação fora do escopo, mesmo que a IA a solicite com uma justificativa convincente. O modelo não deve ser a autoridade final de acesso.
Um fluxo hipotético de atendimento
Imagine um agente que ajuda a analisar pedidos de reembolso. Ele consulta o pedido, encontra a política aplicável, prepara um resumo e sugere uma providência. Essa primeira versão pode operar em modo de leitura e rascunho, sem movimentar dinheiro.
O próximo passo não deveria ser liberar qualquer estorno. Antes, a empresa define quais situações são elegíveis, quem aprova exceções, quais evidências são obrigatórias e como o pagamento será conciliado. O agente entrega a proposta; uma autorização separada permite a execução.
Se o pedido estiver duplicado, a ferramenta precisa impedir dois estornos. Se a resposta do serviço de pagamento atrasar, repetir a chamada sem verificação pode duplicar uma ação que já aconteceu. Identificadores de operação e consulta de estado são controles de negócio importantes, não detalhes invisíveis de programação.
Governança com as quatro funções do NIST
O NIST AI RMF 1.0, publicado em janeiro de 2023, organiza a gestão de riscos em Govern, Map, Measure e Manage. É uma referência voluntária, não uma lei brasileira nem uma certificação automática.
Na prática, Govern significa definir responsáveis e aprovação de mudanças. Quem autoriza conectar o agente ao financeiro? Quem pode suspendê-lo? Map envolve registrar contexto, pessoas afetadas, dados acessados e consequências previsíveis de erros.
Measure exige avaliação: a resposta estava correta? A ferramenta escolhida era adequada? O agente insistiu numa ação depois de uma negativa? Manage transforma descobertas em providências: reduzir permissões, bloquear um cenário, melhorar a base de conhecimento ou manter uma atividade exclusivamente humana.
Essas funções não precisam virar um comitê pesado para cada teste. Precisam produzir decisões verificáveis. Um documento curto com proprietário, escopo, riscos e critérios de aprovação costuma ser mais útil que uma apresentação extensa sem responsáveis.
Que autonomia liberar em cada situação
A tabela apresenta recomendações de projeto, não obrigações jurídicas universais. A avaliação deve considerar setor, dados tratados e impacto da operação.
| Atividade | Primeira implantação recomendada | Controle decisivo |
|---|---|---|
| Resumir documentos públicos | Leitura e resposta com fontes | Conferir interpretação e versão |
| Preparar e-mail ao cliente | Rascunho | Aprovação antes do envio |
| Atualizar cadastro comercial | Escopo restrito | Validação de campos e auditoria |
| Executar pagamento | Proposta separada da execução | Autorização e conciliação |
| Excluir dados ou mudar acessos | Revisão especializada | Privilégio mínimo e recuperação |
Como testar antes de colocar em produção
Monte um conjunto de situações reais autorizadas ou dados sintéticos. Inclua casos simples e exceções: pedido sem identificação, informação contraditória, documento desatualizado, ferramenta indisponível e instrução maliciosa dentro de um anexo.
Avalie a tarefa completa, não apenas a fluência do texto. Um resumo elegante não compensa consultar o cliente errado. Registre se a ação foi apropriada, quais dados foram usados, se houve aprovação e qual resultado retornou. Quando o agente não encontra evidência, a resposta esperada pode ser interromper e encaminhar, não inventar uma conclusão.
Comece com operação acompanhada e escopo limitado. Compare com a rotina anterior usando dados da própria empresa. Não aceite percentuais genéricos de economia como prova de retorno no seu contexto. O esforço de revisão humana, o custo de uso e a resolução de falhas também fazem parte do resultado.
Logs úteis e proteção de dados
A trilha de auditoria deve relacionar solicitação, ferramenta, autorização e resultado. Guardar tudo indiscriminadamente, porém, pode aumentar exposição de informações pessoais. Defina quem acessa os registros, por quanto tempo serão mantidos e como serão removidos quando não necessários.
Evite registrar credenciais, conteúdo confidencial sem necessidade ou cópias completas de documentos em múltiplos lugares. Uma investigação precisa de evidência suficiente, mas não de uma segunda base sem governança. A proteção de dados deve acompanhar o desenho do fluxo, inclusive em ambientes de teste.
Perguntas frequentes
Agentes substituem qualquer processo de aprovação? Não. Autonomia deve corresponder ao risco e à reversibilidade; ações críticas pedem controles adicionais definidos pela organização.
Mais ferramentas deixam o agente melhor? Não necessariamente. Cada ferramenta adiciona possibilidades de erro e acesso. Disponibilize apenas o necessário para a tarefa.
Um log prova que a ação foi segura? Ele ajuda a investigar, mas não evita o dano sozinho. Limites e verificações anteriores à execução são igualmente importantes.
Por onde começar? Escolha uma tarefa pequena, defina critérios de aceitação e mantenha a primeira versão em leitura ou rascunho.
Próximo passo
A decisão estratégica não é “ter um agente”, mas escolher uma operação que mereça automação e possa ser controlada. Conheça os serviços de software e automação da GM Tecnologia e converse sobre seu processo antes de ampliar permissões.
Fontes e referências
Imagem de capa ilustrativa, gerada por IA; não retrata uma implementação ou cliente real.