Agente de IA autónomo

1. Definição

Um agente de IA autónomo é um software construído em torno de um modelo de linguagem, a quem se confia uma meta em vez de um procedimento. Não se lhe descreve a sequência de operações a efetuar: diz-se-lhe o que se espera, dá-se-lhe acesso às ferramentas necessárias e deixa-se que determine como lá chegar.

A palavra «autónomo» presta-se a um mal-entendido que convém dissipar desde já. Não significa «fora de todo o controlo» nem «que decide os seus próprios objetivos». Um agente autónomo continua limitado pela missão que lhe foi fixada, pelas ferramentas que lhe foram abertas e pelos limites que lhe foram postos. A autonomia diz respeito ao caminho, nunca ao destino.

A distinção prática é simples: pergunte-se o que acontece quando a situação não é a que estava prevista. Um programa clássico para ou produz um resultado falso. Um agente constata o desvio, procura outro caminho e avisa se não encontrar nenhum. É essa capacidade de recuperação — e só ela — que justifica o termo.

2. As quatro peças de um agente

Um agente não é uma peça única, mas um conjunto. Retire uma só e volta a ser um assistente que responde.

• Um objetivo. Uma instrução que descreve um estado a atingir, não uma lista de ordens. «Fazer com que nenhuma fatura ultrapasse trinta dias de atraso sem que o cliente tenha sido interpelado» é um objetivo. «Enviar um e-mail ao cliente X» é um comando.
• Ferramentas. O que lhe permite agir sobre o mundo em vez de falar dele: ler uma caixa de correio, escrever numa base de dados, chamar um serviço, produzir um ficheiro, consultar a web. Um modelo sem ferramentas só pode produzir texto e, portanto, nada que modifique a empresa.
• Uma memória. O que sabe do seu ofício, da empresa e do que já fez. Sem ela, recomeça do zero todas as manhãs, interpela duas vezes o mesmo cliente e esquece a regra que lhe foi recordada na véspera.
• Um ciclo. O mecanismo que o leva a observar o resultado da sua ação, a compará-lo com o seu objetivo e a decidir se continua, corrige ou para. É a peça mais discreta e a mais determinante: sem ciclo não há agente, apenas uma chamada de modelo um pouco mais elaborada.

O ciclo merece mais uma palavra, porque é o que a maioria das demonstrações escamoteia. Um agente que anuncia um plano e depois para não fechou o ciclo. Um agente que executa o seu plano sem nunca olhar para o que produziu também não fechou — simplesmente foi depressa, e enganar-se-á depressa. O ciclo completo — perceber, decidir, agir, aprender — é o que transforma um modelo num trabalhador.

3. Os cinco graus de autonomia

«Autónomo» não é um interruptor mas uma escala, e a confusão entre os seus degraus explica a maioria das deceções. Uma empresa compra o grau 4 imaginando o grau 2, ou o contrário.

• Grau 1 — sugerir. O agente propõe, a pessoa faz. Um rascunho redigido, uma resposta sugerida. Nenhum risco e nenhum ganho real de tempo: o trabalho continua inteiro.
• Grau 2 — preparar. O agente produz o entregável acabado e a pessoa só tem de validar e enviar. É o grau mais rentável para começar, porque o erro é visível antes de sair da empresa.
• Grau 3 — agir abaixo de um limiar. O agente executa sozinho abaixo de um limite declarado e pede acima dele. Cobrar uma dívida de 200 € por sua conta, submeter a validação acima de 5.000 €. É o regime de cruzeiro de um sistema bem regulado.
• Grau 4 — agir e prestar contas. O agente conduz a tarefa de ponta a ponta e deixa um rasto legível. Convém ao trabalho reversível e repetitivo: classificar, triar, manter atualizado, publicar uma vigilância interna.
• Grau 5 — dirigir outros agentes. O agente divide um objetivo, distribui-o, acompanha o avanço e arbitra. Este grau só faz sentido quando os anteriores foram comprovados — confiá-lo a um sistema nunca medido equivale a multiplicar um erro desconhecido.

O grau não se escolhe de uma vez por todas: escolhe-se por tarefa. O mesmo agente pode agir sozinho na cobrança de um orçamento e pedir a aprovação de uma pessoa para conceder um desconto. Um sistema que só sabe regular a autonomia globalmente obriga a escolher entre o inútil e o imprudente.

4. O que um agente autónomo não é

Não é um chatbot. Um chatbot espera uma pergunta e devolve uma resposta; o trabalho começa depois dele, e é uma pessoa que o faz. Um agente é julgado por um resultado no mundo real: a fatura saiu, o processo está arquivado, a reunião está marcada.

Não é um automatismo nem RPA. Um automatismo segue uma sequência de etapas escritas de antemão e parte-se ao primeiro desvio — um cabeçalho de coluna que muda, um ecrã redesenhado. Um agente prossegue um objetivo e absorve o desvio. A diferença mede-se no custo de manutenção, não no dia da entrada em serviço.

Não é um copiloto. Um copiloto acelera quem está ao teclado; retire a pessoa e nada acontece. Um agente trabalha quando ninguém está a ver — o que é precisamente o seu interesse, e precisamente o que obriga a poder reler o que fez.

Não é uma inteligência geral. Um agente não tem intenção própria nem desejo de fazer outra coisa além da sua missão. Os receios de um sistema que «tomaria o controlo» erram de assunto: o risco real, banal e frequente, é um agente que executa corretamente uma instrução mal formulada, em grande escala e sem que ninguém dê por isso.

5. O que torna um agente fiável

A fiabilidade de um agente depende muito pouco do modelo que o anima e muito de quatro salvaguardas. As empresas que desistem ao fim de três meses quase nunca tiveram um problema de modelo.

• Uma fronteira declarada. A lista das ações que exigem uma aprovação humana antes da execução — comprometer dinheiro, assinar, responder a um cliente sensível, apagar. Declarada, não deixada ao critério do momento.
• Um orçamento oponível. A despesa é reservada antes da chamada ao modelo, e não constatada depois. Um limite verificado a posteriori não é um limite, é um relatório.
• Um rasto legível. O objetivo prosseguido, as informações consultadas, a ação escolhida, o seu resultado, o seu custo. Um trabalho delegado que não se pode reler torna-se um trabalho em que se deixa de confiar — e a empresa volta discretamente a fazê-lo à mão.
• O menor privilégio. Cada agente recebe apenas as ferramentas exigidas pela sua missão. Um agente de vigilância nada tem a fazer com um acesso de escrita à faturação.

Estes quatro pontos não são opções de conforto: decidem se será possível delegar mais no ano seguinte. É o tema da página sobre governação e controlo dos orçamentos.

6. Seis perguntas que denunciam um falso agente

Muitas ferramentas apresentam-se como agentes quando na realidade encadeiam chamadas de modelo sobre um carril fixo. Seis perguntas bastam para decidir, e fazem-se durante a demonstração.

• O que faz quando uma ferramenta falha? Se para de vez, é um encadeamento. Se tenta outro caminho e depois avisa, é um agente.
• Consegue repetir duas vezes a mesma etapa? Um agente a sério volta atrás e recomeça. Um carril só avança.
• Sabe o que fez ontem? Sem memória, interpelará duas vezes o mesmo cliente e esquecerá a sua correção.
• Onde é que ele para sozinho? Se não existe nenhuma ação que ele se recuse a executar sem aprovação, a fronteira não está declarada — está ausente.
• Quanto custou esta tarefa? Se o número não estiver disponível por tarefa, nenhuma decisão é possível sobre o que vale a pena delegar.
• Posso reler o seu trabalho sem o pedir a alguém? Se a resposta for não, o controlo assenta na confiança, e a confiança não escala.

A sexta é a que decide mais depressa na prática. Poder ver o que foi feito, por quem e a que preço não é um painel decorativo: é o que permite saber se o sistema trabalha ou apenas se agita.

7. Perguntas frequentes

Para saber mais

Leia a seguir: o que é um sistema agêntico, o que faz realmente um agente de IA na empresa, ou governação e controlo de orçamentos.