História da IA / Era IX
Agentes Inteligentes
“Agente” é um termo antigo na inteligência artificial. Sua forma atual — modelos de linguagem conectados a ferramentas — retoma perguntas clássicas sobre percepção, decisão e ação, mas acrescenta novos riscos operacionais.
Em poucas palavras
Em IA, um agente é geralmente descrito como um sistema situado em um ambiente, capaz de perceber condições e realizar ações orientadas a objetivos. Autonomia não é um interruptor: existem graus de liberdade, supervisão e acesso a recursos.
Uma ideia anterior aos modelos de linguagem
Entre 1966 e 1972, o SRI desenvolveu Shakey, robô móvel que combinava percepção, planejamento e execução de tarefas simples em um ambiente controlado. Ele não foi o primeiro sistema autônomo sob todos os critérios possíveis, mas tornou-se um marco documentado da integração entre raciocínio simbólico, sensores e ação física.
Em 1996, Stan Franklin e Art Graesser mapearam diferentes usos da palavra “agente” e propuseram uma taxonomia. A divergência terminológica importa: um programa reativo, um assistente que solicita confirmação e um sistema autorizado a executar transações não oferecem o mesmo tipo de autonomia ou risco.
A geração conectada a ferramentas
Com modelos de linguagem, a pesquisa passou a combinar produção de texto, raciocínio intermediário e ações externas. O método ReAct, publicado inicialmente em 2022, intercalou traços de raciocínio e ações em diferentes tarefas. O Toolformer investigou como um modelo poderia aprender a chamar ferramentas por meio de exemplos gerados. São pesquisas específicas, não prova de autonomia geral.
Na prática, “agente” pode designar desde um fluxo predefinido até um sistema que escolhe dinamicamente etapas e ferramentas. A distinção entre workflow e agente é útil, mas não universal. Uma descrição séria deve informar objetivo, permissões, memória, ferramentas, supervisão, possibilidade de reversão e método de avaliação.
Quando a ação amplia o risco
Um chatbot pode produzir uma resposta incorreta; um agente com acesso a e-mail, arquivos ou pagamentos pode transformar o erro em ação. Ataques de injeção de instruções, conteúdo externo malicioso, uso indevido de credenciais e ciclos sem controle exigem isolamento de privilégios, confirmações para operações sensíveis, registros e limites de execução.
O NIST mantém avaliações sobre sequestro de agentes. Como produtos e avaliações mudam rapidamente, afirmações contemporâneas precisam ser revalidadas antes de uma atualização futura deste artigo.
Interpretação ECOS
Para o ECOS, a medida relevante não é quanto um agente parece humano, mas quanto seu trabalho pode ser inspecionado, interrompido e corrigido. Essa é uma posição editorial, não uma definição histórica consensual.
Fontes para conferir
O que levar desta leitura
- Agentes não começaram com modelos de linguagem.
- Autonomia deve ser descrita por capacidades e permissões concretas.
- Quanto maior o poder de ação, maior a necessidade de controle e auditoria.