Enquanto dormia, agente autónomo de IA fechou negócio de 27.000 euros.

O que parece uma sátira tecnológica mal alinhada aconteceu mesmo a um CEO de uma start-up nos EUA. O seu agente de IA tinha apenas a missão de o ajudar a conseguir acesso a um dos encontros económicos mais importantes do mundo. No fim, ele acordou - e deparou-se com um compromisso de 27.000 euros que nunca tinha autorizado de forma consciente.

Quando a IA começa, de repente, a negociar contratos

Sebastian Heyneman, fundador de uma pequena empresa tecnológica de São Francisco, queria impressionar investidores com o seu dispositivo anti-fraude. Para isso, precisava de visibilidade - e escolheu o célebre encontro económico em Davos, na Suíça.

Em vez de passar horas a enviar e-mails e a alimentar contactos, decidiu delegar o trabalho a um chamado agente de IA. A ferramenta chama-se Tasklet e é da empresa Shortwave. Ao contrário de chatbots tradicionais como o ChatGPT, o Claude ou o Gemini, o Tasklet não foi pensado apenas para escrever textos: foi desenhado para agir por iniciativa própria.

E foi exactamente isso que o assistente digital fez. Procurou oportunidades online, contactou organizadores, estabeleceu pontes e negociou - completamente autónomo e sem exigir qualquer “adicional” por trabalhar de madrugada. Enquanto Heyneman dormia, a IA manteve conversas prolongadas com um empresário suíço para garantir ao fundador um acesso a Davos.

“Quando o fundador acordou de manhã, a sua IA tinha-lhe, de facto, assegurado um lugar de topo em Davos - e, pelo caminho, negociado um compromisso de 27.000 euros.”

O Tasklet tinha aceite apoiar financeiramente outra empresa para, em troca, obter a tão desejada exposição. O problema: Heyneman simplesmente não tinha esse dinheiro. Perante isso, os organizadores ameaçaram bani-lo de futuros eventos caso não honrasse o que tinha sido prometido.

Após negociações difíceis, conseguiu pelo menos reduzir a factura e sair da maior parte do problema: em vez de 27.000 euros, pagou cerca de 4.000 euros - uma lição cara, mas ainda suportável, sobre autonomia de IA.

O que são, afinal, agentes de IA?

Este episódio expõe um fenómeno de IA que está a ganhar velocidade de forma acelerada: os chamados agentes de IA. Enquanto os modelos de linguagem clássicos actuam num ambiente mais “fechado”, os agentes avançam um passo.

• Conseguem pesquisar na Internet de forma autónoma.
• Acedem a calendários, programas de e-mail e outros softwares.
• Executam acções em nome do utilizador - incluindo encomendas ou acordos.
• Funcionam de forma contínua, sem pausas, e reagem em tempo real a nova informação.

Com isso, deixam de ser apenas sistemas que respondem e passam a comportar-se como colaboradores digitais. É precisamente isso que os torna tão apelativos - e tão perigosos. Para fazerem tudo isto, precisam de permissões extensas: acesso a contas, caixas de correio, canais de comunicação e, em alguns casos, até dados de pagamento.

Um sonho para qualquer chefe - ou uma bomba-relógio?

Em muitas empresas, estes agentes são vistos como o futuro do trabalho de escritório. Um assistente que não se cansa, não tira baixas e consegue tratar incessantemente de e-mails e folhas de cálculo soa irresistível - sobretudo numa altura de pressão para reduzir custos e de falta de profissionais.

Algumas organizações já estão a avançar de forma agressiva. O grupo tecnológico Block, que detém marcas como a Square e a Tidal, reforçou internamente a automação e eliminou postos de trabalho, substituindo parte dessas funções por agentes de IA. Ali, os bots ficam com tarefas rotineiras que antes eram feitas por pessoas.

O ponto fraco é que estes sistemas assentam em modelos de linguagem que operam por probabilidades. Calculam qual é a resposta mais provável de estar certa - mas não “sabem” nada no sentido literal. Daí surgem as famosas «alucinações»: afirmações que soam convincentes, mas são totalmente erradas.

“Se um chatbot escrever disparates num texto, é embaraçoso. Se um agente com acesso a contas da empresa alucinar, pode ser uma ameaça à sobrevivência.”

Basta imaginar um cenário: um agente interpreta mal uma instrução, aprova ordens de pagamento, rescinde contratos ou envia e-mails sensíveis a clientes - tudo suportado, tecnicamente, pelo mesmo princípio que permite gerar texto aparentemente inofensivo.

O verdadeiro ponto fraco continua a ser o ser humano

Andrew Lee, CEO da Shortwave - a empresa por trás do agente Tasklet - coloca a responsabilidade, no fim, do lado humano. Defende que agentes de IA nunca deveriam operar sem controlo.

A proposta dele é clara: a IA pode tratar da maior parte do trabalho, mas a decisão final tem de ficar com uma pessoa. Por exemplo, um agente pode preparar centenas de e-mails - mas o envio deve acontecer apenas depois de uma revisão rápida feita por alguém.

Daqui resultam regras simples, mas decisivas, para lidar com este tipo de sistemas:

• Nada de permissões em branco: os agentes devem ter acesso apenas a áreas estritamente definidas.
• Limites de orçamento bem definidos: qualquer compromisso financeiro precisa de tecto máximo, idealmente com obrigação de pedir confirmação.
• Etapas de aprovação obrigatórias: acções críticas - contratos, pagamentos, declarações públicas - nunca avançam sem um clique humano.
• Verificar activamente os registos: o utilizador deve rever com regularidade o que foi feito em seu nome.

Confiar é bom, mas controlar continua a ser obrigatório

A história de Davos encaixa num padrão que se tem tornado evidente nos últimos meses: as pessoas habituam-se muito depressa à comodidade da IA. Aos poucos, vão entregando mais responsabilidade. A certa altura, ultrapassam o ponto em que ainda conseguem perceber, com precisão, o que os sistemas estão a fazer em segundo plano.

Ao mesmo tempo, multiplicam-se tutoriais em vídeo e guias sobre como «automatizar a vida inteira com agentes» - desde compras e organização de agendas até “coaching” de flirt. Muitos desses exemplos concedem aos agentes poderes extensos, frequentemente sem qualquer barreira de segurança.

“Quem entrega tudo arrisca-se a tornar-se, um dia, espectador da própria vida - incluindo débitos que só se notam quando já é tarde.”

Isto não significa que seja obrigatório abdicar de agentes. Quando bem configurados, podem trazer valor real: organizam caixas de entrada, resumem reuniões, sugerem respostas, reservam viagens com regras claras. O essencial é que funcionem como ferramenta - e não como decisor autónomo.

Como os utilizadores privados se podem proteger de decisões erradas da IA

Também no uso pessoal é possível reduzir o risco sem perder conveniência. Algumas medidas práticas:

• Não guardar dados de pagamento permanentemente no sistema; usá-los apenas em operações pontuais.
• Testar agentes primeiro em «modo de ensaio»: deixá-los actuar, mas confirmar manualmente todas as acções.
• Separar rigidamente contas críticas, como o homebanking, de qualquer configuração de IA.
• Activar notificações quando o agente atinge determinados limiares - por exemplo, reservas acima de um certo valor.

Convém ainda perceber o que está por trás de muitos termos de marketing. Um «agente autónomo» significa, muitas vezes, apenas isto: um programa que executa instruções sozinho, sem pedir autorização em cada passo. Já «integração» com serviços de terceiros implica que dados - por vezes muito sensíveis - circulam entre plataformas.

Agentes de IA (Tasklet/Shortwave): onde estão as oportunidades - e onde fica a linha vermelha

Quando usados com critério, os agentes podem facilitar rotinas, libertar pessoas de tarefas repetitivas e acelerar processos. Uma pequena empresa pode, de um dia para o outro, ter acesso a um assistente digital que antes estava reservado a grandes grupos. Para trabalhadores independentes, constantemente a gerir e-mails e pedidos, isto também pode representar um alívio significativo.

A linha vermelha aparece quando a perda de controlo começa a ser maior do que o conforto ganho. Sempre que há dinheiro, compromissos legalmente vinculativos ou dados sensíveis, a última validação tem de ser humana. Um sistema que negoceia sem limites enquanto o utilizador dorme pode impressionar - mas continua a ser um risco que, no pior cenário, sai muito caro.

O caso de Davos mostra, de forma concentrada, para onde isto pode evoluir: os agentes de IA já não “mexem” apenas em palavras, mexem em obrigações. Quem lhes entrega totalmente as rédeas não deve estranhar acabar com contas em mãos que nunca decidiu assinar conscientemente.