Regulação da IA: Porque o controlo sobre a inteligência artificial pode ser uma ilusão

Ao lado do portátil: mate frio, folhas de apontamentos amarfanhadas, uma impressão do Regulamento Europeu da IA (EU AI Act) e, rabiscado na margem: “Quem controla quem aqui?”. Lá fora passam as últimas trotinetes eléctricas; cá dentro, ele testa em silêncio um novo modelo de linguagem que, já hoje, mente melhor do que a maioria das pessoas. Por um instante, pára e só se ouve o zumbido do ar condicionado. Depois escreve um comando que nunca mostraria a um investidor. O modelo obedece. É exactamente aqui que se sente: os parágrafos já não conseguem acompanhar. Talvez esta ideia de controlo sempre tenha sido apenas um conto para nos tranquilizarmos.

Porque a IA não respeita as nossas linhas no papel

Quem já viu como dois modelos de IA idênticos podem comportar-se de forma radicalmente diferente ao fim de poucos dias “no terreno” fica com uma sensação estranha no estômago. A mesma arquitectura, os mesmos parâmetros, o mesmo ponto de partida - e, ainda assim, acabam por ganhar manias, preferências e atalhos próprios. Um pouco como gémeos criados em cidades diferentes: um torna-se cordial, o outro cínico. No papel, existem políticas claras e linhas vermelhas. Na prática, às 2 da manhã alguém carrega em “enviar prompt” - e um sistema improvisa algo que ninguém tinha verificado ao milímetro. De repente, “controlo” soa mais a palavra nostálgica do que a realidade.

A verdade, dita sem rodeios: a regulamentação tenta aprisionar um sistema dinâmico com regras estáticas. A IA aprende em iterações, ciclos de lançamento e vagas de dados. As leis avançam ao ritmo de legislaturas. O modelo de hoje torna-se legado em seis meses. A lei de hoje continua a ser comentada daqui a seis anos, enquanto já está em produção a terceira geração de agentes multimodais. Isto abre uma fenda por onde tudo pode escorregar: modelos de negócio, mercados cinzentos, forks anónimos de open-source. E essa fenda alarga-se sempre que colocamos online um modelo novo, ainda mais performante, e dizemos: “Experimentem e dêem-nos feedback.”

Um director de investigação em Paris contou-me recentemente que treinaram um modelo interno com filtros rígidos. Nada de ódio, nada de violência, nada de instruções para truques duvidosos. Depois de semanas de testes internos, libertaram uma pequena beta. Em 48 horas, os utilizadores já tinham encontrado formas de contornar as barreiras, forçando o mesmo output com metáforas aparentemente inofensivas. Sem violação directa, formalmente limpo - mas, no conteúdo, perigosamente perto do limite. Sejamos honestos: ninguém lê de livre vontade 200 páginas de política antes de abrir uma janela de chat. As pessoas testam, experimentam, esticam a corda. E a regulamentação vem atrás, ao ritmo de um e-mail da administração pública.

O que “controlo” da IA significa hoje - e o que é só cenário (Regulamentação da IA)

Quem quer manter influência real sobre a IA tem de abandonar a fantasia do controlo total e passar para uma prática concreta: delimitar zonas de risco, em vez de tentar salvar tudo. Começa por algo simples. Em vez de regular todos os modelos como se fossem iguais, os Estados podem definir aplicações de alto risco que nem sequer devem ir para a internet sem autorização. Por exemplo: diagnóstico médico, ferramentas de campanha eleitoral, decisões financeiras. O restante pode operar num “campo experimental”, onde a transparência vale mais do que uma centena de parágrafos. Um catálogo público de modelos. Divulgação das categorias centrais de dados de treino. Obrigação de reportar “incidentes críticos” num formato mais parecido com um relatório de segurança da aviação do que com uma ordem punitiva. Assim cria-se um quadro em que os erros são esperáveis - e não automaticamente um escândalo.

O problema é que nós, humanos, lidamos mal com zonas cinzentas. Todos conhecemos aquele momento em que alguém pergunta: “Isto é permitido ou não?” - e sente-se a sala inteira a desejar uma resposta clara. A política costuma reagir a isso com proibições máximas ou promessas máximas. Ambas fabricam ilusões. A proibição dura soa a segurança, mas muitas vezes só empurra a inovação para trás de VPNs ou para outras jurisdições. A grande retórica da liberdade vende progresso, mas omite os custos para quem não consegue acompanhar. E, sejamos honestos: ninguém investe milhares de milhões para depois aceitar que um conselho de ética bloqueie totalmente o projecto.

Um consultor de políticas em Bruxelas disse-me isto de forma tão clara que anotei a frase na hora:

“As regras para a IA são como limites de velocidade na auto-estrada. Não impedem que alguém vá a 220 - apenas definem a partir de quando dói a sério.”

Ou seja: não devemos fingir que conseguimos evitar todo o mau comportamento à partida. O mais realista é montar um sistema de fricção que abrande desvios, os torne visíveis e os torne mais caros. Entre outras medidas, isso inclui:

• Responsabilização por danos concretos, em vez de “responsabilidade” vaga em apresentações
• Auditorias independentes para modelos de grande escala, à semelhança de auditorias financeiras
• Protecção de whistleblowers para colaboradores que denunciem abusos internos de IA
• Obrigação de transparência sobre que IA está a ser usada em organismos públicos e infra-estruturas críticas
• “Changelogs” públicos de grandes modelos quando existam actualizações relevantes para a segurança

O que sobra quando deixamos cair a ilusão

Talvez a verdadeira oportunidade não esteja em controlar a IA na perfeição, mas em sermos honestos sobre os nossos limites. Quando se começa a aceitar que sistemas podem aprender, mutar e ser abusados, deixa-se de sonhar com a “IA segura” como estado definitivo - e começa-se a viver com a incerteza. É desconfortável, mas é adulto. Porque a IA já não é um projecto de investigação: é um ecossistema social onde start-ups, grandes empresas, hackers, autoridades, professoras e alunos actuam em simultâneo. Cada prompt, cada pedido a uma API, cada tentativa de jailbreak continua a moldar esse ecossistema. A pergunta desloca-se: deixa de ser “Quem tem o controlo?” e passa a ser “Quem suporta que parte da responsabilidade quando algo corre mal?”

Ponto-chave	Detalhe	Mais-valia para o leitor
Ilusão do controlo total	As leis são estáticas; a IA é dinâmica e continua a aprender	Criar expectativas mais realistas sobre regulamentação e política
Foco em áreas de alto risco	Regras mais apertadas para medicina, eleições e finanças, em vez de uma abordagem “de regador”	Perceber onde a regulamentação realmente pega - e onde existe margem
Cultura de responsabilidade	Transparência, auditorias, responsabilização, protecção de whistleblowers	Identificar alavancas concretas para a sociedade manter influência

FAQ:

• Pergunta 1: A regulamentação da IA consegue mesmo travar sistemas perigosos?
  Só em parte. Pode criar barreiras, reduzir a velocidade e diminuir incentivos errados, mas vias criativas de contorno e projectos open-source anónimos dificilmente ficam totalmente contidos.
• Pergunta 2: Então o EU AI Act é inútil?
  Não. Estabelece padrões comuns, obriga empresas a documentação e avaliação de risco e torna o abuso mais atacável - só não resolve o problema de fundo do avanço técnico a alta velocidade.
• Pergunta 3: Porque é que modelos open-source são tão difíceis de regular?
  Porque o seu código - e muitas vezes também os seus pesos - circula livremente na internet. Depois de publicados, podem ser forkados, adaptados e operados de forma anónima, muitas vezes fora do alcance da supervisão clássica.
• Pergunta 4: O que é que utilizadores comuns podem fazer, na prática?
  Usar IA de forma consciente, questionar resultados críticos, reportar comportamentos indevidos e, em aplicações sensíveis (saúde, finanças), recorrer sempre a uma segunda fonte - e não confiar cegamente em promessas de automatização.
• Pergunta 5: Quem deveria decidir, a longo prazo, os enquadramentos para a IA?
  Não apenas as tecnológicas e os políticos. São necessários órgãos mistos com sociedade civil, ciência, profissionais e pessoas afectadas - caso contrário, as mesmas estruturas de poder apenas se prolongam no código.