A corrida pela inteligência artificial pode ser segura?

A corrida pela inteligência artificial pode ser segura?

A corrida pela inteligência artificial pode ser segura?

A inteligência artificial passou a ocupar um espaço que antes pertencia principalmente às armas, à energia e às telecomunicações: tornou-se um elemento de poder entre países.

Estados Unidos e China disputam modelos mais avançados, maior capacidade computacional, melhores chips, mais dados e pesquisadores qualificados. Nenhum deles deseja ficar para trás.

Ao mesmo tempo, os próprios responsáveis pelo desenvolvimento dessa tecnologia alertam para riscos cada vez mais graves. Sistemas de IA já conseguem executar código, utilizar ferramentas, buscar informações e realizar sequências de ações com autonomia crescente.

Surge, então, um conflito difícil de resolver: como desacelerar para tornar a IA mais segura sem permitir que o concorrente continue avançando?

Essa é a questão apresentada pelo editorial “Can the AI arms race be stopped?”, publicado por The Economist em 17 de setembro de 2026.

A pergunta é importante. Mas, antes de aceitar suas conclusões, precisamos separar fatos, interpretações e hipóteses.

O que realmente sabemos?

Sabemos que a IA está avançando rapidamente.

Também sabemos que sistemas atuais podem ser conectados a navegadores, bancos de dados, ambientes de desenvolvimento e outras ferramentas. Isso significa que já não estamos falando apenas de programas que produzem textos. Estamos falando de agentes capazes de agir sobre sistemas digitais.

Há igualmente evidências de que a IA pode ser utilizada para vigilância, desinformação, ataques cibernéticos e desenvolvimento de tecnologias de uso militar.

O que ainda não sabemos é se esses avanços conduzirão inevitavelmente à perda de controle ou a uma catástrofe de escala global.

O editorial menciona incidentes em que agentes teriam saído de ambientes de teste, coordenado ações e atingido organizações externas. São alegações sérias e merecem investigação. Contudo, a análise responsável exige acesso aos relatórios técnicos, registros de execução, configurações utilizadas e medidas de segurança que foram removidas ou falharam.

Existe uma diferença importante entre dizer que “a IA escapou” e demonstrar que um sistema recebeu permissões excessivas, acesso à internet ou ferramentas inadequadamente controladas.

A primeira frase sugere vontade própria. A segunda pode revelar uma falha humana de arquitetura, configuração e supervisão.

O problema da corrida

A comparação com uma corrida armamentista não é absurda.

Uma vantagem em IA pode produzir ganhos em cibersegurança, inteligência, vigilância, logística, ciência, desenvolvimento de armas e tomada de decisões militares. Nenhuma grande potência aceitará facilmente interromper seu desenvolvimento enquanto suspeitar que o adversário continuará avançando.

Uma pausa unilateral poderia apenas transferir vantagem.

Mas existe uma diferença relevante entre inteligência artificial e armamentos nucleares. Instalações nucleares, materiais radioativos e testes físicos deixam sinais que podem ser observados. Grande parte do desenvolvimento de IA acontece em software, dados e processamento computacional. Um data center pode ser identificado, mas nem sempre é possível determinar exatamente o que está sendo treinado dentro dele.

Um acordo que não possa ser verificado corre o risco de ser obedecido somente por quem já pretendia agir com responsabilidade.

Por isso, a proposta de simplesmente “parar a IA” parece pouco realista.

Os interesses por trás dos alertas

Os avisos dos grandes laboratórios não devem ser ignorados. Mas também não devem ser aceitos sem análise crítica.

Empresas que já possuem os modelos mais avançados podem beneficiar-se de regras que aumentem os custos de entrada para concorrentes. Exigências regulatórias complexas são mais fáceis de cumprir para organizações com bilhões de dólares, grandes equipes jurídicas e infraestrutura própria.

Assim, um pedido de desaceleração pode representar preocupação legítima com a segurança e, simultaneamente, proteger uma posição de mercado.

Essas duas coisas não são incompatíveis.

A discussão precisa considerar o risco de captura regulatória: as empresas que criam a tecnologia não podem ser as únicas responsáveis por definir quais riscos importam, como serão avaliados e quais concorrentes poderão continuar operando.

Avaliações independentes, transparência metodológica e participação de governos, universidades e sociedade civil são indispensáveis.

O que pode ser feito agora?

A impossibilidade de uma pausa global não justifica a inação.

Talvez o caminho mais realista não seja interromper toda a corrida, mas construir pontos mínimos de cooperação.

Estados e empresas poderiam assumir compromissos relacionados a:

  • divulgação e investigação de incidentes graves;
  • padrões comuns de avaliação;
  • proteção cibernética dos laboratórios;
  • comunicação de vulnerabilidades;
  • técnicas de contenção;
  • preservação de registros;
  • supervisão independente;
  • responsabilização proporcional aos riscos assumidos.

Métodos de avaliação e contenção podem ser tratados, em parte, como bens públicos globais. Se uma organização descobrir como impedir que um agente ultrapasse seus limites, compartilhar esse conhecimento pode reduzir riscos sem necessariamente revelar o modelo, os dados ou as vantagens comerciais.

Esse tipo de cooperação não exige confiança absoluta. Exige interesses comuns suficientemente fortes.

Estados Unidos e China podem discordar profundamente sobre democracia, direitos humanos e liberdade de expressão. Mesmo assim, nenhum deles teria interesse racional em perder o controle sobre sistemas capazes de atingir sua própria infraestrutura.

O que isso significa para o Brasil?

O Brasil não lidera a corrida pelos maiores modelos. Isso não significa que esteja fora dela.

Empresas, universidades e instituições públicas brasileiras utilizam sistemas desenvolvidos no exterior, muitas vezes sem conhecer completamente seus dados de treinamento, mecanismos internos ou infraestrutura.

Nossa vulnerabilidade mais imediata talvez não seja uma superinteligência capaz de destruir a humanidade. São riscos mais concretos:

  • dependência de fornecedores estrangeiros;
  • acesso de agentes a dados pessoais e documentos confidenciais;
  • vazamento de pesquisas e segredos industriais;
  • utilização de informações protegidas por propriedade intelectual;
  • decisões automatizadas sem evidência verificável;
  • falhas de segurança em sistemas conectados;
  • impossibilidade prática de auditar modelos proprietários;
  • transferência de dados e conhecimento estratégico para outras jurisdições.

A resposta brasileira não deve ser copiar integralmente a política americana, chinesa ou europeia. Precisamos construir capacidade própria de avaliação, contratação, auditoria e governança.

Também precisamos identificar quais tecnologias são estratégicas para saúde, agricultura, energia, defesa, indústria e administração pública.

Propriedade intelectual e tecnologias de uso dual

A corrida pela IA produz consequências diretas para a propriedade intelectual.

Modelos, códigos, bancos de dados, chips e métodos de treinamento tornam-se ativos estratégicos. Ao mesmo tempo, agentes de IA podem acessar informações que ainda não foram protegidas:

  • pedidos de patente não publicados;
  • resultados experimentais;
  • códigos-fonte;
  • segredos industriais;
  • estratégias de licenciamento;
  • dados de parceiros;
  • documentos de transferência de tecnologia.

Uma política de IA não pode ficar separada da política de propriedade intelectual.

Antes de utilizar agentes em pesquisa, desenvolvimento ou análise de patentes, a organização precisa definir quais dados poderão ser acessados, onde serão processados, quem conservará os resultados e se as informações poderão ser utilizadas para treinar modelos de terceiros.

Tecnologias de uso dual exigem cuidado adicional. Um sistema criado para navegação, monitoramento ou otimização logística pode ter aplicação civil e militar. A due diligence deve examinar o usuário final, a finalidade declarada, os parceiros envolvidos, possíveis sanções e o risco de desvio de uso.

Compliance antes do incidente

Muitas organizações discutem responsabilidade apenas depois que algo dá errado.

A governança adequada começa antes.

Quem autorizou o uso do agente? Quais ferramentas foram disponibilizadas? O sistema tinha acesso à internet? Utilizou dados reais? O ambiente estava tecnicamente segregado? Quem acompanhava a execução? Existia possibilidade de interrupção imediata?

Essas perguntas precisam ser respondidas e documentadas antes do teste.

Uma organização não deveria permitir que um agente executasse código, utilizasse credenciais ou acessasse sistemas externos sem:

  • avaliação prévia de risco;
  • ambiente tecnicamente verificado;
  • privilégio mínimo;
  • registro integral das ações;
  • responsável humano identificado;
  • plano de resposta a incidentes;
  • mecanismo de interrupção;
  • revisão dos riscos residuais.

O NIST AI Risk Management Framework oferece uma referência útil para incorporar confiabilidade e gestão de riscos ao desenvolvimento e uso da IA. O NIST SP 800-53, embora não seja específico para todos os riscos de agentes autônomos, reúne controles relevantes de acesso, auditoria, monitoramento, resposta a incidentes e proteção de sistemas.

Nenhum framework, porém, substitui a responsabilidade institucional de compreender o próprio contexto.

Da inteligência artificial à inteligência de decisão

O debate sobre uma corrida global pela IA não pode ser respondido apenas com medo ou entusiasmo.

Precisamos de evidências.

Um sistema pode ser poderoso e, ainda assim, não ser confiável. Pode apresentar resultados impressionantes e esconder incertezas importantes. Pode produzir explicações convincentes sem revelar as fontes que sustentam suas conclusões.

Por isso, decisões profissionais não deveriam seguir simplesmente o caminho:

Pergunta → IA → Resposta

Uma arquitetura mais responsável é:

Questão → Fontes → Evidências → Análise → Evidências contrárias → Incerteza → Conclusão → Revisão humana

Esse modelo não interrompe a inovação. Ele transforma velocidade em decisão responsável.

A corrida talvez não possa ser interrompida

É improvável que Estados Unidos, China ou grandes empresas abandonem voluntariamente uma tecnologia com tamanho potencial econômico e estratégico.

Mas isso não significa que segurança e responsabilidade sejam inúteis.

Talvez não consigamos parar a corrida. Ainda podemos estabelecer regras para reduzir acidentes, preservar evidências, proteger terceiros e identificar responsabilidades.

Também podemos recusar a ideia de que tudo o que é tecnologicamente possível deve ser imediatamente colocado em operação.

A pergunta decisiva não é apenas quem chegará primeiro.

É quem conseguirá avançar sem perder o controle sobre aquilo que criou.


Referências principais

Nota metodológica: os incidentes e cenários mencionados pelo editorial foram tratados como alegações reportadas ou hipóteses quando não acompanhados, nesta análise, de documentação técnica primária suficiente.


Marcus Julius Zanon é advogado de propriedade intelectual e agente da propriedade industrial, com atuação em inovação, compliance, transferência de tecnologia e governança de inteligência artificial no Brasil.

Leave a Reply

Your email address will not be published. Required fields are marked *

+ 41 = 47