A corrida militar pela inteligência artificial aproximou o mundo de uma fronteira que as Nações Unidas e o Comitê Internacional da Cruz Vermelha consideram inaceitável: permitir que uma máquina decida, sem intervenção humana, quem deve morrer. Em um apelo conjunto divulgado nesta terça-feira, 25 de agosto, o secretário-geral da ONU, António Guterres, e a presidente do CICV, Mirjana Spoljaric, pressionaram os governos a iniciar ainda neste ano a negociação de regras internacionais juridicamente vinculantes para armas autônomas.
“Estamos agora perigosamente próximos de cruzar uma linha vermelha moral: o ataque autônomo a seres humanos por máquinas”, afirmaram Guterres e Spoljaric. Para os dois organismos, o avanço tecnológico dos últimos três anos tornou a situação mais urgente porque aumentou a distância entre aquilo que os sistemas militares já são capazes de fazer e as regras internacionais existentes para controlar seu emprego.
A entrevista coletiva realizada em Genebra, cujo vídeo acompanha o anúncio, acrescentou uma distinção importante. ONU e Cruz Vermelha não afirmam que já esteja comprovado o emprego de armas completamente autônomas para caçar e matar pessoas. Laurent Gisel, chefe da Unidade de Armas e Condução das Hostilidades do CICV, disse aos jornalistas que não há atualmente evidência confirmada de que sistemas totalmente autônomos tenham sido empregados para atacar seres humanos. O problema, segundo ele, é a trajetória tecnológica: os sistemas estão caminhando nessa direção.
A ressalva é relevante diante de relatos de utilização de drones guiados por IA nos conflitos atuais. Sistemas semiautônomos ou auxiliados por inteligência artificial já aparecem em guerras como as da Ucrânia e do Oriente Médio, mas isso não significa necessariamente que uma máquina tenha recebido autoridade integral para selecionar uma pessoa e atacá-la sem decisão humana. Reuters registra também sistemas militares plenamente autônomos destinados a outros tipos de alvo, como defesas antimísseis instaladas em navios, sem evidência conhecida de emprego autônomo contra pessoas.
IA e autonomia
Outro esclarecimento feito durante a coletiva ajuda a delimitar a discussão. Questionados sobre um relato envolvendo três civis supostamente mortos na Ucrânia por uma arma autônoma guiada por IA, os representantes dos organismos internacionais disseram não ter condições de confirmar o episódio.
Carolyne Mélanie Régimbal, chefe do escritório de Genebra do Escritório das Nações Unidas para Assuntos de Desarmamento, explicou que inteligência artificial e autonomia não são sinônimos. IA pode ser incorporada a uma arma autônoma, mas não é o elemento que necessariamente a torna autônoma. Gisel reforçou que uma arma não precisa utilizar IA para funcionar autonomamente.
Na prática, o ponto decisivo está no grau de controle humano. Um sistema pode usar inteligência artificial para reconhecimento de imagens, navegação ou identificação de objetos e continuar dependendo de uma pessoa para autorizar o disparo. O problema muda de dimensão quando o próprio equipamento, depois de ativado, passa a identificar e selecionar o alvo e aplicar força sem uma nova decisão humana.
É exatamente essa transferência da decisão de vida ou morte que preocupa a ONU. Régimbal afirmou na coletiva que algumas decisões precisam permanecer nas mãos de seres humanos e que nenhuma é mais fundamental do que a decisão de tirar uma vida. Segundo ela, o desenvolvimento tecnológico está avançando mais rapidamente que as restrições regulatórias, tornando necessário estabelecer controles antes que determinadas práticas militares se consolidem.
O próprio apelo de Guterres e Spoljaric reconhece que a corrida já começou. “Os sistemas de armas autônomas não fazem parte de um futuro distante”, afirmam. Cientistas e engenheiros envolvidos no desenvolvimento dessas tecnologias também passaram a alertar para seus riscos, argumento utilizado pelos dois dirigentes para pressionar os governos a não permanecerem passivos.
Sem banimento
A posição defendida pela ONU e pelo CICV também não corresponde a uma proposta de proibição indiscriminada de qualquer arma que possua algum grau de autonomia.
Gisel explicou na entrevista coletiva que a proposta é proibir determinadas categorias consideradas especialmente perigosas e impor restrições às demais. Entre aquelas que o CICV entende que deveriam ser proibidas estão sistemas autônomos cujo comportamento não possa ser suficientemente previsto e armas autônomas antipessoal concebidas para atacar diretamente seres humanos.
Isso deixaria espaço para sistemas autônomos submetidos a limites específicos de utilização, desde que preservado um nível adequado de julgamento e controle humanos. O desafio diplomático será transformar conceitos como “controle humano” e “previsibilidade” em obrigações jurídicas suficientemente claras para serem aplicadas aos sistemas militares.
A discussão já dura mais de uma década. Os países debatem armas autônomas no âmbito da Convenção sobre Certas Armas Convencionais desde 2014, mas ainda não iniciaram formalmente a negociação de um tratado vinculante. Régimbal confirmou na coletiva que os Estados continuam sendo os responsáveis pela decisão e que, até agora, não começaram a negociar esse instrumento jurídico.
Há também resistência entre algumas das maiores potências militares. Estados Unidos e Rússia estão entre os países que têm se oposto à criação de um novo marco jurídico específico, sustentando que o Direito Internacional Humanitário existente pode ser aplicado às novas tecnologias militares.
Hora decisiva
A pressão agora está concentrada na Sétima Conferência de Revisão da Convenção sobre Certas Armas Convencionais, marcada para novembro em Genebra. Guterres e Spoljaric classificaram a reunião como o “caminho mais claro disponível” para que os governos autorizem a abertura de negociações de um instrumento internacional vinculante.
Há algum terreno diplomático preparado. O Grupo de Peritos Governamentais sobre tecnologias emergentes relacionadas a sistemas de armas autônomas letais vem discutindo os componentes que poderiam integrar um futuro instrumento. Segundo Régimbal, o grupo já concordou em identificar elementos que poderão fazer parte desse eventual acordo.
O prazo tem também um componente político. Em 2023, ONU e Cruz Vermelha fizeram o primeiro apelo conjunto para que os Estados estabelecessem proibições e restrições juridicamente vinculantes até 2026. Três anos depois, o tratado ainda não existe, enquanto drones, sensores, reconhecimento automatizado de imagens, processamento em tempo real e sistemas de IA avançaram rapidamente.
“Os Estados precisam demonstrar coragem política e ir além das discussões incrementais em direção a uma ação decisiva”, afirmam Guterres e Spoljaric. A mensagem final coloca a responsabilidade diretamente sobre os governos: “As futuras gerações perguntarão se os líderes agiram quando ainda havia uma oportunidade de estabelecer limites antes que essas armas proliferassem para além do controle.”
A conferência de novembro poderá, portanto, marcar uma mudança de fase. A discussão já não é apenas se inteligência artificial e autonomia chegarão às armas. Elas já chegaram em diferentes graus. A questão colocada pela ONU e pela Cruz Vermelha é se as regras chegarão antes que a tecnologia entregue às máquinas a última decisão que os organismos internacionais consideram indelegável: escolher autonomamente um ser humano como alvo.
*Foto do robô: ONU/Evan Schneider.
