Compartilhe
Armas autônomas são agora parte da realidade e trazem consigo implicações nas legislações internacionais; a vida do ser humano está em risco com a decisão de matar nas mãos de robôs.
Por Arthur Iassia, Daniela Arcanjo e Matheus Ferreira
No final de 2017, um robô autônomo anticrime, o dubbed K9, da empresa estadunidense Knightscope, participou de mais um capítulo da história entre máquinas inteligentes e humanos. Alugado por uma ONG de São Francisco por $6 a hora para proteger seus prédios, o robô de um metro e meio começou a intimidar pessoas em situação de rua que vivam no local. Por meio de câmeras, lasers e sensores, o dubbed K9 foi programado para avaliar sozinho imagens e situações, entrando em contato com as autoridades em seguida, o que causou a sensação de estado de vigia sobre a população. A situação se descontrolou, apesar das funções do dubbed K9 não envolverem violência física a humanos: a máquina foi vandalizada com fezes e molho de churrasco pelos locais. O imbróglio só terminou com uma ameaça da Prefeitura de multar em mil dólares a ONG que contratou o robô, caso ele andasse nas calçadas de novo.
Ao fazer escolhas próprias, robôs começam a criar novos desafios na sociedade. E se suas finalidades fossem mais agressivas que o dubbed K9? Se fossem criados para finalidades mais violentas, como matar seres humanos? Não há dúvidas que esses papéis violentos já foram atribuidos às máquinas autônomas; são as chamadas LAWs, do inglês lethal autonomous weapons (armas autônomas letais).
Segundo o Center for a New American Security, uma instituição sem fins lucrativos envolvida em questões de segurança pública, ao menos 30 países tinham em mãos armas desse tipo ou as desenvolviam no ano de 2015. O Instituto Internacional de Pesquisa para Paz de Estocolmo (SIPRI) classifica armas autônomas em três categorias: as semi-autônomas, que precisam do elemento humano na execução de tarefas; as autônomas supervisionadas por humanos, que podem operar sozinhas, mas dependem da tutela humana e as armas totalmente autônomas, que são aquelas que podem atuar sem humanos.
O SIPRI mapeia todo ano a produção de Laws. Em 2017, foi identificado o uso de autonomia em armamentos de sistemas de defesa aérea, de armas sentinelas robóticas, de munições guiadas e de drones. Dentre os exemplos, há o SGR-A1, de fabricação da Samsung, localizado na Zona Desmilitarizada da Coreia, que é um robô sentinela capaz de atirar por si próprio. Existe também o tanque autônomo russo Uran-9, que identifica, detecta e rastreia “inimigos” por bases pré-programadas. Ou também o drone britânico Mantis, que promete ser a próxima geração de aviões não tripulados.
Problemas à vista
O desenvolvimento e uso de armas autônomas é uma tema controverso. Para Grégoire Chamayou, filósofo francês e autor do livro “Teoria do Drone” (Cosac Nayfi, 2015), a velocidade do desenvolvimento da violência à distância deve mudar os problemas da ética e da psicologia na guerra. “Se um robô comete um crime de guerra, quem é responsável? O general que o enviou? O Estado que é seu proprietário? O industrial que o produziu? Os analistas de sistemas que o programaram?”, indaga.
Um estudo da Human Rights Watch (HRW), chamado Perdendo a Humanidade, considera que as LAWs podem aumentar o risco de morte ou de ferimentos para civis durante possíveis conflitos. “As regras de distinção, proporcionalidade e necessidade militar são especialmente importante para proteger civis dos efeitos da guerra, e as LAWs poderiam não atender essas regras”, argumenta o estudo. Ainda segundo o texto da HRW, de 2012, os sistemas não-tripulados criam uma distância física e emocional do conflito, o que pode tornar o ato de matar em algo mais simples.
Os especialistas pensam que seria difícil para os sistema autônomos saber diferenciar quem é civil e quem é combatente. O medo e a insegurança causada por drones foi relatado pela Anistia Internacional, em vilas do Paquistão, após ações de contraterrorismo do governo dos EUA. Comunidades atacadas por naves não-tripuladas vivem em constante medo. “Como podemos saber se um míssil de um drone não pode acertar nossa casa? Pode acertar qualquer lugar”, relata um dos sobrevivente paquistaneses no texto da Anistia Internacional. Segundo a instituição, é duvidoso que LAWs possam ser guiadas por diretrizes dos direitos humanos.
A questão do desenvolvimento de armas autônomas é tema global, tanto que levou o Fórum Mundial Econômico incluir esse tipo de armamento como problema urgente a ser discutido pelos países. Segundo o relatório sobre os riscos globais do ano passado, “um algoritmo não veria diferença entre vitórias que requerem matar um adversário ou matar mil”.
Essa preocupação levou mais de 100 especialistas em Inteligência Artificial lançar um manifesto, na ONU, para a proibição do desenvolvimento de armas autônomas. Stuart Russel, um dos que assina a carta, cientista na Universidade da Califórnia, acredita que “perseguir o desenvolvimento de armas autônomas letais reduziria drasticamente a segurança internacional, nacional, local e pessoal”.
Incerteza jurídica
Um dos pontos mais sensíveis no debate sobre o uso dessas armas é a questão jurídica. Até mesmo em uma situação de conflito armado há regras que devem ser cumpridas e esse conjunto de leis está no Direito Internacional Humanitário e em seus protocolos adicionais. Elaborados inicialmente nas Convenções de Genebra, assinadas entre 1864 e 1949, essas leis se entrelaçam com a criação do próprio Comitê Internacional da Cruz Vermelha (CICV), organização humanitária responsável por proteger “a vida e a dignidade das vítimas dos conflitos armados e outras situações de violência, e de prestar-lhes assistência”, segundo documento da própria instituição, a cartilha de “Regras para o comportamento em combate”.
Exemplo de armas que não precisam de atuação humana. Créditos: MarkBlackUltor
Dentre essas regras, está a preservação dos civis e dos que já não são combatentes, ou seja, que deixaram de participar do conflito. Segundo o título 4 da 1ª seção do “Resumo das Convenções de Genebra de 12 de agosto de 1949 e dos seus protocolos adicionais”, “são proibidos os ataques sem discriminação (…). As pessoas civis e os bens civis não só não devem ser objeto de ataques, mas devem também ser tomadas todas as precauções (…) para evitar ou reduzir ao mínimo as perdas e danos civis causados incidentalmente”. O intuito é limitar os efeitos das guerras e de outras hostilidades.
Em uma situação de guerra, por exemplo, não é considerado crime “danos civis colaterais”, contanto que eles não sejam excessivos em relação ao próprio ataque militar. Em uma situação de paz, é considerado crime qualquer ação que atinja um não-participante do conflito. O princípio do ataque sem discriminação também poderia, em tese, limitar o uso de armas autônomas. Um exemplo é o programa SKYNET, da CIA. Em 2016, o portal Ars Technica mostrou que a estratégia poderia “estar matando milhares de inocentes” por meio do rastreamento e supervisão autônoma de celulares de 55 milhões de pessoas. O que definia se tratavam-se de terroristas era um algoritmo que analisava o conteúdo das mensagens e o local onde essas pessoas estavam. Pelo menos 2.500 pessoas haviam sido mortas por drones no Paquistão de 2004 até o ano passado, podendo chegar a um número de 4 mil vítimas.
O questionamento do filósofo Chamayou, do Centro Nacional de Pesquisa Científica da França (CNRS), sobre a impossibilidade de apontar responsáveis sobre erros das máquinas, é o de grande parte da sociedade civil. As armas autônomas estão em um limbo jurídico: ainda não foi definido como o Direito Internacional deve lidar com erros que façam vítimas não participantes do conflito. Gabriel Francisco Silva, assessor político da organização não governamental brasileira Dhesarme, afirma que esse é um dos temas que se debate na comunidade internacional. “Devido à natureza dessas armas, ainda não se tem um consenso sobre de quem seria a responsabilidade legal em caso de erros operacionais das armas plenamente autônomas ou violações de Direito Internacional causado por elas (a empresa produtora, o proprietário, o programador, o comandante ou o próprio robô). A incerteza jurídica que essas armas causam é justamente um dos problemas causados por elas e um dos principais pontos de discussão a nível internacional”.
A Dhesarme, criada em 1996 pelo Padre Marcelo Rezende Guimarães e pelo Pastor Ricardo Wangen, é fruto de outra luta travada por ativistas pela paz ao redor do mundo. A “Campanha Brasileira contra Minas Terrestres” foi o que originou a ONG. Ela contou com o apoio de outras instituições já consolidadas, como “Em Busca da Paz”, “Ser Paz” e Anistia Internacional. Com o Tratado de Erradicação das Minas Terrestres assinado em 1997, a ONG passou a lutar para universalizar a proibição. Em 2007, com as conquistas da erradicação das minas terrestres, outros temas tornaram-se sensíveis à instituição. Entre eles está a proibição de armas plenamente autônomas, assunto que conta com poucos especialistas no Brasil, apesar de ser urgente.
Com alguns progressos no debate sobre armas autônomas, Silva afirma que a discussão está em um estágio inicial. Ele destaca o avanço em reuniões realizadas na Convenção sobre Certas Armas Convencionais da ONU, ocorridas a partir de 2014. “A Dhesarme trabalha inicialmente para pautar esse tema na agenda política nacional, com ações de conscientização pública e de disseminação de conhecimento. É necessário maior visibilidade desse assunto pelos diversos setores da sociedade brasileira a fim de que possamos construir um debate construtivo e legítimo sobre esse assunto no âmbito nacional”, afirma.
Quando questionado sobre a violação do Direito Humanitário provocado por armas autônomas, Silva é categórico: “essas armas estarão violando o Direito Internacional Humanitário”. Ele explica que quando introduzidas, essas armas forçarão novas dinâmicas no DIH, mas que a necessidade e a proporcionalidade são princípios consagrados nesse ramo do direito. “Caso a decisão de um ataque seja feita por ‘robôs’, esses não terão as capacidades necessárias para tomar decisões complexas relacionadas à dinâmica de um campo de batalha, como distinguir entre combatentes e civis ou avaliar a proporcionalidade e a necessidade de um ataque. Assim, essas armas estarão violando o Direito Internacional Humanitário”, completa.
Guerra entre robôs?
A ideia de que armas autônomas poderiam produzir uma guerra sem sangue é irreal para o assessor da Dhesarme Gabriel Francisco Silva. Ele explica que o argumento parte de duas premissas que, em sua opinião, são falhas: o de que ambos os lados de uma guerra estariam usando robôs no futuro, e o de que os efeitos das guerras são exclusivos dos combatentes, não atingem os civis. Para o assessor, a primeira previsão é muito improvável e a segunda é simplesmente falsa.
O documento “Conflict and Violence in the 21st century” (Conflito e Violência no século XXI, em tradução livre), da Organização das Nações Unidas (ONU), de 2016, mostra que as guerras não se restringem aos combatentes e às maiores potências bélicas do mundo. Após uma queda gradual desde os anos de 1990 nas guerras, esse número volta a crescer desde 2010, chegando a quase 80 conflitos em 2013. Os pouco mais de 100 mil mortos em guerra representam um número maior de vítimas se compararmos a mortes causadas por ataques terroristas: 40 mil. Dos quase 60 mil mortos em conflitos em 1953, quase 40 mil eram combatentes formais. Em 2010 o número de mortos é quase total em combatentes não formais e não combatentes.
Além disso, a guerra não atinge todo o globo igualmente. Entre 2010 e 2014 o país que mais acumulou mortes por guerras foi a Síria, chegando a quase 120 mil mortos. Países do leste da África, como Etiópia, Somália e Quênia também entram nesse ranking. O documento ainda salienta que “a pobreza está cada vez mais concentrada em países afetados pela violência”.
Silva explica que o fim da Guerra Fria foi um marco para os conflitos mundiais. Antes com duas potências que disputavam entre si o poder, hoje o que marca as guerras é a assimetria entre as partes, com conflitos envolvendo as próprias forças estatais contra grupos armados, milícias, grupos terroristas e paramilitares. Esses atores não-estatais representam combatentes com níveis diferentes de organização, preparo, munição e armamento. “Nesse cenário, tem-se tornado mais comum grupos utilizarem ataques à população civil como tática de guerra. A introdução de armas autônomas nesse contexto não deve diminuir o número de vítimas. Pelo contrário, a aparente redução de riscos à vida dos combatentes dos atores em possessão dessas armas deve levar a um aumento na incidência de conflitos armados no mundo, refletindo diretamente na segurança e vida de comunidades e populações civis”, completa.
Gastos e lucros com a morte
Um outro interesse é fundamental para compreender as razões pelas quais as armas autônomas podem se expandir: a economia. Historicamente, é muito custoso para governos ao redor do mundo manterem tropas em locais de guerra. Muito mais do que gastos com manutenção, um soldado passa a ser um acréscimo duradouro para os cofres públicos de uma nação.
No Brasil, por exemplo, boa parte do dinheiro destinado às Forças Armadas vai para pagamentos de pensões e aposentadorias. Em 2016, estima-se que foram gastos cerca de R$3,8 bi em pagamentos de pensões vitalícias à filhas de militares, inclusive idosas com mais de 70 anos. O número de beneficiárias, naquele ano, era de 185.326, fatia correspondente a 27,7% do total de pensionistas no país.
A pensão vitalícia para filhas de combatentes foi extinta em dezembro de 2000, mas a regra só se aplicava integralmente para as famílias de militares que passaram a servir a partir daquele ano. Para as demais, o benefício poderia ser mantido desde que 1,5% de seu vencimento bruto fosse descontado. Estima-se que essa conta passe a ser lucrativa para o governo somente em 2036.
Na ativa, os soldados também são custosos. Dados publicados pela BBC, em 2014, mostram que o salário anual de um combatente estadunidense é de cerca de US$20.062, um valor relativamente baixo para os padrões do país. Os salários, no entanto, representam menos de 5% do custos totais com as forças armadas. Há quato anos, os custos anuais com cada soldado chegavam em US$1,4 milhão nos Estados Unidos. Se na maior economia do mundo, 1,4 milhão de pessoas constam como disponíveis para o serviço de guerra, caso surja a necessidade, os gastos com todo esse contingente poderia chegar ao valor aproximado e tdo o Produto Interno Bruto brasileiro.
O alargamento do uso de tecnologia poderia apontar saídas para a diminuição dos investimentos dos governos, encolhendo o número de convocados e, consequentemente, os gastos com pessoal. Montantes destinados à aposentadorias e pensões poderiam cair drasticamente e fazer a diferença para os gastos públicos em décadas seguintes. Para alguns pesquisadores, no entanto, as guerras não são pensadas para economizar – ao contrário, são feitas para incentivar o consumo.
Um exemplo recente de tecnologia empregada em guerras que, posteriormente, tornou-se um negócio lucrativo, são os drones. Veículos aéreos não tripulados, são amplamente usados para inteligência, estratégia e ataques em conflito armados. O equipamento chega a lugares arriscados para os humanos e oferece insumos satisfatórios para seus controladores.
No entanto, a popularização dos drones se deu em tal nível que, atualmente, é considerado artigo fundamental para fotógrafos, cinegrafistas, veículos de comunicação, equipes de segurança, agricultores e até mesmo para escolas de samba no carnaval do Rio de Janeiro.
A comercialização massiva de drones foi responsável por criar seu primeiro bilionário: o chinês Frank Wang. A empresa do magnata detêm cerca de 70% de um mercado que tinha como previsão para 2017 movimentar cerca de R$6 bi. Com apenas 36 anos, ele já é uma das 50 pessoas mais ricas da China.
Segundo Luis Ruffato, em coluna no El País Brasil, a relação da guerra com o capitalismo vai muito além de enriquecer alguns empresários. Para o escritor, os conflitos internacionais são um mecanismo do próprio sistema para se regenerar em tempos de crise. “A guerra não só aumenta de maneira considerável a venda de armas – foram 65 bilhões de dólares em 2015 -, mas principalmente mobiliza, em uma segunda fase, a construção civil, cuja cadeia produtiva envolve todos os demais setores, a indústria, o comércio e os serviços. De quebra, elimina os excedentes populacionais, reequilibrando oferta e procura”.
Se a tese de Luis for levada em conta, talvez seja previsível o abuso de robôs e máquinas não tripuladas por forças armadas. Em uma sociedade cada vez mais ligada às tecnologias móveis e em um sistema alienante, onde milhões de pessoas ficam presas à comercialização de novas versões de smartphones, a possibilidade de alguém controlar a vida de milhares de pessoas ao redor do planeta com apenas um toque talvez não seja tão absurda para alguns. Alguém sempre sairá ganhando com isso.
