Geleia de Menta

Blog/newsletter sobre tecnologia com perspectiva humana

Tecnologia e Guerra

Última atualização em:

por Lincoln de Macêdo

Contents

Em 2020, o criador do algoritmo YOLO (abreviação de “You Only Look Once”), o mais usado pra reconhecimento de padrões em imagens em tempo real falou que deixou de se envolver em pesquisas em visão computacioal (CV = Computacional Vision e não Curriculum Vitae como o tradutor de google deve sugerir e algumas respotas ao tweet demonstram que parte das pessoas entenderam dessa forma).

Tem 2 pontos que realmente chamam a atenção:

  1. O positivismo contido nessa ilusão que a ciência serve à humanidade e portanto o uso da tecnologia, como produto da ciência, é um bem comum à humanidade e portanto, beneficia a todos.
  2. Como assim nunca pensou no uso de visão computacional como ferramenta para monitorar pessoas, violar direitos e em especial: como assim não imaginava uso militar?

Espero que não pareça que estou passando o tom errado, respeito muito o trabalho do Joseph Redmon e depois dessa atitude passei a respeitar ainda mais o posicionamento dele em relação a tecnologia. Já passei muitas horas estudando o YOLO tanto sobre como é construído quanto fazendo testes em relação a aplicação, embora eu nunca tenha implementado em produção. O que falo em tom de crítica é sobre o ambiente da produção científica, é fácil não enxergar coisas realmente muito óbvias quando absolutamente tudo em sua vida e especialmente todas as pessoas que você tem algum contato por mais distante e indireto que seja, repetem em uma só voz que 🌈 é tudo é feito pensando na melhora de vida de todos 🌈.

Antes de continuar, tenho de esclarecer umas coisas: infelizmente tenho de me prender mais ao exército dos EUA porque é o que tem essa relação com centros de pesquisa e empresas de tecnologia melhor documentada, em grande parte também por sentirmos mais o impacto que produtos nascidos do interesse militar mas que se tornaram produtos comerciais ou a própria internet. Além de que todas as big techs são empresas norte-americanas e já houve protestos de funcionários dessas empresas contra a participação em projetos ligados a potenciais ferramentas de violação de direitos humanos. Em resumo, por mais que natural a todas as forças armadas do mundo investir em tecnologia, pela documentação acerca dos EUA ser a que encontrei em maior quantidade e estar sempre ligado de uma forma ou outra a alguma guerra pelo mundo, além das big techs que controlam as maiores plataformas, que por sua vez também concentram a maior parte dos acessos e tráfego de usuários na internet, e para completar ainda são donas das principais frameworks de deep learning e dominam largamente a quantidade de artigos aceitos nos maiores congressos sober IA do mundo. Enfim, não temos muita escolha a não ser me concentrar a falar mais de 1 único país.

Pernas, Olhos e Braços

Imagino que todos que estão lendo esta newsletter estejam cansados de saber que a ARPANET (antecessora da internet) nasceu num contexto de tensão nuclear durante a guerra fria a partir de um projeto financiado pelo Departamento de Defesa dos Estados Unidos. Ainda que hoje a gente pense em comunicação muito voltada para redes sociais e aplicativos e só alguns anos atrás é que todos se deram conta do potencial político das grandes plataformas pela internet, mas a história da comunicação assim como dos transportes e outras tecnologias envolta delas como a criptografia usada em comunicações via rádio, sempre tiveram extenso uso militar e muitas vezes o seu desenvolvimento é indissociável do investimento feito por governos para as forças armadas.

Um rumo bem adequado que se pode seguir ao falar da relação tecnologia (não só digital e não só ligada à informação) e sua relação com campanhas militares se dá quando observamos o volume de pessoas e recursos envolvidos em camanhas. Sem uma comunicação eficiente seria impossível gerenciar com eficiência grandes contigentes espalhados em território de conflito assim como se meio de transporte suficientes e adequados às mais diferentes situações, seria impossível abastecer as tropas em batalha.

Mas focar apenas no instante da guerra me parece ser pensar errado sobre a coisa toda, a guerra é apenas um momento mas a atividade militar é contínua. Aliás, valeria aqui lembrar aquela famosa frase de Mao Zedong que é mais ou menos assim: “guerra é política com derramamento de sangue e política é guerra sem o derramamento de sangue”. O real ponto de interesse nosso aqui se dá no teórico período de paz, onde a política escolhe para onde direcionar recursos, e em tempos de tensões geopolíticas é que o investimento se mostra através de seus produtos, quando vemos grandes reportagens especiais falando sobre a superioridade do exército de algum país. Mas bem antes desse ponto, o próprio uso comerciais de tecnologias de interesses em comum ou usadas como propaganda da indústria já dizem muito.

O avião de Santos Dumond criou enquanto falava de ajudar na integração entre países ao redor do mundo, era extremamente conveniente para o contexto da 2ª guerra mundial. Tendo inclusive o histórico bem anterior ao avião, do uso de balões e até pombos, estes últimos, bastante notáveis no reconhecimento aéreo. Então pensar em drones se torna uma evolução esperada das ferramentas já usadas, os fins continuam os mesmos. Entre um balão explosivo e um míssil teleguiado há uma enorme distância tecnológica mas a essência é a mesma; mas entre um drone usado para entregar produtos numa casa isolada numa zona rural e um drone usado para entrega de munição, estamos falando de exatamente a mesma tecnologia, da mesma forma que um algoritmo que utiliza dados lidos em tempo real de câmeras para monitorar o trânsito com o objetivo de identificar motoristas infratores é exatamente o mesmo algoritmo usado por governos como o norte-americano e os israelense para escolher alvos de ataques de mísseis teleguiados em Gaza, no Afeganistão e no Iraque, e estou falando do YOLO aqui. Sinceramente não posso afirmar que é “exatamente o mesmo” num sentido bem restrito, porque faz uns 3 anos que parei de ficar me atualizando a respeito do assunto, mas o YOLO, a cada versão, se mostra um dos melhores, senão o melhor, para identificação de objetos em tempo real.

O MIT só é o que é hoje por causa dos investimentos do departamento de defesa, assim como muito possivelmente poderíamos afirmar que a própria emancipação da computação como ciência ao se separar da matemática, tem uma relação forte com a 2ª guerra mundial e a guerra fria, e falo nisso pensando bem além da história de Alan Turing e a quebra da criptografia da máquina enigma usada pelos nazistas. A história da corrida espacial, da arpanet, da comunicação via satélite e processamento de imagens feitas a partir do espaço é também a história da computação e em tudo isso esteve envolvido o interesse estratégico e tático das forças armadas.

O Caminho do Dinheiro

É realmente difícil mensurar alguns valores quando todas as suas possibilidades de uso de dinheiro ao longo de toda a vida estiveram restritas ao seu salário. Falar em milhões ou trilhões acaba sendo muito vago por causa disso, se torna muito abstrato ao mensurar. Dizer que os EUA gastaram mais de 14 trilhões de dólares para as forças armadas, sendo de ¼ a ⅓ desse valor é destinado a fabricantes de armas desde a guerra no Afeganistão, por si mesmo não ajuda a entender o volume do investimento, mas dizer que o PIB anual do Brasil em 2020 foi de 7.5 trilhões, talvez ajude um pouco. Ou seja, tudo aquilo produzido por todas as pessoas e empresas no Brasil ao longo de 2020 é algo próximo a metade de gastos militares nos últimos anos.

Esses dados são do Watson Institute, ligado à universidade de Brown. Recomendo ver alguns artigos publicados sobre os investimentos militares, mas ao que nos interessa aqui, empresas de tecnologia, pesquisa e big techs, não diz muito. É que quando se trata de grandes empresas que têm contratos com governos de diversos países, inclusive países que não têm uma boa relação com o governo norte-americano, as coisas não ficam muio explícitas. Alguns exemplos de como tecnologias da informação podem potencializar ações de repressão, ataques e violência, e que inclusive geraram protestos até de funcionários de algumas empresas envolvidas, foi em relação ao ICE, que resumidamente, é um sistema feito para identificar imigrantes (e na verdade qualquer um que esteja em algum banco de dados ligado ao governo norte-americano), cuja empresa responsável, a Palantir, subcontratou a AWS (Amazon Web Service) e a Microsoft também esteve envolvida. A participação dessas big techs se tornou bastante conhecida em grande parte pelos protestos dos próprios funcionários. Para quem não se lembra, isso tudo ocorreu naquele período onde o governo Trump decidiu separar crianças imigrantes dos seus pais e as colocou no que a imprensa chamou de campos de concentração.


mais sobre a relação da Amazon com o ICE:


Mas talvez, o melhor exemplo recente da profunda relação entre forças militares e empresas de tecnologia seja o Projeto Maven, que visava preparar um ambiente voltado para o uso de algoritmos exatamente como o YOLO que falei no início desta newsletter, com o objetivo de monitorar e identificar alvos na Síria e outros países. A Tech Inquiry, liderada por um ex-pesquisador da Google que deixou a empresa na época das turbulências envolta do Projeto Dragonfly, tem ótimos relatórios acerca da relação entre empresas de tecnologia, governo e forças armadas. Em um desses relatórios há um pouco sobre o Projeto Maven e detalha o que está ofuscado em meio a subcontratos. Nesta parte do relatório podemos encontrar informações sobre empresas velhas conhecidas nossas, segundo o apurado pela Tech Inquiry, a IBM recebeu $5.6M entre dezembro de 2019 e abril de 2020, a AWS, $19.2M entre fevereiro e outubro de 2020, e a que mais recebeu em valores de contrato foi a Microsoft: $31.6M entre julho de 2019 e outubro de 2020. Entre as atribuições da empresa estava o desenvolvimento de modelos (redes neurais) para análise de amplas imagens de vídeo feitas a partir de drones, o que é algo que pode estar ou não conectado com a nota que escrevi essa semana sobre um modelo de pré-treinamento publicado por pesquisadores da Microsoft voltada para veículos autônomos onde um dos datasets usados é justamente com o uso de drones (embora aparentemente, não-militares).

Seria de se estranhar a não-participação da Google neste projeto, uma empresa que tem até um site voltado para departamentos de defesa. Na realidade existem muitas notícias sobre protestos de funcionários tanto da Google quanto da Microsoft e Amazon contra a participação dessas empresas em projetos militares. Alguns links recomendados (e que inclusive foram parte das fontes que usei na pesquisa para escrever esta edição da newsletter):

Loop Infinito

É fácil compreender a formação de um ciclo entre empresas de tecnologia e governos através das forças de segurança, há um interdependência inerente à posição de cada um e no fato de um fortalecer o outro. O problema de quando a narrativa se prende demais a esse ciclo é que, o que deveria motivar a ação se torna um agente desmobilizador, ou seja, exergar essas poderosas forças hegemônicas acaba nos jogando a uma sensação de impotência e desalento do que nos ajudar a identificar de forma realista nossa posição e portanto, a partir dela definir uma tática de ação.

Se observar as três reportagens que indiquei pouco mais acima, perceberá uma pequena narrativa a partir de funcionários da Google, um resumida história de protestos que levaram a empresa a não se manter num projeto realmente lucrativo para ela e estratégico em relação a concorrentes. Inclusive, em meio a tantos conflitos entre empresa e funcionários que se tornaram públicos através da imprensa, seja envolvendo pesquisadores ou projetos, faz todo o sentido que em algum momento os trabalhadores se organizem, seja como associação ou sindicato, e assim chegamos no Alphabet Workers Union, que é algo que me parece realmente muito tímido apesar de ter sua relevância numa área que desde sua definição tem sido o modelo do discurso neoliberal com seus mitos, como da empresa bilionária nascida numa garagem, que serve de exemplo máximo tanto da falácia meritocrática quanto do caráter individualista ao mesmo tempo que esconde os grandes volumes investidos.

Já são tantos anos de um intenso processo de precarização, que mente com tanta convicção ao afirmar que a mão de obra barata e sobrecarregada e sem direitos é um “empreendedor”, como se sobreviver de freelas ou viver à mercê de aplicativos tão conhecidos pelo boicote branco fosse igual a quem detém o poder sobre os meios de produção. Até parece que fomos nos esquecendo do básico e das demonstrações de poder que organizações sindicais tinham até algumas décadas atrás, quando aqui mesmo no Brasil o sindicato de metalúrgicos do ABC paulista enchia um estádio de futebol para realizar uma assembleia. Mas devo admitir que falar de ética no meio da tecnologia é um fenômeno recente, ainda falta até mesmo a grande parte dos trabalhadores se enxergarem como profissionais e portanto ter uma consciência de classe mesmo com tato apelo a manter uma infinita adolescência em meio a filmes de super-herói e jogos puro entretenimento comercial.

Não há como escapar da política; é quem detém o poder político que define para onde vão os recursos que afetam a todos nós, e sendo assim, é através da política que se escolhe usar a máquina pública e o dinheiro público para socorrer pessoas desempregadas num perído de crise ou, no mesmo período de crise, se escolha proteger bancos e grandes empresas a manter as margens de lucro. Da mesma forma, é uma escolha política fazer com que um algoritmo seja usado para tornar o trânsito mais eficiente através do monitoramento do tráfego ou seja usado para selecionar alvos em outros países a fim de alimentar uma bilionária indústria dependente de guerras.

É comum que ao longo de tantos anos com os noticiários reduzindo a política a partidos e a participação democrática como sendo apenas o voto. Falar de democracia deveria ser falar de exercício democrático, e para que isso ocorra de fato, é preciso ter alguma paridade de forças. Daí a sociedade civil organizada, associações e sindicatos, movimentos sociais, etc. Não digo que como sociedade esquecemos como nos organizar, o MST, o MTST, a APIB , estão aí na luta, o problema de quando se fala acerca de tecnologia é que algo assim nunca existiu mas que em algum momento acabará existindo a partir do acúmulo de tensões, da influência de dissidentes em épocas de conformidade mas especialmente, do necessário posicionamento quando não se tem mais como virar o rosto para certas coisas.

Daqui a um mês uma dessas coisas que não dá para virar o rosto será o assunto de uma edição dessa newsletter. Será sobre algo que ainda me faltam palavras para definir sem escrever alguns parágrafos para especificar. Talvez, por aproximação, falar no caráter colonizador dos datasets e algoritmos em estado de arte seja o suficiente para dar uma ideia da gravidade das ferramentas usadas para monitorar a população usando o conhecido discurso branco militarizador envolta da segurança pública.


Se chegou até o final deste texto, espero que tenha gostado. Mas para continuar este projeto de divulgação crítica e política da ciência da computação e outros assuntos ligados à tecnologia sem todo o misticismo comum à publicidade, sua ajuda é muito importante. Faz um PIX 😊
pix copia e cola: 00020126430014BR.GOV.BCB.PIX0121geleiadementa@tuta.io5204000053039865802BR5925Lincoln de Macedo Santos 6009SAO PAULO61080540900062070503***630467FE