Conexões entre Vale do Silício, Pentágono e CIA vão além dos contratos de Defesa. Documentos vazados mostram: juntos, eles forjam uma inteligência militar para a guerra cibernética e hipervigilância. Os “inimigos”: países, empresas e até cidadãos
Em setembro de 2011, militares da CIA e dos EUA lançaram em conjunto um ataque de drone autorizado pelo presidente Barack Obama. O ataque resultou no assassinato de Anwar al Awlaki – um fervoroso clérigo muçulmano nascido nos Estados Unidos – no Iêmen. Quem organizou o ataque com drones atacaram Awlaki baseou-se em dados de geolocalização monitorados pela Agência de Segurança Nacional (NSA, na sigla em inglês) como parte de um programa de vigilância. Duas semanas depois, um ataque de drone da CIA matou outro cidadão americano usando o mesmo tipo de dados: o filho de 16 anos de al Awlaki, Abdulrahman al-Awlaki.
Embora al Awlaki tenha sido deliberadamente assassinado pelas forças americanas, outros cidadãos americanos – e milhares de civis no Afeganistão e em outras partes da Ásia Central e Oriente Médio – foram mortos acidentalmente por drones. Esses casos prenunciam uma grande falha na versão mais recente da guerra automatizada: a imprecisão das tecnologias e as grandes margens de erro que acompanham até mesmo os novos sistemas de armas mais sofisticados. Em sua forma mais avançada, as ferramentas computadorizadas fazem uso de inteligência artificial e aprendizado de máquina e poderão em breve ter recursos totalmente autônomos.
Dispositivos digitais portáteis prontos para a Internet transfiguraram bilhões de pessoas em todo o mundo em máquinas atomizadas de produção de dados, alimentando informações em centenas, senão milhares, de algoritmos todos os dias. Embora tenhamos absorvido e integrado rapidamente smartphones e tablets em nossas vidas, raramente refletimos sobre como os dados armazenados e transmitidos por esses dispositivos podem facilmente ser militarizados. Por exemplo, relatórios recentes descrevem como a Agência de Inteligência de Defesa dos EUA, afiliada ao Departamento de Defesa (DD), usa rotineiramente dados de geolocalização disponíveis comercialmente coletados de telefones celulares individuais – às vezes sem nenhum mandado judicial que as autorize. Agências militares e de inteligência podem usar esses dados não apenas para espionagem, mas também para reconstruir redes sociais e até mesmo para direcionar ataques letais a indivíduos.
Drones, software de geolocalização, spyware e outras ferramentas semelhantes são emblemáticos de uma nova série de colaborações entre as Big Techs e as grandes estruturas de defesa, a Big Defense. Nas últimas duas décadas, o DD e 17 agências governamentais dos EUA, coletivamente conhecidas como Comunidade de Inteligência dos EUA [US Intelligence Community], tentaram capturar a inovação tecnológica em sua fonte: o Vale do Silício. Agências militares e de espionagem fizeram isso criando postos avançados ao longo da Costa Oeste; organizaram um conselho consultivo de alto nível que liga o Pentágono às grandes empresas de tecnologia; coordenaram cúpulas, fóruns e reuniões privadas com investidores influentes e executivos corporativos; e apelaram diretamente para os corações e mentes dos empresários, engenheiros, cientistas da computação e pesquisadores que às vezes são céticos em relação aos burocratas do governo, especialmente os do Departamento de Defesa.
Por diversas razões, é impossível entender totalmente as forças armadas dos EUA hoje sem uma análise de suas profundas conexões com a indústria de tecnologia.
As interconexões entre os mundos da tecnologia de rede e da defesa remontam a mais de 50 anos. Por exemplo, desde o início dos anos 1960, a Agência de Projetos de Pesquisa Avançada (ARPA) do DD desempenhou um papel crucial no financiamento de pesquisas de computador que levaram à ARPANET, a precursora da internet atual. O desenvolvimento inicial do Vale do Silício foi financiado em grande parte por agências de defesa e inteligência, e o Pentágono investiu pesadamente em empresas de tecnologia durante toda a Guerra Fria.
O que é guerra virtual?
A guerra virtual obviamente significa coisas diferentes para pessoas diferentes. Não há uma definição consensual – o que dá espaço para interpretar o termo de forma ampla, holística e antropológica. Adoto uma visão ampla, focando em quatro elementos diferentes: sistemas de armas robóticas e autônomas; uma versão de alta tecnologia de operações psicológicas (ou psyops); programas preditivos de modelagem e simulação, que alguns chamam de “contrainsurgência computacional”; e a guerra cibernética, ou seja, o ataque e defesa de infraestruturas críticas. Essas tecnologias e técnicas são baseadas na produção, disponibilidade e análise de grandes quantidades de dados – geralmente dados de vigilância –, coletados de drones, satélites, câmeras, telefones celulares, transações eletrônicas, mídias sociais, mensagens de e-mail e outras fontes da Internet.
Podemos pensar nisso como uma guerra por algoritmos. Cada vez mais, as tecnologias fazem uso de inteligência artificial ou IA para automatizar os processos de tomada de decisão. O desenvolvimento de armas virtuais depende dos esforços combinados de uma ampla gama de cientistas e especialistas técnicos – não apenas químicos, físicos, engenheiros, programadores de computador e analistas de dados, mas também pesquisadores de biotecnologia, cientistas políticos, psicólogos e antropólogos. Grande parte do trabalho é bastante banal e ocorre em edifícios indefinidos em parques de escritórios suburbanos, campi tecnológicos ou laboratórios universitários. O Vale do Silício emergiu como um importante centro para esse tipo de trabalho de defesa e inteligência.
De certa forma, a guerra virtual é uma continuação da chamada Revolução em Assuntos Militares ou RMA, uma doutrina que foi articulada pelo Escritório de Avaliação de Redes do Pentágono nas décadas de 1980 e 1990. Inclinou-se fortemente para soluções baseadas em tecnologia. Após o 11 de Setembro, quando os EUA desencadearam sua chamada Guerra Global ao Terror e entraram em guerra contra redes globais de insurgentes armados com tecnologias relativamente simples, como bombas improvisadas, rifles e lançadores de granadas, a RMA perdeu força e a contrainsurgência tornou-se moda depois de um longo hiato. Mas agora, em um período marcado por rápida inovação, modos algorítmicos de governança e a ascensão ao poder de nações rivais como China e Rússia – cada uma delas buscando suas próprias tecnologias virtuais de combate –, o combate computadorizado voltou a ocupar o centro do palco, entre as elites militares estadunidenses.
A interseção entre Big Defense e as Big Techs: a criação da DIUx
Mountain View fica confortavelmente entre as montanhas densamente arborizadas de Santa Cruz e as margens do sul da Baía de São Francisco. Durante a primeira metade do século XX, era uma cidade sonolenta com fazendas de gado, pomares e ruas pitorescas do centro. Mas depois que uma equipe de cientistas liderada por William Shockley inventou o semicondutor lá em 1956, ela cresceu rapidamente, junto com o resto do Vale do Silício. Hoje, é um subúrbio movimentado com mais de 80 mil habitantes.
À primeira vista, parece um lugar estranho para as agências militares e de inteligência se estabelecerem. Mountain View fica a quase 2.500 milhas (4.024 km) de distância do Pentágono. Os voos diretos de São Francisco para Honolulu levam menos tempo do que os voos para Washington.
O Pentágono e o Vale do Silício não são apenas geograficamente distantes, mas também existem outras diferenças. O Departamento de Defesa é muitas vezes considerado uma burocracia notoriamente inchada, enfadonha e perdulária, com estruturas organizacionais rigidamente hierárquicas e normas de trabalho inflexíveis. Por outro lado, o maior empregador de Mountain View é a Alphabet, empresa controladora do Google, uma das corporações mais valiosas do mundo. Seu campus de 10 hectares, conhecido como Googleplex, inclui mais de 30 cafés, comida e bebida grátis para seus funcionários, academias de ginástica e piscinas. Um esqueleto de ferro em tamanho natural de um Tiranossauro Rex, carinhosamente chamado de Stan pelos funcionários do Google, é exibido com destaque do lado de fora de um prédio principal.
Apesar dessas diferenças – na verdade, por causa delas –, o secretário de Defesa Ash Carter estabeleceu publicamente um posto avançado do Pentágono a menos de duas milhas (3 km) de distância do Googleplex. A Unidade Experimental de Inovação em Defesa, ou DIUx, foi criada em agosto de 2015 para identificar e investir rapidamente em empresas que desenvolvem tecnologias de ponta que possam ser úteis para os militares. Com a DIUx, o Pentágono construiu seu próprio acelerador de startups dedicado a financiar empresas especializadas em IA, sistemas robóticos, análise de Big Data, segurança cibernética e biotecnologia.
A nova casa da DIUx não estava tão deslocada. Sua sede estava localizada em um prédio outrora ocupado pela Guarda Nacional do Exército, no terreno do Ames Research Center, o maior dos dez locais de campo da NASA, e Moffett Field, que já abrigou o 130º Esquadrão de Resgate da Guarda Aérea Nacional da Califórnia. As gigantes da defesa Lockheed Martin e Northrop Grumman têm escritórios a menos de 3 km de distância dali. Em 2008, o próprio Google estava invadindo o território do governo: firmou um contrato de arrendamento de 40 anos com a NASA Ames para um novo campus de pesquisa. Em seguida, assinou um acordo de 60 anos com a NASA para alugar o Moffett Field de 400 hectares, incluindo três enormes hangares para dirigíveis. Hoje, o Google usa os hangares para construir balões estratosféricos que podem um dia fornecer serviços de internet para pessoas que vivem em áreas rurais – ou talvez realizar missões militares de vigilância em grandes altitudes.
O escritório da DIUx ficava próximo a outras empresas de tecnologia: o Lab126 da Amazon (onde o leitor Kindle, Amazon Echo e outros dispositivos digitais foram gestados); a sede corporativa do LinkedIn; e o campus da Microsoft no Vale do Silício. Os escritórios corporativos da Apple ficavam a 8 km de distância, nas proximidades de Cupertino. As mais novas instalações do Pentágono estavam literalmente na zona de intersecção entre as Big Techs e a Big Defense. O escritório da DIUx, situado em um prédio baixo de tijolos, abraçou as contradições do Pentágono Oeste: “Os corredores são monótonos à moda antiga, as portas trancadas com fechaduras de combinação. Mas por dentro, os recém-chegados renovaram os espaços com quadros-negros, quadros brancos e mesas dispostas em diagonais aleatórias, para combinar com a vibração não hierárquica de uma startup do Vale”, relatou um observador.
* * *
O plano de Ash Carter era ambicioso: reunir as melhores e mais brilhantes mentes da indústria de tecnologia para uso do Pentágono. O nativo da Pensilvânia passou vários anos na Universidade de Stanford antes de sua nomeação como Secretário de Defesa e ficou impressionado com o espírito inovador e os magnatas milionários da região da Baía de São Francisco: “Eles estão inventando novas tecnologias, criando prosperidade, conectividade e liberdade”, disse Carter. “Eles sentem que também são servidores públicos e gostariam de ter alguém em Washington com quem pudessem se conectar.” Surpreendentemente, Carter foi o primeiro secretário de Defesa em exercício a visitar o Vale do Silício em mais de 20 anos.
O Pentágono tem sua própria agência de pesquisa e desenvolvimento (P&D), a DARPA, mas busca projetos que estão a décadas, não meses, de distância. Carter queria um escritório ágil e simplificado que pudesse servir como uma espécie de corretora, canalizando dezenas ou centenas de milhões de dólares do enorme orçamento do DD para empresas promissoras que desenvolviam tecnologias prestes a serem concluídas. Idealmente, a DIUx serviria de ligação, negociando as necessidades de generais grisalhos de quatro estrelas, líderes civis do Pentágono e engenheiros e empresários de agasalho de moletom. Logo, a DIUx abriu filiais em duas outras cidades com setores tecnológicos em expansão: Boston e Austin.
No curto prazo, Carter esperava que a DIUx construísse relacionamentos com startups locais, recrutasse os melhores talentos, envolvesse reservistas militares em projetos e agilizasse os notoriamente complicados processos de aquisição do Pentágono. Seus objetivos de longo prazo eram ainda mais ambiciosos: contratar oficiais militares de carreira e designá-los para trabalhar em projetos futuristas no Vale do Silício por meses a fio, para “expô-los a novas culturas e ideias que eles possam levar ao Pentágono […] [e] convidar técnicos para passar um tempo na Defesa”.
Em março de 2016, Carter organizou o Conselho de Inovação em Defesa (DIB, sigla em inglês), um grupo de confiança civil de elite encarregado de fornecer conselhos e recomendações à direção do Pentágono. Ele nomeou o ex-CEO do Google e membro do conselho da Alphabet, Eric Schmidt, para presidir o DIB, que incluía atuais e antigos executivos do Facebook, Google e Instagram, entre outros.
Três anos depois que Carter lançou a DIUx, ela foi renomeada como Unidade de Inovação em Defesa (DIU, sigla em inglês), indicando que não era mais experimental. Apesar dos desafios iniciais, a DIUx foi descrita como “um ativo valioso e comprovado” pelo Vice-Secretário de Defesa, Patrick Shanahan. “A própria organização não é mais um experimento”, disse ele em 2018. “DIU continua vital para promover a inovação em todo o Departamento e transformar a maneira como o DD constrói uma força mais letal.” No início de 2018, o governo Trump solicitou um aumento acentuado no orçamento da DIU para o ano fiscal de 2019, de US$ 30 milhões para US$ 71 milhões. Para 2020, a administração solicitou US$ 164 milhões, mais que o dobro da solicitação do ano anterior.
Fundo de capital de risco da própria CIA
Embora os funcionários do Pentágono retratassem a DIUx como uma organização inovadora, ela foi, na verdade, modelada em outra empresa estabelecida para servir a comunidade de inteligência dos EUA de maneira semelhante. No final da década de 1990, a CIA criou uma entidade sem fins lucrativos chamada Peleus para capitalizar as inovações desenvolvidas no setor privado, com foco especial no Vale do Silício. Logo depois, a organização foi renomeada como In-Q-Tel.
O primeiro CEO, Gilman Louie descreveu como a organização foi criada para resolver “o problema do Big Data”:
[Os líderes da CIA] estavam realmente com medo do que chamavam na época de perspectiva de um ‘Pearl Harbor digital’… Pearl Harbor aconteceu com todas as diferentes partes do governo tendo uma informação, mas eles não conseguiram juntá-la para dizer: “Olha, o ataque a Pearl Harbor é iminente”… [Em] 1998, eles começaram a perceber que as informações estavam isoladas em todas essas diferentes agências de inteligência e que eles nunca poderiam uni-las… eles estavam tentando resolver o problema dos Big Data. Como você une isso tudo para obter inteligência?
Ao canalizar fundos da CIA para empresas nascentes de vigilância, coleta de informações, análise de dados e tecnologias de guerra cibernética, a agência esperava obter uma vantagem sobre os rivais globais cooptando engenheiros criativos, hackers, cientistas e programadores. Em 2005, a CIA injetou aproximadamente US$ 37 milhões na In-Q-Tel. Em 2014, o financiamento anual da organização aumentou para quase US$ 94 milhões e realizou 325 investimentos em uma gama surpreendente de empresas de tecnologia.
Se In-Q-Tel soa como algo saído de um filme de James Bond, é porque a organização foi parcialmente inspirada por – e recebeu o nome de – Q Branch, o escritório fictício de P&D do serviço secreto britânico, popularizado nos romances de espionagem de Ian Fleming e sucessos de bilheteria de Hollywood. A In-Q-Tel e a DIUx foram ostensivamente criadas para transferir tecnologias emergentes do setor privado para as agências de inteligência e militares dos EUA, respectivamente. Uma interpretação um pouco diferente é que essas organizações foram lançadas “para capturar inovações tecnológicas… [e] capturar novas ideias”. Os críticos apontam a In-Q-Tel como um excelente exemplo da militarização da indústria de tecnologia.
Em termos monetários e tecnológicos, é provável que o investimento mais lucrativo da In-Q-Tel tenha sido a Keyhole, uma empresa sediada em São Francisco que desenvolveu software para combinar imagens de satélite e fotos aéreas para criar modelos tridimensionais da superfície da Terra. O programa poderia essencialmente criar um mapa de alta resolução de todo o planeta. A In-Q-Tel forneceu financiamento em 2003, e em poucos meses, os militares dos EUA estavam usando o Keyhole para apoiar as tropas americanas no Iraque.
Fontes oficiais nunca revelaram quanto a In-Q-Tel investiu na Keyhole, mas em 2004 o Google comprou a start-up. Ela foi renomeada como Google Earth. A aquisição foi significativa: a jornalista Yasha Levine escreve que o acordo Keyhole-Google “marcou o momento em que a empresa deixou de ser uma empresa de internet puramente voltada para o consumidor e começou a se integrar ao governo dos Estados Unidos”. Em 2007, o Google estava buscando ativamente contratos governamentais distribuídos uniformemente entre militares, inteligência e agências civis.
Além do Google, o portfólio da In-Q-Tel inclui empresas com projetos futuristas como a Cyphy, que fabrica drones conectados que podem realizar missões de reconhecimento por longos períodos graças a uma fonte de energia contínua; Atlas Wearables, que produz rastreadores de fitness que monitoram de perto os movimentos do corpo e os sinais vitais; Fuel3d, que vende um dispositivo portátil que produz escaneamentos tridimensionais detalhados de estruturas ou objetos; e a Sonitus, que desenvolveu um sistema de comunicação sem fio, cuja parte cabe dentro da boca do usuário. Se a DIUx apostou em empresas de robótica e IA, a In-Q-Tel perseguiu aquelas que criam tecnologias de vigilância – empresas de satélites geoespaciais, sensores avançados, equipamentos de biometria, analistas de DNA, dispositivos de tradução de linguagem e sistemas de defesa cibernética.
Mais recentemente, a In-Q-Tel mudou para empresas especializadas em mineração de dados em mídias sociais (link externo) e outras plataformas de internet. Isso inclui Dataminr, que transmite dados do Twitter para detectar tendências e ameaças potenciais; Geofeedia, que coleta mensagens de mídia social indexadas geograficamente relacionadas a eventos de notícias de última hora, como protestos; e a TransVoyant, empresa que coleta dados de satélites, radares, drones e outros sensores.
Alguns podem aplaudir o recrutamento bem-sucedido de empresas de tecnologia pelas agências militares e de inteligência dos EUA. Dado o rápido desenvolvimento e implantação de sistemas de armas de alta tecnologia e programas de vigilância por nações rivais, como a China – que implantou tecnologias comparáveis contra seus próprios cidadãos na província de Xinjiang – os proponentes frequentemente afirmam que os militares dos EUA não podem ficar para trás em um Corrida armamentista de IA. Mas tais argumentos falham em considerar como a fusão da Big Defense com outra grande indústria vinculará a economia dos EUA cada vez mais fortemente a guerras intermináveis no exterior e policiamento militarizado em casa.
Projeto Maven
Muitas empresas financiadas pela In-Q-Tel e DIUx são pequenas startups que precisam urgentemente de dinheiro. Mas o interesse do Pentágono no Vale do Silício também se estende às maiores empresas baseadas na Internet.
Considere o caso do Projeto Maven – conhecido formalmente como Algorithmic Warfare Cross-Functional Team, ou Equipe Trans-Funcional de Armamentos Algorítmicos. O subsecretário de Defesa Robert Work estabeleceu o programa em abril de 2017, descrevendo-o como um esforço “para acelerar a incorporação pelo DD de Big Data e aprendizado de máquina… [e] transformar o enorme volume de dados disponíveis para o DD em inteligência acionável e percepções em alta velocidade…”. O Boletim dos Cientistas Atômicos expõe o problema de forma sucinta:
Os aviões e satélites espiões dos EUA coletam mais dados brutos do que o Departamento de Defesa poderia analisar, mesmo que toda a sua força de trabalho passasse a vida inteira nisso. Infelizmente, a maior parte da análise de imagens envolve um trabalho tedioso – as pessoas olham para as telas para contar carros, pessoas ou atividades… a maioria dos dados do sensor simplesmente desaparece – nunca é vista – embora o departamento venha contratando analistas o mais rápido possível há anos.
O Pentágono gastou dezenas de bilhões de dólares em sensores. Criar algoritmos para classificar e analisar as imagens fazia sentido economicamente e, com um custo projetado de US$ 70 milhões, o Projeto Maven deve ter parecido uma pechincha. O escopo do trabalho era impressionante. Em seu estado atual, os sistemas de IA exigem conjuntos de dados massivos para “aprendizagem profunda”, o que significa essencialmente aprender pelo exemplo. Durante a segunda metade de 2017, as pessoas que trabalham no Projeto Maven rotularam mais de 150 mil imagens visuais para criar os primeiros conjuntos de dados para treinar os algoritmos. As imagens (fotos de veículos, indivíduos, objetos, eventos) tiveram que levar em conta centenas, senão milhares, de condições variáveis: diferentes altitudes, ângulos fotográficos, resolução de imagem, condições de iluminação e muito mais.
Que organização poderia assumir tal tarefa? Funcionários do Pentágono não falaram sobre quais empresas estavam envolvidas, mas pessoas com informações internas forneceram dicas oblíquas de que importantes atores das Big Techs estavam envolvidos. O Coronel do Corpo de Fuzileiros Navais, Drew Cukor, que chefiou o Projeto Maven, observou que “estamos em uma corrida armamentista de IA… Está acontecendo no setor [e] as cinco grandes empresas de Internet estão perseguindo isso fortemente. Muitos de vocês devem ter notado que Eric Schmidt [então CEO da Alphabet Inc., empresa controladora do Google] agora está chamando o Google de empresa de IA, não de empresa de dados”.
Apenas oito meses após o Departamento de Defesa lançar o Projeto Maven, os militares estavam usando os algoritmos do programa para apoiar missões de drones contra o Estado Islâmico [ISIS] no Iraque e na Síria.
***
Em março de 2018, Gizmodo publicou uma série de bolhas expostas revelando que o Pentágono contratou silenciosamente o Google para o trabalho do Projeto Maven em setembro de 2017. De acordo com e-mails internos de executivos do Google, o negócio valia pelo menos US$ 15 milhões e esperava-se que aumentasse para até US$ 250 milhões.
Alguns e-mails detalhavam reuniões entre executivos do Google e o vice-secretário de Defesa Jack Shanahan. Mais de dez funcionários do Google foram designados para o projeto, e a empresa fez parceria com várias outras empresas, incluindo a DigitalGlobe, uma empresa de imagens geoespaciais, e a CrowdFlower, uma empresa de crowdsourcing. A CrowdFlower (que desde então mudou seu nome para Figure Eight) pagou os chamados “trabalhadores da multidão” – pessoas que realizam tarefas repetitivas online, como identificar fotos – para rotular milhares de imagens para “aprendizagem profunda” algorítmica. Aparentemente, os trabalhadores da multidão não sabiam o que estava construindo, ou quem se beneficiaria com o resultado.
Alguns dos e-mails internos do Google sugeriam que a empresa tinha planos ambiciosos que iam além do que foi inicialmente sugerido nos anúncios iniciais do Pentágono. Um deles sugeriu a criação de um sistema de espionagem “semelhante ao Google Earth”, dando aos usuários a capacidade de “clicar em um prédio e ver tudo associado a ele”, incluindo pessoas e veículos.
Internamente, funcionários do Google estavam preocupados com um possível problema de relações públicas caso o projeto Projeto Maven vazasse: “Acho que devemos fazer um trabalho de RP sobre a história da colaboração do DD com o GCP sob o ângulo da tecnologia de nuvem (armazenamento, rede, segurança, etc.)”, escreveu Fei-Fei Li, cientista-chefe de IA do Google Cloud, “mas evite a TODO CUSTO qualquer menção ou implicação de IA”.
Mas, por fim, a história vazou.
Revolta dos engenheiros
Em fevereiro de 2018, e-mails internos sobre o Projeto Maven circularam amplamente entre os funcionários do Google, muitos dos quais ficaram chocados e consternados com o que os executivos seniores da empresa haviam feito. Em poucos meses, mais de 4 mil pesquisadores do Google assinaram uma carta ao CEO Sundar Pichai, exigindo o cancelamento do contrato do Maven. A carta, assinada por vários engenheiros seniores, começava com a declaração: “Acreditamos que o Google não deveria estar no negócio da guerra”. Também exigia que o Google desenvolvesse “uma política clara afirmando que nem o Google nem seus contratados jamais construiriam tecnologia de guerra”. Até o final do ano, quase uma dezena de funcionários demitiram-se em protesto por conta dos contratos militares da empresa e falta de transparência dos executivos.
Surpreendentemente, os funcionários conseguiram uma vitória, pelo menos momentânea. No início de junho, o Google anunciou que a empresa encerraria seu trabalho no Projeto Maven quando o contrato expirou. Dias depois, o Google divulgou um conjunto de diretrizes éticas ou “Princípios de IA”, afirmando que a empresa “não projetará ou implantará IA” para sistemas de armas, para “vigilância que viole normas internacionalmente aceitas” ou para tecnologias usadas para violar o direito internacional e os direitos humanos.
O compromisso do Google de cancelar seu trabalho no Projeto Maven era bom demais para ser verdade. Em março de 2019, The Intercept obteve um e-mail interno do Google indicando que uma empresa terceirizada continuaria trabalhando no Projeto Maven usando “a Google Cloud Platform pronta para uso (serviço básico de computação, em vez de Cloud AI ou outros serviços de nuvem) para dar suporte ao trabalho”. Walker acrescentou que o Google está trabalhando com o “DD para fazer a transição de maneira consistente com nossos princípios de IA e compromissos contratuais”.
Outros relatórios revelaram que o Departamento de Defesa concedeu o contrato do Projeto Maven à Anduril Industries, mais conhecida por criar o fone de ouvido de realidade virtual Oculus Rift. No ano anterior, a Anduril havia pilotado um sistema de vigilância desenvolvido para agentes da Alfândega e Proteção de Fronteiras dos EUA. O sistema usa IA para detectar a presença de pessoas tentando cruzar a fronteira dos EUA.
Embora os relatos da mídia sugiram que o Google (e mais tarde a Anduril) foram as únicas empresas que participaram no Projeto Maven, a realidade é muito mais complexa e problemática. A análise cuidadosa pela organização de pesquisa sem fins lucrativos Tech Inquiry documenta o envolvimento mais profundo de vários outros contratados e subcontratados. O Pentágono concedeu “prêmios principais” à ECS Federal e à Booz Allen Hamilton, e “subprêmios” a uma série de empresas, incluindo Microsoft, Clarifai, Rebellion Defense, Cubic Corporation, GATR Technologies, Technical Intelligence Solutions e SAP National Security Services, entre outras. Esses contratos nunca foram amplamente divulgados.
***
Embora os funcionários do Google que resistiram ao Projeto Maven representassem apenas uma modesta parcela dos 70 mil funcionários da empresa, eles conseguiram provocar discussões sobre contratos militares da indústria de tecnologia e um debate mais amplo sobre a ética da IA.
A revolta do Google repercutiu em toda as Big Techs e inspirou outras na sequência. Por exemplo, em fevereiro de 2019, mais de 200 funcionários da Microsoft exigiram que a empresa cancelasse um Contrato do Exército dos EUA de US$ 480 milhões para fornecer às tropas mais de 100 mil dispositivos de cabeça HoloLens de realidade aumentada. O edital do Pentágono delineou a necessidade de um dispositivo de cabeça capaz de dar aos soldados visão noturna, mira oculta de armas e a capacidade de reconhecer ameaças automaticamente. Idealmente, daria aos soldados “maior letalidade, mobilidade e consciência situacional”, de acordo com o anúncio.
Em uma carta aberta ao CEO da Microsoft, Satya Nadella, os trabalhadores expressaram preocupação de que, nas mãos dos militares, o HoloLens pudesse ser “projetado para ajudar as pessoas a matar” ao “transformar a guerra em um videogame simulado”. Os funcionários acrescentaram: “não fomos contratados para desenvolver armas e exigimos uma posição sobre como nosso trabalho é usado”. Os executivos da Microsoft recusaram-se a rescindir o contrato. Nadella disse: “não vamos restringir a tecnologia de instituições que elegemos em democracias para proteger as liberdades de que desfrutamos”.
No verão de 2018, cerca de 450 funcionários da gigante de tecnologia Amazon assinaram uma carta exigindo que a empresa pare de vender Rekognition – um software de reconhecimento facial – para agências de segurança pública. A carta dos funcionários também pedia que a divisão de Web Services da Amazon parasse de hospedar a Palantir, uma empresa de tecnologia que fornece software de análise de dados para a Imigração e Alfândega dos EUA, já que a agência tinha como alvo crianças desacompanhadas e suas famílias para deportação. O CEO da Amazon, Jeff Bezos deu de ombros e ignorou a carta dos funcionários. “Um dos trabalhos da equipe de liderança sênior é tomar a decisão certa mesmo quando ela não é popular”, disse ele em outubro de 2018. “Se as grandes empresas de tecnologia vão virar as costas para o Departamento de Defesa dos EUA, este país estará em apuros.”
Enquanto os trabalhadores de tecnologia expressavam reticências sobre o envolvimento em projetos militares, os executivos vendiam os produtos de suas empresas para funcionários do Pentágono. A Microsoft anunciou segredo governamental do Azure, um serviço de nuvem para clientes do Departamento de Defesa e da comunidade de inteligência que tem como exigência “trabalhos secretos para os EUA”. Os Sites da Oracle gabavam-se de como seus produtos “ajudam as organizações militares a melhorar a eficiência, a preparação e a execução de missões”. E a Amazon criou um slick, vídeo promocional de noventa segundos em agosto de 2018, intitulado simplesmente “Amazon Web Services for the Warfighter” (Serviços de Internet da Amazon para o Combatente).
A luta contra a fusão das Big Techs com a Big Defense
As tecnologias do Vale do Silício dão diversos exemplos das consequências imprevisíveis do lançamento de um novo hardware ou software. A ideia de que uma invenção pode ser usada para fins pacíficos ou militares – ou seja, a noção de tecnologia de uso duplo – tornou-se amplamente aceita na sociedade estadunidense no século passado. A historiadora Margaret O’Mara lembra que, durante a Guerra Fria, “o Vale construiu pequenos: micro-ondas e radares para comunicação de alta frequência, transistores e circuitos integrados… O Vale do Silício construiu elegantes máquinas miniaturizadas que podiam alimentar mísseis e foguetes, mas que também ofereciam possibilidades de uso pacífico — em relógios, calculadoras, eletrodomésticos e computadores”.
Essas tecnologias continuam tendo aplicações de uso duplo. O Google Earth pode ser empregado para mapeamento e pesquisa geográfica, mas também pode ser usado por equipes de Forças Especiais para atingir redes de energia elétrica, pontes ou outras infraestruturas. A Microsoft primeiro comercializou o HoloLens como um dispositivo de realidade aumentada para jogadores, artistas e arquitetos, mas os consumidores mais lucrativos provavelmente são a infantaria. O programa de reconhecimento facial da Amazon pode ser usado para transações seguras em bancos ou caixas eletrônicos, mas também pode ser usado como tecnologias de vigilância por agências militares, de inteligência ou de segurança pública, como a Imigração e Fiscalização Alfandegária nos EUA. As plataformas de nuvem oferecidas pela Amazon, Oracle, Microsoft e Google podem potencialmente armazenar dados para pesquisadores científicos, autoridades de saúde pública ou empresas comerciais. Mas também podem aumentar a letalidade das forças militares.
Alguns podem repreender os engenheiros e cientistas dissidentes do Google como ingênuos polianas. Afinal, eles não sabiam no que estavam se metendo? Se os cientistas geralmente entendem o fato de que, uma vez que produzem conhecimento, provavelmente não terão controle sobre como ele será usado, então certamente devem ter entendido que os dispositivos e aplicativos que estavam criando poderiam, em algum momento, ser transformados em armas. Ou não?
É possível que muitos cientistas e engenheiros que agora se opõem ao trabalho militar do Vale do Silício nunca tenham imaginado que seriam atraídos para o complexo militar-industrial-tecnológico. Talvez eles até tenham decidido trabalhar para empresas de tecnologia porque pensaram que essas empresas não estavam no ramo de armas. Afinal, a carta escrita pelos manifestantes da Microsoft afirma: “Não fomos contratados para desenvolver armas”.
Os pesquisadores também podem ter depositado uma fé exagerada nos executivos de suas empresas. No Google, os funcionários se sentiram traídos por decisões secretas que levaram ao contrato do Projeto Maven. A imprensa de negócios reconhece regularmente a empresa como tendo a melhor “cultura corporativa” dos Estados Unidos, não apenas porque os funcionários podem trazer animais de estimação para o trabalho e ter acesso a refeições orgânicas preparadas por chefs profissionais, mas também porque a organização tem a reputação de valorizar a colaboração dos funcionários.
Assim que o Projeto Maven veio à tona, a falsa consciência dos trabalhadores de tecnologia começou a evaporar. Quando se ganha uma renda de seis dígitos como engenheiro ou programador ao sair da faculdade fica difícil pensar em si mesmo como um proletário, especialmente quando você aproveita as vantagens oferecidas pelo setor – almoços gourmês gratuitos, academias no local e creche gratuita, por exemplo. Para milhares de funcionários, ficar de fora das discussões sobre se a empresa deveria colaborar no desenvolvimento de armas de IA despertou um sentimento latente de consciência de classe.
Havia também outro problema: os envolvimentos de longa data do Vale do Silício com o Pentágono. Como este ensaio relata e como observado por Margaret O’Mara, “quer seus funcionários percebam ou não, todos os gigantes da tecnologia de hoje têm algum DNA da indústria de defesa… Isso envolve um reconhecimento muito mais completo da longa e complicada história do Vale do Silício e do negócio da guerra”.
***
A divisão entre o Pentágono e o Vale do Silício é basicamente um mito – nunca existiu de verdade, pelo menos não de maneira significativa. As diferenças são superficiais e estilísticas. Durante quase um século, a economia e a cultura regionais foram moldadas pelo que se poderia chamar de complexo militar-industrial-universitário. Durante a Guerra Fria, o Pentágono ajudou a construir a indústria de computadores concedendo contratos militares em áreas como eletrônica de micro-ondas, produção de mísseis e satélites e pesquisa de semicondutores.
O historiador Thomas Heinrich nos lembra que as representações populares de “inventores-empresários engenhosos e capitalistas de risco [que] forjaram uma economia dinâmica e de alta tecnologia livre da mão pesada do governo” desviam a atenção do papel crucial do “financiamento do Pentágono para pesquisa e desenvolvimento [que] ajudou lançar as bases tecnológicas para uma nova geração de startups” no século XXI. Dos anos 1950 até o final dos anos 1990, o maior empregador do setor privado do Vale do Silício não foi Hewlett Packard, Apple, Ampex ou Atari. Era a gigante da defesa Lockheed. Hoje, a região enfrenta um padrão conhecido, embora o tamanho gigantesco e a influência das empresas de tecnologia de hoje superem as empresas de computadores do passado.
É provável que isso tenha grandes implicações no futuro próximo. Jack Poulson, ex-cientista de pesquisa sênior do Google e cofundador da Tech Inquiry, colocou-me a questão da seguinte forma: “Acredito que estamos testemunhando a transição de grandes empresas de tecnologia dos EUA para contratos de defesa e chegaríamos ao ponto de prever que eles comprariam fornecedores de defesa nos próximos anos – algo como a compra da Raytheon pela Amazon”.
A verdadeira linha de cisão não está entre o Pentágono e o Vale do Silício. Está dentro do Vale do Silício, onde um modesto contingente de engenheiros e cientistas politicamente conscientes resolveu resistir ao uso militar de seu trabalho. Quando eles enfrentarem um ataque total de mensagens de relações públicas, campanhas visando corações e mentes, discussões “colaborativas”, mais remuneração e privilégios – e talvez a ameaça tácita de perder seus empregos ou de vê-los terceirizados –, eles irão capitular?
A essa altura, é muito cedo para saber o resultado, mas o futuro da guerra virtual e dos campos de batalha digitais pode estar nas mãos dessas pessoas.
