Saturday, 13 de April de 2024 ISSN 1519-7670 - Ano 24 - nº 1283

É possível hackear seres humanos?

(Foto: Unsplash)

1. Uma “agência de modificação de comportamento”

O documentário Privacidade hackeada (2019) levanta duas preocupações ligadas ao uso de redes sociais, em específico, e da internet, em geral. A primeira delas, diretamente abordada pela narrativa e descrita no título do documentário, diz respeito ao acompanhamento de nossas interações sociais digitais realizado pelas grandes corporações da área. A partir de tal levantamento de dados, existe a possibilidade de que tais empresas nos conheçam mais do que nós mesmos acerca dos nossos gostos, tendências, preferências, etc. Trata-se de saber o que lemos, o que assistimos, quem admiramos, quem odiamos, entre outras informações que disponibilizamos diariamente. Ter acesso a essa massa de informações sobre as pessoas, por si só, já possibilita poderes consideráveis para quem as detém. Mas há mais.

A segunda preocupação, um pouco mais complexa, envolve a possibilidade de influenciar e estimular as pessoas a partir do mapeamento de suas preferências nos ambientes de rede, através do uso de ferramentas – os algoritmos – que levantam e cruzam dados sobre o que somos, o que queremos e o que podemos. Aqui, as possibilidades se ampliam: procedimentos tecnológicos sofisticados podem direcionar comportamentos e ações de muitas pessoas conforme desejo externo, de maneira rápida e eficaz. Um produto, uma proposta, um partido, podem fazer uso de tais ferramentas para ampliar seu espaço, sua visibilidade e seu poder, utilizando imagens, palavras e estímulos para públicos direcionados e passíveis de influência. E conseguir isso através de práticas realizadas fora do radar consciente do sujeito exposto a tais conteúdos, que passa a ter seus sentimentos e pensamentos influenciados pelos algoritmos e por quem detém os meios para fazê-lo. Mas vejamos como essas duas preocupações se entrelaçam no documentário.

Na história ali narrada, conhecemos a Cambridge Analytica, descrita como uma “agência de modificação de comportamento”, que faz uso de “operações psicológicas” para entregar os resultados contratados para seus clientes. Também nos é apresentado o fato de que essa empresa captou dados de 87 milhões de usuários do Facebook sem a permissão dos mesmos para que pudessem ser utilizados na campanha política de Donald Trump nas eleições presidenciais de 2016 nos Estados Unidos, juntamente com atividades realizadas em outras partes do mundo. Grande parte das revelações são realizadas por Brittany Kaiser, uma ex-diretora da empresa, e por Chris Wylie, um ex-funcionário, que optaram por publicar e denunciar as ações e práticas da corporação. Também acompanhamos a saga do professor David Carroll, que busca obter seus dados em poder da empresa, representando aqui os usuários que não possuem controle (nem preocupação) sobre suas informações disponibilizadas na rede.

A Cambridge Analytica trabalhava com dados das atividades online dos usuários disponibilizados de forma consentida nas plataformas das redes sociais. A partir desse processo de “mineração”, era possível levantar mais de 5000 “pontos de dados”, isto é, milhares de unidades de informação acerca de cada usuário. Assim, com esse mapeamento disponível, seria possível direcionar estímulos e informações para públicos específicos nas redes sociais, possibilidade que traz um impacto considerável numa eleição em que grande parte dos eleitores está disponível nas redes sociais. Nesse caso específico, tratava-se do direcionamento de propaganda e informações favoráveis e/ou contrárias aos candidatos em disputa, com o objetivo de influenciar as ações e votos dos usuários, seja a partir do voto, seja a partir do compartilhamento de tais informações, ampliando ainda mais as possibilidades de influência. O processo é mais simples do que pode parecer: a partir do conhecimento dos dados e personalidades de cada pessoa (o que viu, o que leu, o que gostou, a que destinou mais atenção, entre outros “pontos de dados”), juntamente com análises sobre tendências e vieses comportamentais, é possível realizar formas variadas de análises e previsões comportamentais. Essa coleta intensa de dados por empresas como a Cambridge Anaylitica possibilita, assim, a construção de mapeamentos que abrem espaço para ações poucas vezes imaginadas na história: saber e influenciar o que milhões de pessoas pensam e sentem com um grau de exatidão, pois são elas mesmas que entregam tais informações de forma consentida.

Ao longo do documentário, acompanhamos diversas situações em que o uso de ferramentas buscava influenciar e estimular grupos específicos em relação a determinadas demandas. Além do caso americano, são citadas as eleições de Trinidad e Tobago (onde a Cambridge Analytica atuou para favorecer um dos partidos que concorriam na violenta eleição do país), o brexit (o referendo no qual a população britânica optou pela saída do país da União Europeia) e o caso de Mianmar, onde há indícios de que o uso das redes sociais e ferramentas de direcionamento esteve diretamente ligado ao genocídio do povo rohingya por parte das autoridades locais e com amplo apoio da população. A eleição presidencial de 2018 no Brasil também é citada no documentário devido ao uso intenso de serviços de bombardeamento de mensagens e redes sociais durante o pleito. Em todos os casos, os meios de influência e estímulos envolvem o uso de propaganda intensa e violenta, imagens e informações descontextualizadas e notícias falsas, além de direcionamentos para grupos específicos e da criação de perfis falsos que disseminaram tais materiais nas redes.

De maneira geral, Privacidade hackeada evidencia como atuam os novos meios tecnológicos para a formatação de alteração de visões de mundo das pessoas. Numa sociedade intensamente conectada, que distribui seus dados e sua subjetividade nas redes sociais e na internet, a captação e uso de tais informações seria uma questão de (pouco) tempo. Não se trata de um processo novo: afinal, os meios de comunicação e as formas variadas de propaganda sempre buscaram influenciar e estimular, seja a partir de meios impressos, seja com a televisão, para ficarmos em dois exemplos. No entanto, temos agora um novo conjunto de possibilidades, onde é possível promover ações e comportamentos de maneira mais objetiva e direta, partindo do levantamento dos dados dos próprios sujeitos. Nesse novo contexto, alterações estruturais podem ser promovidas nas sociedades, conforme podemos ver nas situações apresentadas no documentário, seja através da influência eleitoral ou a partir do posicionamento político das pessoas. Num contexto mundial de tensões sociopolíticas e econômicas constantes, com mudanças tecnológicas e sociais “à flor da pele”, o potencial dos meios de influência chega ao seu ápice na história humana. Nesse sentido, entender como esses processos funcionam efetivamente é tarefa fundamental para quem deseja compreender nossos tempos. Vejamos algumas hipóteses sobre o funcionamento, os riscos e os meios para lidarmos com as possibilidades de hackeamento às quais estamos expostos atualmente.

2. Explorando emoções profundas

Num tempo de mudanças e incertezas em relação a diversos aspectos da vida, espera-se que as pessoas estejam mais ansiosas e mais envolvidas emocionalmente com suas situações. Convivemos hoje com tensões econômicas de uma crise que impactou a última década, discussões sobre mudanças climáticas, informações chegando a todo momento através de meios tecnológicos potentes, globalização intensa, processos migratórios instáveis, volatilidades sociais e laborais, entre outros elementos contemporâneos que nos tocam cada vez mais. Esse é a conjuntura dos acontecimentos abordados no documentário, que infelizmente recebem pouco tratamento na narrativa apresentada. No entanto, são elementos importantes para compreendermos como ficamos mais disponíveis para as atividades das “agências para modificação de comportamentos” e para os efeitos das redes de interação social digital. Em tais circunstâncias, é compreensível que a razão nos escape. Nesse contexto, um passo para compreendermos a relação entre as tecnologias e suas conexões com as sociedades e a política envolve uma análise sobre o que somos e nossas expectativas sobre nós mesmos.

Sobre tais temas, o biólogo Edward O. Wilson fez uma provocação estimulante: “O verdadeiro problema da humanidade é o seguinte: nós temos emoções paleolíticas, instituições medievais e tecnologia quase divina. Isso é perigoso.” Partindo desse ponto de vista, o ex-funcionário do Google Tristan Harris questiona se “nossos cérebros são páreo para a tecnologia”. Harris trabalhava com design e meios de persuasão e agora atua no Centro para a Tecnologia Humana, uma instituição que promove debates e reflexões sobre as interações sociais digitais e seus efeitos. Segundo sua análise, as redes sociais são construídas a partir de um profundo conhecimento sobre a constituição das mentes humanas, que buscam validação social, aceitação e conformidade. Junto a isso, informações que confirmam nossas crenças fazem nos sentirmos bem e informações que desafiam nossas crenças, não. Dessa forma, a tendência é buscarmos nas redes cada vez mais aquilo que se aproxima das nossas visões, sem ter tanto contato com outras visões, nos fechando cada vez mais em “bolhas” nas quais escutamos justamente aquilo que queremos ouvir. Numa análise que o aproxima da temática do documentário, Harris defende que, devido aos nossos instintos paleolíticos, somos simplesmente incapazes de resistir aos dons da tecnologia: “Mas isso não compromete apenas a nossa privacidade. Também compromete nossa capacidade de tomar ações coletivas”.

Outra expectativa que nutrimos sobre nós mesmos, para além da racionalidade, é a liberdade – a característica humana que nos torna efetivamente diferente de outras formas de vida. No entanto, essa visão tem sido questionada por diversos dados e reflexões e o historiador Yuval Harari a descreve como “o mito da liberdade”: “Este mito tem pouco a ver com o que a ciência agora nos ensina sobre o Homo sapiens e outros animais. Os humanos certamente têm vontade – mas não são livres. Você não pode decidir quais desejos você tem”. No caso das interações sociais digitais, isso é evidenciado quando surge a possibilidade de sermos “hackeados”, isto é, de que sejamos influenciados e estimulados por agentes externos a partir de um profundo conhecimento daquilo que somos e do que sentimos – possibilidade que levanta questões acerca do nosso grau de liberdade. Podemos ser hackeados através de medos, ódios, preconceitos e desejos já existentes, como muitas vezes observamos ao longo da história. Tais sentimentos não podem ser criados a partir do nada. Porém, quando se descobre o que as pessoas sentem e pensam (o que nunca foi tão fácil como agora), fica fácil apertar os botões emocionais relevantes e provocar um sentimento ainda maior. Esta parece ser uma boa descrição do trabalho realizado por empresas como a Cambridge Analytica: descobrir quais “botões devem ser apertados” para que os objetivos dos seus clientes sejam satisfeitos.

Para além dos limites da nossa própria natureza, outros elementos contribuem para o crescente poder de influência a partir das interações sociais digitais. Juntamente com as expectativas de racionalidade e liberdade, que, em tese, nos tornam capazes de fazer escolhas em processos democráticos, as nossas expectativas de verdade também são impactadas. Além do fato já apontado por Harris de que nossos cérebros paleolíticos também não estão preparados para buscar apenas a verdade, utilizando apenas meios racionais e lógicos, as possibilidades de (i) criar notícias e informações falsas, (ii) deturpar os debates a serviço de determinadas visões e (iii) usar as ferramentas de disseminação de informações, entre outras, nunca foram tão potentes. A pesquisadora britânica Claire Wardle identifica esse fenômeno como “desordem informacional”: trata-se de uma desorganização voluntária da estrutura e da distribuição de informações, com o objetivo de atender a pautas e demandas próprias. Ao “bagunçar” o debate, estimulando potenciais emoções e medos, ou criando e disseminando informações falsas, aqueles que buscam o poder ampliam suas chances de atingir seus objetivos.

No ambiente aparentemente livre de obstáculos que é a internet, cada vez mais pessoal, no qual os indivíduos tendem a se refugiar em zonas seguras de grupos e comunidades, sem tempo e espaço para análises e reflexões detidas acerca das informações, a desordem informacional encontra uma ecologia ideal para os “engenheiros do caos”, conforme descrição do jornalista ítalo-suíço Giuliano Da Empoli. Indivíduos com interesses em alçar posições de destaque no cenário político e econômico passam a fazer uso de ferramentas tecnológicas e digitais para ampliar a desorganização e trazer impactos para os processos políticos e sociais. Ao encontrar um público com “raiva”, os algoritmos tendem a ampliar seu poder de ação e enviar suas mensagens de forma mais ampla e direta. No cenário caótico construído através de polêmicas, discussões pouco civilizadas e fake news, perfis falsos e outras estratégias diversificadas distorcem o debate e inflamam cada vez mais os sujeitos. Empresas como a Cambridge Analytica têm papel fundamental para a efetivação desses cenários. Desse modo, muitos políticos têm conseguido galgar posições de poder inimagináveis até tempos bem recentes: explorando emoções profundas e estimulando o caos.

3. Passos arriscados

Revisões e análises teóricas sobre tais circunstâncias levantam algumas possíveis tensões acerca do impacto das redes de interação social para a estrutura sociopolítica do nosso tempo. Tais propostas contrariam a expectativa inicial de que a internet fosse transformar positivamente a política, abrindo espaço para mais vozes e democratizando o debate. Dessa forma, conforme a análise do crítico americano Andrew Keen, o que se esperava era que a “sabedoria da multidão” contribuísse para a efetivação de soluções e propostas políticas mais diversificadas e plurais. Ao invés dessa nova “ágora digital”, surgiram novos barões das organizações de mídia e possibilidades de controle social que impactam diretamente nossa liberdade e autonomia, como atesta o caso envolvendo a Cambridge Analytica. A Vertigem Digital que dá título ao livro de Keen (2012) sobre o tema busca descrever o intenso mergulho no qual estamos lançados num mundo de intensa conexão e vigilância, que, paradoxalmente, acaba por diminuir as possibilidades dos indivíduos de construírem posicionamentos sólidos e refletidamente estruturados. Além disso, redes sociais acabam criando distanciamentos, comparações e polarizações que minam o diálogo e a livre escolha e nos transformam em fontes de dados e lucros para as grandes corporações.

Nesse contexto, ao invés de contribuir para a efetivação de processos democráticos abertos e estáveis, as novas formas de digitalização da conversação pública acabam provocando seu desgaste. Este é o argumento do historiador da cultura digital Siva Vaidhyanathan, desenvolvido no livro Antisocial media: How Facebook disconnects us and undermines democracy (2018). Segundo o autor, os sistemas de governo democrático dependem em algum nível de um sentimento compartilhado de comunidade e unidade nacional, configurando cenários de interesses comuns. Com a possibilidade de direcionamento de informações, publicidade específica para determinados grupos, incitações a engajamentos em campanhas específicas e outras formas de estímulos à produção de emoções fortes e intensas, rupturas e tensionamentos sociais passam a ser comuns em processos eleitorais. Política e entretenimento se fundem, abrindo espaço para o tribalismo e para o surgimento de polarizações violentas pautadas em vigilância e desinformação. No caso específico do Facebook, conforme estudado por Vaidhyanathan, os efeitos políticos podem ser observados nas democracias contemporâneas fraturadas por divisões internas e bolhas de ódio que impedem a conversação em vários níveis.

Com esse seu grande potencial de estímulo e engajamento, as tecnologias de informação e comunicação podem contribuir para o que a jornalista turca Ece Temelkuran chamou de “os sete passos da democracia em direção à ditatura” no livro Como perder um país (2019). Não se trata, aqui, de demonizar as redes sociais e a comunicação via internet, mas de reconhecer que sua finalidade pode ser subvertida para objetivos políticos questionáveis do ponto de vista democrático. São eles: 1) criar um movimento político e social (muitas vezes afastado da mídia tradicional, fazendo uso intenso de aplicativos de comunicação e direcionamento de publicidade); 2) atentar contra a linguagem (promovendo a desordem informacional nas redes sociais); 3) apostar na pós-verdade (informações falsas e questionamento de fontes seguras e especialistas); 4) desmontar os mecanismos judiciais e políticos (questionando sua autoridade e legitimidade); 5) desenhar seu próprio modelo de cidadão (atacando grupos e conjuntos de ideias); 6) desqualificar e banalizar a violência (através do uso de imagens e enquadramentos); 7) construir e disseminar ideais de país e nação conforme seus critérios. Em todos os passos, a comunicação digital é um elemento central.

Por fim, um aspecto fundamental da democracia que também encontra desafios nesses cenários é a discussão racional. Os riscos de estarmos envolvidos em situações de intensa excitação, com consequente descuido da racionalidade, são tratados pelo filósofo americano Michael P. Lynch em In praise of reason: Why rationality matters for democracy (2012). O autor ressalta que, mesmo com tantas ameaças, as liberdades se mantêm saudáveis enquanto seus cidadãos tomam decisões minimamente informadas e a partir de um nível básico de sinceridade pública. Sem tais traços, o “poder do povo” não passa de um slogan vazio, pois a possibilidade de uso do discurso organizado e exigente próprio da democracia se esvai. Restam apenas gritos e força. No entanto, como manter elevados ideais e padrões de racionalidade num contexto em que não sabemos ao certo o quanto fomos hackeados a partir do uso de ferramentas digitais que estão além de nosso radar consciente e estimulam nossas emoções mais profundas? Como tomar decisões sóbrias a partir do caótico cenário de desordem informacional no qual estamos inseridos? Esse é um dos grandes desafios de nosso tempo. Talvez tenhamos que repensar nossas estruturas educacionais e informacionais, juntamente com nosso sistema político “analógico” num mundo “digital”. O documentário Privacidade hackeada contribui para nos deixar cientes do tamanho e da urgência desse desafio.

REFERÊNCIAS

DA EMPOLI. Giuliano. Os Engenheiros do Caos. Tradução de Arnaldo Bloch. São Paulo: Vestígio Editorial, 2019.
HARARI, Yuval. “The myth of freedom.” The Guardian. Londres, 14 de setembro de 2018.
HARRIS. Tristan. “Our brains are no match for our technology.” New York Times, Nova York, 5 de dezembro de 2019.
KEEN, Andrew. Vertigem digital: Por que as redes sociais estão nos dividindo, diminuindo e desorientando. Tradução de Alexandre Martins. Rio de Janeiro: Zahar, 2012.
LYNCH, Michael P. In praise of reason: why rationality matters for democracy. Massachusetts: MIT Press, 2012.
TEMELKURAN, Ece. Como perder um país. Tradução de João Oliveira Santos. Lisboa: Temas e Debates, 2019.
VAIDHYANATHAN, Siva. Antisocial media: How Facebook disconnects us and undermines democracy. Cambridge: Oxford University Press, 2018.
WILSON, Edward O. O sentido da existência humana. Tradução de Érico Assis. São Paulo: Companhia das Letras, 2018.

***

José Costa Júnior é professor de Filosofia e Sociologia no IFMG Campus Avançado Ponte Nova.