(Foto: Pavel Danilyuk/Pexels)
A encíclica Magnifica Humanitas dedicada à inteligência artificial afirma, com razão, que a tecnologia nunca é neutra. O documento, publicado pelo papa Leão XIV no último dia 25, disseca as estruturas de poder e de capital que sustentam a economia digital.
Sistemas que aparentam objetividade podem reproduzir os estereótipos, vieses e prioridades de quem os projetou. Quando decisões sobre emprego, crédito, serviços públicos ou reputação são delegadas a máquinas, o risco é a exclusão sem compaixão, sem responsabilidade clara e sem caminho de recurso.
O documento reconhece que a IA pode ser uma ajuda preciosa, capaz de aliviar tarefas perigosas, repetitivas ou exaustivas. Mas condiciona esse ganho a três exigências inegociáveis, como a responsabilidade clara por cada decisão automatizada, a transparência sobre como os sistemas escolhem e responsabilização, que é ter alguém identificável para cobrar quando a máquina erra. Sem isso, adverte o papa, a inovação deixa de ser progresso e vira aceleradora de injustiça.
Leão XIV organiza seu argumento em torno de duas imagens bíblicas. De um lado, a Síndrome de Babel, um projeto técnico concebido sem Deus, movido pela idolatria do lucro, que persegue uma uniformidade capaz de neutralizar as diferenças e de traduzir até o mistério da pessoa humana em dados e performance.
De outro, o Caminho de Neemias, que trata da reconstrução de Jerusalém apoiada na subsidiariedade, no trabalho comunitário e na pluralidade de vozes tratada como recurso, não como ruído a ser eliminado.
Para o papa, o problema são as poucas empresas multinacionais que assumiram um “poder de fato” sobre o que ganha alcance e o que é enterrado, o que é recompensado e o que é punido. É esse punhado de gigantes que molda o que as pessoas desejam, temem e/ou tomam por verdade.
“Nada no mundo da IA é imaterial ou mágico”, afirma o texto da encíclica papal. As big techs venderam a IA como abstração. A mesma indústria que se apresenta como imaterial depende de uma base brutalmente concreta.
As tarefas de rotular dados e moderar conteúdos perturbadores recaem, segundo o texto, sobretudo sobre jovens e mulheres, em condições extenuantes e por remuneração mínima.
Mais abaixo na cadeia, a extração dos minerais raros que alimentam os microprocessadores acontece em regiões onde jovens trabalham em condições letais, com corpos “marcados, feridos e desgastados para que o fluxo computacional possa continuar ininterruptamente”. A Igreja nomeia a prática como uma nova forma de escravidão e subordinação global.
A carta do papa chega a esse segundo andar geopolítico. O colonialismo, sustenta o documento, não acabou, apenas mudou de método. Em vez de dominar corpos diretamente, ele agora se apropria de dados, como perfis genéticos, epidemiológicos, demográficos, biométricos, frequentemente extraídos do Sul Global sob o verniz de inovação ou de ajuda humanitária.
São, nas palavras do papa, “as novas terras raras do poder”. Sem devolver ao indivíduo o controle sobre o que é seu, a era digital será apenas colonial de uma forma mais limpa na aparência, mas igualmente extrativa.
O movimento mais sofisticado da encíclica é entender como esse controle funciona. O controle na era da IA pode ser chamado de arquitetura da visibilidade, que é o que decide, nos bastidores, o que ganha alcance e o que afunda, o que é premiado e o que é silenciado, sem censura explícita. Basta o algoritmo não mostrar. E o que não aparece pode deixar de existir.
Isso vale para as redes sociais e plataformas de inteligência artificial. Mas o documento do papa estende o raciocínio para o mercado de trabalho. A mesma lógica da inteligência artificial que define o que viraliza define quem é visto por um recrutador, quem recebe oportunidade, quem é ranqueado como produtivo, quem é eliminado por um sistema automatizado e quem tem a chance de contestar a decisão.
Costurando informação e trabalho, o documento desenha quatro vetores: a verdade privatizada, a visibilidade administrada, o trabalho subordinado à máquina e a infraestrutura concentrada.
A encíclica define a verdade como bem comum e não como propriedade do Estado, de plataformas, de influenciadores ou de empresas de tecnologia. A desinformação, lembra o texto, não nasceu com a IA, mas encontrou nela um “poderoso amplificador”. A infraestrutura é capaz de multiplicar, personalizar e legitimar falsidades em escala, com algoritmos que premiam o conflito e a polarização porque é isso que retém atenção.
No âmbito da gestão, a visibilidade é administrada. Quem controla plataformas, dados e canais de distribuição passa a influenciar o que parece desejável, ameaçador, aceitável ou verdadeiro. Comunicação, diz o papa, é criação de cultura. Quem decide o que aparece, decide o que a sociedade considera real.
O terceiro vetor é o trabalho subordinado à máquina, em três camadas de risco. A substituição direta de postos, que o lucro não pode justificar. A subordinação do trabalhador ao ritmo do sistema, com desqualificação profissional, vigilância automatizada e redução de pessoas a tarefas rígidas. E a precarização estrutural, que pode jogar economias ricas numa automação caótica e prender regiões pobres em economias híbridas, dependentes de mão de obra barata.
O dano, alerta o documento, é financeiro e antropológico. O trabalho é sustento, mas também identidade, pertencimento e cidadania. Uma sociedade que emprega apenas uma fração da população, porque o restante será substituído por sistemas, enfrenta o desemprego e a perda de paz social.
O último vetor é a infraestrutura concentrada, onde plataformas, dados e capacidade computacional em poucas mãos definem as condições de acesso de toda a cadeia. Os mesmos dados usados para prever preferências políticas e emocionais podem ser usados para decidir empregabilidade, risco, crédito e reputação. O sistema que manipula a atenção é o mesmo que pode governar as oportunidades.
A força do texto da encíclica papal está exatamente nessa conexão entre os dois temas. Quando os mesmos atores controlam informação e trabalho, controlam simultaneamente a percepção da realidade e o acesso às condições materiais de vida. É o ponto em que a IA deixa de ser ferramenta e vira estrutura de domínio.
A encíclica e o jornalismo
Nessa nova era da arquitetura da visibilidade, os produtores e consumidores entram na era do zero clique, dos agentes autônomos e da otimização para mecanismos generativos.
Quando uma IA responde no lugar do link, quando o modelo decide o que merece aparecer na síntese e o que será deixado de fora, a privatização da visibilidade deixa de ser metáfora teológica e vira engenharia de produto.
Durante décadas, o jornalismo brigou por audiência num campo aberto. Agora, a disputa é por existir dentro da resposta da máquina. E quem define os critérios dessa existência são os mesmos monopólios que a encíclica acusa de exercer um “poder de fato”, gerando o risco do aumento das fake news e do desaparecimento das fontes sérias pelo veto silencioso das plataformas de inteligência artificial. A disputa é sobre quem decide o que é real e sobre quem fica de fora da resposta.
A encíclica é um daqueles documentos que viram leitura obrigatória para todos da comunicação, governança, gestão e formação de pessoas. É um mapa que descreve com precisão o campo em que todos nós já estamos jogando.
***
Aline Sordili é jornalista, mestranda e consultora de IA para negócios.