(Foto: Tara Winstead/Pexels)
A inteligência artificial se tornou o assunto do momento no jornalismo, com veículos correndo para adotar a tecnologia, se mostrar como modernos e inovadores para o mercado e surfar na onda do hype. Mas isso não significa que o jornalismo já resolveu plenamente todas as outras questões envolvendo o mundo digital e sua natureza.
O caso mais recente que ilustra esse problema ocorreu neste último final de semana. O jornal O Globo produziu um especial interessantíssimo intitulado “101 Brasileiros que Constroem o Futuro”, reunindo pesquisadores, ativistas, empreendedores e outras figuras que “nos ajudam a refletir sobre os novos tempos e moldam uma sociedade melhor”, segundo o veículo. Mas um erro crasso acabou tomando os holofotes.
Uma das escolhidas, merecidamente, foi a pesquisadora Nina da Hora, que tem feito um trabalho robusto, sério e essencial nas discussões sobre a natureza dos modelos de inteligência artificial, seus vieses e como mitigá-los. Entretanto, ao escolher a foto de Nina que saiu tanto na versão impressa quanto digital do jornal, a imagem escolhida retratava outra mulher, identificada como Nina.
O jornal chegou a corrigir o erro, com um aviso e um pedido de desculpas ao final da matéria, mas não foi possível arrumar a falha na edição impressa. Até a segunda-feira, a imagem errada atribuída a Nina ainda aparecia nos resultados de buscas do Google. Na era da IA, é natural imaginar que o erro foi maquínico, talvez alguma “alucinação”.
Entretanto, a própria pesquisadora informou que o jornal admitiu que o erro foi humano. Quatro anos atrás, a foto foi erroneamente descrita no banco de dados do jornal como um retrato de Nina e, por isso, aparecia nos resultados de busca pelo seu nome.
No processo de escolha da foto para a matéria, também não parece ter havido uma verificação simples para ver se a foto realmente retratava a pesquisadora, mostrando como acreditamos rapidamente e cegamente em bancos de dados e suas informações, mesmo quando a verificação é a essência primária do jornalismo.
Recomendo fortemente assistir ao vídeo que Nina fez sobre o caso e ler o artigo escrito por ela sobre as causas e consequências desse erro sob uma perspectiva da matemática e da ciência da computação.
Nos materiais, a pesquisadora destaca as problemáticas em torno de erros como esse, como são mais comuns com grupos minorizados, como mulheres e negros, e como esse fenômeno faz parte do que ela chama de “epistemicídio computacional”.
Especificamente, gostaria de me ater a um ponto que chamou a minha atenção: enquanto correm para adotar a IA, os veículos jornalísticos não parecem ter nem resolvido os problemas em torno dos seus bancos de dados. O tema parece chato, eu sei. Quem já trabalhou em redação sabe que nenhum jornalista gosta de ficar preenchendo metadados e adicionando materiais em bancos de dados.
Quase sempre, esse trabalho é feito rapidamente, sem pensar. É visto como “perda de tempo”, “chatice”, “desnecessário”. Não é à toa, portanto, que muitas informações acabam ficando incompletas ou imprecisas.
Mas os metadados e os bancos de dados são, exatamente, a base de funcionamento de qualquer ferramenta de IA. Sem um banco de dados bem preenchido, estruturado, verificado, sem erros e com mitigação de vieses, as chances de um sistema de inteligência artificial cometer erros e imprecisões e reproduzir preconceitos são muito maiores.
O debate é urgente, já que a criação de modelos de IA “privados”, com técnicas de fine tuning e RAG, está se tornando cada vez mais comum. Jornais já apresentam ferramentas prometidas para o público como mais exatas e com menos vieses exatamente por se aterem apenas aos bancos de dados do próprio veículo. E o caso desta semana mostra que isso nem sempre é garantia de precisão, pelo contrário.
Também há uma tendência de uso de ferramentas de IA para realizar exatamente esse preenchimento de bancos de dados, como em processos de tagueamento, o que tiraria o repórter de “tarefas simples e repetitivas” com pouca “utilidade prática”.
O risco, porém, é dessas ferramentas reproduzirem nos bancos de dados os seus próprios vieses já existentes, criando um círculo vicioso de replicação e disseminação de vieses e erros.
Por trás da promessa de “objetividade”, exatidão e precisão da IA, há muita subjetividade, vieses e erros, e isso sempre deve ser levado em conta.
Em processos de transformação digital, é comum que empresas se deixem seduzir pela tecnologia do momento e pelo hype, saltando rapidamente de processo em processo, tecnologia em tecnologia, pulando etapas necessárias, deixando coisas incompletas e passando por cima de salvaguardas e pelos próprios critérios de qualidade definidos. O preço é cobrado depois, quando os erros começam a aparecer.
O caso dessa semana é um excelente exemplo desse problema, que não é trivial e que não é resolvido apenas trocando uma foto. É preciso ir além e cortar a produção de vieses e erros pela raiz, com processos claros e bem comunicados internamente. Antes de correr para adotar ferramentas de IA, é importantíssimo que os veículos façam o dever de casa e se voltem para os seus bancos de dados. Do contrário, erros sérios como esse serão cada vez mais comuns.
***
João Pedro Malar é professor na PUC-MG. Doutorando e mestre em Ciências da Comunicação pelo PPGCOM da ECA-USP, onde também se formou como bacharel em Jornalismo. É membro do grupo de pesquisa COM+, dedicando-se a estudar a relação entre veículos jornalísticos e plataformas digitais e modelos de negócio no jornalismo.