(Foto: Pixabay)
O legislativo da Califórnia, estado sede de 32 das 50 empresas mais importantes de Inteligência Artificial (IA) do mundo, aprovou na segunda semana de setembro uma legislação que complementa o esforço de disponibilizar ao público informações sobre a procedência dos conteúdos digitais, dando assim uma resposta sistêmica à praga da desinformação e fraude online.
Por razões tecnológicas e financeiras, é provável que as medidas da Califórnia, a quarta maior economia do mundo, tenham impacto mundial entre as plataformas, ferramentas de IA e dispositivos de captura fabricados e utilizados no mundo ocidental. Eles levariam à implementação em larga escala do padrão de procedência C2PA promovido pela Iniciativa de Autenticidade de Conteúdo (CAI).
A nova legislação culmina um período de rápido avanço do movimento sobre a rastreabilidade do conteúdo, incluindo o lançamento com tecnologia C2PA do telefone Pixel 10 do Google, uma implementação inovadora de C2PA pela France TV, uma decisão da associação de fornecedores de câmeras de segurança de se juntarem ao C2PA e a implementação de uma política de procedência na China.
O Senado da Califórnia aprovou por 30-6 a legislação que obriga as plataformas e redes a mostrar informações de procedência quando estiverem disponíveis nos conteúdos que circulam, e aos fabricantes de câmeras fotográficas e de vídeo, assim como gravadores de áudio, a incluir a tecnologia de procedência como opção de uso em seus produtos.
No dia seguinte, a câmara baixa validou as mudanças feitas no Senado, enviando o projeto ao governador Gavin Newsom para sua assinatura.
“Não podemos ainda fazer a volta olímpica, mas tenho muita fé”, disse David Evan Harris, representante da Iniciativa da Califórnia para a Tecnologia e a Democracia (CITED), que ajudou a redigir a legislação, apresentada por Buffy Wicks, membro da câmara baixa.
John Bennett, pesquisador do comitê de privacidade e proteção ao consumidor, fez um relatório meses atrás para resumir para os legisladores a natureza da legislação. Nesse relatório, ele disse:
“A propagação descontrolada de conteúdo sintético ameaça prejudicar os californianos de várias maneiras, como a proliferação de pornografia DeepFake não consensual, fraudes, danos à reputação e a distribuição de desinformação eleitoral direcionada. Uma estratégia para combater isso é integrar dados de procedência (origem) no conteúdo gerado por IA e capturado em tempo real que permita aos espectadores verificar o conteúdo.”
No ano passado, a legislatura estadual aprovou a Lei de Transparência em IA, SB 942, que obriga os fornecedores de IA Generativa, a partir de 1º de janeiro de 2026, a incluir nos conteúdos gerados informações sobre sua origem, incluindo sua criação por meio da IA, o nome do sistema gerador e a data da produção.
Mas os autores e proponentes dessa legislação sabiam que esse primeiro passo era incompleto sem as medidas contempladas na legislação agora aprovada, já que:
- Não fazia sentido prático marcar as obras de IA como tais se essa informação de origem não estivesse visível nas plataformas/redes.
- Visto que a IA pode criar imagens, vídeos e áudios essencialmente indistinguíveis de capturas reais, era imprescindível que fosse possível, e ao mesmo tempo opcional, marcar capturas reais para dar ao público as ferramentas de conhecer a natureza de cada conteúdo.
“Esses requisitos, junto com a SB 942, criariam um marco abrangente de divulgação e detecção que permitiria a classificação em grande escala do conteúdo como autêntico ou artificial”, disse Bennett, em sua análise, que contempla a utilização do padrão de procedência C2PA impulsionado pela CAI, um esforço colaborativo de mais de 5.000 membros do qual a Comprova (iniciativa que congrega jornalistas brasileiros contra desinformação) faz parte.
A obrigatoriedade das plataformas e redes de mostrar as informações de procedência incluídas nos conteúdos entraria em vigor em 1º de janeiro de 2027, enquanto os dispositivos de captura deveriam incluir tecnologia de procedência a partir de 1º de janeiro de 2028.
O padrão C2PA é de código aberto e foi desenvolvido dentro da Fundação Linux por um grupo de empresas, incluindo Adobe, BBC, Publicis Groupe, Google, Microsoft, OpenAI, Sony, Intel, Meta, Amazon e TruePic. C2PA é o acrônimo para o nome deste grupo técnico, a Coalizão pela Procedência e Autenticidade do Conteúdo. CAI é o grupo que publicamente promove a adoção do padrão.
Atualmente, este é o único esforço tecnologicamente avançado de procedência que ainda conta com amplo apoio de todos os setores do sistema de informação e economia digital.
Com o padrão, o público tem acesso a algo como uma “etiqueta de dados nutricionais” dos conteúdos digitais. No caso de capturas reais, a etiqueta informa onde, como, quando e eventualmente por quem foi feito o registro (a fotografia, o vídeo ou o áudio), se foi alterado após a captura e como. Para capturas reais, o uso da tecnologia é opcional, incluindo a possibilidade de definir quais informações de procedência se deseja compartilhar.
O padrão C2PA já está sendo utilizado pelo ChatGPT, Dall-e, Sora, Bing e Adobe Firefly, e está visível no LinkedIn, com um ícone CR nas imagens, um vínculo que leva à informação de procedência. Google e Facebook anunciaram seus planos para implementar o padrão, embora ainda não se saiba quando.
A aprovação dessa legislação é apenas o mais recente dos avanços alcançados por aqueles que propõem que as credenciais de conteúdo, as etiquetas, sejam onipresentes como parte de um esforço para restabelecer a confiança do público nos conteúdos que usam para se informar e para evitar ser vítimas de fraudes e golpes, entre outras coisas.
No final de agosto, o Google apresentou seu telefone Pixel 10, sendo o primeiro smartphone a incorporar de forma nativa a tecnologia C2PA, oferecendo aos usuários a opção de ativar as credenciais de conteúdo nas fotografias tiradas com o Android. Leica, Nikon e Sony já lançaram câmeras C2PA, e a Sony promete incluir a tecnologia em uma câmera de vídeo antes do final do ano.
Andy Parsons, diretor geral da CAI, disse sobre o lançamento: “Este é um momento muito emocionante para a transparência da mídia, para os fotógrafos e para as credenciais de conteúdo do C2PA. O novo Pixel 10 do Google é o primeiro telefone que integra credenciais de conteúdo no núcleo de seu processo de captura de fotos e alcançou o nível mais alto oferecido pelo Programa de Conformidade do C2PA”.
Em outro avanço, a France Télévisions ganhou o prêmio de Tecnologia e Inovação da European Broadcasting Union (EBU) por sua implementação do padrão C2PA em dois de seus programas.
“Em um contexto onde a desinformação e os DeepFakes erodem gravemente a confiança pública e desestabilizam as democracias, a France Télévisions deu um passo decisivo ao se tornar a primeira emissora a adotar sistematicamente o protocolo C2PA no dia a dia”, escreveu Romuald Rat, diretor do Tech Lab da France Télévisions, na revista Tech-I da EBU. “Esta iniciativa marca um ponto de inflexão na participação dos meios públicos na transparência informativa e na luta contra a manipulação de conteúdos digitais”.
Mostrando a amplitude do esforço, a ONVIF, associação que reúne os fornecedores de câmeras de segurança para promover padrões abertos comuns, se uniu como membro da C2PA. “Preservar a autenticidade do vídeo nunca foi tão importante, já que as ameaças da IA gerativa e outros métodos de manipulação de conteúdo continuam a aumentar exponencialmente, independentemente do setor e do caso de uso”, afirmou Leo Levit, presidente do Comitê Diretivo da ONVIF.
“O trabalho da ONVIF para preservar a integridade do vídeo e o reconhecimento da C2PA contribuirão para gerar confiança nos usuários de que o vídeo gravado pode ser verificado como genuíno e sem manipulações”.
A ONVIF disse que preservar a integridade dos vídeos de segurança é fundamental, pois estes são utilizados em procedimentos judiciais, investigações policiais e incidentes de segurança corporativa, onde qualquer dúvida sobre a validade da evidência em vídeo pode minar os resultados e erodir a confiança institucional.
Finalmente, em 1º de setembro, a China se tornou o primeiro país no mundo a impor um sistema obrigatório de origem para conteúdos gerados por IA. Os conteúdos de IA devem ter dois sistemas de identificação, um visível ao público e outro com metadados anexados a cada fotografia, áudio, vídeo ou documento produzido pela IA. Os críticos afirmam que, enquanto a campanha da China é oficialmente projetada para combater a desinformação, ao ser obrigatória, poderia ser utilizada como uma ferramenta de censura.
“A China implementou o que outros ainda debatem: um padrão nacional de autenticidade da IA”, disse em um post no LinkedIn Barbara Cresti, especialista em IA que aconselha conselhos de administração de empresas. “A infraestrutura técnica demonstra que é possível. As implicações políticas nos lembram de seus riscos”.
***
John Reichertz é consultor na América Latina da Iniciativa de Autenticidade de Conteúdo.