A NewsGuard lança uma ferramenta para detetar websites que publicam conteúdo gerado por IA em larga escala

A NewsGuard lançou uma nova ferramenta para identificar websites que publicam grandes volumes de conteúdo gerado por inteligência artificial. O projeto foi desenvolvido em colaboração com a startup de deteção de conteúdos gerados por IA Pangram Labs. A solução foi concebida para detetar aquilo que a empresa designa como AI content farms: páginas que utilizam modelos de linguagem como ChatGPT, Claude ou Gemini para produzir conteúdo automatizado em larga escala que aparenta ser informação jornalística, segundo avança a AdWeek.

O sistema combina tecnologia de análise baseada em IA com revisão humana. Numa primeira fase, os modelos desenvolvidos pela Pangram analisam páginas e domínios completos para identificar padrões de conteúdo potencialmente gerado por inteligência artificial. Posteriormente, quando é detetado um possível site deste tipo, os analistas da NewsGuard realizam uma revisão manual para avaliar a extensão do conteúdo automatizado, verificar se existe transparência quanto ao uso de IA, procurar indícios de intervenção humana na redação e contactar os responsáveis do site para evitar possíveis falsos positivos. A NewsGuard classifica um site como AI content farm quando cumpre três critérios principais: uma parte significativa do conteúdo é gerada por IA, o site não o comunica de forma explícita e a sua aparência pode induzir os utilizadores a acreditar que se trata de conteúdo produzido por pessoas. Nestes casos, o conteúdo pode revelar-se pouco fiável ou mesmo ser considerado desinformação ou propaganda.

“Se não conseguirmos detetar conteúdo gerado por IA, todos os espaços de comunicação serão inundados com conteúdo falso, barato de produzir e difícil, senão impossível, de distinguir de algo autêntico”, afirmou Max Spero, CEO da Pangram, em declarações citadas pela AdWeek. Segundo a NewsGuard, a ferramenta esteve em fase de testes durante mais de seis meses e já permitiu identificar cerca de 3.000 sites deste tipo — mais do dobro dos detetados no ano anterior, maioritariamente através de processos manuais. Muitos destes sites utilizam nomes genéricos com aparência informativa e publicam artigos com alegações falsas ou enganosas sobre marcas, líderes políticos, figuras públicas ou temas de saúde pública. Muitos podem também ser classificados como made-for-advertising (MFA), páginas que publicam conteúdo de baixa qualidade com o único objetivo de gerar receitas publicitárias através de arbitragem de tráfego. Num período de observação de dois meses, a NewsGuard identificou anúncios de 141 grandes marcas a aparecer neste tipo de páginas. De acordo com a Pangram Labs, surgem entre 300 e 500 novos sites deste género todos os meses, impulsionados pelo baixo custo de produção de conteúdo automatizado e pela sua capacidade de gerar receitas publicitárias.

Para responder a este problema do lado publicitário, a empresa permitirá que anunciantes e agências licenciem a sua base de dados de sites identificados. Além disso, a ferramenta conta com uma integração direta com a plataforma de compra programática The Trade Desk, o que permitirá bloquear estes domínios através de segmentos pre-bid antes da licitação por inventário publicitário. Como refere a AdWeek, a NewsGuard está também a estudar a integração desta funcionalidade na sua extensão de navegador, com o objetivo de permitir aos utilizadores identificar quando estão a consumir informação gerada por IA.