As eleições na Índia, considerada a maior democracia do mundo, começaram em abril e seguem até o dia primeiro de junho. Além de ser o maior teste eleitoral do planeta, o pleito também representa um grande desafio no combate à desinformação e todo o tipo de violência na internet. No entanto, segundo um relatório recém divulgado, a Meta não está dando conta deste trabalho.

Publicações foram criadas com IA e espalharam fake news e discursos de ódio

• A empresa dona do Facebook e do Instagram foi acusada de aprovar uma série de anúncios políticos criados com inteligência artificial e que espalharam desinformação e incitaram violência religiosa em meio ao período eleitoral na Índia.
• Segundo o relatório, as redes sociais deixaram passar postagens contendo insultos contra muçulmanos, assim como conteúdos supremacistas hindus e desinformação sobre líderes políticos do país.
• Os anúncios foram criados pela India Civil Watch International (ICWI) e pela Ekō, uma organização de responsabilidade corporativa.
• O objetivo era testar os mecanismos da Meta para detectar e bloquear conteúdos que violam as regras da plataforma.
• As informações foram apresentadas com exclusividade pelo jornal The Guardian.

Maioria dos anúncios irregulares foi liberada pela Meta

Segundo os organizadores da iniciativa, todos os anúncios “foram criados com base em discurso de ódio real e desinformação prevalentes na Índia, ressaltando a capacidade das plataformas de mídia social de amplificar narrativas prejudiciais existentes”. O atual primeiro-ministro Narendra Modi, do partido nacionalista hindu Bharatiya Janata (BJP), tenta a reeleição pela segunda vez no país.

O atual governo é acusado de impulsionar uma agenda hindu que, segundo grupos de direitos humanos, ativistas e opositores, levou ao aumento da perseguição e da opressão da minoria muçulmana da Índia. Durante um comício na região do Rajastão nos últimos dias, por exemplo, Modi se referiu aos muçulmanos como “infiltrados” que “têm mais filhos”.

Os pesquisadores do relatório submeteram 22 anúncios em inglês, hindi, bengali, gujarati e kannada à Meta, dos quais 14 foram aprovados. Outros três foram aprovados após pequenos ajustes que não alteraram a mensagem apresentada. Os sistemas de moderação de conteúdo da Meta também não detectaram que todos os anúncios aprovados apresentavam imagens cridas pela IA.

Cinco dos anúncios foram rejeitados por violar a política de padrões da comunidade da empresa sobre discurso de ódio e violência, incluindo um que apresentava desinformação sobre Modi. O mesmo não aconteceu, no entanto, com as postagens que apresentavam discursos de ódio contra muçulmanos.

A Meta também não reconheceu que os 14 anúncios aprovados eram políticos ou relacionados a eleições, embora muitos tenham visado partidos políticos e candidatos que se opõem ao BJP. De acordo com as políticas da empresa, os anúncios políticos precisam passar por um processo de autorização específico antes da aprovação, mas apenas três das submissões foram rejeitadas com base nesta regra.

Em resposta, um porta-voz da Meta disse que as pessoas que queriam veicular anúncios sobre eleições ou política “devem passar pelo processo de autorização exigido em nossas plataformas e são responsáveis por cumprir todas as leis aplicáveis”.

Quando encontramos conteúdo, incluindo anúncios, que viola nossos padrões da comunidade ou diretrizes da comunidade, nós o removemos, independentemente de seu mecanismo de criação. O conteúdo gerado por IA também é elegível para ser revisado e classificado por nossa rede de verificadores de fatos independentes – uma vez que um conteúdo é rotulado como “alterado”, reduzimos a distribuição do conteúdo. Também exigimos que os anunciantes em todo o mundo divulguem quando usam IA ou métodos digitais para criar ou alterar um anúncio de questão política ou social em certos casos.

Meta

Olhar Digital