Há anos, isso teria sido uma operação elaborada envolvendo um exército de tropas cibernéticas criando sites de notícias falsas, contas de redes sociais e dossiês forjados, todos implantados para disseminar desinformação em massa.
Agora, tudo o que você precisa é da IA.
Num sinal preocupante de como a IA pode 'superpotencializar' as notícias falsas, a Anthropic revelou recentemente como a Claude AI foi utilizada numa operação de influência política na Malásia. Ela criou uma plataforma comercial de manipulação eleitoral, utilizando uma rede de cerca de 1.000 contas do X, um outlet de notícias falso chamado 'Malaysia Pulse' e uma série de documentos fabricados.
A operação parecia ter sido desenhada para atingir eleitores nas recentes eleições estaduais, aproveitando dados censitários e eleitorais para explorar fraturas políticas e sociais sensíveis, incluindo raça, religião e realeza em todos os 222 distritos parlamentares da Malásia.
O experimento acabou sendo ineficaz uma vez que a Anthropic interveio, mas despertou alarmes sobre como a IA pode ser weaponizada em futuras eleições na sudeste da Ásia, uma região já profundamente vulnerável às notícias falsas.
Katie Harbath, que anteriormente trabalhou com políticas públicas para eleições globais na Meta, diz que o caso é um exemplo de como a IA traz um novo nível de sofisticação e facilidade ao cenário de desinformação.
'A IA pode superpotencializar isso no sentido de que você pode criar muito mais conteúdo que é mais personalizado, mais rápido e mais barato', diz Harbath, que agora dirige a empresa de consultoria em tecnologia Anchor Change. 'Mas você ainda precisa de um mecanismo de distribuição, e, no momento, esse ainda são as suas plataformas do tipo redes sociais'
A Anthropic detalhou a operação eleitoral da Malásia na sua última avaliação de ameaças, lançada em setembro. O relatório revelou como atores usaram a Claude para construir redes de perfis falsos de redes sociais e sites de notícias que visavam públicos em seis continentes. A Anthropic disse que os atores incluíam "governos, instituições de propaganda alinhadas ao Estado e meios de comunicação estatais, bem como empresas privadas que vendem influência".
'Enchua a zona'
O sudeste asiático não é alheio à desinformação. Nos últimos anos, a laureada com o Prêmio Nobel e jornalista filipina Maria Ressa comparou as Filipinas a um "petri dish" para a weaponização da desinformação e notícias falsas, com técnicas testadas e aprovadas na nação do sudeste asiático posteriormente replicadas com sucesso no Ocidente.
Mas a IA torna tudo muito mais fácil.
"Basicamente, a IA está apenas imitando o que chamaríamos, suponho, de alguns anos atrás, de uma fábrica de trolls", diz Rossine Fallorina da Sigla, um think tank filipino que pesquisa IA. "Em grande parte porque acelera o processo de produção." Então você não precisa de 10 pessoas para criar uma narrativa ou uma história. Você pode apenas solicitar e ter ela propagada."
No ano passado, a OpenAI proibiu contas que usavam IA para gerar comentários sobre política filipina e funcionários públicos em várias plataformas sociais, com muitos comentários fictícios gerados em apoio ao presidente Ferdinand Marcos Jnr.
Em todo o sudeste asiático, lar de nações com populações predominantemente jovens e hiperconectadas, alguns temem o potencial divisivo da IA nas redes sociais.
"Ela alimenta a polarização política e se alimenta das divisões", diz Bridget Welsh, do Instituto de Pesquisa da Ásia da Universidade de Nottingham Malásia. "Isso é realmente o que preocupa sobre a natureza fragmentada do que está acontecendo na Malásia."
A eleição geral da Malásia pode ser convocada para o final de 2027, enquanto as Filipinas e o Camboja têm eleições em 2028, e a Indonésia no ano seguinte.
Já na região, a IA tem sido eficaz. Na Indonésia, uma imagem de cartoon gerada por IA do atual presidente Prabowo Subianto que ajudou a suavizar sua imagem de homem forte tornou-se extremamente popular nas eleições de 2024.
Ela também foi usada para inflamar tensões, como incitar ódio contra refugiados rohingya étnicos que fugiram da Malásia do Mianmar durante a guerra civil, diz o Dr. Ben Loh, professor de mídia na Universidade Monash Malásia.
"Chegou-se ao ponto em que as pessoas já têm esse ódio enraizado em suas mentes e, quando veem conteúdo como este, mesmo sendo gerado por IA para elas, é apenas reforçando o que elas acreditam ser verdadeiro", diz Loh.
O relatório da Anthropic observa que a fonte de notícias falsas raspou reportagens legítimas da Malásia e fez o modelo reescrevê-las várias vezes antes de republicá-las sob pseudônimos fabricados. Ela também republicou artigos de veículos estrangeiros alinhados com estados russos e chineses, incluindo TV BRICS, Xinhua, Sputnik/RIA e CGTN, removendo suas atribuições.
A Anthropic disse em sua avaliação de ameaças que, em cada caso de influência política identificada, a empresa "interrompeu a atividade, usou o que aprendemos para fortalecer nossas salvaguardas e compartilhou inteligência com autoridades e parceiros da indústria, quando apropriado".
No futuro, Harbath diz que a IA pode ser usada para "inundar a zona" em uma tentativa de influenciar os grandes modelos de linguagem (LLMs) dos quais os modelos de IA extraem suas informações.
"Se houver qualquer tipo de seca de notícias, ou se você tiver um lugar onde haja principalmente mídia patrocinada pelo governo", ela diz, "Não levaria muito dinheiro para simplesmente inundar a zona".
