Imagine clicar em um vídeo viral onde um forte influenciador promove um método milagroso para aumentar a autoestima masculina. No entanto, a verdade é bem mais sombria.
Nos últimos anos, os avanços em inteligência artificial transformaram a forma como consumimos conteúdo online, mas também abriram portas para práticas enganosas que ameaçam a integridade das informações na internet. O fenômeno da desinformação, especialmente em plataformas de mídia social, está se intensificando com o uso de ferramentas de IA para disseminar promoções de produtos duvidosos, levando a uma verdadeira dystopia digital.
Como Funciona a Desinformação Gerada por IA?
Deepfakes e vídeos manipulados estão em alta nas redes sociais, e a facilidade de criação desse tipo de conteúdo é preocupante. Tecnologias de IA geram vídeos e áudios imitando celebridades para promover produtos de forma enganosa. Um recente exemplo de um vídeo viral mostrou um homem musculoso promovendo um suplemento para aumento de desempenho sexual, utilizando cenouras como metáfora, para esconder a natureza explícita da mensagem. Essa técnica se aproveita de algoritmos de IA que facilitam a produção em massa de vídeos com mensagens potencialmente prejudiciais, explorando a credulidade do usuário médio.
Os Riscos da IA no Marketing Fraudulento
Os avanços na IA generativa criaram um cenário propício para golpistas e aproveitadores. A pesquisadora Abbie Richards afirma que a capacidade de produzir conteúdo de baixa qualidade a um custo baixo torna a IA uma ferramenta útil para atividades enganosas. Por exemplo, muitos vídeos no TikTok apresentam avatares que se apresentam como médicos, promovendo fórmulas para aumentar a testosterona, que não possuem comprovação científica. Essa prática não só engana os consumidores, mas também coloca sua saúde em risco ao indicar produtos sem fundamentos. A proliferação de anúncios fraudulentos se torna um ciclo vicioso, já que mesmo após a remoção de conteúdo, versões semelhantes aparecem em questão de minutos.
Como Proteger-se da Dystopia Digital
Diante dessa invasão de informações enganosas, é crucial que os usuários da internet desenvolvam um olhar crítico. O primeiro passo é entender como identificar vídeos e anúncios suspeitos. Isso inclui prestar atenção a aspectos como a origem do conteúdo, a presença de endossos de celebridades e a falta de suporte científico em alegações feitas. A implementação de ferramentas de detecção de desinformação, como serviços de verificação de fatos, pode também ajudar na identificação de conteúdos que falham em atender a padrões éticos. Organizações, como a AFP, já estão desmentindo propagandas fraudulentas, mas a responsabilidade pela filtragem da informação também recai sobre o consumidor.
