A desinformação é um problema crescente na era digital, especialmente nas redes sociais, onde as pessoas podem compartilhar informações falsas ou enganosas com facilidade.
Mas e se a desinformação fosse criada não por humanos, mas por inteligência artificial (IA)? Um novo estudo sugere que esse cenário pode ser mais perigoso do que pensamos.
Os pesquisadores da Universidade de Washington e da Universidade de Stanford usaram o modelo de linguagem GPT-3 da OpenAI, um dos mais avançados do mundo, para gerar tweets falsos sobre temas como mudança climática e Covid. Eles compararam esses tweets com tweets reais do Twitter, escritos por humanos, que também continham desinformação sobre os mesmos temas. Eles então pediram a um grupo de participantes para avaliar a veracidade e a persuasão dos tweets.
Os resultados foram surpreendentes: os participantes tiveram 3% menos probabilidade de identificar os tweets falsos gerados por IA do que aqueles escritos por humanos. Além disso, eles classificaram os tweets falsos gerados por IA como mais persuasivos do que os tweets reais escritos por humanos.
Os pesquisadores acreditam que isso se deve à forma como o GPT-3 produz texto. O modelo usa uma grande quantidade de dados para aprender padrões de linguagem e gerar texto coerente e conciso. Isso pode tornar o texto mais fácil de processar e mais convincente para os leitores. Por exemplo, um tweet falso gerado por IA sobre mudança climática dizia: “O aquecimento global é uma farsa criada pela China para enfraquecer a economia americana”. Um tweet real escrito por um humano dizia: “O aquecimento global é uma mentira inventada pelos liberais para controlar nossas vidas”.
Os pesquisadores alertam para os riscos da desinformação gerada por IA, especialmente se ela for usada para fins maliciosos ou políticos. Eles também pedem cautela para não superestimar seu impacto, pois ainda há limitações na capacidade do GPT-3 de gerar texto factual e relevante. Eles sugerem que os desenvolvedores de IA devem incorporar mecanismos de verificação e responsabilidade em seus modelos, e que os usuários de redes sociais devem ser críticos e céticos em relação às informações que consomem.
Gosta do nosso conteúdo?
Este texto foi gerado com o auxílio de ferramentas de IA. Viu algum erro? Avise!
