ChatGPT pode dar conselhos perigosos sobre o câncer, alerta estudo

Os pesquisadores compararam as recomendações do ChatGPT com as diretrizes do National Comprehensive Cancer Network (NCCN), uma organização que reúne especialistas em oncologia para definir os melhores padrões de cuidado para o câncer.

O ChatGPT é um sistema de conversação baseado em um modelo de linguagem neural, que é capaz de gerar respostas a partir de textos de entrada. Ele foi treinado em uma grande quantidade de dados da internet, incluindo conversas sobre saúde. No entanto, os pesquisadores descobriram que ele não é confiável quando se trata de fornecer orientações médicas.

Eles testaram o ChatGPT em 80 cenários clínicos diferentes, envolvendo tipos comuns de câncer, como mama, próstata, pulmão e cólon. Eles fizeram perguntas ao chatbot sobre o diagnóstico, o estágio, o prognóstico e o tratamento do câncer, e avaliaram as respostas com base nas diretrizes do NCCN.

Os resultados foram preocupantes: em cerca de um terço dos casos, o ChatGPT forneceu uma recomendação inadequada (“não concordante”), que às vezes era difícil de detectar entre outras orientações corretas. Em 12,5% dos casos, o ChatGPT produziu “alucinações”, ou seja, uma recomendação totalmente ausente das diretrizes do NCCN. Por exemplo, ele sugeriu usar quimioterapia para um paciente com câncer de próstata localizado, quando a opção mais adequada seria a vigilância ativa.

Os autores do estudo enfatizaram que essa forma de desinformação pode afetar as expectativas e a relação dos pacientes com os médicos. Eles também destacaram a necessidade de conscientização sobre as limitações da tecnologia e de sempre consultar um profissional de saúde qualificado. Eles usaram uma das maiores versões do ChatGPT disponíveis no momento do estudo, mas os resultados podem variar se outros modelos ou diretrizes forem usados.