As alucinações de inteligência artificial (IA) têm sido um tópico intrigante e, às vezes, até engraçado.
Quem nunca fez uma pergunta a um chatbot de IA e recebeu uma resposta completamente absurda? Mas a boa notícia é que os especialistas acreditam que esse problema é “obviamente solucionável” e que podemos esperar uma resolução em breve.
O Que São Alucinações de IA?
Antes de mergulharmos na solução, vamos entender o que são essas alucinações. Quando treinamos um grande modelo de linguagem, ele passa por três estágios: pré-treinamento, ajuste fino e aprendizado por reforço com feedback humano. É nesse último estágio que as alucinações podem ocorrer. O modelo pode gerar respostas que parecem plausíveis, mas que não têm base na realidade.
A Solução Está a Caminho
Raza Habib, fundador da Humanloop e ex-pesquisador de IA do Google, está otimista. Ele afirma que os modelos de IA já têm uma calibração surpreendentemente boa antes do ajuste fino com base nas preferências humanas. Ou seja, eles sabem quando estão confiantes em suas respostas. O desafio agora é manter essa calibração após o ajuste fino.
Habib prevê que a solução para as alucinações de IA estará disponível em um ano. No entanto, ele argumenta que talvez não precisemos resolver completamente esse problema. Afinal, estamos acostumados a tecnologias imperfeitas. Quem nunca fez uma busca no Google e recebeu uma lista de links em vez de uma resposta direta?
O Lado Criativo das Alucinações
Mas aqui está a reviravolta interessante: um pouco de alucinação pode ser bom. Especialmente quando se trata de criatividade. Se queremos que a IA pense fora da caixa e proponha ideias inovadoras, precisamos permitir que ela divague um pouco. Afinal, a capacidade de criar conjecturas e propor coisas “fora da caixa” pode ser valiosa.
Fonte: Link.
