W Rádio Brasil

jornalismo, ciência e conversa pública.

NO AR

Tag: Inteligência Artificial

ChatGPT: o chatbot que passou em um exame de radiologia

O ChatGPT é um chatbot que usa um modelo de aprendizado profundo para reconhecer padrões e relações entre palavras em seus vastos dados de treinamento para gerar respostas humanas baseadas em um prompt.

Mas como não há uma fonte de verdade em seus dados de treinamento, o chatbot pode gerar respostas que são factualmente incorretas.

Recentemente, duas novas pesquisas publicadas na Radiology, uma revista da Sociedade Radiológica da América do Norte (RSNA), testaram o desempenho do ChatGPT em um exame de estilo de radiologia, destacando o potencial dos grandes modelos de linguagem, mas também revelando limitações que prejudicam a confiabilidade.

Os pesquisadores usaram 150 questões de múltipla escolha projetadas para corresponder ao estilo, conteúdo e dificuldade dos exames do Royal College canadense e do American Board of Radiology. As questões não incluíam imagens e foram agrupadas por tipo de questão para obter insights sobre o desempenho: pensamento de ordem inferior (recordação de conhecimento, compreensão básica) e pensamento de ordem superior (aplicar, analisar, sintetizar).

O desempenho do ChatGPT foi avaliado no geral e por tipo e tópico de questão. A confiança da linguagem nas respostas também foi avaliada.

Os pesquisadores descobriram que o ChatGPT baseado no GPT-3.5, atualmente a versão mais usada, respondeu corretamente a 69% das questões (104 de 150), próximo da nota de aprovação de 70% usada pelo Royal College no Canadá. O modelo teve um desempenho relativamente bom em questões que exigiam pensamento de ordem inferior (84%, 51 de 61), mas teve dificuldades com questões que envolviam pensamento de ordem superior (60%, 53 de 89). Mais especificamente, ele teve dificuldades com questões de ordem superior envolvendo descrição de achados de imagem (61%, 28 de 46), cálculo e classificação (25%, 2 de 8) e aplicação de conceitos (30%, 3 de 10). Seu fraco desempenho em questões de pensamento de ordem superior não foi surpreendente, dado sua falta de pré-treinamento específico para radiologia.

O GPT-4 foi lançado em março de 2023 em forma limitada para usuários pagos, alegando ter melhorado as capacidades avançadas de raciocínio sobre o GPT-3.5.

Em um estudo de acompanhamento, o GPT-4 respondeu corretamente a 81% (121 de 150) das mesmas questões, superando o GPT-3.5 e excedendo o limite de aprovação de 70%. O GPT-4 teve um desempenho muito melhor do que o GPT-3.5 em questões que exigiam pensamento de ordem superior (81%), mais especificamente aquelas envolvendo descrição de achados de imagem (85%) e aplicação de conceitos (90%).

Os resultados sugerem que as capacidades avançadas de raciocínio do GPT-4 se traduzem em um melhor desempenho em um contexto radiológico. Eles também sugerem uma melhor compreensão contextual da terminologia específica da radiologia, incluindo descrições de imagem, que é crítica para permitir futuras aplicações downstream.

“Nosso estudo demonstra uma impressionante melhoria no desempenho do ChatGPT em radiologia em um curto período de tempo, destacando o crescente potencial dos grandes modelos de linguagem neste contexto”, disse o autor principal Rajesh Bhayana, M.D., FRCPC, um radiologista abdominal e líder tecnológico na University Medical Imaging Toronto, Toronto General Hospital em Toronto, Canadá.

O GPT-4 não mostrou melhoria nas questões que exigiam pensamento de ordem inferior (80% vs 84%) e respondeu incorretamente a 12 questões que o GPT-3.5 respondeu corretamente, levantando questões relacionadas à sua confiabilidade para coleta de informações.

“Ficamos inicialmente surpresos com as respostas precisas e confiantes do ChatGPT a algumas questões desafiadoras da radiologia, mas depois igualmente surpresos com algumas afirmações muito ilógicas e imprecisas”, disse o Dr. Bhayana. “É claro que, dado como esses modelos funcionam, as respostas imprecisas não devem ser particularmente surpreendentes.”

A perigosa tendência do ChatGPT em produzir respostas imprecisas, chamadas alucinações, é menos frequente no GPT-4 mas ainda limita a usabilidade na educação médica e na prática no momento.

Ambos os estudos mostraram que o ChatGPT usou linguagem confiante consistentemente, mesmo quando incorreta. Isso é particularmente perigoso se for usado apenas para informação, observa o Dr. Bhayana, especialmente para novatos que podem não reconhecer as respostas incorretas confiantes como imprecisas.

“Para mim, esta é sua maior limitação. No momento, o ChatGPT é melhor usado para gerar ideias, ajudar a iniciar o processo de escrita médica e na sumarização de dados. Se usado para recordação rápida de informações, ele sempre precisa ser verificado”, disse o Dr. Bhayana.

Fonte: Link.

(mais…)

Mas como não há uma fonte de verdade em seus dados de treinamento, o chatbot pode gerar respostas que são factualmente incorretas.

Recentemente, duas novas pesquisas publicadas na Radiology, uma revista da Sociedade Radiológica da América do Norte (RSNA), testaram o desempenho do ChatGPT em um exame de estilo de radiologia, destacando o potencial dos grandes modelos de linguagem, mas também revelando limitações que prejudicam a confiabilidade.

Os pesquisadores usaram 150 questões de múltipla escolha projetadas para corresponder ao estilo, conteúdo e dificuldade dos exames do Royal College canadense e do American Board of Radiology. As questões não incluíam imagens e foram agrupadas por tipo de questão para obter insights sobre o desempenho: pensamento de ordem inferior (recordação de conhecimento, compreensão básica) e pensamento de ordem superior (aplicar, analisar, sintetizar).

O desempenho do ChatGPT foi avaliado no geral e por tipo e tópico de questão. A confiança da linguagem nas respostas também foi avaliada.

Os pesquisadores descobriram que o ChatGPT baseado no GPT-3.5, atualmente a versão mais usada, respondeu corretamente a 69% das questões (104 de 150), próximo da nota de aprovação de 70% usada pelo Royal College no Canadá. O modelo teve um desempenho relativamente bom em questões que exigiam pensamento de ordem inferior (84%, 51 de 61), mas teve dificuldades com questões que envolviam pensamento de ordem superior (60%, 53 de 89). Mais especificamente, ele teve dificuldades com questões de ordem superior envolvendo descrição de achados de imagem (61%, 28 de 46), cálculo e classificação (25%, 2 de 8) e aplicação de conceitos (30%, 3 de 10). Seu fraco desempenho em questões de pensamento de ordem superior não foi surpreendente, dado sua falta de pré-treinamento específico para radiologia.

O GPT-4 foi lançado em março de 2023 em forma limitada para usuários pagos, alegando ter melhorado as capacidades avançadas de raciocínio sobre o GPT-3.5.

Em um estudo de acompanhamento, o GPT-4 respondeu corretamente a 81% (121 de 150) das mesmas questões, superando o GPT-3.5 e excedendo o limite de aprovação de 70%. O GPT-4 teve um desempenho muito melhor do que o GPT-3.5 em questões que exigiam pensamento de ordem superior (81%), mais especificamente aquelas envolvendo descrição de achados de imagem (85%) e aplicação de conceitos (90%).

Os resultados sugerem que as capacidades avançadas de raciocínio do GPT-4 se traduzem em um melhor desempenho em um contexto radiológico. Eles também sugerem uma melhor compreensão contextual da terminologia específica da radiologia, incluindo descrições de imagem, que é crítica para permitir futuras aplicações downstream.

“Nosso estudo demonstra uma impressionante melhoria no desempenho do ChatGPT em radiologia em um curto período de tempo, destacando o crescente potencial dos grandes modelos de linguagem neste contexto”, disse o autor principal Rajesh Bhayana, M.D., FRCPC, um radiologista abdominal e líder tecnológico na University Medical Imaging Toronto, Toronto General Hospital em Toronto, Canadá.

O GPT-4 não mostrou melhoria nas questões que exigiam pensamento de ordem inferior (80% vs 84%) e respondeu incorretamente a 12 questões que o GPT-3.5 respondeu corretamente, levantando questões relacionadas à sua confiabilidade para coleta de informações.

“Ficamos inicialmente surpresos com as respostas precisas e confiantes do ChatGPT a algumas questões desafiadoras da radiologia, mas depois igualmente surpresos com algumas afirmações muito ilógicas e imprecisas”, disse o Dr. Bhayana. “É claro que, dado como esses modelos funcionam, as respostas imprecisas não devem ser particularmente surpreendentes.”

A perigosa tendência do ChatGPT em produzir respostas imprecisas, chamadas alucinações, é menos frequente no GPT-4 mas ainda limita a usabilidade na educação médica e na prática no momento.

Ambos os estudos mostraram que o ChatGPT usou linguagem confiante consistentemente, mesmo quando incorreta. Isso é particularmente perigoso se for usado apenas para informação, observa o Dr. Bhayana, especialmente para novatos que podem não reconhecer as respostas incorretas confiantes como imprecisas.

“Para mim, esta é sua maior limitação. No momento, o ChatGPT é melhor usado para gerar ideias, ajudar a iniciar o processo de escrita médica e na sumarização de dados. Se usado para recordação rápida de informações, ele sempre precisa ser verificado”, disse o Dr. Bhayana.

Fonte: Link.

(mais…)

18/05/2023
Acesso aos dados públicos da web é essencial para a revolução da IA

A inteligência artificial (IA) é uma das tecnologias que mais prometem transformar a sociedade e os setores econômicos nos próximos anos.

Mas para que a IA possa evoluir e se aprimorar, ela depende da qualidade e da quantidade dos dados que são usados para treinar os modelos. E uma das principais fontes de dados disponíveis é a web pública, ou seja, o conjunto de informações que não estão protegidas por login ou senha.

No entanto, esse acesso aos dados públicos da web está sob ameaça, segundo um artigo publicado na revista Fortune. O autor, Or Lenchner, CEO da Bright Data, uma plataforma de coleta de dados da web, alerta que as grandes empresas de tecnologia estão tentando restringir o acesso aos dados que elas mesmas não possuem, mas que estão presentes na web pública.

Segundo ele, isso pode prejudicar o avanço da IA e limitar a sua aplicação para o bem social. Além disso, pode afetar negativamente as operações de diversas empresas e organizações sem fins lucrativos que dependem dos dados públicos da web para realizar suas missões.

Lenchner defende que o acesso aos dados públicos da web deve ser mantido transparente e democrático para todos, pois isso é fundamental para o desenvolvimento de uma IA alinhada com os interesses e as necessidades da humanidade.

(mais…)

Mas para que a IA possa evoluir e se aprimorar, ela depende da qualidade e da quantidade dos dados que são usados para treinar os modelos. E uma das principais fontes de dados disponíveis é a web pública, ou seja, o conjunto de informações que não estão protegidas por login ou senha.

No entanto, esse acesso aos dados públicos da web está sob ameaça, segundo um artigo publicado na revista Fortune. O autor, Or Lenchner, CEO da Bright Data, uma plataforma de coleta de dados da web, alerta que as grandes empresas de tecnologia estão tentando restringir o acesso aos dados que elas mesmas não possuem, mas que estão presentes na web pública.

Segundo ele, isso pode prejudicar o avanço da IA e limitar a sua aplicação para o bem social. Além disso, pode afetar negativamente as operações de diversas empresas e organizações sem fins lucrativos que dependem dos dados públicos da web para realizar suas missões.

Lenchner defende que o acesso aos dados públicos da web deve ser mantido transparente e democrático para todos, pois isso é fundamental para o desenvolvimento de uma IA alinhada com os interesses e as necessidades da humanidade.

(mais…)

17/05/2023
Golpe da voz clonada: como funciona e como se proteger

Você já imaginou receber uma ligação de um familiar ou amigo pedindo dinheiro emprestado com urgência? E se a voz fosse idêntica à da pessoa que você conhece?

Pois é isso que está acontecendo com algumas vítimas de um golpe que usa inteligência artificial (IA) para clonar a voz de alguém e enganar os desavisados.

Foi o que aconteceu com o pai do influencer Dario Centurione, do Almanaque SOS, que contou em suas redes sociais que teve sua voz clonada por criminosos que ligaram para seu pai e pediram R$ 600 via Pix. O pai de Dario acreditou que era o filho e fez a transferência, sem saber que se tratava de uma fraude.

Mas como é possível copiar a voz de alguém com IA? Segundo especialistas, existem ferramentas e aplicativos que permitem usar vídeos e áudios na internet como base para a criação de novas frases com a voz parecida. A técnica é chamada de deepfake, que consiste em manipular imagens e sons com ajuda de algoritmos.

Para isso, é preciso ter um conhecimento avançado de programação, mas também há serviços online que simplificam o processo. Quanto melhor a qualidade do áudio ou da imagem original, melhor o resultado da manipulação. Por isso, pessoas que têm muitos vídeos na internet, como influenciadores e celebridades, são mais vulneráveis ao golpe.

O golpe da voz clonada não é novo e já tem diversas ocorrências nos Estados Unidos, o que levou o órgão regulador do comércio no país a emitir um alerta. No Brasil, ainda não há dados oficiais sobre o número de casos, mas é preciso ficar atento e desconfiar de pedidos de dinheiro por telefone.

Uma dica é criar uma palavra-chave com os familiares e amigos para confirmar a identidade em situações suspeitas. Outra é nunca fazer transferências bancárias sem antes contatar a pessoa ou empresa solicitante por outro meio. E, claro, denunciar qualquer tentativa de golpe às autoridades competentes.

(mais…)

Pois é isso que está acontecendo com algumas vítimas de um golpe que usa inteligência artificial (IA) para clonar a voz de alguém e enganar os desavisados.

Foi o que aconteceu com o pai do influencer Dario Centurione, do Almanaque SOS, que contou em suas redes sociais que teve sua voz clonada por criminosos que ligaram para seu pai e pediram R$ 600 via Pix. O pai de Dario acreditou que era o filho e fez a transferência, sem saber que se tratava de uma fraude.

Mas como é possível copiar a voz de alguém com IA? Segundo especialistas, existem ferramentas e aplicativos que permitem usar vídeos e áudios na internet como base para a criação de novas frases com a voz parecida. A técnica é chamada de deepfake, que consiste em manipular imagens e sons com ajuda de algoritmos.

Para isso, é preciso ter um conhecimento avançado de programação, mas também há serviços online que simplificam o processo. Quanto melhor a qualidade do áudio ou da imagem original, melhor o resultado da manipulação. Por isso, pessoas que têm muitos vídeos na internet, como influenciadores e celebridades, são mais vulneráveis ao golpe.

O golpe da voz clonada não é novo e já tem diversas ocorrências nos Estados Unidos, o que levou o órgão regulador do comércio no país a emitir um alerta. No Brasil, ainda não há dados oficiais sobre o número de casos, mas é preciso ficar atento e desconfiar de pedidos de dinheiro por telefone.

Uma dica é criar uma palavra-chave com os familiares e amigos para confirmar a identidade em situações suspeitas. Outra é nunca fazer transferências bancárias sem antes contatar a pessoa ou empresa solicitante por outro meio. E, claro, denunciar qualquer tentativa de golpe às autoridades competentes.

(mais…)

13/05/2023
Bard: o chatbot inteligente do Google que promete superar o ChatGPT

Você já ouviu falar do Bard? Ele é o novo chatbot inteligente do Google, que usa inteligência artificial (IA) para oferecer respostas às buscas realizadas pelos usuários em seu navegador de pesquisas.

Mas ele não é apenas um assistente virtual: ele também pode ser usado como uma plataforma para a criatividade, ajudando na criação de conteúdos escritos, como discursos, redações e até mesmo planejamento de festas.

O Bard é uma evolução de um modelo de linguagem anterior do Google chamado Lamda, que nunca foi totalmente lançado ao público. No entanto, atraiu muita atenção quando um dos engenheiros que trabalhou nele afirmou que suas respostas eram tão convincentes que ele acreditou que o robô era consciente. O Google negou as acusações e o profissional foi demitido.

O diferencial do Bard em relação ao seu rival viral ChatGPT, desenvolvido pela empresa OpenAI, é que ele pode acessar informações atualizadas da internet e possui um botão “pesquisa no Google” que acessa a busca. Ele também diz quais são as fontes das informações prestadas, como a Wikipedia. Isso torna suas respostas mais confiáveis e transparentes.

O Bard ainda está em fase de testes e só está disponível em inglês, para determinados usuários com mais de 18 anos. O Google alertou que o Bard teria “limitações”, como compartilhar informações erradas e mostrar certos tipos de viés. Isso ocorre porque ele “aprende” com bancos de dados informações no qual esses vieses podem estar presentes – o que significa que é possível que estereótipos e informações falsas apareçam em suas respostas.

O diretor de produtos do Google, Jack Krawczyk, disse à BBC que o Bard é “um experimento” e espera que as pessoas o usem como uma “plataforma para a criatividade”. Ele mostrou um exemplo de como ele havia usado Bard para ajudá-lo a planejar a festa de aniversário de seu filho. Ele sugeriu um tema que incorporou o amor de seu filho por coelhos e ginástica, encontrou o endereço de um local que ele mencionou e sugeriu brincadeiras e comidas para a festa.

“Grande parte da cobertura [da mídia] sobre a inteligência artificial como protagonista”, disse Krawczyk. “Acho que o ser humano é o herói e os grandes modelos de linguagem de IA estão aqui para nos ajudar a impulsionar a criatividade.”

O Bard é uma das apostas do Google para se manter na liderança do mercado de tecnologia, competindo com empresas como Microsoft, Amazon e Facebook. A expectativa é que ele seja integrado a outros serviços da empresa, como Gmail, YouTube e Google Docs.

(mais…)

Mas ele não é apenas um assistente virtual: ele também pode ser usado como uma plataforma para a criatividade, ajudando na criação de conteúdos escritos, como discursos, redações e até mesmo planejamento de festas.

O Bard é uma evolução de um modelo de linguagem anterior do Google chamado Lamda, que nunca foi totalmente lançado ao público. No entanto, atraiu muita atenção quando um dos engenheiros que trabalhou nele afirmou que suas respostas eram tão convincentes que ele acreditou que o robô era consciente. O Google negou as acusações e o profissional foi demitido.

O diferencial do Bard em relação ao seu rival viral ChatGPT, desenvolvido pela empresa OpenAI, é que ele pode acessar informações atualizadas da internet e possui um botão “pesquisa no Google” que acessa a busca. Ele também diz quais são as fontes das informações prestadas, como a Wikipedia. Isso torna suas respostas mais confiáveis e transparentes.

O Bard ainda está em fase de testes e só está disponível em inglês, para determinados usuários com mais de 18 anos. O Google alertou que o Bard teria “limitações”, como compartilhar informações erradas e mostrar certos tipos de viés. Isso ocorre porque ele “aprende” com bancos de dados informações no qual esses vieses podem estar presentes – o que significa que é possível que estereótipos e informações falsas apareçam em suas respostas.

O diretor de produtos do Google, Jack Krawczyk, disse à BBC que o Bard é “um experimento” e espera que as pessoas o usem como uma “plataforma para a criatividade”. Ele mostrou um exemplo de como ele havia usado Bard para ajudá-lo a planejar a festa de aniversário de seu filho. Ele sugeriu um tema que incorporou o amor de seu filho por coelhos e ginástica, encontrou o endereço de um local que ele mencionou e sugeriu brincadeiras e comidas para a festa.

“Grande parte da cobertura [da mídia] sobre a inteligência artificial como protagonista”, disse Krawczyk. “Acho que o ser humano é o herói e os grandes modelos de linguagem de IA estão aqui para nos ajudar a impulsionar a criatividade.”

O Bard é uma das apostas do Google para se manter na liderança do mercado de tecnologia, competindo com empresas como Microsoft, Amazon e Facebook. A expectativa é que ele seja integrado a outros serviços da empresa, como Gmail, YouTube e Google Docs.

(mais…)

13/05/2023
ChatGPT: como a OpenAI criou o chatbot inteligente que conquistou o mundo

Neste post, você vai conhecer a história de como a OpenAI desenvolveu o ChatGPT, um chatbot inteligente que se tornou um fenômeno.

O ChatGPT é um chatbot inteligente que se tornou um fenômeno cultural desde o seu lançamento em novembro de 2022. Desenvolvido pela OpenAI, uma empresa de Inteligência Artificial (IA) de São Francisco, o ChatGPT é capaz de conversar com os usuários sobre diversos assuntos, desde o clima até a poesia. Mas como essa tecnologia foi criada? Quais foram os desafios e as surpresas que os seus criadores enfrentaram? E quais são os próximos passos para aprimorar essa ferramenta?

A matéria da MIT Technology Review Brasil traz a verdadeira história de como o ChatGPT foi desenvolvido, contada pelas pessoas que o criaram. A reportagem entrevistou quatro membros da equipe da OpenAI: John Schulman, cofundador da empresa; Jan Leike, líder da equipe de alinhamento; Sandhini Agarwal, que trabalha com políticas; e Liam Fedus, cientista que trabalhou no ChatGPT.

Eles revelaram que o ChatGPT é uma versão aprimorada do GPT-3.5, uma família de grandes modelos de linguagem que a OpenAI já havia lançado anteriormente. O diferencial do ChatGPT é que ele foi treinado com dados de conversação e com feedback humano, o que o tornou mais acessível, útil e alinhado com o que os usuários querem fazer com ele.

Os entrevistados também contaram que não esperavam que o ChatGPT viralizasse e tivesse tanto sucesso. Eles viram o chatbot como uma “prévia de pesquisa”, uma forma de testar a tecnologia e coletar feedback do público. Eles também admitiram que ficaram surpresos e confusos com a repercussão do chatbot, que trouxe à tona vários problemas já conhecidos, como a veracidade, a toxicidade e o jailbreak (quando os usuários induzem o chatbot a se comportar mal).

A matéria também mostra como a OpenAI tem lidado com esses problemas, usando técnicas como treinamento adversário e red-teaming para melhorar a segurança e a qualidade do chatbot. Além disso, a reportagem aborda como o sucesso do ChatGPT tem impactado o mercado de IA, gerando parcerias com empresas como Microsoft e Bain, e estimulando uma corrida do ouro em torno de grandes modelos de linguagem.

O ChatGPT é um exemplo de como a IA pode transformar muitos aspectos da sociedade, mas também de como essa tecnologia ainda é falha e precisa ser constantemente monitorada e aprimorada. A matéria da MIT Technology Review Brasil oferece uma visão privilegiada de como essa revolução está sendo construída por trás dos bastidores.

(mais…)

O ChatGPT é um chatbot inteligente que se tornou um fenômeno cultural desde o seu lançamento em novembro de 2022. Desenvolvido pela OpenAI, uma empresa de Inteligência Artificial (IA) de São Francisco, o ChatGPT é capaz de conversar com os usuários sobre diversos assuntos, desde o clima até a poesia. Mas como essa tecnologia foi criada? Quais foram os desafios e as surpresas que os seus criadores enfrentaram? E quais são os próximos passos para aprimorar essa ferramenta?

A matéria da MIT Technology Review Brasil traz a verdadeira história de como o ChatGPT foi desenvolvido, contada pelas pessoas que o criaram. A reportagem entrevistou quatro membros da equipe da OpenAI: John Schulman, cofundador da empresa; Jan Leike, líder da equipe de alinhamento; Sandhini Agarwal, que trabalha com políticas; e Liam Fedus, cientista que trabalhou no ChatGPT.

Eles revelaram que o ChatGPT é uma versão aprimorada do GPT-3.5, uma família de grandes modelos de linguagem que a OpenAI já havia lançado anteriormente. O diferencial do ChatGPT é que ele foi treinado com dados de conversação e com feedback humano, o que o tornou mais acessível, útil e alinhado com o que os usuários querem fazer com ele.

Os entrevistados também contaram que não esperavam que o ChatGPT viralizasse e tivesse tanto sucesso. Eles viram o chatbot como uma “prévia de pesquisa”, uma forma de testar a tecnologia e coletar feedback do público. Eles também admitiram que ficaram surpresos e confusos com a repercussão do chatbot, que trouxe à tona vários problemas já conhecidos, como a veracidade, a toxicidade e o jailbreak (quando os usuários induzem o chatbot a se comportar mal).

A matéria também mostra como a OpenAI tem lidado com esses problemas, usando técnicas como treinamento adversário e red-teaming para melhorar a segurança e a qualidade do chatbot. Além disso, a reportagem aborda como o sucesso do ChatGPT tem impactado o mercado de IA, gerando parcerias com empresas como Microsoft e Bain, e estimulando uma corrida do ouro em torno de grandes modelos de linguagem.

O ChatGPT é um exemplo de como a IA pode transformar muitos aspectos da sociedade, mas também de como essa tecnologia ainda é falha e precisa ser constantemente monitorada e aprimorada. A matéria da MIT Technology Review Brasil oferece uma visão privilegiada de como essa revolução está sendo construída por trás dos bastidores.

(mais…)

10/05/2023
Projeto de lei para regulamentar inteligência artificial no Brasil: o que você precisa saber

A inteligência artificial (IA) é uma tecnologia que vem transformando diversos setores da sociedade, desde a saúde até a educação.

Mas quais são os direitos e deveres das pessoas afetadas pela IA? E como garantir que essa tecnologia seja usada de forma ética, segura e responsável?

Essas são algumas das questões que o projeto de lei (PL) 5051/2020, em tramitação no Senado Federal, pretende responder. O texto, de autoria do senador Rodrigo Cunha (PSDB-AL), estabelece princípios, direitos e deveres para o uso da IA no Brasil, além de criar um órgão de supervisão e fiscalização da tecnologia.

O PL 5051/2020 foi inspirado em iniciativas internacionais, como as diretrizes da União Europeia e da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) sobre IA. O objetivo é criar um marco legal que incentive a inovação e o desenvolvimento da IA no país, mas também proteja os direitos fundamentais dos cidadãos.

Entre os princípios previstos pelo projeto estão: o respeito à dignidade humana, à diversidade e aos direitos humanos; a transparência e a explicabilidade das decisões baseadas em IA; a segurança e a confiabilidade dos sistemas de IA; e a responsabilização dos agentes envolvidos no ciclo de vida da IA.

O projeto também define direitos para as pessoas afetadas pela IA, como: o direito de ser informado sobre o uso da tecnologia e seus possíveis riscos; o direito de solicitar a revisão humana das decisões automatizadas; o direito de exigir a correção ou a exclusão dos dados pessoais usados pela IA; e o direito de recusar o uso da IA quando isso violar seus direitos ou interesses legítimos.

Além disso, o projeto estabelece deveres para os desenvolvedores, fornecedores e usuários da IA, como: garantir que os sistemas de IA sejam compatíveis com os princípios e os direitos previstos na lei; adotar medidas de segurança e prevenção de danos; respeitar a privacidade e a proteção dos dados pessoais; e informar as autoridades competentes sobre eventuais incidentes ou violações envolvendo a IA.

Para fiscalizar o cumprimento da lei, o projeto propõe a criação do Conselho Nacional de Inteligência Artificial (CNIA), um órgão colegiado composto por representantes do poder público, da sociedade civil, da academia e do setor produtivo. O CNIA teria atribuições como: elaborar normas complementares sobre IA; monitorar e avaliar o impacto da IA na sociedade; promover a educação e a capacitação sobre IA; e aplicar sanções administrativas em caso de infrações.

O projeto de lei ainda está em fase inicial de tramitação no Senado e pode sofrer alterações. A expectativa é que ele contribua para o debate sobre os desafios e as oportunidades da IA no Brasil, buscando equilibrar os benefícios da tecnologia com os valores democráticos e constitucionais.

(mais…)

Mas quais são os direitos e deveres das pessoas afetadas pela IA? E como garantir que essa tecnologia seja usada de forma ética, segura e responsável?

Essas são algumas das questões que o projeto de lei (PL) 5051/2020, em tramitação no Senado Federal, pretende responder. O texto, de autoria do senador Rodrigo Cunha (PSDB-AL), estabelece princípios, direitos e deveres para o uso da IA no Brasil, além de criar um órgão de supervisão e fiscalização da tecnologia.

O PL 5051/2020 foi inspirado em iniciativas internacionais, como as diretrizes da União Europeia e da Organização para a Cooperação e Desenvolvimento Econômico (OCDE) sobre IA. O objetivo é criar um marco legal que incentive a inovação e o desenvolvimento da IA no país, mas também proteja os direitos fundamentais dos cidadãos.

Entre os princípios previstos pelo projeto estão: o respeito à dignidade humana, à diversidade e aos direitos humanos; a transparência e a explicabilidade das decisões baseadas em IA; a segurança e a confiabilidade dos sistemas de IA; e a responsabilização dos agentes envolvidos no ciclo de vida da IA.

O projeto também define direitos para as pessoas afetadas pela IA, como: o direito de ser informado sobre o uso da tecnologia e seus possíveis riscos; o direito de solicitar a revisão humana das decisões automatizadas; o direito de exigir a correção ou a exclusão dos dados pessoais usados pela IA; e o direito de recusar o uso da IA quando isso violar seus direitos ou interesses legítimos.

Além disso, o projeto estabelece deveres para os desenvolvedores, fornecedores e usuários da IA, como: garantir que os sistemas de IA sejam compatíveis com os princípios e os direitos previstos na lei; adotar medidas de segurança e prevenção de danos; respeitar a privacidade e a proteção dos dados pessoais; e informar as autoridades competentes sobre eventuais incidentes ou violações envolvendo a IA.

Para fiscalizar o cumprimento da lei, o projeto propõe a criação do Conselho Nacional de Inteligência Artificial (CNIA), um órgão colegiado composto por representantes do poder público, da sociedade civil, da academia e do setor produtivo. O CNIA teria atribuições como: elaborar normas complementares sobre IA; monitorar e avaliar o impacto da IA na sociedade; promover a educação e a capacitação sobre IA; e aplicar sanções administrativas em caso de infrações.

O projeto de lei ainda está em fase inicial de tramitação no Senado e pode sofrer alterações. A expectativa é que ele contribua para o debate sobre os desafios e as oportunidades da IA no Brasil, buscando equilibrar os benefícios da tecnologia com os valores democráticos e constitucionais.

(mais…)

05/05/2023
Engenheiro sênior do Google admite que empresa está perdendo a corrida da inteligência artificial

A inteligência artificial (IA) é um campo em constante evolução e competitivo, que pode definir o futuro da tecnologia.

Mas será que o Google, um dos líderes em IA, está conseguindo acompanhar o ritmo das inovações? Segundo um engenheiro sênior de software da empresa, a resposta é não.

Em um documento interno publicado em abril, Luke Sernau criticou a estratégia do Google em relação à IA e afirmou que a empresa está perdendo sua vantagem para a comunidade de código aberto, onde muitos pesquisadores independentes usam a tecnologia de IA para fazer avanços rápidos e inesperados.

Sernau argumentou que o Google está focado demais na rivalidade com a startup OpenAI, que tem chamado a atenção com seus modelos gigantes de linguagem natural, como o ChatGPT. No entanto, ele disse que a verdadeira ameaça ao Google vem das comunidades de código aberto, onde os engenheiros estão desenvolvendo modelos que rivalizam com os das grandes empresas de tecnologia e podem ser feitos mais baratos.

Esses modelos, ele disse, podem ser mais rápidos, mais personalizáveis e mais úteis do que os do Google. Além disso, ele alertou que os clientes não estariam dispostos a pagar por modelos com tecnologia de tão alta qualidade oferecida gratuitamente.

Sernau sugeriu que o Google deveria mudar seu foco para modelos menores e mais ágeis, que podem ser iterados rapidamente. Ele também defendeu que o Google deveria aprender com e colaborar com o que os outros estão fazendo fora da empresa.

O documento de Sernau gerou muita repercussão entre os funcionários do Google e foi publicado pela consultoria SemiAnalysis na quinta-feira. O porta-voz do Google não comentou o conteúdo da postagem.

Fonte: Link.

(mais…)

Mas será que o Google, um dos líderes em IA, está conseguindo acompanhar o ritmo das inovações? Segundo um engenheiro sênior de software da empresa, a resposta é não.

Em um documento interno publicado em abril, Luke Sernau criticou a estratégia do Google em relação à IA e afirmou que a empresa está perdendo sua vantagem para a comunidade de código aberto, onde muitos pesquisadores independentes usam a tecnologia de IA para fazer avanços rápidos e inesperados.

Sernau argumentou que o Google está focado demais na rivalidade com a startup OpenAI, que tem chamado a atenção com seus modelos gigantes de linguagem natural, como o ChatGPT. No entanto, ele disse que a verdadeira ameaça ao Google vem das comunidades de código aberto, onde os engenheiros estão desenvolvendo modelos que rivalizam com os das grandes empresas de tecnologia e podem ser feitos mais baratos.

Esses modelos, ele disse, podem ser mais rápidos, mais personalizáveis e mais úteis do que os do Google. Além disso, ele alertou que os clientes não estariam dispostos a pagar por modelos com tecnologia de tão alta qualidade oferecida gratuitamente.

Sernau sugeriu que o Google deveria mudar seu foco para modelos menores e mais ágeis, que podem ser iterados rapidamente. Ele também defendeu que o Google deveria aprender com e colaborar com o que os outros estão fazendo fora da empresa.

O documento de Sernau gerou muita repercussão entre os funcionários do Google e foi publicado pela consultoria SemiAnalysis na quinta-feira. O porta-voz do Google não comentou o conteúdo da postagem.

Fonte: Link.

(mais…)

05/05/2023
ChatGPT: por que algumas empresas estão proibindo que seus funcionários utilizem o chatbot?

Algumas empresas e instituições estão proibindo ou limitando o uso do ChatGPT por seus funcionários ou alunos, por diferentes motivos.

Um deles é a segurança da informação. A Amazon, por exemplo, solicitou aos funcionários que não utilizassem o chatbot para evitar que informações da empresa possam vazar e colocar em risco a confidencialidade da propriedade intelectual da companhia. O JPMorgan Chase também restringiu temporariamente o uso do ChatGPT entre seus funcionários globais, de acordo com uma fonte anônima.

Outro motivo é a preocupação com a integridade acadêmica. Escolas públicas de Nova York e Seattle restringiram o uso do ChatGPT para os alunos, devido ao receio de que ele possa ser usado para trapacear nas tarefas. O chatbot pode gerar textos sobre diversos temas, como poesia, trabalhos acadêmicos e modelos de documentos jurídicos.

Além disso, há questões éticas e sociais envolvidas no uso do ChatGPT. Alguns analistas veem o chatbot como uma ameaça à criatividade humana, ao aprendizado e à educação, ao trabalho e à própria democracia. Eles argumentam que o programa pode ser usado para manipular opiniões, disseminar desinformação e enganar as pessoas.

O ChatGPT foi desenvolvido pela OpenAI, empresa fundada em 2015 nos EUA por Sam Altman e pelo empresário Elon Musk. O sistema está disponível em quase 100 línguas, mas funciona melhor em inglês. O seu potencial de se desenvolver ainda mais a longo prazo vem provocando não só admiração, mas também alguns temores.

(mais…)

Um deles é a segurança da informação. A Amazon, por exemplo, solicitou aos funcionários que não utilizassem o chatbot para evitar que informações da empresa possam vazar e colocar em risco a confidencialidade da propriedade intelectual da companhia. O JPMorgan Chase também restringiu temporariamente o uso do ChatGPT entre seus funcionários globais, de acordo com uma fonte anônima.

Outro motivo é a preocupação com a integridade acadêmica. Escolas públicas de Nova York e Seattle restringiram o uso do ChatGPT para os alunos, devido ao receio de que ele possa ser usado para trapacear nas tarefas. O chatbot pode gerar textos sobre diversos temas, como poesia, trabalhos acadêmicos e modelos de documentos jurídicos.

Além disso, há questões éticas e sociais envolvidas no uso do ChatGPT. Alguns analistas veem o chatbot como uma ameaça à criatividade humana, ao aprendizado e à educação, ao trabalho e à própria democracia. Eles argumentam que o programa pode ser usado para manipular opiniões, disseminar desinformação e enganar as pessoas.

O ChatGPT foi desenvolvido pela OpenAI, empresa fundada em 2015 nos EUA por Sam Altman e pelo empresário Elon Musk. O sistema está disponível em quase 100 línguas, mas funciona melhor em inglês. O seu potencial de se desenvolver ainda mais a longo prazo vem provocando não só admiração, mas também alguns temores.

(mais…)

02/05/2023
Inteligência artificial pode transformar pensamentos em textos, diz estudo

Imagine se você pudesse escrever um texto apenas pensando nas palavras que quer usar. Parece ficção científica, mas pode se tornar realidade graças a um sistema de inteligência artificial desenvolvido por pesquisadores da Universidade do Texas, nos EUA.

O sistema, chamado de decodificador semântico, é capaz de traduzir a atividade cerebral de uma pessoa em conversas, usando um modelo de transformador semelhante aos que suportam os chatbots do Google e da OpenAI. O objetivo é beneficiar pacientes que perderam a capacidade de se comunicar fisicamente após sofrerem acidente vascular cerebral (AVC), paralisia ou outras doenças degenerativas.

Para treinar o decodificador, os participantes ouviram várias horas de podcasts em um scanner de ressonância magnética funcional (fMRI), que mede a atividade cerebral. Depois, o sistema pôde gerar um fluxo de texto quando o participante ouviu uma conversa ou se imaginou contando uma nova história. O texto resultante não é uma transcrição exata, mas captura os pensamentos ou ideias gerais do participante.

Segundo o estudo publicado na revista Nature Neuroscience, a inteligência artificial produz um texto que corresponde de forma próxima ou precisa ao significado pretendido das palavras originais do participante em cerca de metade das vezes. Por exemplo, quando um participante ouviu as palavras “Ainda não tenho minha carteira de motorista” durante um experimento, os pensamentos foram traduzidos para “Ela ainda nem começou a aprender a dirigir”.

Os pesquisadores afirmam que este é um grande avanço em comparação com o que foi feito antes com métodos não invasivos, que normalmente geram palavras únicas ou frases curtas. Eles esperam que, no futuro, o sistema possa ser usado por meio de dispositivos mais portáteis e sem depender do scanner fMRI.

Fonte: Link.

(mais…)

O sistema, chamado de decodificador semântico, é capaz de traduzir a atividade cerebral de uma pessoa em conversas, usando um modelo de transformador semelhante aos que suportam os chatbots do Google e da OpenAI. O objetivo é beneficiar pacientes que perderam a capacidade de se comunicar fisicamente após sofrerem acidente vascular cerebral (AVC), paralisia ou outras doenças degenerativas.

Para treinar o decodificador, os participantes ouviram várias horas de podcasts em um scanner de ressonância magnética funcional (fMRI), que mede a atividade cerebral. Depois, o sistema pôde gerar um fluxo de texto quando o participante ouviu uma conversa ou se imaginou contando uma nova história. O texto resultante não é uma transcrição exata, mas captura os pensamentos ou ideias gerais do participante.

Segundo o estudo publicado na revista Nature Neuroscience, a inteligência artificial produz um texto que corresponde de forma próxima ou precisa ao significado pretendido das palavras originais do participante em cerca de metade das vezes. Por exemplo, quando um participante ouviu as palavras “Ainda não tenho minha carteira de motorista” durante um experimento, os pensamentos foram traduzidos para “Ela ainda nem começou a aprender a dirigir”.

Os pesquisadores afirmam que este é um grande avanço em comparação com o que foi feito antes com métodos não invasivos, que normalmente geram palavras únicas ou frases curtas. Eles esperam que, no futuro, o sistema possa ser usado por meio de dispositivos mais portáteis e sem depender do scanner fMRI.

Fonte: Link.

(mais…)

02/05/2023
Por que o “padrinho” da inteligência artificial se arrependeu do seu trabalho no Google?

A inteligência artificial (IA) é uma das tecnologias mais promissoras e desafiadoras da atualidade. Mas nem todos os seus criadores estão satisfeitos com os rumos que ela está tomando.

É o caso de Geoffrey Hinton, considerado o “padrinho” da IA por suas pesquisas pioneiras sobre aprendizagem profunda e redes neurais.

Hinton, que trabalhou no Google por cerca de uma década, pediu demissão da empresa e alertou sobre os perigos da IA em uma entrevista ao jornal The New York Times. Ele disse que agora se arrepende do seu trabalho e que teme que a IA possa ser usada para “coisas ruins” por “pessoas mal-intencionadas”.

O cientista de 75 anos afirmou que os chatbots (robôs virtuais) de IA podem em breve superar os humanos em conhecimento e raciocínio, criando um “cenário de pesadelo”. Ele também disse que se aposentou para poder falar livremente sobre os riscos da tecnologia, já que o Google agiu com responsabilidade, mas limitou sua liberdade de expressão.

A saída de Hinton reacendeu o debate sobre os benefícios e os perigos da IA, que pode ter aplicações positivas em áreas como saúde, educação e meio ambiente, mas também pode gerar problemas éticos, sociais e políticos. A União Europeia, por exemplo, está trabalhando para criar regras mais efetivas para regular a IA e garantir seus direitos humanos.

(mais…)

É o caso de Geoffrey Hinton, considerado o “padrinho” da IA por suas pesquisas pioneiras sobre aprendizagem profunda e redes neurais.

Hinton, que trabalhou no Google por cerca de uma década, pediu demissão da empresa e alertou sobre os perigos da IA em uma entrevista ao jornal The New York Times. Ele disse que agora se arrepende do seu trabalho e que teme que a IA possa ser usada para “coisas ruins” por “pessoas mal-intencionadas”.

O cientista de 75 anos afirmou que os chatbots (robôs virtuais) de IA podem em breve superar os humanos em conhecimento e raciocínio, criando um “cenário de pesadelo”. Ele também disse que se aposentou para poder falar livremente sobre os riscos da tecnologia, já que o Google agiu com responsabilidade, mas limitou sua liberdade de expressão.

A saída de Hinton reacendeu o debate sobre os benefícios e os perigos da IA, que pode ter aplicações positivas em áreas como saúde, educação e meio ambiente, mas também pode gerar problemas éticos, sociais e políticos. A União Europeia, por exemplo, está trabalhando para criar regras mais efetivas para regular a IA e garantir seus direitos humanos.

(mais…)

02/05/2023