Recentemente, um estudo conduzido pela Columbia Journalism Review revelou desafios significativos enfrentados por chatbots de inteligência artificial ao realizar consultas de notícias. Esses sistemas, projetados para facilitar o acesso à informação, frequentemente cometem erros, muitas vezes apresentando respostas erradas com uma confiança indevida. Entre os chatbots analisados, o Grok-3, da xAI, apresentou o pior desempenho, enquanto o Perplexity destacou-se positivamente.
A pesquisa avaliou oito chatbots, incluindo ChatGPT, Perplexity, Perplexity Pro, DeepSeek, Copilot, Grok-2, Grok-3 e Gemini. Cada um deles foi submetido a 200 prompts, que exigiam a identificação de informações específicas de notícias, como título, data de publicação, veículo e URL. As respostas foram classificadas em categorias que variavam de corretas a completamente incorretas, além de situações em que os chatbots não conseguiam responder ou eram bloqueados pelos sites de notícias.
Quais são os principais desafios enfrentados pelos chatbots?
Os resultados mostraram que o Grok-3 teve uma taxa de erro de 94%, enquanto o Perplexity, em sua versão gratuita, apresentou apenas 35% de erros. Um problema comum identificado foi a entrega de links quebrados ou que direcionavam para páginas com conteúdo replicado. Além disso, as versões premium dos chatbots, como o Grok-3 e o Perplexity Pro, surpreendentemente erraram mais do que suas versões gratuitas, apresentando respostas erradas com maior convicção.
Outro desafio significativo é a dificuldade dos chatbots em admitir incerteza. Muitas vezes, eles fornecem respostas especulativas em vez de simplesmente afirmar que não sabem a resposta. Essa abordagem pode confundir os usuários, que podem ter dificuldade em distinguir entre informações confiáveis e enganosas devido ao tom autoritário adotado por essas ferramentas.
Como as empresas estão respondendo a esses desafios?
Em resposta ao estudo, apenas a OpenAI e a Microsoft, responsáveis pelo ChatGPT e Copilot, respectivamente, se manifestaram. A OpenAI destacou seus esforços para ajudar os usuários a descobrir conteúdo de qualidade, enquanto a Microsoft enfatizou seu respeito pelas diretrizes de acesso a conteúdo de sites, conforme especificado no padrão robots.txt. Ambas as empresas indicaram um compromisso contínuo com a melhoria da precisão e respeito às preferências dos editores.
Quais são as implicações para o futuro dos chatbots de IA?
O estudo levanta questões importantes sobre a confiabilidade dos chatbots de inteligência artificial na busca por informações precisas. Com mais de 60% das respostas consideradas erradas, é evidente que há um longo caminho a percorrer para que essas ferramentas atinjam um nível de precisão aceitável. A confiança excessiva nas respostas fornecidas por chatbots pode levar a mal-entendidos e à disseminação de informações incorretas.
Para o futuro, é essencial que as empresas responsáveis por essas tecnologias continuem a investir em melhorias que permitam aos chatbots reconhecer suas limitações e fornecer respostas mais precisas. Além disso, a transparência em relação aos métodos de coleta e apresentação de informações pode ajudar a construir a confiança dos usuários nessas ferramentas.
O post Estudo mostra que Inteligência artificial falha na maioria das consultas! Entenda apareceu primeiro em BM&C NEWS.
