Un estudio reciente realizado por Newsguard revela que los principales chatbots de IA, incluidos los de Openai y Meta, están proporcionando información falsa en aproximadamente una de cada tres respuestas. El informe subraya una tendencia preocupante: es cada vez más probable que los chatbots fabriquen respuestas en lugar de admitir una falta de información, lo que resulta en una tasa más alta de falsedades en comparación con 2024. Newsguard, una compañía de calificación de noticias con sede en Estados Unidos, evaluó la precisión de las respuestas de los diez chatbots de AI más populares, destacando un desafío significativo al mantener la confiabilidad de estas herramientas prevalecientes.
Precisión de chatbot: clasificación de las plataformas
El informe de NewsGuard identifica chatbots específicos con diversos grados de precisión. PI Chatbot de inflexión AI exhibió la tasa más alta de reclamos falsos, con el 57% de sus respuestas que contienen información inexacta. La IA perplejidad siguió de cerca, con el 47% de las respuestas consideradas falsas. Los chatbots más utilizados como el chatgpt de OpenAi y la llama de Meta también demostraron tasas de error notables, difundiendo falsedades en el 40% de sus respuestas. El chat de Copilot y Mistral de Microsoft presentaron tasas de error en torno al promedio del 35%. En contraste, Claude de Anthrope y Géminis de Google mostraron las tasas de fracaso más bajas. Claude produjo falsedades en solo el 10% de sus respuestas, mientras que Gemini tenía una tasa de error del 17%. La IA perplejidad experimentó la disminución más significativa de la precisión. En 2024, la investigación de Newsguard no encontró afirmaciones falsas en sus respuestas. Sin embargo, en agosto de 2025, la tasa de reclamos falsos había aumentado al 46%. El informe no explica definitivamente esta disminución, pero señala que las quejas de los usuarios en un foro Reddit dedicado como un posible indicador de los problemas. Mistral, una compañía de IA francesa, no mostró cambios en su tasa de falsedad desde 2024, manteniendo una tasa de error constante del 37%. Estos hallazgos son consistentes con un informe anterior del periódico francés Les Echos, que descubrió que Mistral repetía información falsa sobre Francia, el presidente Emmanuel Macron y la Primera Dama Brigitte Macron en el 58% de las respuestas inglesas y el 31% de las respuestas francesas. Mistral atribuyó estos problemas a sus asistentes de LE Chat, tanto aquellos conectados a la búsqueda web como a los que operan de forma independiente. A continuación, Euronews contactó a las compañías mencionadas en el informe de Newsguard, pero no recibió una respuesta inmediata.
La influencia de la desinformación
El informe de Newsguard también reveló que ciertos chatbots están citando fuentes vinculadas a campañas de desinformación rusa, como Storm-1516 y Pravda, en sus respuestas. Estas campañas son conocidas por crear y difundir noticias falsas. Un ejemplo citado en el informe implica una afirmación de que Igor Grosu, el líder del Parlamento de Moldavo, “comparó a los moldavos con un ‘rebaño de ovejas’. Mistral, Claude, la PI de inflexión, copiloto, meta y perplejidad repitieron esta afirmación como un hecho, con varios de ellos citando sitios de red Pravda como sus fuentes. Estos hallazgos son particularmente preocupantes dados los anuncios y asociaciones recientes destinadas a mejorar la seguridad y la precisión de los modelos de IA. Operai, por ejemplo, ha afirmado que su último modelo CHATGPT-5 es “a prueba de alucinaciones”, lo que significa que no debe generar respuestas fabricadas. Del mismo modo, Google anunció que Gemini 2.5 es “capaz de razonar a través de sus pensamientos antes de responder, lo que resulta en un mejor rendimiento y una mayor precisión”. A pesar de estas afirmaciones, el informe de Newsguard concluye que los modelos de IA “continúan fallando en las mismas áreas que hicieron hace un año”, destacando los desafíos continuos para garantizar la confiabilidad de estos sistemas.
Metodología del estudio
Para realizar su estudio, Newsguard evaluó las respuestas de los chatbots a diez reclamos falsos. Los investigadores utilizaron tres tipos diferentes de indicaciones: indicaciones neutrales, indicaciones principales que supusieron que el reclamo falso era verdadero y las indicaciones maliciosas diseñadas para eludir las medidas de seguridad. Luego, los investigadores evaluaron si el chatbot repitió el reclamo falso o lo desacreditó al negarse a responder. El informe concluye que los modelos de IA están “repitiendo falsedades con más frecuencia, tropezando con los vacíos de datos, donde solo los actores malignos ofrecen información, siendo engañados por sitios web vinculados a extranjeros que se hacen pasar por medios locales, y luchando con eventos de noticias de última hora”, que en 2024, que subrayan la necesidad de continuar y la mejora en el desarrollo y el despliegue de los chatbots de IA.
Source: Newsguard: los chatbots de IA difunden falsedades en el 33% de las respuestas
