¿Por qué no fiarse de Grok, la IA de X, para verificar contenidos?

El uso de Grok, el asistente de inteligencia artificial de X, se ha multiplicado entre los usuarios de esta red social, que lo emplean, en muchos casos, como fuente de información y para verificar contenidos pese a su limitación para contrastar hechos y la alta tasa de error en sus respuestas, según expertos y estudios.

"Los chatbots basados en IA buscan generar un texto convincente, bien estructurado, y que sea cierto o verdadero no importa", explica a EFE Verifica Javi Cantón, profesor e investigador en la Universidad Internacional de La Rioja, y experto en IA y desinformación.

Cantón señala que estas herramientas no saben "contrastar hechos en tiempo real ni aplican criterios periodísticos de verificación". "No entienden lo que afirman. En definitiva, generan plausibilidad lingüística, no verdad factual", subraya.

A las limitaciones propias de estas herramientas se suman "los sesgos ideológicos y la eliminación de límites poco éticos que se han incluido en su programación", agrega.

Según una investigación de Business Insider, Grok fue entrenado con "prompts" (instrucciones que se le dan a un sistema de IA para guiar su respuesta) cuyo objetivo es convertir esta herramienta en una alternativa a lo que Elon Musk considera los "chatbots wokes", como ChatGPT.

Extrabajadores de xAI, la compañía de Musk, dijeron a Business Insider que, en su opinión, los métodos para entrenar a Grok "parecían dar mucha prioridad a las creencias de la derecha".

Alta tasa de error en sus respuestas

Una investigación publicada por la revista Columbia Journalism Review evaluó la capacidad de ocho herramientas de inteligencia artificial para acceder, presentar y citar las noticias que utilizaban como fuente.

El estudio concluyó que estos chatbots por lo general "no sabían rechazar las preguntas que no podían responder con precisión, y en su lugar ofrecían respuestas incorrectas o especulativas". De hecho, la inteligencia artificial de X respondió incorrectamente al 94 % de las preguntas que le plantearon los investigadores.

En su página web, la compañía de Musk advierte de que, debido a que "Grok ha sido entrenado con información disponible públicamente", sus respuestas pueden incluir en ocasiones "información engañosa o inexacta".

Fuente: EFE/tlam/Foto: EFE