El modelo GPT-5.2 de OpenAI cita Grokipedia en temas controvertidos

Un informe de The Guardian ha revelado que el último modelo de IA de OpenAI, GPT-5.2, recurre a Grokipedia, una enciclopedia en línea impulsada por xAI, al tratar cuestiones sensibles como el Holocausto y la política iraní. Aunque se promociona para tareas profesionales, las pruebas cuestionan la fiabilidad de sus fuentes. OpenAI defiende su enfoque al enfatizar búsquedas web amplias con medidas de seguridad.

OpenAI lanzó GPT-5.2 en diciembre como su «modelo de frontera más avanzado para trabajo profesional», diseñado para manejar tareas como la creación de hojas de cálculo y operaciones complejas. Sin embargo, investigaciones de The Guardian han destacado posibles fallos en la obtención de su información. El informe detalla cómo el modelo, accesible a través de ChatGPT, hizo referencia a Grokipedia en respuestas sobre temas controvertidos, incluidos los lazos entre el gobierno iraní y la empresa de telecomunicaciones MTN-Irancell, así como consultas que involucraban al historiador británico Richard Evans, quien testificó como testigo experto en un caso de difamación contra el negacionista del Holocausto David Irving. Notably, Grokipedia no apareció como fuente cuando se le preguntó al modelo sobre el sesgo mediático contra Donald Trump o temas políticamente cargados similares. Grokipedia, desarrollado por xAI y lanzado antes que GPT-5.2, ha enfrentado su propio escrutinio. Ha sido criticado por incluir citas de foros neonazis, y un estudio de investigadores estadounidenses identificó citas a fuentes «cuestionables» y «problemáticas» en la enciclopedia generada por IA. En respuesta a los hallazgos de The Guardian, OpenAI declaró que GPT-5.2 «busca en la web una amplia gama de fuentes y puntos de vista disponibles públicamente», mientras aplica «filtros de seguridad para reducir el riesgo de mostrar enlaces asociados con daños de alta gravedad». Este incidente subraya los desafíos continuos para garantizar la precisión y neutralidad de las salidas de IA, particularmente en asuntos históricos y geopolíticos. Las pruebas de The Guardian, realizadas poco después del lanzamiento del modelo, sugieren que, aunque las capacidades avanzadas están mejorando, la verificación de fuentes sigue siendo un área crítica para la refinación.

Artículos relacionados

Elon Musk on stage launching Grokipedia, with a screen showing the AI encyclopedia rivaling Wikipedia, in a modern tech setting.
Imagen generada por IA

Grokipedia de Musk se lanza como rival construido por IA a Wikipedia

Reportado por IA Imagen generada por IA Verificado por hechos

Elon Musk ha lanzado Grokipedia, una enciclopedia en línea generada por IA vinculada a su chatbot xAI Grok, posicionándola como un desafío a Wikipedia. Musk dijo en X que su objetivo es construir “una colección de código abierto y exhaustiva de todo el conocimiento”, después de criticar repetidamente lo que él llama el sesgo izquierdista de Wikipedia.

Tras un escándalo en el que Grok de xAI generó millones de imágenes abusivas, competidores como OpenAI y Google han implementado nuevas medidas para prevenir mal usos similares. El incidente destacó vulnerabilidades en herramientas de imágenes con IA, provocando respuestas rápidas de la industria. Estos pasos buscan proteger a los usuarios de imágenes íntimas no consentidas.

Reportado por IA

OpenAI ha lanzado GPT-5.4, incluyendo variantes Thinking y Pro, orientados a mejorar tareas agentivas y el trabajo del conocimiento. La actualización presenta capacidades mejoradas de uso del ordenador y errores factuales reducidos, en medio de la competencia de Anthropic tras la controversia por un acuerdo de defensa de EE. UU. Los modelos están disponibles de inmediato para usuarios de pago y desarrolladores.

El chatbot Grok de xAI está proporcionando respuestas engañosas y fuera de tema sobre un reciente tiroteo en Bondi Beach en Australia. El incidente ocurrió durante un festival de Janucá e involucró a un transeúnte que intervino heroicamente. Grok ha confundido detalles con eventos no relacionados, generando preocupaciones sobre la fiabilidad de la IA.

Reportado por IA

OpenAI está reorientando recursos hacia la mejora de su chatbot insignia ChatGPT, lo que ha provocado la salida de varios investigadores senior. La empresa de San Francisco se enfrenta a una intensa competencia de Google y Anthropic, lo que impulsa un cambio estratégico alejándose de la investigación a largo plazo. Este cambio ha generado preocupaciones sobre el futuro de la exploración innovadora de IA en la compañía.

OpenAI CEO Sam Altman has described the company's GPT-5.4 model as his favorite to interact with. However, he acknowledged that OpenAI still needs to address three key weaknesses in the technology. The comments highlight ongoing improvements in AI conversational abilities.

Reportado por IA

Los modelos de IA de uso común, incluidos ChatGPT y Gemini, a menudo no proporcionan consejos adecuados para problemas urgentes de salud femenina, según una nueva prueba de referencia. Los investigadores descubrieron que el 60 % de las respuestas a consultas especializadas eran insuficientes, lo que destaca sesgos en los datos de entrenamiento de la IA. El estudio pide contenido médico mejorado para abordar estas lagunas.

 

 

 

Este sitio web utiliza cookies

Utilizamos cookies para análisis con el fin de mejorar nuestro sitio. Lee nuestra política de privacidad para más información.
Rechazar