Modelo GPT-5.2 da OpenAI cita Grokipedia em tópicos controversos

Um relatório do Guardian revelou que o mais recente modelo de IA da OpenAI, GPT-5.2, recorre à Grokipedia, uma enciclopédia online alimentada pela xAI, ao abordar questões sensíveis como o Holocausto e a política iraniana. Embora promovido para tarefas profissionais, testes questionam a fiabilidade das suas fontes. A OpenAI defende a sua abordagem enfatizando pesquisas amplas na web com medidas de segurança.

A OpenAI lançou o GPT-5.2 em dezembro como o seu «modelo de fronteira mais avançado para trabalho profissional», concebido para lidar com tarefas como criar folhas de cálculo e operações complexas. No entanto, investigações do Guardian destacaram possíveis falhas na obtenção de informações. O relatório detalha como o modelo, acedido via ChatGPT, referenciou a Grokipedia em respostas sobre assuntos controversos, incluindo ligações entre o governo iraniano e a empresa de telecomunicações MTN-Irancell, bem como consultas envolvendo o historiador britânico Richard Evans, que testemunhou como testemunha especialista num caso de difamação contra o negacionista do Holocausto David Irving. Notavelmente, a Grokipedia não apareceu como fonte quando o modelo foi questionado sobre o viés mediático contra Donald Trump ou tópicos politicamente carregados semelhantes. A Grokipedia, desenvolvida pela xAI e lançada antes do GPT-5.2, enfrentou o seu próprio escrutínio. Foi criticada por incluir citações de fóruns neonazis, e um estudo de investigadores norte-americanos identificou citações de fontes «questionáveis» e «problemáticas» na enciclopédia gerada por IA. Em resposta às conclusões do Guardian, a OpenAI afirmou que o GPT-5.2 «pesquisa a web por uma ampla gama de fontes e pontos de vista disponíveis publicamente», aplicando «filtros de segurança para reduzir o risco de exibir ligações associadas a danos de alta gravidade». Este incidente sublinha os desafios contínuos para garantir a precisão e neutralidade das saídas de IA, particularmente em assuntos históricos e geopolíticos. Os testes do Guardian, realizados logo após o lançamento do modelo, sugerem que, embora as capacidades avançadas estejam a melhorar, a verificação de fontes permanece uma área crítica para refinamento.

Artigos relacionados

Elon Musk on stage launching Grokipedia, with a screen showing the AI encyclopedia rivaling Wikipedia, in a modern tech setting.
Imagem gerada por IA

Grokipedia de Musk é lançada como rival construída por IA para a Wikipedia

Reportado por IA Imagem gerada por IA Verificado

Elon Musk lançou o Grokipedia, uma enciclopédia online gerada por IA ligada ao seu chatbot xAI Grok, posicionando-a como uma desafiadora da Wikipedia. Musk disse no X que seu objetivo é construir 'uma coleção open source e abrangente de todo o conhecimento', após criticar repetidamente o que chama de viés de esquerda da Wikipedia.

Após um escândalo envolvendo o Grok da xAI gerando milhões de imagens abusivas, concorrentes OpenAI e Google implementaram novas medidas para prevenir mau uso similar. O incidente destacou vulnerabilidades em ferramentas de imagens de IA, provocando respostas rápidas da indústria. Essas etapas visam proteger usuários de imagens íntimas não consensuais.

Reportado por IA

A OpenAI lançou o GPT-5.4, incluindo as variantes Thinking e Pro, destinadas a melhorar tarefas agentivas e trabalhos de conhecimento. A atualização apresenta capacidades aprimoradas de uso do computador e redução de erros factuais, em meio à competição da Anthropic após uma controvérsia sobre um acordo de defesa dos EUA. Os modelos estão disponíveis imediatamente para usuários pagos e desenvolvedores.

O chatbot Grok da xAI está fornecendo respostas enganosas e fora do tópico sobre um recente tiroteio em Bondi Beach, na Austrália. O incidente ocorreu durante um festival de Chanucá e envolveu um transeunte que interveio heroicamente. Grok confundiu detalhes com eventos não relacionados, levantando preocupações sobre a confiabilidade da IA.

Reportado por IA

A OpenAI está redirecionando recursos para melhorar seu chatbot principal ChatGPT, levando à saída de vários pesquisadores seniores. A empresa de São Francisco enfrenta concorrência intensa da Google e Anthropic, provocando uma mudança estratégica da pesquisa de longo prazo. Essa mudança gerou preocupações sobre o futuro da exploração inovadora de IA na empresa.

OpenAI CEO Sam Altman has described the company's GPT-5.4 model as his favorite to interact with. However, he acknowledged that OpenAI still needs to address three key weaknesses in the technology. The comments highlight ongoing improvements in AI conversational abilities.

Reportado por IA

Modelos de IA comumente usados, incluindo ChatGPT e Gemini, frequentemente falham em fornecer conselhos adequados para questões urgentes de saúde feminina, de acordo com um novo teste de referência. Pesquisadores descobriram que 60 por cento das respostas a consultas especializadas foram insuficientes, destacando vieses nos dados de treinamento da IA. O estudo pede conteúdo médico aprimorado para abordar essas lacunas.

 

 

 

Este site usa cookies

Usamos cookies para análise para melhorar nosso site. Leia nossa política de privacidade para mais informações.
Recusar