Viés
Ferramentas de IA para câncer podem inferir demografia de pacientes, levantando preocupações com viés
Reportado por IA Imagem gerada por IA Verificado
Sistemas de inteligência artificial projetados para diagnosticar câncer a partir de lâminas de tecido estão aprendendo a inferir a demografia dos pacientes, levando a um desempenho diagnóstico desigual entre grupos raciais, de gênero e etários. Pesquisadores da Harvard Medical School e colaboradores identificaram o problema e desenvolveram um método que reduz drasticamente essas disparidades, sublinhando a necessidade de verificações rotineiras de viés em IA médica.
Um relatório do Media Research Center analisou a cobertura nos quatro grandes apps de notícias — Apple News, Google News, MSN da Microsoft e Yahoo News — encontrando uma forte preferência por veículos de esquerda. O estudo, cobrindo 106 dias de Halloween ao Dia de São Valentim, mostrou fontes de direita com visibilidade mínima. As plataformas destacaram milhares de histórias, com disparidades na representação dos veículos.
Reportado por IA
Nova pesquisa mostra que algoritmos personalizados em plataformas como YouTube podem dificultar o aprendizado ao limitar a exposição a informações, mesmo para aqueles sem conhecimento prévio. Participantes em um estudo exploraram menos material, tiraram conclusões erradas e se sentiram excessivamente confiantes em seus erros. As descobertas destacam riscos de compreensão enviesada nas interações digitais cotidianas.