Nova pesquisa mostra que algoritmos personalizados em plataformas como YouTube podem dificultar o aprendizado ao limitar a exposição a informações, mesmo para aqueles sem conhecimento prévio. Participantes em um estudo exploraram menos material, tiraram conclusões erradas e se sentiram excessivamente confiantes em seus erros. As descobertas destacam riscos de compreensão enviesada nas interações digitais cotidianas.
Um estudo publicado no Journal of Experimental Psychology: General revela como sistemas de recomendação personalizados interferem nos processos de aprendizado. Realizado por Giwon Bahg como parte de sua tese de doutorado na The Ohio State University, a pesquisa envolveu 346 participantes online sem conhecimento prévio sobre o tema. Para testar os efeitos, os pesquisadores criaram uma tarefa fictícia em que os participantes aprendiam a identificar tipos de alienígenas semelhantes a cristais, cada um definido por seis características variáveis, como forma e cor.
Em uma condição, os participantes clicaram para revelar todas as características de cada alienígena. Em outra, um algoritmo de personalização guiou suas escolhas, direcionando-os a examinar repetidamente as mesmas características enquanto permitia pular. Aqueles que usaram o algoritmo visualizaram menos características no geral e em um padrão seletivo. Mais tarde, ao serem testados com novos alienígenas, eles os classificaram incorretamente, mas expressaram alta confiança em suas respostas.
"Eles estavam ainda mais confiantes quando estavam realmente errados em suas escolhas do que quando estavam certos, o que é preocupante porque tinham menos conhecimento", disse Bahg. Agora bolsista de pós-doutorado na Pennsylvania State University, Bahg observou que os algoritmos constroem vieses imediatamente, levando a visões distorcidas da realidade.
O coautor Brandon Turner, professor de psicologia na Ohio State, explicou: "As pessoas perdem informações ao seguir um algoritmo, mas acham que o que sabem se generaliza para outras características e outras partes do ambiente que nunca experimentaram."
Os pesquisadores ilustraram o viés com um cenário de recomendação de filmes: um usuário novo em filmes de um país pode ver apenas thrillers de ação, formando suposições imprecisas sobre seu cinema e cultura. As implicações se estendem a crianças aprendendo online, onde os algoritmos priorizam o consumo de conteúdo sobre a exploração ampla. "Se você tem uma criança pequena que realmente está tentando aprender sobre o mundo, e elas interagem com algoritmos online que priorizam fazer os usuários consumirem mais conteúdo, o que vai acontecer?" perguntou Turner. O coautor Vladimir Sloutsky, também na Ohio State, contribuiu para o trabalho.