Ny forskning visar att personanpassade algoritmer på plattformar som YouTube kan hindra lärande genom att begränsa exponeringen för information, även för de utan tidigare kunskap. Deltagare i en studie utforskade mindre material, drog felaktiga slutsatser och kände sig överdrivet säkra på sina fel. Resultaten belyser risker för partisk förståelse i vardagliga digitala interaktioner.
En studie publicerad i Journal of Experimental Psychology: General avslöjar hur personanpassade rekommendationssystem stör lärandeprocesser. Genomförd av Giwon Bahg som del av sin doktorsavhandling vid The Ohio State University involverade forskningen 346 online-deltagare utan bakgrundskunskap om ämnet. För att testa effekterna skapade forskarna en fiktiv uppgift där deltagarna lärde sig identifiera typer av kristalliknande utomjordingar, var och en definierad av sex varierande egenskaper som form och färg.
I en kondition klickade deltagarna för att visa alla egenskaper för varje utomjording. I en annan styrde en personanpassningsalgoritm deras val, och ledde dem att upprepat undersöka samma egenskaper samtidigt som hopp tilläts. De som använde algoritmen tittade på färre egenskaper totalt och i ett selektivt mönster. Senare, när de testades på nya utomjordingar, sorterade de dem felaktigt men uttryckte hög tillit till sina svar.
"De var ännu mer säkra när de faktiskt var fel i sina val än när de var rätt, vilket är oroande eftersom de hade mindre kunskap," sade Bahg. Nu postdoktorand vid Pennsylvania State University noterade Bahg att algoritmer bygger bias omedelbart, vilket leder till förvrängda syner på verkligheten.
Medförfattare Brandon Turner, psykologiprofessor vid Ohio State, förklarade: "Människor missar information när de följer en algoritm, men de tror att det de vet generaliseras till andra egenskaper och andra delar av miljön som de aldrig upplevt."
Forskarna illustrerade biasen med ett filmrekommendationsscenario: en användare ny till filmer från ett land kanske bara ser action-thrillers, och bildar felaktiga antaganden om dess biografi och kultur. Implikationerna sträcker sig till barn som lär sig online, där algoritmer prioriterar innehållskonsumtion framför bred utforskning. "Om du har en ung unge som verkligen försöker lära sig om världen, och de interagerar med algoritmer online som prioriterar att få användare att konsumera mer innehåll, vad kommer att hända?" frågade Turner. Medförfattaren Vladimir Sloutsky, även vid Ohio State, bidrog till arbetet.