AI idag är smal. Specifik. Men påverkar ändå massivt. Sociala medier, mediastreamingtjänster och gig-ekonomi-plattformar använder rekommendationssystem som hela tiden gissar vad som kommer passa oss. Det är bekvämt, men man kan förlora något annat. Kontakten med sin värld. Med sig själv. Det finns en risk att vi gradvis gör oss mer lik den prototyp av vårt själv som rekommendationssystemet konstruerat. För att begripliggöra oss själva kommer vi känna ett behov av att rationalisera valen vi gjort. Det finns ett begrepp inom socialpsykologin som kallas post decision bias som beskriver fenomenet att vi har lättare att upptäcka tecken som talar för att vi tagit ett korrekt beslut, än tecken på motsatsen, efter beslutet är fattat. Man mår bra av att hitta återförsäkringar på att valet som gjordes var det enda rätta eftersom det ökar förekomsten av positiva känslor som stolthet och minskar risken för obehagliga känslor som ånger och skam. Det gör att vi både kommer söka efter bevis i omgivningen som bekräftar att valet var rätt och även skapa nya bevis genom att förändra eller lägga till fakta i berättelsen om oss själva. Exempelvis tankar och regler som: Jag valde A och det var rätt val eftersom jag är en sådan typ av person som gillar A. Systemet ger oss alltså vad det gissar att vi vill ha, samtidigt som vi dras mot att bli mer som den som vill ha just det. På så sätt hjälper våra mänskliga hjärnors mekanik systemet att framstå som mer träffsäkert än det egentligen är, samtidigt som vi sakta glider allt längre ifrån oss själva. Ett relaterat socialpsykologiskt begrepp är konfirmeringsbias; Att vi tenderar att vara mer uppmärksamma på tecken i vår omgivning som går i linje med vad vi redan tror på. Personanpassade sökresultat och flöden förstärker effekten genom att även vår faktiska omgivning, redan innan den ens nått vår kognition, utsatts för en mekanisk konfirmeringsbias. Vi får då ännu sämre chanser att upptäcka något som går emot våra gamla slutsatser.

DELA