Algoritmerna kan bidra till sexism

Pratet om filterbubblor är överdrivet och falska nyheter påverkar oss mindre än vi tror. Det säger Uppsalaforskaren David Sumpter som i sin nya bok ”Uträknad - sanningen om algoritmerna som styr våra liv”, försöker ge en mer nyanserad bild av hur data och algoritmer fungerar och hur stor inverkan de egentligen har.

David Sumpter har upptäckt att Googles språkprocess-algoritmer har en inbyggd sexism som diskriminerar kvinnor.

David Sumpter har upptäckt att Googles språkprocess-algoritmer har en inbyggd sexism som diskriminerar kvinnor.

Foto: Staffan Claesson

Matematik2019-05-12 10:00

David Sumpter, som ursprungligen är från Skottland, bjuder på brittiskt te hemma i sitt villakök i Uppsala. Familjens hund, Jack Russeln Tobias, ligger nöjt i sin korg när vi slår oss ner vid köksbordet.

David Sumpters forskningsområde heter ”Collective Behaviour” och handlar om djurs och människors rörelsemönster i grupp.

– Man kan exempelvis titta på hur fiskstim, eller fåglar rör sig i grupp. Och teknikerna man använder för att analysera det, kan användas i andra sammanhang. Exempelvis i medicinsk biologi för att titta på cellrörelser eller för att analysera hur stora folkmassor rör sig.

I sin senaste bok ”Uträknad, sanningen om algoritmerna som styr våra liv”, analyserar David människors beteenden på sociala medier.

– Jag har inte tittat så mycket på rörelsen, mer på hur människor är ihopkopplade på Facebook, hur man kommunicerar på Twitter och hur ”fake news” sprids. Mycket av den matematik som beskriver spridningen av falska nyheter är samma matematik som beskriver hur ett fiskstim ändrar riktning när de upptäcker något.

När David Sumpters första bok Fotbollens matematik kom ut 2016, hade samhället en mer positiv inställning till matematik, berättar han.

– Filterbubblor och falska nyheter har fått mycket negativ uppmärksamhet i media. Likaså historien med Cambridge Analytica, vilket gjort att inställningen till data och algoritmer blivit mer negativ.

Syftet med boken är därför att ge en mer nyanserad bild av hur algoritmer egentligen fungerar.

– Algoritmerna påverkar inte våra liv så mycket som vi tror. Den filter-bubbel-effekt som uppmärksammades för två år sen är överdriven och ett exempel på att folk inte förstår hur algoritmer fungerar. De känner att det kanske kan stämma att man inte får all information. Men vi har mycket bättre tillgång till information nu än för 15-20 år sen.

Att falska nyheter existerar, råder det ingen tvekan om. Men David säger att dess negativa inflytandet inte är så stort. Han hänvisar till en studie som ekonomerna Hunt Allcott och Matthew Gentzkow gjort, där de mätte effekten av falska nyhetshistorier i upptakten till 2016 års presidentval i USA.

– Ekonomerna visade artiklar med både falska och sanna nyheter för deltagarna i studien. De hade också med egenpåhittade nyheter som de tillfrågade inte kunde hört talas om.

70 procent sa sig komma ihåg de sanna nyheterna och 15 procent de falska nyheterna.

– I experimentet angav också 14 procent att de kom i håg de falska nyheterna som ekonomerna själva hittat på. Kontentan är att folk har känslan att det finns ”fake news”, men de kommer inte ihåg de korrekta detaljerna kort efteråt. Därför är det ganska osannolikt att det som skrevs om presidentvalet i sociala medier, om att valet skulle varit manipulerat, påverkade valutgången särskilt mycket.

Men det finns problem i systemen med algoritmer.

– Alla stora internetjättar samlar information om vilka sajter som besöks, för att avgöra vilka annonser användarna sen får se. Google är exempelvis inte neutralt. Det tror jag inte så många reflekterar över. Jag tycker det är viktigt att vi förstår hur den reklam som riktas till oss fungerar.

David har också tittat på hur Googles ”language processing algoritmer” fungerar och sett att det finns en inbyggd sexism.

Metoden han använt sig av är en uträkning med det vanligaste kvinnonamnet och mansnamnet i Storbritannien: ”Susan” och ”David”.

– Man kan göra matematik med ord. Så jag testade att göra uträkningen ”intelligent - David + Susan, vilket motsvarar ”David är till intelligent som Susan är till - ?”. Och jag fick svaret ”påhittig”.

– Jag skrev in ”David är till begåvad som Susan är till - ?” och fick svaret ”pryd”. Det blev än värre när jag gjorde uträkningen ”David är till skarp som Susan är till - ?” och fick svaret ”sexig”.

Liknande resultat fick David när han gjorde uträkningar med de två populäraste namnen på nyfödda i Storbritannien: Oliver och Olivia: ”Oliver är till klyftig vad Olivia är till flörtig”.

Slutsatsen David Sumpter drar är att algoritmerna, som byggs upp och baseras på allt som skrivits i exempelvis tidningar och på wikipedia om dessa vanliga namn, är nedvärderande och sexistiska mot kvinnor. Och det ser han som ett allvarligt problem.

– Dessa algoritmer kan användas för att automatiskt läsa och ranka CV:n, vilket kan innebära att kvinnors ansökningar sållas bort.

I jobbet som professor på Uppsala universitet lägger David Sumpter stor vikt vid samarbetet mellan olika institutioner. Han har exempelvis varit med och startat ett centrum för interdisciplinär matematik och samarbetar med runt 200 forskare över hela världen. Oavsett forskningsområde, hjälper David andra forskare att bygga upp en matematisk modell som beskriver deras system.

Det hela låter avancerat i mina öron, och jag blir därför nyfiken på att få veta mer om hur David intresse för matematik började.

– Jag var datanörd som ung. Jag fick min första dator vid 9 års ålder och började programmera tidigt. Sen upptäckte jag att det var mycket matematik som låg till grund för programmering och intresserade mig för det.

David pluggade datavetenskap och statistik på universitetet. Han doktorerade i matematik och fick en tjänst i Oxford.

– När jag varit i Oxford ett tag ville jag åka till ett exotiskt ställe och fick jag en ett-års-tjänst i Umeå. Umeå kändes väldigt exotiskt jämfört med Oxford, berättar David och skrattar.

I Umeå träffade han sin fru Lovisa och tillsammans flyttade de till Oxford där de bodde tills David fick en tjänst på Uppsala universitet 2007.

Fotboll, är ett annat ämne som intresserar David Sumpter. Och särskilt ihop med matematik. I sin bok Fotbollens matematik låter han läsaren se fotbollsspelet genom en matematikers ögon. Han tar upp tolv ämnen i tillämpad matematik och visar hur de kan lösa problem i fotboll.

– Med boken ville jag få folk intresserade av matematik genom en ny vinkel. Fotbollen är en av de mest matematiska sporterna, fyllt med nummer, former och mönster. I boken beskriver jag exempelvis slumpens roll i en match, och använder Newtons ekvationer för att analysera Zlatans klassiska bicicletamål.

Och mer fotboll blir det framöver. David har nyligen påbörjat ett forskningsprojekt med Hammarbys A-lag, där han ska analysera spelet för att se förbättringsmöjligheter.

På sin dator visar han en match där spelarna syns som röda och gröna prickar som rör sig över planen.

– Med detta fågelperspektiv ser vi spelarnas rörelser och passningar. Sen kan jag använda samma metod som på exempelvis fiskstim, för att analysera rörelserna. Det som är så fascinerande med matematik är att det handlar om allting. Vilket ämne som helst kan hitta nya lösningar med hjälp av matematik.

Min bästa söndag Personligt

Jag vaknar:

Min drömsöndag vaknar jag tidigt och får inspiration till att skriva. Sen sitter jag och skriver 1-2 timmar. Det händer ibland, men inte alltid.

Förmiddag:

Jag tar en promenad med min fru Lovisa och vår nya hund Jack Russeln Tobias.

Lunch:

Vi äter lunch tillsammans med barnen.

Eftermiddag:

Fotbollsmatch med UIF 05 som jag är tränare för.

Middag:

Vi äter på någon familjevänlig restaurang.

Kväll:

Jag pratar musik med min dotter. Både hon och jag är stora Beatlesfans, så vi lyssnar på the Beatles och pratar om musiken. Jag är mycket intresserad av den emotionella delen av musiken.

Namn: David Sumpter.

Ålder: 45 år.

Familj: Fru Lovisa, dottern Elise 16 år och sonen Henry 14 år.

Yrke: Författare och professor i tillämpad matematik på Uppsala universitet. Undersöker matematik av kollektiva djurbeteenden, social dynamik och matematisk biologi.

Aktuell: med boken ”Uträknad, sanningen om algoritmerna som styr våra liv” som nyligen utkommit på svenska.

Bor: Villa i Uppsala.

Bästa egenskap: Stark motivation till att göra saker.

Sämsta egenskap: Tar lätt på mig för mycket.

Drömmer om: Jag är väldigt nöjd med det liv jag har och lever för dagen.

Lyssnar på: The Beatles och hip hop-artisten Tyler, the Creator.

Gillar: Diskutera, fundera och analysera. Att umgås med människor. Att vara själv och tänka och skriva ner mina tankar.

Ogillar: När folk har starka åsikter som inte är grundade i fakta, vetenskap och forskning.

Ser fram emot: Varje dag.

Brinner för: Allt jag gör: min forskning, undervisning och fotbollsträning.

Äter: Vad som helst som min fru lagar.

Dricker: Bubbelvatten.

Favoritlåt: Across the Universe med The Beatles och John Lennons Imagine.

Så jobbar vi med nyheter  Läs mer här!