Lisa Kaatis specialområde är AI (artificiell intelligens) och hur det kan göra oss vänligare mot varandra. Ihop med psykologiforskare har hon tagit fram Hatescan som upptäcker och varnar för hat- och hotfullt språk.
– Vi kan få hjälp av tekniken för att slippa det toxiska språket som skapar bråk och ett obehagligt samtalsklimat, säger Uppsalabon Lisa Kaati, forskare i datavetenskap.
Med toxiskt menar hon ett språk som innehåller hat eller hot, förtal, förolämpningar eller nedvärderingar som ibland är brottsliga men inte alltid.
Hennes specialområde är just hur AI (artificiell intelligens) kan göra oss vänligare mot varandra. Ihop med psykologiforskare från Uppsala universitet har hon tagit fram "Hatescan" en AI-modell som upptäcker och varnar för hat- och hotfull kommunikation.
Hur ska AI då kunna förändra vårt beteende mot varandra? Jo, Hatescan används till exempel av "Varannan vecka", som är ett digitalt hjälpmedel för att hjälpa föräldrar vid en separation att kommunicera bättre: allt för att minska risken för konflikter om barnen ifall föräldrarna börjar spåra ur.
– Vår AI-modell varnar när den upptäcker toxiskt språk i chattforumet där föräldrarna skriver. Men den hindrar ingen att skicka meddelandet. Den markerar med rött om texten skulle kunna uppfattas som toxisk och orange om den är på gränsen. Men det är fortfarande föräldrarna som avgör hur de vill uttrycka sig, säger Lisa Kaati som inte tror på förbud mot vissa ord eller uttryck.
Meningen är att lite eftertanke kan bli räddaren i nöden om en förälder är frustrerad eller arg på sitt ex. Orden som känns utmärkta att sända en fredagsnatt kan verka helt idiotiska morgonen därpå när känslorna lagt sig.
Hur tränar man en algoritm att känna igen toxiskt språk?
– Man får ge den jättemånga olika träningsexempel på hur man kan uttrycka sig, säger Lisa Kaati.
Psykologistudenter och forskare har gått igenom massor av inlägg på sociala medier och märkt upp vilka som de uppfattar som toxiska och vilka som inte är det.
– Det är sällan självklart. Alla tycker inte lika och en mening kan betyda något annat taget ur sin kontext. För oss har det varit viktigt att inte ge vår AI dålig data för då lär den sig fel, säger Lisa Kaati.
Därför måste minst fem studenter oberoende av varandra anse att samma uttryck är toxiskt.
– Det blev ett extremt stort jobb. Det har tagit många år att få fram data för att träna vår algoritm så att den funkar bra, säger hon.
Forskarna ville fånga det toxiska samtalsklimatet, inte bara få svordomar och rena hat- eller hotord markerade.
– Grova meningar som: "Jag ska döda dig", är ingen konst att känna igen. Svårare är gränslandet. Men det fina med AI är att om den får över 10 000 exempel kan den själv göra egna bedömningar på nya texter som den aldrig sett förut.
”Det fina med AI är att om den får över 10 000 exempel kan den själv göra egna bedömningar på nya texter som den aldrig sett förut,” säger Lisa Kaati.
Kan AI fatta ironi, som ju ofta används i gräl?
– Maskiner har svårt att förstå ironi. Men ibland tycker jag att den gör det. Tvetydiga ord och bittra offerkofta-meddelanden är också svåra: AI har sina svagheter, men det har ju vi människor också, säger Lisa som menar att AI kan känna igen toxiskt språk till 90 procent.
Lisa Kaati påpekar att AI som språkvarnare skulle kunna användas mycket mer på internet, till exempel i sms, i chattforum på jobb eller på Twitter. I förra veckan presenterade hon en språkpolitisk vision på uppdrag av Svenska akademien och Språkrådet för att förbättra kommunikationen på nätet genom att använda AI.
– När politiker skriver saker i affekt på Twitter får det stor inverkan på samtalsklimatet i stort. Då skulle AI absolut göra nytta. Politikerna är en av flera yrkesgrupperna som sätter agendan för andra människors beteende, säger Lisa Kaati.
90 procent av den svenska befolkningen anser att de har utsatts för olika typer av kränkningar på nätet och 70 procent uppger att de självcensurerat sig för att undvika hat och hot på nätet, enligt rättsociologisk forskning vid Lunds universitet.
– Vissa ämnen tenderar att bli extra toxiska, som politik eller när det handlar om politiker. Vi måste tala mer om vad det gör med människor att bli utsatta för konstanta påhopp i form av hatkommentar. Programledaren Kodjo Akolor beskriver det på ett bra sätt, tycker jag, att det är som en form av tortyr där man skär små sår i kroppen tills personen dör.
Lisa Kaati påpekar att hatstormar på nätet ofta drabbar kvinnor och personer med utländsk bakgrund extra hårt.
– Det är absolut ett stort hot mot demokratin när vissa människor inte längre vågar uttala sig offentligt.