När hat och desinformation sprids på sociala medier skapar det med rätta upprördhet. Inte sällan följs det av rop på både ansvarsutkrävande från plattformen och lagstiftning på området. Samtidigt riktas ofta kritik mot plattformarnas censurering av visst innehåll, vilket i sin tur följs av diskussioner om yttrandefrihet på internet.
Vid första anblick kan dessa två attityder verka motstridiga men det finns sannolikt fog för båda. Och det beror på att översyn och granskning av medlemmarnas innehåll är genuint svårt, i synnerhet på plattformar vars hela modell bygger på låga trösklar för att dela med sig av tankar. Idén om att politiska verktyg skulle vara ett smidigt sätt att råda bot på problemen är dock vansklig.
När olämpligt innehåll sprids förlitar sig plattformarna dels på algoritmer och dels på andra användare för att upptäcka innehållet. Vissa saker censureras preventivt medan andra granskas av anställda som tar ställning till innehållets efterlevnad av reglerna. Ingen av vägarna är felfri, ens i teorin.
Anledningen är att det alltid är en komplicerad affär att skönja kontext och finare nyanser. Det märks ofta tydligast i gränsdragningen mellan sexualupplysning och sexuellt innehåll, eller att skilja uttryck för rasism och sexism från personers skildringar av att ha blivit utsatta för detsamma. Multiplicerar vi problemet med de mer än två miljarder användare som Facebook har är det förståeligt att detta inte sällan blir fel.
Därför ställs ofta plattformen för de otrevliga valet – safe or sorry. Domstolar väljer det senare; vid tveksamhet hellre fria än fälla. Plattformarna har dock ofta anledning att göra det motsatta, då att göra för lite riskerar anseendet hos användare, annonsörer och politiker.
Facebook instiftade, i ett försök att förbättra både trovärdigheten och förutsägbarheten i processen, ett oberoende tillsynsråd som granskar hur företaget hanterar balansen mellan trygghet och yttrandefrihet. Rådet utgörs i dag av 19 namngivna personer, till största del bestående av välmeriterade jurister, akademiker och företrädare för organisationer som arbetar med frågorna.
Farhågorna om att organisationen skulle bli en papperstiger verkar så här långt inte besannats. I stället har rådet fått Facebook att ändra sina beslut i en lång rad ärenden, däribland avstängningen av USA:s tidigare president Donald Trump, och föreslagit flera ändringar i Facebooks användarregler.
Det är för tidigt att säga något om rådets långsiktiga effekt, men det tjänar samtidigt som ett viktigt exempel på hur problemen skulle kunna hanteras utan staters inblandning.