EU vill vara världsledande. Därför la kommissionen i går (21/4) fram ett förslag till ny lagstiftning som ska främja, och reglera, artificiell intelligens (AI). Bland annat ska användningen av ansiktsigenkänningsteknik förbjudas på offentlig plats. Det innebär att övervakningskameror som finns på allmänna platser inte i realtid ska kunna läsa av passerande ansikten, jämföra dem med en databas av bilder och sedan avisera om den för en träff på matchning.
Det är bra, för ansiktsigenkänningstekniken är förenad med många problem. Den är nämligen bara så bra som vi människor är, och vi människor är som bekant inte alltid så bra.
När man har byggt upp tekniken för ansiktsigenkänning har man i hög grad tränat upp systemen genom att mata in bilder på vita män. Det har lett till systematiska snedvridningar, som gör tekniken betydligt bättre på att “känna igen” vita män, än till exempel kvinnor, barn och människor med mörk hudton. Amerikanska studier har till exempel funnit att afroamerikaner i högre grad har felidentifierats och i vissa fall även felaktigt arresteras (Nature 18/11-20). Det riskerar att underminera förtroendet för delar av rättsväsendet, i en grupp där förtroendet redan är relativt lågt.
Men det är klart, tekniken blir bättre. Och nu när man har identifierat problemet med systematisk felidentifiering av stora demografiska grupper kommer man även kunna åtgärda det. Vilket för oss till det andra problemet.
Det enda som är värre än att ansiktsigenkänningen fungerar dåligt är om den fungerar felfritt.
Det skulle kunna innebära att integriteten och rätten till privatliv kraftigt urgröps, när det blir allt svårare att röra sig i offentligheten utan att övervakas. Det riskerar också att påverka demokratin. I USA har man funnit att tekniken hämmar människors vilja att uttrycka sina åsikter; man blir mindre benägen att mötas och demonstrera på offentliga platser (Framsteg & forskning 5/11-20).
Den här tekniken har alltså problem. Därför är kommissionens förslag om att tekniken i princip ska förbjudas på allmän plats bra. Men “i princip”, betyder ofta “inte riktigt”. Och även i EU:s förslag har förbudet undantag, bland annat om man letar efter försvunna barn eller behöver använda tekniken för att spana efter personer misstänkta för grova brott.
Dessvärre finns det nästan alltid skäl att spana efter personer som är misstänkta för grova brott. Det här förbudet riskerar därför att bli föga mer än en papperstiger i försvaret för integriteten. Lagstiftningen kommer sannolikt inte att bli bättre än hur medlemsländerna väljer att tolka den. Därför behövs ett starkt försvar för integriteten även inom det egna landet, ett försvar som dessvärre ofta lyser med sin frånvaro.