Hur tar man sig an risken för människans utrotning? Med lite gott humör, kanske? Fysikprofessorn Max Tegmark, världsledande på området Artificiell intelligens, AI, tar sig småleende igenom SVT-programmet 30 minuter (1/6). Han slår fast att risken för utrotning är större än 50 procent ”om vi tappar kontrollen”.
Hur själva utrotningen ska gå till vill han inte spekulera om. Tegmark konstaterar bara att inga arter som någonsin dött ut har varit medvetna om orsaken eller om hur det konkret skulle gå till. Noshörningar kunde aldrig ana att människor skulle vilja mala ned deras horn i tron att de skulle förbättra deras potens, exemplifierar han godmodigt. Detsamma gäller förhållandet mellan människan och superintelligenta maskiner.
Vid stora hot växer behovet av någon att hålla i handen. När pandemin bröt ut 2020 visade sig exempelvis statsepidemiologen Anders Tegnell och läkaren Agnes Wold ha de egenskaper som efterfrågades, krassa och nollställda som de verkade i förhållande till viruset. Någon liknande figur har inte utkristalliserats beträffande hotet från klimatförändringarna. Allvaret till trots, det behövs också någon form av hopp.
Max Tegmark är Sveriges representant i den illustra samling forskare som de senaste månaderna varnat för AI, som krävt att samhället snabbt måste sätta en gräns för utvecklingen innan det är för sent. Med sig har han inte bara vildhjärnor som Elon Musk – där finns också själva kärnan inom AI-forskningen, de som kan sägas ha släppt lös hotet: från ”AI-grundaren” Geoffrey Hinton, via centralgestalter inom techindustrin till Sam Altman, grundaren av Open AI som gav oss ChatGPT.
Det är lätt att bli missmodig, för att uttrycka det milt, inför risken att Putins krigsmakt förses med mördardrönare, eller att Kina, redan ledande inom fält som ansiktsigenkänning, kommer att utnyttja tekniken till max med syftet världsherravälde. Farhågorna gäller också skrupelfria multinationella företag med enbart vinst för ögonen. Hur ska nattståndna institutioner som EU eller FN kunna motverka och reglera detta?
Varför inte, undrar den obotlige optimisten Max Tegmark. På samma sätt som vi kunde hindra genmanipulationer eller mänsklig kloning från att löpa amok kan vi begränsa AI innan det blir för sent. Han lyfter i SVT-intervjun fram läkemedelsverken, som EU:s EMA eller USA:s FDA, som en gångbar modell även för AI-tekniken. Om farliga läkemedel med många biverkningar kan stoppas kan även andra farliga forskningsresultat göra det, resonerar han.
En annan sorts optimist är Uppsalaprofessorn i teoretisk fysik Ulf Danielsson. Han har tidigare sagt att han är skeptisk till Tegmark och de övrigas varningar för mänsklig utrotning på grund av superintelligenta maskiner, vilket han upprepade när en panel på SVT:s Idébyrån (7/6) diskuterade de främsta hoten mot mänskligheten.
Enligt Danielsson är det meningslöst att spekulera om risken för utrotning på grund av AI. ”Visst kan det finnas farliga konsekvenser. Men det finns också tänkbara positiva effekter av maskininlärning. Den kan till exempel hjälpa till med att klara klimatkrisen”, säger han.
Det är bara ett drygt halvår sedan ChatGPT slog alla med häpnad och satte fart på spekulationerna. Alla nyhetsredaktioner gör sitt bästa för att skaka fram någon som kan bidra med rätt proportioner, helst också med förslag på lösningar. Någon att hålla i handen, alltså, och det behöver inte vara en naturvetare. ”Vi fungerar så att vi tar till oss det negativa och när vi matas med den här typen av nyheter finns risken att vi ger upp”, sade antropologen Katarina Graffman i Idébyrån.
Proportioner är viktiga. Hopp är viktigt. Under pandemin, nu och vid framtida kriser.