Profetior om framtiden brukar sällan vara träffsäkra. Man tar den befintliga kunskapen och drar en linje, extrapolerar, framåt i tiden. Redan efter någon vecka kan det bli ganska fel på grund av alla okända variabler, det vet alla som gjort en väderprognos. På några års sikt kan förstås alla förutsägelser gå fullständigt i stöpet, just på grund av de omgivande faktorerna.
Våren 2023 gäller oron kriget i Europa. Kommer Ukraina och dess allierade att orka hålla emot? Hur agerar Kina? Samma kollektiva oro orsakas av klimatkrisen. Redan i april tangerades 40-gradersstrecket i södra Spanien och nu fruktas en ny sommar av brandkatastrofer. De allra flesta vet vad som måste göras för fred och en hållbar utveckling. Om ingenting görs är prognoserna för framtiden ofantligt dystra.
På området artificiell intelligens (AI) är kunskapen minst sagt bristfällig. Men linjerna dras ut i sällan skådad hastighet, från ChatGPT i november till GPT4 i mars och vidare till mänsklighetens undergång i september, ungefär. Den senaste månaden har 1 000 inflytelserika techprofiler i ett upprop krävt en paus i utvecklingen så att AI kan regleras, samtidigt som ”AI-grundaren” Geoffrey Hinton ångrat sin skapelse och antytt att vi kommer att förgöras av robotsoldater inom en snar framtid.
Farorna med AI-utvecklingen sönderfaller i två delar. Mest akut är den faktiska risken att tekniken används till oerhört kraftfulla vapen. Mikrodrönare är bara ett exempel, små mördarmaskiner som på mycket kort tid kan slå ut alla icke önskvärda soldater/människor. Alla kan nämna minst två länder som visat en krympande omsorg om individer parat med ökade stormaktsambitioner: Kina och Ryssland.
Auktoritära regimer och miljardfinansierade terrornätverk bryr sig varken om Elon Musk, FN eller internationella avtal. Det är det ena skillnaden mot kärnvapnen efter andra världskriget, där system för icke-spridning och maktbalans kunde inrättas. Den andra är tidsfaktorn, att det kan handla om månader snarare än decennier innan det är för sent.
Trots alltmer övertygande bevis på motsatsen tycks alla utgå ifrån att människan i grunden är god och vill förbättra världen. På annat sätt kan man inte tolka det faktum att så stor del av diskussionen handlat om risken för en superintelligens, att maskinerna ska ta över och börja utveckla sig själva. På området krig och vapen kan vi få autonoma robotar som sprider död omkring sig.
Tanken på självständiga maskiner har bitit sig fast. Ingen vet exakt hur det skulle gå till i praktiken – men i teorin utvecklar alltså roboten ett tänkande/medvetande, programmerar om sig själv och gör sig på sikt av med den klumpiga arten människa. Motrösterna är ganska få, men Uppsalaprofessorn Ulf Danielsson är en sådan. ”Släpp förmänskligandet av tekniken och se AI för vad det är”, skriver han (DN kulturdebatt 3/5).
Danielsson ser också mängder av faror med en AI-utveckling utom kontroll, men i sig grumliga begrepp som ”intelligens” och ”medvetande” är inte de värsta. Hans grundtes är att människan är och förblir den största risken, vår hantering av utvecklingen och hur tekniken används. Möjligen kommer ”superdumhet”, snarare än superintelligens, att leda till undergången, resonerar han.
Finns det något hopp är det kanske pandemin - två år av global smitta, med allt vad det innebar, och framtagandet av ett vaccin. Alla brister till trots, covid-19 krävde ett mått av samarbete och det gör också den artificiella intelligens som blir så dum eller smart vi tillåter den att bli. Överlevnadsinstinkten har räddat människan förut och att den gör det igen är en profetia så god som någon.