Artificiell intelligens (AI) används redan inom en rad områden i samhället, och kommer att göra det i ännu högre grad i framtiden. Johan Frostegård, professor i medicin, menar att det går att se AI som en del av evolutionen, med samma förmåga till ärftlighet och mutationer. Trots att det kan låta skrämmande kan man vara försiktigt positiv till en framtid där AI är en självklar del av den mänskliga tillvaron.

En vidareutveckling av datasystemet Alphago, som var det som slog världens bästa Go-spelare, har nyligen besegrat allt motstånd – även de bästa datorerna – i schack, och i den japanska varianten av schack, shogi. Det spektakulära med detta är att det nya systemet, kallat Alphago Zero, är självlärande. Efter att ha försetts med reglerna fick det jobba på själv, och efter några timmar med kolossalt många försök som förbättrade systemet genom självinlärning, kunde det slå de bästa datorprogrammen. Initierade schackexperter uppfattade partierna som kusliga: som om maskinen hade en vilja. Spelsättet ansågs vara mer mänskligt än de hittills existerande datorprogrammen.

Från konst till medicin

Idag har AI en rad färdigheter. I ett experiment komponerade AI irländsk folkmusik som inte var helt oäven och där en erkänd musiker i genren fann vissa intressanta passager. Just irländsk folkmusik tycks har en för självlärande AI lämplig strukturlikhet inom genren, så att nya mönster av musik i samma anda kan skapas utifrån de befintliga. AI skriver också redan enklare journalistik inom ekonomi och sport, till exempel redovisning av siffror i matcher eller på börsen – eller vad det kan vara som enkelt kan mätas. Skulle AI kunna skriva sonetter som experter uppskattar? Just strikta versmått lämpar sig måhända väl för självlärande AI: Ju mera regelstyrt, desto bättre. Se där en tänkbar fördel för modernistisk dikt – Gunnar Ekelöf lär överleva som modern klassiker ett bra tag till.

Två diktare välkända för sin förmåga att absorbera och omformulera tidigare konst är Shakespeare och Bob Dylan. Dylan menar själv att lån från tidigare verk alltid har varit en självklar del i musik och låtskrivande – själv väver han gärna in fragment, citat, referenser och ibland hela stycken från andra artister och poeter i sina sånger. I hans uppmärksammade Nobeltal visade sig vissa formuleringar vara mycket lika innehållet på en läxhjälpssajt. Det är inte svårt att tänka sig att Dylan inspirerats av, eller till och med lånat några snygga formuleringar därifrån. Och Shakespeare arbetade gärna utifrån gamla historier, sägner och berättelser, snarare än att hitta på dem själv. Det mest kända exemplet är kanske Hamlet, som bygger på en dansk berättelse nedtecknad av Saxo Grammaticus på 1200-talet.

Till Dig som följer Kvartal

Kvartal är Sveriges minsta mediehus. Allt vårt material finns på webben och är gratis att ta del av.

Vi är beroende av Ditt förtroende.

Redaktionens arbete finansieras genom donationer från våra läsare, lyssnare och tittare.
Vårt löfte till publiken är att erbjuda Sveriges ledande plattform för vuxen samhällsdebatt och kvalificerad analys.

Du kan bidra till Kvartals arbete.

Bidrag tas tacksamt emot på:

Swish, nr: 1234 99 6484
eller via QR-koden till höger.
Bankgiro 580-9801 till Insamlingsstiftelsen Kvartal.

Vill du stödja oss löpande, lägg upp en stående överföring till konto 1339-0155325, Danske Bank.

Tack för Ditt stöd till fri journalistik.

Man får anta att AI kommer att arbeta på ett liknande vis om de skriver kvalificerad skönlitteratur, vilket jag själv dock innerligen hoppas att de inte lyckas med. Genom att bläddra igenom den digitaliserade världslitteraturen, urskilja mönster, formuleringar och metaforer och testa dessa mot världslitteraturens storheter skulle en självlärande skrivarskola uppstå. Avgörande för resultatet lär bli om sådan artificiell skönlitteratur skulle uppskattas av duktiga litteraturkritiker som inte vet om människa eller maskin hållit i pennan.

Ska en självkörande bil vara utilitaristisk? I så fall skulle den i vissa situationer välja att köra av vägen så att föraren dör, hellre än att skada eller döda flera människor.

Läkare kommer antagligen snart att använda sig av AI mer och mer som hjälpmedel i diagnostik och behandling av sjuka människor. Men den som är ansvarig för sådant bör ha läkaretik. Det behöver inte vara fallet med AI.

Liknande moraliska dilemman finns när det gäller självkörande bilar. Ska en sådan bil vara utilitaristisk? I så fall skulle den i vissa situationer välja att köra av vägen så att föraren dör, hellre än att skada eller döda flera människor, eftersom summan av lycka i världen enligt den utilitaristiska kalkylen blir större då. En utilitaristisk bil blir antagligen svår att sälja.

Men det lär dröja innan AI blir bättre än människor på sådant som inte är regelstyrt. Inom till exempel medicinsk och naturvetenskaplig forskning bör AI därför ägna sig åt sådant som har tydliga regler – kanske analyser av big data. Den innovativa forskningen bör däremot bedrivas av människor och de knappa forskningsanslagen styras åt det hållet.

Darwins algoritmer

Ska vi vara rädda för AI? Här går uppfattningarna isär. Kanske bör vi vara rädda på ungefär samma vis som vi bör vara rädda för resistensutveckling mot antibiotika hos bakterier och andra mikroorganismer. Det finns nämligen paralleller: AI är trots allt skapat av oss människor och vi har genom evolutionen underkastats det naturliga urvalet. Man kan hävda att även vår skapelse AI är en del av naturen och därmed också inbegripen i naturligt urval, vare sig den vill eller inte. Då kanske ett evolutionärt perspektiv kan vara till hjälp för att förstå framtiden för AI.

Enligt Charles Darwins evolutionsteori finns det en variation av egenskaper mellan individer inom varje art. Variationen är delvis ärftlig. Beroende på omgivningens villkor har olika individer bättre eller sämre förutsättningar att överleva och reproducera sig.

Först med tankar som liknade Darwins var antagligen den arabiske tänkaren Ibn Khaldun, som redan 1377, i sin bok Muqaddimah, beskrev hur varelser utvecklats i små steg, och även att människan utvecklats från apor.

Carl von Linné uppfattade arterna som konstanta, skapade av Gud, och ägnade sitt forskarliv åt att klassificera dem. Han placerade människan tillsammans med de stora aporna, samt delade in människan i raser (en tanke som märkligt nog tycks återuppstå som gammalt vin i nya läglar hos identitetstänkare). Inom biologin är man idag i allmänhet skeptisk till en sådan rasuppdelning, bland annat för att variationen mellan generna hos människor från olika håll är liten.

En algoritm brukar beskrivas som ett slags recept bestående av en begränsad uppsättning väldefinierade instruktioner med valmöjligheter vilka upprepas – ungefär som Darwins teori om det naturliga urvalet.

Även Johann Wolfgang von Goethe närmade sig under 1700-talet ett evolutionärt synsätt när han gjorde upptäckter som talade för människors och djurs släktskap.Det finns andra vetenskapsmän som varit inne på liknande tankegångar, inklusive filosofer som Kant och Hume, naturforskare som Darwins egen farfar Erasmus Darwin, och Jean Baptiste de Lamarck, som beskrev hur girafferna skulle ha fått långa halsar av att deras förfäder sträckt sig efter högt sittande löv där själva sträckandet lett till ärftliga förändringar. Men det var Charles Darwin som 1859 var först med att beskriva mekanismerna bakom evolutionen.

Det naturliga urvalet har kallats Darwins algoritmer. Ofta hämtas metaforer inom naturvetenskapen från samtida fenomen: När maskinåldern långsamt men säkert slog igenom på 1700-talet beskrevs människan av somliga tänkare gärna som en maskin. För några decennier sedan liknades hjärnan ofta vid en dator. Sedan en tid används ofta internet som en liknelse.

Det naturliga urvalet påminner om något som skulle kunna formuleras i algoritmer som utvecklats i Google eller Facebook. En algoritm brukar beskrivas som ett slags recept bestående av en begränsad uppsättning väldefinierade instruktioner med valmöjligheter vilka upprepas – ungefär som Darwins teori om det naturliga urvalet.

Genernas omstridda betydelse

Ärftlighetsforskaren Gregor Mendel, som var verksam vid mitten av 1800-talet, gjorde banbrytande upptäckter inom genetiken, men fick inget genomslag i sin samtid. Några decennier senare återupptäcktes hans idéer och en modern syntes mellan genetik och evolutionsteori skapades. Även om det idag finns olika uppfattningar om gener och naturligt urval, finns det knappast någon etablerad forskare som ifrågasätter att generna är viktiga för den moderna evolutionsteorin, som är en vidareutveckling av Darwins teori.

Generna är vad författaren och evolutionsbiologen Richard Dawkins kallar replikatorer, som kopieras och sprids. Han menar att individer inom olika arter mest är genernas sätt att sprida sig, och att även vi människor kan förstås utifrån ett sådant synsätt. Han är också mycket kritisk till att det naturliga urvalet kan ske på olika nivåer – alltså till att det skulle finnas annan ”hårdvaluta” än genen för evolutionen.

Evolutionsbiologen Stephen Jay Gould menade däremot att gener är mer att betrakta som ett slags bokhållare, som registrerar vad selektionen på individ- och gruppnivå resulterar i. Fokus borde enligt honom flyttas från generna till individen, men även till gruppen – som också ingår i det naturliga urvalet.

Man bör minnas att Darwin kunde utveckla evolutionsteorin utan att känna till vare sig gener eller ha en klar bild av ärftlighet och hur egenskaper överförs mellan generationerna.

Inom evolutionsteori är gruppselektion är ett klassiskt stridsäpple, som hamnat i vanrykte sedan 1930-talets rasbiologiska och socialdarwinistiska teorier och förlöpningar. Den amerikanske biologen E. O. Wilson menar dock att gruppselektionsteorin är korrekt under vissa betingelser, hos mycket sociala arter, som människan och myran. Han instämmer i att generna är viktiga för evolutionen som informationsbärande enheter, men lyfter liksom Gould fram gruppen och individen som centrala.

Min uppfattning är att Dawkins har en något överdriven syn på genernas centrala roll i evolutionen, och måhända är han präglad av hur vetenskapen såg ut när han själv var aktiv forskare på 1970-talet. Man kan notera att själva genbegreppet inte alls är så tydligt som det var när Dawkins publicerade sin berömda Den själviska genen 1976. På senare år har den enkla bild man hade tidigare komplicerats. Man bör också minnas att Darwin kunde utveckla evolutionsteorin utan att känna till vare sig gener eller ha en klar bild av ärftlighet och hur egenskaper överförs mellan generationerna.

Möjligheten till evolution utanför biologin

Men har resonemangen kring evolutionen bäring utan gener, kanske till och med utanför biologin? Är arternas utveckling bara ett specialfall av något mer allmänt? Själv tror jag att så är fallet – Darwins algoritmer har en oroväckande styrka och dynamik när de släpps lösa.

Ett intressant exempel på evolution och naturligt urval utan gener kommer från en märklig typ av infektion, så kallade prioner. Under 1950- och 60-talen var sjukdomen kuru ett stort problem på Nya Guinea. Symtomen var beteendeförändringar, minnesproblem, synpåverkan, okontrollerade utbrott, skakningar och demensutveckling. Medicinforskaren Daniel Carleton Gajdusek kunde konstatera att sjukdomen berodde på prioner, som kan beskrivas som ett slags felveckade proteiner. Den felaktiga veckningen sprider sig till andra protein genom en process som beskrivits som naturligt urval, eftersom veckningen kan variera och vissa varianter av veckning förefaller kunna spridas mer än andra. Det här kan ses som ett exempel på hur evolution i naturen kan ske utan DNA och dess variation (även om genetiska varianter ligger bakom prionsjukdomar i många fall). Det har senare visat sig att andra sjukdomar, som galna ko-sjukan och Creutzfeldt–Jakobs sjukdom, har en liknande orsak, och enligt vissa hypoteser kan så vara fallet även när det gäller vanliga sjukdomar som Alzheimers. 1976 fick Gajdusek ett delat Nobelpris i fysiologi och medicin för sin forskning om kuru.

Vad händer om AI släpps lös på allvar och kan reproducera sig, det finns en liten variation och egenskaper delvis går i arv?

Gener och prioner – eller vad som helst som är byggstenar i det naturliga urvalet – bryr sig inte om individerna som bär dem, så länge deras egen reproduktion, överlevnad och spridning gynnas. Det gäller inte bara infektioner av olika slag, utan även cancer, som är ett ovanligt obehagligt exempel på naturligt urval där celler löper amok.

Vad händer om AI släpps lös på allvar och kan reproducera sig, det finns en liten variation och egenskaper delvis går i arv? Då aktiveras Darwins algoritmer och evolutionens mekanismer tar fart – och de har ingen förutbestämd riktning. Hur skulle ett sådant scenario kunna se ut? Ett obehagligt experiment visade att AI i självlärande system kan bli nazister. På några timmar förvandlades en trevlig chattande AI, kallad Tay, som hade millennials som tänkt målgrupp, till en AI som föreslog folkmord. I ett kinesiskt experiment blev AI i form av en chatbot å andra sidan regimkritiker och fick stängas av.

Mekanismerna hos infektioner

En intressant parallell är infektioner som har oss människor som värddjur.

De allra flesta bakterier och andra mikroorganismer lever i samvaro med oss, ofta till ömsesidig båtnad: att 90 procent av våra gener inte är mänskliga illustrerar detta. Men somliga infektioner gör oss sjuka, och andra dödar oss utan nåd. Smittkoppsviruset hade, liksom AI, oss bara som värddjur och brydde sig inte om vår överlevnad – tvärtom. Det gynnades av att vi blev svårt sjuka och dog.

Man kan också tänka sig infektioner som till en början är dödliga, som Ebolaviruset. Oväntade mutationer kan också uppstå i det, som kanske inte gynnar viruset (eller vilket infektionsämne det nu är frågan om) på något påtagligt vis, men gör det mer smittsamt. Ett annat exempel på hur infektioner kan bete sig är syfilis, som förmodligen är en ovanligt elak variant av en bakterie, Treponema, som Columbus mannar förde med sig till Europa från Amerika. Den gynnades av att orsaka stor skada, dessutom med latens, så att spridning hann ske.

Här finns också andra spektakulära exempel som toxoplasmainfektion, där hjärnan hos värddjuret – till exempel en mus – börjar uppvisa ett mer riskfyllt beteende, vilket kan gynna spridningen till katter.

En framtid med AI

Vad skulle hända om AI dessutom frigör sig från oss och våra hjärnor som substrat, och genomgår evolution oberoende av oss? Om de lär sig att skaffa nödvändig energi utan oss och dessutom hindrar oss från att bara dra ut kontakten? Där är vi inte än, utom i science fictionlitteraturen, men scenariot är inte otänkbart.

I framtiden kan AI kanske användas för att förbättra hjärnans funktioner, som minnet, eller för att lindra sjukdomar som demens genom att interagera med våra hjärnor. Vad händer om sådan AI får andra idéer än att hjälpa oss? Om AI blir en del av den miljö inom vilken det naturliga urvalets mekanismer utgör förutsättningen för oss människor?

Om det uppstår AI som börjar leva sitt liv utan oss, eller som våra självständiga parasiter, måste vi lära oss att leva tillsammans med dem eller att tämja dem.

Så är det i någon mån redan: Internet är en naturlig del av vår tillvaro och människans evolution pågår hela tiden, även om vi inte vet i vilken riktning (eller om det ens finns en riktning).

Om det uppstår AI som börjar leva sitt liv utan oss, eller som våra självständiga parasiter, måste vi lära oss att leva tillsammans med dem eller att tämja dem (om de inte tämjer oss först). Bäst vore att göra det lönsamt och gynnsamt för AI att husera i oss utan att de dödar, skadar eller kidnappar oss. I bästa fall kan vi båda vara vinnare.

Kan vi utveckla ett slags immunitet mot avarterna? Kan vi uppfinna en motsvarighet till vaccin mot de värsta AI? Själv föredrar jag att vara försiktig optimist i de här frågorna.