En spännande tid för matematiker

När Open AI:s länge emotsedda språkmodell GPT-5 släpptes i augusti förra året uppstod en egendomlig diskussion som gick ut på att den nya modellen skulle vara en besvikelse och ett tecken på att AI-utvecklingen börjat plana ut.¹ Vanföreställningen om utplaning är dessvärre utbredd, trots att utvecklingen går i raketfart, och det är därför glädjande att påven Leo XIV:s så kallade encyklika Magnifica Humanitas, som offentliggjordes den 25 maj i år, innehåller en brasklapp om att dokumentets bedömningar om AI-teknikens konsekvenser ”riskerar att snabbt bli föråldrade, givet den remarkabla hastighet med vilken AI-systemen utvecklas”.²

Jag ska återkomma till Vatikanens utspel i AI-frågan, men låt mig först ge några illustrationer till hur fort det går.

Ett område där AI-modellernas kompetensförbättringskurva varit extra tydlig är matematiken. Om vi backar så långt tillbaka som till 2019 (vilket i AI-sammanhang känns som rena forntiden) och den då främsta språkmodellen GPT-2, så stannade dess matematiska kunnande vid att korrekt kunna utföra tvåsiffrig addition, som exempelvis 9+16.

Året därpå klarade efterföljaren GPT-3 motsvarande konststycke för multiplikation. Sedan dröjde det till våren 2023 innan GPT-4 släpptes, men den hade tagit ett jättekliv; på matematikdelen i den amerikanska motsvarigheten till Högskoleprovet erhöll den högre poäng än 89 procent av provdeltagarna. 

Detta var emellertid ingenting mot vad den i augusti 2025 släppta GPT-5 presterade, då den snabbt blev till hjälp för ledande forskare som datalogen Scott Aaronson och matematikern Terence Tao – allmänt ansedd som världens idag främste matematiker – med insikter som ledde till nya forskningsresultat.

Under innevarande år har milstolparna sedan kommit slag i slag. I januari meddelades att GPT-5.2 självständigt knäckt ett av problemen i den kända samling av olösta forskningsproblem som benämns Erdősproblemen, vilket snabbt skulle följas av en rad andra i samma samling.³ Mycket uppmärksammat blev också hur den legendariske datalogen Donald Knuth i februari-mars blev brädad av Anthropics modell Claude Opus 4.6 och Open AI:s då splitter nya GPT-5.4 Pro i lösandet av ett problem som han arbetat med inom så kallad grafteori.⁴

Den allra största chocken (hittills!) för oss matematiker kom dock den 20 maj, då Open AI meddelade att en modell de ännu inte släppt till allmänheten hade löst den mest berömda öppna frågan – inte bara bland Erdősproblemen utom inom hela det område som benämns geometrisk kombinatorik.⁵ Frågan handlar om hur många lika långa kanter som maximalt kan dras mellan ett givet antal punkter valfritt utplacerade i planet och formulerades 1946 av den ungerske matematikern Paul Erdős. Den förrädiskt enkla problemformuleringen har fått horder av framstående matematiker sedan dess att förgäves försöka lösa problemet – fram till nu, då en AI alltså lyckats slå dem alla på fingrarna.

Detta är sannerligen en spännande tid att uppleva som matematiker!

Om AI-kurvorna fortsätter att peka uppåt som hittills kan vi mycket väl komma att se en utveckling av matematiken motsvarande ett århundrade inom loppet av bara några få år. Men hos oss som hunnit smälta de senaste månadernas händelser är entusiasmen ofta blandad med oro. Med olika grader av skräckblandad förtjusning frågar vi oss om det som är bra för matematiken i sig med nödvändighet är bra också för oss som tjänar vårt levebröd på att vara konkurrenskraftiga matematikforskare.

Tillsammans med Open AI:s offentliggörande den 20 maj publicerades en rapport med kommentarer om AI-beviset från flera kända matematiker.⁶ Hit hör Cambridgeprofessorn Timothy Gowers, som frågar huruvida det fortfarande är möjligt att identifiera någon matematisk förmåga som mänskliga matematiker har men som ännu ligger bortom vad AI klarar av. Det må låta som en retorisk fråga men är inte avsedd som en sådan, för även om han resonerar kring den så har han inget säkert svar.

Och vi bör i sammanhanget inte glömma att AI är stadd i snabb utveckling, så om det går att identifiera en sådan förmåga så återstår att se hur länge den förblir utom räckhåll för AI.

Den 8 maj, ett par veckor före det stora genombrottet, skrev Gowers om ett annat fall.⁷ Han hade givit GPT-5.5 Pro ett forskningsproblem han intresserade sig för, och utan någon särskilt avancerad promptning levererade AI:n inte bara en korrekt lösning, utan lösningen var också framställd i ett manuskript så välskrivet och välstrukturerat att Gowers bedömde att det hade varit ”utmärkt gångbart som ett kapitel i en doktorsavhandling”.

Jag tror att matematiken som universitets- och forskningsämne de allra närmaste åren står inför större och mer genomgripande förändringar än någonsin, eventuellt på en nivå där det kan ifrågasättas om vi överhuvudtaget kan finnas kvar i något som liknar nuvarande organisation.

Kanske mest akut är frågan om hur vi organiserar vår doktorandutbildning. Redan med dagens AI-modeller lär vi inom gissningsvis 6-12 månader, när tänkare som Gowers och Tao hunnit dela med sig till oss andra av hur man får maximalt matematiskt utbyte av AI-modellerna, hamna i ett läge där kanske vilken doktorand som helst är i stånd att på mindre än en vecka med hjälp av AI få fram något som åtminstone fram till idag utan vidare skulle godkännas som en doktorsavhandling.

En uppenbar åtgärd är att höja kraven på vad vi godtar som en doktorsavhandling, men en doktorandutbildning är tänkt att ta flera år, och om AI-utvecklingen fortsätter som hittills blir det snart sagt omöjligt att idag precisera meningsfulla beting för våra doktorander som inte om ett par år kommer att kunna fullgöras med hjälp av AI och några enstaka knapptryckningar.

Om vi lyfter blicken är inte denna AI-problematik ytterst en fråga om matematiken – annat än som kanariefågeln i gruvan. Inte ens jag som tillbringat decennier i branschen kan tycka att vad som händer med matematiken som universitetsämne är en samhällsfråga av högsta dignitet, för samhället i övrigt går nog knappast under till följd av att vi matematikprofessorer och -docenter förlorar den yrkesroll och försörjning vi vant oss vid. Men den omvälvning som väntar matematikämnet ser ut att kunna drabba så gott som alla andra universitetsämnen, med måhända ett eller ett par års fördröjning. Redan idag ser vi inom den teoretiska fysiken AI-genombrott som liknar matematikens.⁸

Inte heller är det jag talar om en utveckling som kommer att begränsa sig till universiteten. Dagens AI-utveckling bär med sig en effektiviseringspotential som lär komma att beröra alla arbetsmarknadssektorer. Den sektor som kanske tydligast av alla känner av detta redan idag är IT- och mjukvarubranschen. Många programmerare jag träffar är skakade över hur snabb utvecklingen av AI-verktyg varit den gångna vintern, och allt fler bedömare tror att mjukvaruutvecklaryrket så som det traditionellt har sett ut går mot sitt slut, på en tidsskala som verkar handla om månader snarare än år.

Yrket är, menar de, på väg att ersättas av ett slags chefsroll där det handlar om att leda en eller flera AI som gör själva arbetet.

Frågan är i så fall hur länge den rollen för människor i mjukvarubranschen överlever i konkurrensen från allt bättre AI.

Vilka andra arbetsmarknadssektorer som står närmast på tur är svårt att ha några bergsäkra uppfattningar om, men den uppfattning som dominerade så sent som för ett decennium sedan, före de stora språkmodellernas genombrott, verkar ha ställts på ända. Då togs ofta för givet att det var först sedan fysiska och manuella arbetsuppgifter fasats ut som automatiseringen skulle nå de intellektuella arbetsuppgifterna (för att inte tala om de kreativa).

Idag kan vi konstatera att detta antagande ser ut att, till följd av det försprång generativ AI har över robotiken, ha varit helt fel. Ur AI-automatiseringssynpunkt sitter min rörmokare förmodligen säkrare på sitt jobb än jag gör.

Men i det långa loppet går inte heller rörmokaren säker.

Det är i hög grad denna automatiserings- och arbetsmarknadsproblematik, vilken spänner över alla samhällssektorer, som fått påven Leo XIV att göra AI-teknikens samhällskonsekvenser till huvudtema för sin första encyklika. Han anknyter starkt och explicit till sin företrädare Leo XIII:s (till vars ära Leo XIV vid sitt tillträde i maj 2025 valde sitt påvenamn) inflytelserika encyklika Rerum Novarum från 1891.

Det var i denna text som Leo XIII grundlade det som kommit att kallas den katolska kyrkans sociallära, om vilken Leo XIV skriver att ”när vissa invände att kyrkan inte borde slösa energi på världsliga frågor utan i stället fokusera på att förmedla budskapet om det eviga livet, svarade Leo XIII med realism och visdom att evangeliets förkunnelse inte kan bortse från människors konkreta liv”. Längre fram i Magnifica Humanitas går han vidare med att understryka hur hans namne ”sätter arbetets och arbetarnas värdighet i centrum” och ”bekräftar rätten till en rättvis lön” men samtidigt ”förespråkar samarbetsformer mellan samhällets olika delar som ett alternativ till klasskampens tänkande”.

Det går knappast att säga annat än att Leo XIV ansluter sig mycket väl till dessa idéer när han diskuterar AI-teknikens arbetsmarknadskonsekvenser. Han vill skydda arbetare mot dessa konsekvenser, inklusive inte minst risken att bli bortrationaliserad. Dock gör han det alltför lätt för sig då han inte på allvar adresserar avvägningen mellan å ena sidan automatiseringens nackdelar, och å andra sidan det faktum att den trots allt varit själva motorn bakom de senaste århundradenas ekonomiska tillväxt och välstånd.

Jag vill inte härmed ha sagt att jag stödjer idén att av bnp-maximeringsskäl låta den kommande automatiseringsvågen svepa fritt genom arbetsmarknaden, men däremot att bristen på problematisering bitvis gör Magnifica Humanitas till lite av en barnsaga.

Något som inte heller behandlas på tillräckligt allvar är den större frågan om huruvida lönearbetet verkligen är det som samhället bör organiseras kring, även när vi har teknologi som skulle kunna befria oss från det. Visserligen framgår att Leo XIV:s svar är ”ja”, men han landar i det till synes helt utan att ha övervägt alternativen.

Även andra aspekter av AI-utvecklingen behandlas i den sammantaget tydligt AI-kritiska Magnifica Humanitas. Till det som tas upp hör bland annat ansvarsfördelningsfrågor, risker med att överlåta olika beslutsprocesser åt AI, nackdelar med massövervakning och det förkastliga i att utveckla autonoma vapensystem.

Något som däremot lyser med total och iögonfallande frånvaro i encyklikan är den allvarligaste AI-risken av alla, som kommit att kallas existentiell risk förknippad med superintelligent AI.

Härmed avses risken att vi skapar en AI så kapabel att den överglänser människan tvärs över spektrumet av kognitiva förmågor och i samband med det förlorar kontrollen och kanske rentav blir utplånade.

Jag har arbetat med frågor kring sådan existentiell risk sedan tidigt 2010-tal, och fram till cirka 2021 var detta en utpräglat långsiktig verksamhet, då det föreföll mycket troligt att vi hade åtminstone decennier på oss innan sådan risk kan aktualiseras. På den tiden hade förbigåendet av sådan risk i en brett upplagd rapport om etiken kring och framtiden med AI varit betydligt mindre förvånande än idag, men nu skriver vi 2026, och utvecklingen har under 2020-talet tagit sådan fart att allt fler experter räknar tiden till ett superintelligensgenombrott i enstaka år snarare än i decennier.

Till dem som gör dessa bedömningar hör även tongivande chefer hos de ledande AI-företagen, inklusive Anthropics vd Dario Amodei, som upprepade gånger uttalat ambitionen att inom ett par år skapa en AI med kompetens motsvarande ”en nation av genier i ett datacenter”.⁹

Om det enbart hade varit sådana insiders som hävdat dessa förkortade tidslinjer hade det måhända varit något lättare att avfärda det som ett slags PR-trick, men vi är många oberoende bedömare som menar att ett superintelligensgenombrott mycket väl kan komma under tidigt 2030-tal eller ännu tidigare.

För att understryka detta skifte i tidsperspektiv vill jag återkomma till hur fort utvecklingen går. Det jag anfört ovan kan sägas vara av anekdotisk karaktär, och det är givetvis önskvärt med mer rigorösa data för att kvantifiera AI-systemens prestandaförbättring.

Allt fler sådana har blivit tillgängliga på senare år, och några av de tydligaste och mest lättolkade kommer från den amerikanska AI-säkerhetsorganisationen METR, med AI-forskaren Elizabeth Barnes i spetsen.  I en rapport publicerad i mars 2025 mäter de hur svåra uppgifter språkmodellerna vanligtvis klarar, räknat i hur lång tid de tar för mänskliga experter att lösa.¹⁰

Rapportens centrala diagram visar utvecklingen de föregående sex åren hos de ledande språkmodellerna. Svårigheterna i uppgifterna de klarar har ökat från ett par sekunder 2019 till någon timme i början av 2025, och datapunkterna längs vägen ansluter sig relativt väl till en exponentialkurva med en fördubblingstakt på sju månader, även om viss ytterligare acceleration från 2024 och framåt kan anas ur diagrammet.

Det har varit spännande att följa den fortsatta utvecklingen efter METR-rapporten. De rykten jag nämnde inledningsvis, vilka gjorde gällande att släppet av GPT-5 i augusti 2025 markerade en avmattning av utvecklingen, visade sig inte stämma alls; tvärtom hamnade GPT-5 klart ovanför METR-kurvan. Detsamma har gällt samtliga övriga ledande modeller som släppts sedan dess, inklusive Claude Mythos, som Anthropic offentliggjorde i april men valde att då inte släppa annat än till ett litet antal betrodda teknik- och cybersäkerhetsföretag, eftersom modellen uppvisade sådan exceptionell kompetens inom cyberhacking att den skulle riskera att skapa kaos om den släpptes bredare än så.¹¹

Från METR meddelas att Claude Mythos hamnar kring 16 timmar i uppgiftssvårighet, men också att detta är på gränsen för vad de med nuvarande mätmetoder klarar att någorlunda tillförlitligt uppskatta. Var den interna Open AI-modell, som löste Erdős berömda förmodan, hamnar på denna skala kan vi än så länge därför bara gissa, men oavsett det är det nu tydligt att vi befinner oss i en fas med betydligt snabbare fördubblingstakt än de sju månader METR kom fram till i början av 2025.

Ingen vet med säkerhet vart detta ska ta vägen, men avgörande för om planer likt Dario Amodeis om att skapa superintelligent AI redan under innevarande årtionde ska visa sig genomförbara är hur snabbt vi kan nå den brytpunkt då de främsta AI-forskarna inte längre är människor av kött och blod, utan AI självt. När så sker kan bolag som Anthropic och Open AI sätta tusentals eller miljoner förstklassiga digitala AI-forskare i arbete, vilket kan komma att leda till ett slags turboeffekt som accelererar utvecklingen kraftigt.

De data som den ovan diskuterade METR-analysen bygger på domineras av uppgifter inom programmering och mjukvaruutveckling och är därför särskilt relevant för att uppskatta när en sådan brytpunkt kan komma. Osäkerheterna är givetvis mycket stora, men 2027 framstår som ett fullt möjligt årtal för detta slags brytpunkt, och i så fall kan vi nog räkna med superintelligens ganska kort därefter.

Men oavsett om superintelligensen blir verklighet 2028 eller en bit in på 2030-talet, eller om oförutsedda stötestenar i AI-utvecklingen gör att det dröjer betydligt längre, så inställer sig frågan: vad händer då, när vi människor inte längre är planetens mest intelligenta och kapabla varelser? Entusiaster som Amodei talar om en störtflod av magnifika vetenskapliga framsteg, exempelvis inom medicin där radikal livslängdsförlängning utlovas, och om en framtid i materiellt överflöd men utan arbete.¹²

Men ingen ska tro att ett sådant genombrott är riskfritt. Om vi inte i tid till superintelligensens uppkomst har löst det som kallas AI alignment – hur man ser till att deras mål och drivkrafter är i linje med mänskliga värderingar och i tillräcklig mån prioriterar mänsklig välfärd och blomstring – så kan vi vara riktigt illa ute. För snart 20 år sedan beskrev AI alignment-pionjären Eliezer Yudkowsky defaultscenariot om vi skapar superintelligens utan att först ha löst AI alignment med orden ”AI hatar dig inte, ej heller älskar den dig, men du består av atomer som den kan ha annan användning för”.¹³

Förra året utkom han tillsammans med kollegan Nate Soares med boken If anyone builds it, everyone dies, där de pedagogiskt förklarar varför AI alignment-forskning är så svårt och varför den hamnat så kraftigt på efterkälken.¹⁴

Riktigt lika tvärsäker som Yudkowsky och Soares på hur katastrofalt illa det slutar om vi i närtid skapar superintelligent AI är jag inte, men jag delar deras bedömning att katastrofrisken är så stor att vi behöver dra i nödbromsen för den vansinneskapplöpning mot superintelligens som Anthropic, Open AI och deras konkurrenter är inbegripna i. Påven Leo XIV ger däremot inget besked i denna fråga i sin encyklika, då han som sagt inte ens låtsas om problemets existens.

En möjlig ledtråd till varför han gör sig skyldig till detta flagranta fall av myggsilning och kamelsväljande finner vi i den passage i Magnifica Humanitas där han varnar för att tillskriva AI äkta intelligens, eftersom den blott ”imiterar vissa funktioner hos mänsklig intelligens”. De kan ”härma språk, beteenden och analytiska förmågor, och till och med simulera empati och förståelse, men de förstår inte det de producerar”. Den sortens påståenden om fundamentala begränsningar i AI:s förmågor är inte ovanliga, och därifrån är inte steget långt till slutsatsen att den omöjligt kan uppnå en nivå där den kan utmana oss om världsherravälde.

Påståendena saknar emellertid stöd inom ramen det naturvetenskapliga paradigmet. Vanligtvis förblir de helt omotiverade, men i den mån en ansats görs att motivera dem handlar det oftast om att AI i grund och botten är uppbyggd av enkla och själlösa matematiska operationer. Idén att ett system av enkla komponenter inte kan uppvisa intelligens eller andra intressanta emergenta egenskaper är dock ett felslut, och det enklaste sättet att inse det är att betrakta exemplet med den mänskliga hjärnan, som blott består av atomer och elementarpartiklar som mekaniskt far omkring och krockar med varandra.

Men detta är som sagt det naturvetenskapliga sättet att se på saken, och för påven finns en annan utväg, för om människan inte blott är uppbyggd av materia utan därutöver besitter odödliga själar givna av Gud, så blir talet om mänskliga förmågor utom räckhåll för AI mer försvarbart.

Lägg härtill idén om vår position som skapelsens krona, vilken vi fått till skänks och inte kan överlåta, så blir det begripligt att yudkowskianska undergångsrisker avfärdas utan att ens kommenteras. Men för den som inte fullt ut delar den katolska världsbilden är det föga övertygande och absolut inte något som känns rimligt att sätta mänsklighetens överlevnad i pant på.

Innan jag sätter punkt finns en sista aspekt på Magnifica Humanitas jag vill nämna, nämligen att mycket starka indicier föreligger för att stora delar av texten är AI-genererad.¹⁵ För den som inte nöjer sig med att skadeglatt ställa detta i relief med påvens uppmaning tidigare i år till präster att inte använda AI för att skriva sina predikningar finns olika sätt att förhålla sig till det.

Å ena sidan kan man tycka att det är rimligt att Vatikanen precis som alla andra använder moderna hjälpmedel i sitt skrivande och att det i grunden blott är en förlängning av bruket av kulspetspennor och ordbehandlare. Å andra sidan finns något olustigt eller direkt obehagligt i att låta AI påverka innehållet i ett dokument som kan få stor betydelse för mänsklighetens övergripande strategi för övergången till en värld med avancerad AI.

Detta gäller i synnerhet om man (som jag) tar AI alignment-problemet på allvar och därmed risken för en konflikt mellan AI:s värderingar och våra egna.