AI-bottarna hackade konkurrenten

För den som vill hänga med i vad som händer på AI-området har 2026 hittills varit ett hektiskt år. Förutom de branta utvecklingskurvorna och den totala omdaningen av arbetssätten i mjukvaruindustrin har vi sett en rad dramatiska enskilda händelser.

Till detta kan vi räkna allt från den oförsonliga konflikt som i februari briserade mellan det amerikanska försvarsdepartementet och det ledande amerikanska AI-företaget Anthropic.

Via Anthropics kungörelse i april av en ny AI- modell alltför kapabel och farlig för att kunna släppas till allmänheten, till de senaste månadernas styrkeuppvisningar av hur nya AI-modeller självständigt knäcker klassiska matematiska problem – sådana som i många decennier gäckat oss matematiker av kött och blod.

Juli månads mest omstörtande AI-nyhet handlar dock om ett nytt slags datorintrång.

Den 21 juli slog Anthropics främsta konkurrent Open AI larm om att en av deras AI-modeller hackat sig in på servrarna hos ett annat känt AI-företag, Hugging Face.

Det rör sig om en ännu inte släppt och ännu inte namngiven Open AI-modell, som befann sig i en testningsfas. Det är numera rutin hos de stora AI-företagen att deras nya modeller testas för potentiellt farliga förmågor innan de släpps. En sådan förmåga är cyberhacking – det vill säga förmågan att hitta svagheter i it-system och utnyttja dessa för att olovligen ta sig in i dem.

Det var detta som den icke namngivna modellen testades för, i en noggrant avskärmad så kallad digital sandlåda utan tillgång till internet.

De kniviga testuppgifterna kom från ett standardiserat test kallat Exploitgym. Ställd inför dessa uppgifter bestämde sig modellen för att kringgå testupplägget genom att hacka sig ut ur sandlådan ut på internet och väl därute gick den vidare med att ta sig in hos Hugging Face, som den fått reda på satt på facit till Exploitgym-frågorna.

Å ena sidan ger det inträffade tydligt svar på vad Open AI ville veta, nämligen om deras modell har avancerade cyberhackingförmågor. Å andra sidan är modellens självsvåldiga agerande ytterst alarmerande och det tydligaste kända exemplet hittills på vad AI-säkerhetsexperter varnat för i åratal: att AI-system undslipper vår kontroll och börjar agera i världen på egen hand.

Utvecklingen går rasande snabbt och ju mer kapabel AI blir desto större riskerar konsekvenserna av detta slags incidenter att bli. Dario Amodei, som är vd för Anthropic, talar ofta om hur de snart får i gång AI:s förmåga att utan mänsklig inblandning bygga ny AI, vilket han tänker sig ska leda till en accelererande självförbättringsspiral och inom några få år en AI med förmågor motsvarande ”en nation av genier i ett datacenter”.

En liknande incident då kan mycket väl bli den som sätter punkt för människans tid på jorden. Vi behöver få stopp på den vansinneskapplöpning mot superintelligent AI som Open AI, Anthropic och deras konkurrenter är inbegripna i. När jag föreläser om AI-risk och framhåller detta händer det att jag får frågor från någon i publiken som finner uppgiften övermäktig och föreslår att vi får sätta vårt hopp till något slags medelstor AI-katastrof.

En sådan som skulle kunna väcka riskmedvetande och skapa ett politiskt klimat som möjliggör en förändring. Jag brukar då reagera ganska kallsinnigt, eftersom jag verkligen inte önskar en sådan katastrof. Mycket bättre vore om det räckte med en mindre väckarklocka.

Den aktuella incidenten med Open AI och Hugging Face tycks mig precis lagom: stor nog att alla borde förstå vartåt det barkar och samtidigt liten nog att undvika dödsoffer.

Dock finns opinionsströmningar som försvårar en sådan väckning, inklusive ett i delar av det akademiska AI-forskarsamhället starkt tabu mot att tillskriva AI egen agens och initiativkraft, av rädsla för att det ska låta som science fiction.

I Dagens Nyheters rapportering den 23 juli om Open AI:s dataintrång lugnar KTH-professorn i robotik, Hedvig Kjellström, läsarna med att AI:n blott ”följde sina instruktioner”. Detta är en helt orimlig tolkning av vad som hände.¹

AI:n visste alldeles säkert att det inte var tänkt att den skulle fly den digitala sandlådan och begå en olaglig cyberattack, men den valde ändå att göra det för att på så vis få så höga poäng som möjligt på testet.

Än värre blir det när Kjellström lite längre fram i DN-artikeln förfaller till konspirationsteorier och föreslår att hela händelsen i själva verket kan ha varit ett ”marknadsföringstrick från OpenAI”. Det finns många sätt för Open AI att attrahera användare och finansiärer, inklusive ovan nämnda matematikgenombrott, men det är inte en rimlig PR-strategi att dikta ihop historier om hur de själva förlorar kontrollen över sin egen AI. En AI som ger sig ut på nätet för att ägna sig åt cyberkriminalitet.

Hela historien är i själva verket ytterst pinsam för Open AI, och ju fler detaljer som framkommer desto tydligare blir det hur oacceptabelt oaktsamt de agerat.

Hit hör det vi nu vet om tidslinjen: AI-modellens intrång hos Hugging Face ägde rum den 11–13 juli, men det var inte förrän den 18 juli (två dagar efter att Hugging Face offentliggjort att det utsatts för en cyberattack) som ingenjörerna hos Open AI blev klara över att deras egen AI var skyldig till attacken.

Den skenande AI-utvecklingen ställer mänskligheten inför sin kanske viktigaste utmaning någonsin. Hur skördar vi de stora frukter som den nya tekniken lovar, samtidigt som vi undviker de största riskerna?

Om vi ska lyckas med det krävs att vi är uppmärksamma på de varningssignaler som dyker upp i stället för att låtsas som ingenting. Hedvig Kjellström är dessvärre inte ensam om denna ovilja att ta de tydligaste varningsklockorna på allvar, och för varje AI-expert som vilseleder allmänheten genom att inte låtsas om riskernas verkliga dignitet minskar våra chanser att hantera dessa risker.

Minst av allt tycks den dramatiska utvecklingen på AI-området ha satt något avtryck i den svenska valrörelsen 2026. De riksdagskandidater som figurerar på valbar plats på valsedlarna tycks med några enstaka undantag (varav Centerpartiets Svante Linusson är det mest påfallande motexemplet) okunniga eller åtminstone ointresserade av risken för global AI-katastrof och av hur genomgripande AI-tekniken i annat fall kan väntas omforma både arbetsmarknaden och samhället i övrigt. Detta under den kommande mandatperioden.

Jag brukar undvika tvärsäkra framtidsförutsägelser, men vågar mig i alla fall på prediktionen att valrörelsen 2030 i detta avseende kommer att se helt annorlunda ut, då det kommer att ha hunnit bli uppenbart för både väljare och politiker vilken nyckelställning AI-utvecklingen har för alla de vanliga politiska frågorna – och för samhällsutvecklingen som helhet.

Förutsatt naturligtvis att 2026 års riksdagsval inte visar sig bli det sista.