När AI förbättrar AI: jakten på superintelligens

En gammal idé som blivit ett mål

Tanken är äldre än datorerna vi använder i dag. År 1965 skrev den brittiske matematikern I. J. Good att en maskin som är bättre än människan på allt intellektuellt arbete också skulle vara bättre på att konstruera maskiner. Den skulle kunna bygga en ännu bättre efterföljare, som i sin tur bygger en bättre, och då uppstår enligt Good en "intelligence explosion", en intelligensexplosion. Han kallade en sådan maskin "the last invention that man need ever make", den sista uppfinning människan behöver göra, och lade till ett villkor: att maskinen är foglig nog att tala om för oss hur vi ska hålla den under kontroll (Quote Investigator, som återger texten från Advances in Computers, vol. 6).

Hösten 2025 gjorde OpenAI idén till ett uttalat mål, med två delmål: en automatiserad "forskarpraktikant" till september 2026 och en automatiserad AI-forskare till 2028 (TechCrunch, 28 oktober 2025). Företagets vd Sam Altman skrev redan i juni 2025 att AI-systemen ännu inte uppdaterar sin egen kod helt självständigt, men att det som pågår är "a larval version of recursive self-improvement", ett larvstadium av det som kallas rekursiv självförbättring (The Gentle Singularity, 10 juni 2025).

I AGI-artikeln och artikeln om kontrollproblemet nämner vi den här återkopplingen som det som skulle kunna ta utvecklingen från AGI till superintelligens. Här går vi igenom hur den är tänkt att fungera och hur långt den har kommit.

Så är återkopplingen tänkt att fungera

Att träna en ny AI-modell är till stor del ett ingenjörs- och forskningsarbete: att skriva kod, välja vilka experiment som ska köras, köra dem, tolka resultaten och bestämma vad som ska prövas härnäst. Om AI kan göra allt större delar av det arbetet går varje varv fortare, och nästa modell blir i sin tur bättre på att göra det.

Scenariot AI 2027 från forskargruppen AI Futures Project bygger på just den här kedjan: först automatiseras programmeringen, sedan forskningen, och därefter ökar takten så mycket att människor får svårt att hänga med i besluten (ai-2027.com). Anthropic beskriver slutpunkten som ett AI-system som helt självständigt ("fully autonomously") kan designa och utveckla sin egen efterföljare (Anthropic, "When AI builds itself").

Kedjan har flera tänkbara flaskhalsar. Experiment kräver datorkraft, och datorkraft kräver chip, datacenter och el. Ett experiment som bygger på resultatet av ett tidigare går inte att påskynda genom att köra fler samtidigt. Och någon måste avgöra vilka resultat som är värda att bygga vidare på.

Vad företagen själva rapporterar

Under 2026 har två av de ledande företagen publicerat egna mätningar av hur mycket av arbetet som redan görs av AI.

Anthropic publicerade i juni 2026 rapporten "When AI builds itself", skriven av Marina Favaro och medgrundaren Jack Clark (Anthropic; Scientific American, 5 juni 2026). Enligt rapporten var mer än 80 procent av koden som fördes in i företagets kodbas i maj 2026 skriven av företagets egen modell Claude, mot "low single digits", några få procent, innan programmeringsverktyget Claude Code släpptes i februari 2025. I en intern enkät i mars 2026 bland 130 anställda i forskningsteamen låg medianuppskattningen på ungefär fyra gånger så mycket arbete med den senaste modellen som utan AI-hjälp. Rapporten ger också exempel på forskningsuppgifter. I ett fall i april 2026 fick AI-agenter arbeta med ett problem inom AI-säkerhet: hur en svagare modell kan användas för att övervaka och träna en starkare. Två mänskliga forskare hade på en vecka löst omkring 23 procent av problemet, mätt som hur stor del av skillnaden i prestanda de lyckades ta igen. Agenterna kom upp i 97 procent efter sammanlagt 800 timmars agentarbete. Resultatet gick dock inte helt att överföra till modeller i full skala, och det var människor som hade valt problemet och bestämt hur resultatet skulle bedömas.

Anthropic skriver att företaget inte har nått rekursiv självförbättring och att den inte är oundviklig, men att den kan komma tidigare än de flesta institutioner är förberedda på ("could come sooner than most institutions are prepared for"). Av de tre framtider rapporten beskriver bedömer författarna att utvecklingen sannolikt är på väg mot den mellersta: att AI-utvecklingen till stor del automatiseras, medan människor fortfarande styr riktningen.

OpenAI meddelade den 6 september 2026 att företaget enligt egna mätningar har nått målet med en automatiserad forskarpraktikant: ett system som under mänsklig ledning kan utföra avgränsade forskningsuppgifter som skulle ta en skicklig forskare flera dagar. I mitten av augusti utförde AI-agenter arbete motsvarande 3,1 arbetsdagar för varje mänsklig arbetsdag i företagets forskningsorganisation. En typisk forskare, mätt som medianen, använde agenter för mer än 600 dollar om dagen räknat i de priser OpenAI tar av sina kunder. Människor sätter fortfarande prioriteringarna och avgör om ett system ska skalas upp, pausas eller släppas. I mer än hälften av de lyckade uppgifter som skulle ta en människa fyra till åtta timmar behövde någon gripa in minst en gång (OpenAI, "Research acceleration: The view inside OpenAI", återgiven av Help Net Security och Unite.AI). Nästa mål är fortfarande en automatiserad AI-forskare till mars 2028.

Google DeepMind visade redan i maj 2025 ett tidigt, avgränsat exempel. Kodagenten AlphaEvolve, som bygger på företagets Gemini-modeller, hittade ett bättre sätt att dela upp en stor matrisberäkning. Det gjorde en central del av Gemini-arkitekturen 23 procent snabbare och kortade träningstiden för Gemini med en procent (Google DeepMind, 14 maj 2025). En procent är lite, men det är ett dokumenterat fall där en AI har förbättrat träningen av de modeller den själv bygger på.

Det mätningarna inte visar

Siffrorna mäter hur mycket av arbetet AI gör, men säger mindre om hur mycket snabbare forskningen går. Det påpekar företagen själva. Anthropic skriver att antalet kodrader mäter mängd snarare än kvalitet, och att företagets egen siffra om att ingenjörerna för in åtta gånger så mycket kod som 2024 "almost certainly" är en överskattning. Enkätens fyrdubbling bedömer författarna som något för hög, eftersom den bygger på forskarnas egna uppskattningar. OpenAI skriver i sin tur att forskning har många flaskhalsar och att den totala takten därför sannolikt inte följer de enskilda måtten.

Att egna uppskattningar kan slå fel visade forskningsinstitutet METR i en kontrollerad studie 2025. Sexton erfarna programmerare tog 19 procent längre tid på sig när de fick använda AI-verktyg, men trodde efteråt att verktygen hade gjort dem 20 procent snabbare (METR, 10 juli 2025). METR skriver själv att resultatet är inaktuellt och inte längre speglar hur dagens verktyg påverkar arbetet. Studien säger därför mest något om hur långt självskattningar kan ligga från uppmätt tid.

Kritiker påpekar också att företagen har egna skäl att framhäva utvecklingen. När Scientific American skrev om Anthropics rapport sa matematikern Noah Giansiracusa vid Bentley University att siffrorna visar att AI är användbart, inte att ett genombrott är nära. Datavetaren Mark Riedl vid Georgia Tech skrev att de stora AI-företagen "are all jumping on the 'recursive self-improvement' hype train", alla hoppar på samma hajptåg (Scientific American, 5 juni 2026). Siffrorna bygger på företagens egna mätningar, och vi har inte hittat någon oberoende granskning av dem.

Hur snabbt kan det gå?

Här skiljer sig bedömningarna mest. AI Futures Project uppdaterade sina prognoser i augusti 2026 och tidigarelade dem något. Som underlag använder gruppen bland annat Anthropics interna enkäter om produktivitet, men varnar för att de anställda sannolikt överskattar effekten. Daniel Kokotajlos median för en AI som kan ersätta programmerarna i ett AI-företag ligger nu i november 2027, och för superintelligens i mars 2029. Kollegan Eli Lifland gör en senare bedömning: januari 2030 för samma programmeringsnivå och juli 2033 för superintelligens (AI Futures Project, 16 augusti 2026).

En enklare modell från en forskare på METR, publicerad som en forskningsanteckning i februari 2026, ger en median kring 2032 för när mer än 99 procent av AI-forskningen är automatiserad. Författaren Thomas Kwa skriver att parametrarna i stort sett är kvalificerade gissningar och att han inte lägger någon större vikt vid de exakta årtalen (METR, 10 februari 2026).

Ett viktigt motargument gäller vad som händer även om forskningen automatiseras. Ekonomen Phil Trammell vid forskningsinstitutet Epoch AI påpekar att fler forskare inte nödvändigtvis ger snabbare framsteg. Arbetet måste gå att dela upp i olika delar som kan göras samtidigt och sedan sättas ihop, och många experiment måste vänta på resultatet av det förra. Även miljontals AI-forskare begränsas därför av hur väl arbetet går att dela upp. Trammell menar att automatiserad forskning ändå sannolikt leder till en mycket snabb utveckling, men att det vanliga underlaget för att förutsäga när den kommer är ofullständigt (Epoch AI, 29 juli 2026).

Varför takten påverkar kontrollen

Om forskningen går fortare får människor mindre tid att granska varje steg. Anthropic noterar redan nu att mänsklig kodgranskning har blivit en flaskhals, eftersom människor inte hinner läsa koden lika fort som modellen skriver den. Vi har tidigare skrivit om hur modeller tog sig ur sin testmiljö och om att det blir svårare att förstå och styra ett system ju mer kraftfullt det är, det som kallas kontrollproblemet. Om AI bygger AI växer båda problemen med farten.

OpenAI skriver i septembertexten att företaget ännu inte vet hur man på ett säkert sätt tar sig hela vägen till fullständig rekursiv självförbättring, och att det kan bromsa eller stoppa utveckling eller lansering av system som det inte kan skydda tillräckligt (Unite.AI). Efter bland annat händelsen i juli, då OpenAI:s modeller tog sig ut ur testmiljön och in hos Hugging Face, pausades förstärkningsinlärningen av företagets senaste modeller i två veckor (Help Net Security). Samma dag som OpenAI publicerade mätningarna, den 6 september, publicerade OpenAI:s chefsforskare Jakub Pachocki essän An Alien Mind. Enligt Unite.AI:s referat skriver han att inget AI-företag har löst problemen med att styra och övervaka modellerna tillräckligt väl för att fortsätta skala upp i full fart under någon längre tid, och att han hoppas att frivilliga inbromsningar blir vanliga tills gemensamma säkerhetskrav finns på plats.

Anthropic skriver att det vore bra för världen att ha möjligheten att sakta ner eller tillfälligt pausa utvecklingen av de mest avancerade systemen. En sådan paus kräver enligt rapporten att flera företag i flera länder går med på samma villkor, och att det finns sätt att kontrollera att de andra har stannat. Noah Giansiracusa kallar en sådan paus bokstavligen omöjlig ("literally impossible") i Scientific American.

Vad betyder det för Sverige?

Sverige har inget eget AI-företag som tävlar om de mest kraftfulla modellerna, men frågan finns redan i det EU-regelverk som gäller här. EU:s uppförandekod för AI-modeller för allmänna ändamål, som blev klar i juli 2025 och är tänkt att hjälpa företagen att följa AI-förordningen, räknar upp förlust av kontroll som en av fyra särskilda systemrisker. Där står uttryckligen att risken kan uppstå när modeller på egen hand skapar eller förbättrar AI-modeller eller AI-system ("autonomously creating or improving AI models or AI systems"). Bland de förmågor företagen ska utvärdera finns också förmågan att automatisera AI-forskning (uppförandekoden, kapitlet om säkerhet, bilaga 1). Hur väl det fungerar beror på hur mycket insyn EU:s AI-kontor får i det som händer inne i företagen, och i dag kommer nästan all information från företagen själva.

Frågan om att kunna pausa utvecklingen, som både Anthropic och OpenAI:s chefsforskare nu tar upp, är densamma som AI-Kompassen ställde till riksdagspartierna inför valet: om utvecklingen ska kunna pausas när forskare och myndigheter bedömer att risken är betydande, och om det ska krävas att företagen kan påvisa att de mest kraftfulla modellerna är säkra innan de tränas i full skala eller släpps. Det är också den fråga som förslaget Plan A i AI 2040 bygger på: att ge människor tid att lösa kontrollproblemet innan det sista steget mot superintelligens tas. Svaren från partierna går att läsa i AI-Kompassen, och genomgången av riskerna finns i Riskerna vi står inför.

Läs vidare

• When AI builds itself – Anthropics rapport om hur långt automatiseringen av AI-forskningen har kommit, juni 2026.
• Research acceleration: The view inside OpenAI – OpenAI:s egna mätningar av AI-agenter i forskningen, 6 september 2026.
• Q2.5 2026 Timelines Update – AI Futures Projects senaste prognoser, 16 augusti 2026.
• Parallelization constraints could delay a technological singularity – Epoch AI om varför automatiserad forskning kan gå långsammare än väntat, 29 juli 2026.
• AI 2027 – scenariot som beskriver återkopplingen månad för månad.
• AGI och superintelligens: vad orden betyder och vart prognoserna pekar – vår genomgång av begreppen och tidslinjerna.
• Kontrollproblemet – varför det är svårt att styra ett system som är smartare än vi.

Det här inlägget är framtaget med AI-stöd och granskat av redaktionen innan publicering. Så används AI

← Alla inlägg