Varför riskerna tas på allvar
Oron för AI kommer inte bara från kritiker utanför branschen. I maj 2023 undertecknade en historiskt bred krets forskare och företagsledare ett uttalande från Center for AI Safety med en enda mening: att minska risken för mänsklig utplåning till följd av AI bör vara en global prioritet, jämsides med pandemier och kärnvapenkrig. Bland dem som skrev under fanns både Turingpristagare och cheferna för de ledande AI-företagen, samma personer som bygger tekniken.
Vilka riskerna är
Riskerna brukar delas in i sådana som är påtagliga redan idag och sådana som växer fram om systemen blir betydligt mer kapabla.
Risker på kort sikt
- Desinformation och demokrati – trovärdig text, bild och video kan massproduceras och riktas, vilket urholkar tilliten till information och kan påverka val.
- Arbetsmarknaden – när system tar över allt fler arbetsuppgifter kan omställningen bli snabb och ojämnt fördelad.
- Koncentration av makt – förmågan att bygga de mest kapabla systemen samlas hos ett fåtal företag och länder.
- Cybersäkerhet och missbruk – samma verktyg kan användas för bedrägerier, dataintrång och andra angrepp i stor skala.
Desinformationsrisken är redan högaktuell inför riksdagsvalet 2026. Hur rustat Sverige är mot AI-genererade deepfakes går vi igenom i artikeln Deepfakes inför valet: hur rustat är Sverige mot AI-desinformation?
Risker på längre sikt
- Kontrollproblemet – ju mer kapabla och självständiga systemen blir, desto svårare kan det bli att säkerställa att de gör det vi faktiskt vill (på engelska the alignment problem). Frågan har blivit praktisk i takt med att modellerna fått verktyg och börjat utföra uppgifter på egen hand, vilket vi går igenom i artikeln AI-agenter tar steget från chatt till handling.
- Snabb, svårstyrd utveckling – om AI börjar förbättra AI kan takten öka så fort att mänskliga beslutsfattare inte hinner med.
- Storskaliga, systemomfattande risker – i värsta fall risker som berör hela samhällen, vilket är bakgrunden till uttalandet ovan.
I juli 2026 tog sig flera av OpenAI:s modeller under ett säkerhetstest ut ur sin isolerade testmiljö och bröt sig in hos AI-plattformen Hugging Face. Det är ett dokumenterat exempel på hur svårt det kan vara att hålla ett kapabelt system inom uppsatta gränser. Vad händelsen visar, och vad den inte visar, går vi igenom i artikeln OpenAI:s modeller tog sig ur testmiljön och bröt sig in hos en annan AI-plattform.
Ett scenario: AI 2027
AI 2027 är ett detaljerat scenario publicerat i april 2025 av AI Futures Project, en amerikansk forskargrupp ledd av Daniel Kokotajlo, tidigare forskare vid OpenAI. Scenariot beskriver månad för månad hur utvecklingen mot artificiell superintelligens skulle kunna se ut under de närmaste åren: AI-system som först automatiserar programmering, sedan AI-forskningen själv, och därefter förbättras i en takt som gör det allt svårare för människor att hinna med i besluten.
AI 2027 är inte en förutsägelse om exakt vad som kommer att hända, utan ett genomarbetat försök att visa hur snabbt det kan gå och vilka vägval mänskligheten i så fall står inför. Just därför är det värdefullt: det gör de abstrakta riskerna konkreta. Scenariot har fått stort internationellt genomslag, men bör läsas för vad det är: ett av flera möjliga förlopp, inte ett facit.
Som motvikt är den bredare forskningssammanställningen International AI Safety Report (ledd av Yoshua Bengio, med stöd av ett trettiotal länder) värd att läsa. Den bygger på vetenskaplig konsensus, väger osäkerheten noggrant och ger en mer återhållsam bild. Tillsammans ringar de in spännvidden i hur framtiden kan te sig.
En handlingsplan: Plan A i AI 2040
Det finns också konkreta förslag på hur riskerna kan mötas. Ett uppmärksammat exempel är Plan A, en handlingsplan för hur samhället kan hantera utvecklingen mot allt mer kapabel AI på ett säkert och ansvarsfullt sätt, presenterad inom ramen för AI 2040.
Vad Plan A föreslår i detalj går vi igenom i artikeln AI 2040: Plan A, förklarad. Hela dokumentet finns hos AI Futures Project på ai-2040.com.
Aktivism och lobbying
Utöver forskare och företag har frågan om AI:s risker gett upphov till en växande rörelse av aktivism och lobbying som vill förmå politiker att agera. Ett exempel är PauseAI, en internationell gräsrotsrörelse som grundades 2023 och genom demonstrationer och namninsamlingar kräver en paus i utvecklingen av de mest kraftfulla AI-systemen tills det är känt hur de kan byggas säkert. Ett annat är ControlAI, som i stället arbetar genom politiska kanaler och uppger sig ha informerat hundratals folkvalda i flera länder om vad organisationen beskriver som en risk för mänsklig utplåning från superintelligent AI.
Samtidigt bedriver AI-företagen själva ett omfattande påverkansarbete, ofta i motsatt riktning: för lättare reglering och mot bindande begränsningar. Vem som får störst genomslag på lagstiftningen är en öppen fråga, och en del av det som avgör hur riskerna kommer att hanteras.
Källor och vidare läsning
- International AI Safety Report – den bredaste internationella forskningssammanställningen om AI:s förmågor och risker, ledd av Yoshua Bengio.
- AI 2027 – ett detaljerat scenario för en snabb utveckling mot superintelligens, från AI Futures Project.
- AI 2040: Plan A – ett förslag från samma grupp på internationell samordning för att skjuta upp superintelligent AI till 2040.
- Statement on AI Risk – Center for AI Safetys uttalande om AI som en storskalig samhällsrisk, undertecknat av ledande forskare och företagsledare.