AI mot biologiska hot: Googles dubbla uppdrag

Ett program med två uppgifter

Den 16 juli 2026 publicerade Google DeepMind och systerbolaget Isomorphic Labs en uppdatering om det de kallar bioresiliens, motståndskraft mot biologiska hot (Google DeepMind). Utgångspunkten är att riskerna växer från två håll samtidigt. Avskogning, urbanisering och ökat resande höjer risken för naturliga sjukdomsutbrott. Samtidigt kan AI-modeller och AI-agenter som snabbt blir bättre enligt företagen "erode some of the knowledge barriers", bryta ner en del av de kunskapsbarriärer som hindrar illvilliga aktörer från att utveckla och sprida biologiska vapen (hela uppdateringen, PDF).

Företagen beskriver sitt uppdrag som dubbelt: att hindra att de egna modellerna missbrukas, och att hjälpa myndigheter och forskare att använda samma teknik till försvar. Arbetet delas in i tre delar.

Företagen är tydliga med att flera av punkterna ännu inte är färdiga. De skriver att de "utforskar" hur vattenmärkningen ska anpassas och att en ny sorts granskning av DNA-beställningar vore "a major, open technical challenge", en stor och olöst teknisk utmaning. Helen King, chef för ansvarsfrågor på Google DeepMind, sa till Axios att företaget inte skulle släppa en modell som når en kritisk förmågenivå utan att skyddsåtgärderna räcker till, och att ingen av företagets modeller har nått den nivån (Axios, 16 juli 2026).

Varför biologi blivit en egen fråga

Den internationella AI-säkerhetsrapporten, som tas fram under ledning av Yoshua Bengio och kom i februari 2026, konstaterar att AI-system numera når eller överträffar expertnivå på flera kunskapsprov med bäring på biologiska vapen. I ett test löste en modell felsökning av laboratorieprotokoll bättre än 94 procent av de virologer som deltog, och då inom virologernas egna specialområden (International AI Safety Report 2026; testet är Virology Capabilities Test, SecureBio och CAIS). Rapporten är samtidigt tydlig med att sådana resultat inte går att räkna om till risk: de materiella hindren för att tillverka ett vapen finns kvar.

De tre största AI-företagen har ändå agerat. Anthropic aktiverade i maj 2025 sin säkerhetsnivå ASL-3 för Claude Opus 4, OpenAI klassade i juli 2025 sin ChatGPT Agent som "High capability", hög förmåga, inom biologi och kemi, och Googles Gemini 2.5 Deep Think blev i augusti 2025 företagets första modell som nådde en tidig varningsnivå i Googles CBRN-domän, som täcker kemiska, biologiska, radiologiska och nukleära risker. Larmet gällde kemi och biologi. I alla tre fallen var motiveringen att risken inte gick att utesluta. Inget av företagen uppgav att modellen bevisats ha förmågan. Vi har gått igenom besluten i artikeln om katastrofrisken.

I april 2026 uppdaterade Google DeepMind sitt eget ramverk för gränsmodeller, alltså de mest avancerade modellerna. Den kritiska nivån för CBRN definieras där som att en modell ger aktörer med små eller medelstora resurser så mycket hjälp att den förväntade skadan blir allvarlig. Företaget lade samtidigt till en lägre nivå, för hjälp som kan leda till betydande men inte allvarlig skada (Frontier Safety Framework 3.1, 17 april 2026).

Den svaga länken ligger utanför modellerna

Den mest konkreta delen av problemet uppstår när en konstruerad gensekvens, en bokstavsordning i arvsmassan, ska bli fysiskt material. Den som vill ha syntetiskt DNA beställer det från ett företag. De ledande leverantörerna, samlade i branschorganisationen International Gene Synthesis Consortium, jämför beställningar mot listor över farliga smittämnen och toxiner, alltså gifter som bildas av levande organismer. Google DeepMind skriver att den metoden "is starting to fray", håller på att nötas ner, eftersom AI gör det möjligt att utforma andra sekvenser med liknande funktion.

Att oron inte är teoretisk visade en studie i Science i oktober 2025, ledd av Eric Horvitz, vetenskaplig chef på Microsoft. Forskarna använde fritt tillgängliga verktyg med öppen källkod för proteindesign för att skapa varianter av kända farliga proteiner, och skickade sekvenserna till fyra företag som utvecklar granskningsprogram.

Arbetet gjordes tillsammans med DNA-leverantörerna, bristerna rättades innan studien publicerades och de känsligaste uppgifterna lades bakom en ansökningsprocess hos den oberoende organisationen IBBIS (International Biosecurity and Biosafety Initiative for Science) (Science, 2 oktober 2025; sammanfattning i Chemical Engineering Progress). Emily Leproust, vd för DNA-företaget Twist Bioscience, sammanfattade slutsatsen med att branschens granskning fungerar väl för kända proteiner och sekvenser, men att den måste förbättras i samma takt som AI (Twist Bioscience, 2 oktober 2025).

Granskningen bygger i dag på frivillighet i både USA och Storbritannien. I USA är den ett villkor för federalt finansierad forskning, men något generellt lagkrav finns inte. I juni 2026 skrev Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) och Mustafa Suleyman (Microsoft AI) tillsammans med DNA-företag och säkerhetsexperter under ett upprop till den amerikanska kongressen om att göra granskning, kundkontroll och dokumentation obligatoriska (Fortune, 5 juni 2026). Google DeepMind rekommenderar samma lagförslag i sin uppdatering. Det är ännu inte antaget, och de politiska förslag som företagen ställer sig bakom gäller alla USA.

Ett vattenmärke i proteinet

Den 30 september 2026 kom nästa steg: SynthID Bio, en metod för att bygga in en osynlig signatur i AI-designade proteinsekvenser och strukturer. Poängen är att signaturen ska gå att avläsa också i det färdiga, fysiska proteinet, och att proteinet ska behålla sin funktion. Metodartikeln publicerades i Nature, och både koden och laboratoriedata är fritt tillgängliga (Google DeepMind; Nature, 30 september 2026).

Tanken är att en DNA-leverantör ska kunna se att en okänd beställning kommer från en känd modell. I dag kräver en obekant beställning enligt företaget omfattande manuell granskning, vilket kan fördröja viktig forskning. Sarah Carter, biosäkerhetsexpert som granskade arbetet inför publiceringen, beskriver det som en viktig bit av pusslet för att spåra varifrån en AI-designad sekvens kommer.

Författarna redovisar samtidigt tydliga begränsningar. Vattenmärket visar att sekvensen är AI-designad. Vem som har gjort designen går inte att läsa ut. Märkningen går dessutom att ta bort genom att köra sekvensen genom samma öppna designmodell en gång till, utan märkningen påslagen, även om priset är att färre av designerna fungerar. Företaget skriver själv att ingen enskild åtgärd är någon universallösning och att nästa utmaning är att göra märkningen tåligare mot avsiktlig manipulation.

Vad som talar emot att det är bråttom

Mellan kunskapsprov och verklig förmåga finns ett glapp. I en randomiserad studie som publicerades i februari 2026, där upplägget hade anmälts i förväg, fick 153 deltagare utan laboratorievana utföra laboratoriemoment med hjälp av antingen en språkmodell eller vanlig internetsökning. Skillnaden i hur många som klarade arbetsflödet var inte statistiskt säkerställd: 5,2 procent med modell mot 6,6 procent med internet. Försöken gjordes sommaren 2025, och författarna begränsar slutsatsen till de modeller som fanns då. De skriver att resultat på prov vid skrivbordet inte säger så mycket om vad någon klarar i ett riktigt laboratorium (arXiv, 18 februari 2026).

En annan studie samma månad pekar åt andra hållet, men testade uppgifter vid datorn snarare än i labbet. Där var nybörjare med språkmodell 4,16 gånger så träffsäkra som kontrollgruppen (Scale AI och SecureBio, 26 februari 2026). Den internationella AI-säkerhetsrapporten beskriver samma spänning: AI kan i viss mån förmedla sådant man annars bara lär sig med händerna i ett labb, samtidigt som hindren för att skaffa utrustning och reglerade material finns kvar.

Uppdateringen från juli har också luckor. Flera av åtgärderna beskrivs som pågående arbete, och inga mätbara resultat redovisas för delarna om att upptäcka och svara. Vi har inte heller hittat någon oberoende granskning eller kritik av programmet från biosäkerhetsexperter. Det mesta av underlaget kommer från företagen själva, vilket är samma mönster som i AI-företagens egna mätningar av sin forskning.

Vad betyder det för Sverige?

Regeringen beslutade den 3 september 2026 om en nationell strategi för skydd mot biologiska hot. AI nämns redan i förordet. Där står att bioteknik i kombination med artificiell intelligens och teknik med dubbla användningsområden, alltså teknik som kan användas både civilt och militärt, "omformar hotbilden från grunden". Strategin vilar på fem pelare: förutse, förebygga, upptäcka, agera och återhämta sig. Under dem ligger 25 fokusområden. Ett av dem handlar om att svensk bioteknikforskning inte ska bidra till utveckling av antagonistiska förmågor, alltså förmågor hos någon som vill skada Sverige, genom okontrollerad spridning av teknik med dubbla användningsområden (Strategi för skydd mot biologiska hot, regeringen). Granskning av DNA-beställningar tas inte upp i strategin, och vi har inte hittat några svenska regler som kräver sådan granskning.

Kompetensen finns på flera håll. Totalförsvarets forskningsinstitut (FOI) forskar om CBRN-skydd och inledde i februari 2026 en serie publikationer om biologiska vapen, där bedömningen är att sannolikheten för ett storskaligt statligt angrepp mot Sverige är liten (FOI, 16 februari 2026). Folkhälsomyndigheten driver Nordens enda säkerhetslaboratorium i skyddsnivå 4, den högsta nivån, som krävs för de farligaste smittämnena. Det invigdes på nytt i oktober 2025 (Folkhälsomyndigheten).

Reglerna kommer däremot från EU. I december 2025 lade EU-kommissionen fram ett förslag till bioteknikförordning med ett eget kapitel om biologiskt försvar. Där föreslås att bordsapparater för DNA-syntes, maskiner i bordsformat som tillverkar DNA direkt i laboratoriet, ska ha en inbyggd granskningsfunktion om de säljs i unionen. Säljare ska kontrollera att köpare av de känsligaste produkterna har ett berättigat behov och ett fredligt syfte, och kommissionen ska bevaka vad förslaget kallar biologisk systemrisk, alltså risker som kan slå mot samhället i stort, från AI-modeller i biologiska tillämpningar. En rådgivande expertgrupp med upp till 25 ledamöter inom bioteknik, biosäkerhet, biologiskt försvar och AI ska följa modellernas förmågor (kommissionens förslag, 16 december 2025). Förslaget förhandlas fortfarande. Enligt fredsforskningsinstitutet SIPRI är målet en omröstning i Europaparlamentet i december 2026, men tidplanen kan ändras. Reglerna skulle i så fall bli de första bindande kraven i världen som omfattar alla leverantörer på en hel marknad (SIPRI, 16 september 2026).

Parallellt finns AI-förordningen. EU:s uppförandekod för AI-modeller för allmänna ändamål listar CBRN först bland de systemrisker som de största modellutvecklarna ska utvärdera och hantera, och nämner uttryckligen risken att trösklarna sänks för den som vill utveckla eller sprida sådana vapen (uppförandekoden, bilaga 1).

På global nivå finns konventionen om biologiska vapen från 1972. På en skriftlig fråga i riksdagen 2024 svarade utrikesministern att förbudet omfattar även syntetiska biologiska ämnen, men att konventionens svaghet är att den saknar verktyg för att kontrollera att förbudet följs, och att den snabba utvecklingen inom bioteknik och AI gör exportkontrollsamarbetet än mer angeläget (svar på skriftlig fråga 2024/25:128).

Sammantaget är det här ett av få områden där risken med AI redan har flyttat in i konkret lagstiftningsarbete, och där ett av de stora AI-företagen lägger egna resurser på försvarssidan. Kontrollen vilar också till stor del på frivillighet hos företagen. Det är samma fråga som AI-Kompassen ställde till riksdagspartierna: ska det krävas att de mest kraftfulla modellerna kan visas vara säkra innan de tränas i full skala eller släpps? Genomgången av riskerna finns i Riskerna vi står inför.

Läs vidare

• Our approach to bioresilience – Google DeepMind och Isomorphic Labs, 16 juli 2026.
• Introducing SynthID Bio – vattenmärkning av AI-designade proteiner, 30 september 2026.
• Strategi för skydd mot biologiska hot – Sveriges första nationella strategi på området, 3 september 2026.
• International AI Safety Report 2026 – den samlade forskningsbilden, februari 2026.
• Katastrofrisken: vilka scenarier är det forskarna talar om? – vår genomgång av missbruk och förlorad kontroll.
• Riskerna vi står inför – sajtens samlade riskgenomgång.

Det här inlägget är framtaget med AI-stöd och granskat av redaktionen innan publicering. Så används AI

← Alla inlägg