AI hittar hålen snabbare

Den 4 november beskrev OpenAI en körning av AI-agenter mot Linuxkärnan, programvaran som ligger till grund för Androidtelefoner, molninfrastruktur och superdatorer. Under ungefär tio dagar från mitten av oktober tog agenterna fram fungerande exploits för 948 olika brister, som var och en kunde göra ett vanligt användarkonto till full kontroll över en maskin, och skrev ett patchförslag för varenda en. En vecka tidigare presenterade Google Gemini 4 Carbon och gav den först till granskade cyberförsvarare. Tiden mellan att en brist finns och att någon hittar den krymper, och labben vill att försvararna ska komma dit först.

Vad OpenAI körde

Kedjan hade fem steg och kördes på en cybermodell som OpenAI släppte den 5 november under namnet GPT-6 Cyber. Spaningsagenter valde ut 5'034 delar av kärnan som var värda att granska, omkring 7 procent av koden. Analysagenter gjorde om dem till 2'308 möjliga fynd på 12 timmar. Sorteringsagenter försökte återskapa varje fynd i en isolerad maskin och lyckades med 1'724, ungefär tre fjärdedelar, och OpenAI säger att bara 3,1 procent av fynden byggde på felaktig analys. Senare steg testade vilka brister som gick att utnyttja och skrev patchar, och människor granskade resultaten innan något rapporterades.

Körningen kostade 1'213'430 dollar i API-krediter, eller omkring 1'279 dollar per exploit. Målen körde en vanlig Linux för skrivbordet med de vanliga skydden påslagna. En körning i juli med en tidigare modell, GPT-5.6 Sol, hade hittat 166 sådana brister. Den nyare modellen hittade mer än fem gånger så många, trots att kärnan hade härdats i tre månader däremellan.

Vad labben säger om begränsningarna

OpenAI är öppet med var det gick fel. I en tidig körning rapporterade kedjan 200 lyckade exploits, och en mänsklig granskning visade att 20 av dem hade nått full kontroll genom en annan okänd brist än den de hade tilldelats. ”Det tyder på att även lyckad exploatering av agenter behöver ordentlig validering”, skrev OpenAI, och företaget lade till en oberoende kontroll av att varje exploit använde sin tilldelade brist. Lärdomen gäller allt automatiserat arbete: ”verifiera vägen till ett resultat, inte bara själva resultatet.”

Patcharna behövde också arbete. De första fungerade men lade ibland till onödig kod, struntade i lokala konventioner eller missade varianter av samma brist, tills fler instruktioner och fler iterationer förbättrade dem. OpenAI kallar sina kostnadssiffror ”snarare en övre gräns”. Alla dessa siffror är OpenAIs egna. Per den 5 november hade vi inte hittat någon oberoende granskning av dem och inget offentligt uttalande från kärnans underhållare om den här omgången.

Försvararna först

Googles tillkännagivande den 28 oktober följer samma mönster. Företaget kallar Gemini 4 Carbon ”vår starkaste modell, med toppmoderna förmågor inom cybersäkerhet och för uppgifter över lång tid” och rapporterar 88,2 procent på SEC-bench Pro för att hitta brister, 54,8 procent på ExploitGym och 71,0 procent på CWE-bench för att patcha, alla Googles egna siffror, uppmätta utan skyddsräcken. Tillgången börjar med en del av cyberförsvararna och vidgas i etapper genom Fairwind Program, som enligt SecurityWeek har mer än 650 deltagare, bland dem regeringar och operatörer av kritisk infrastruktur. En lansering för utvecklare, företag och konsumenter utlovas ”så snart som möjligt”, utan datum.

Anthropic satte mönstret med Mythos i april, och OpenAI följer det. GPT-6 Cyber går först till en utvald grupp godkända kunder i Daybreak Red, företagets program för auktoriserad säkerhetstestning, och OpenAI klassar modellen som Critical för cybersäkerhet enligt sitt eget Preparedness Framework. Tillkännagivandet säger varför: ”Det är tydligt att vi har ett begränsat tidsfönster för att använda frontiermodeller till att säkra programvara.”

Underhållarnas sida

Varje fynd landar hos någon som måste åtgärda det. I mars sa Greg Kroah-Hartman, en av kärnans ledande underhållare, till The Register att rapporter gjorda med AI hade gått från skräp till äkta ungefär en månad tidigare: ”Nu får vi riktiga rapporter.” I maj skrev Linus Torvalds att ”den fortsatta floden av AI-rapporter i princip har gjort säkerhetslistan nästan helt ohanterlig”, eftersom många hittar samma buggar med samma verktyg. Hans råd till dem som rapporterar: ”Om du hittade en bugg med hjälp av AI-verktyg är chansen stor att någon annan också har hittat den.” I juli publicerade teamet bakom kärnan 432 CVE:er under en enda söndag och måndag.

Medan OpenAIs genomsökning pågick åtgärdade underhållare och andra bidragsgivare redan många av samma brister: efter tio dagar hade 61 patchats uppströms, 43 hade patchar som väntade och 299 diskuterades offentligt. OpenAI säger att företaget följde riktlinjerna från gemenskapen kring kärnan och hittills har rapporterat 304 kritiska fynd med patchförslag. Enligt vår uppfattning är den knappa resursen nu uppmärksamheten hos dem som granskar, testar och släpper åtgärder.

Vad ett företag kan göra

De flesta företag kör helt enkelt den programvara som tar emot dessa åtgärder, ofta i stora omgångar. OpenAI drar själv slutsatsen: för närvarande bör ett konto med låga behörigheter på ett system som ”inte har de senaste tillgängliga patcharna installerade betraktas som funktionellt likvärdigt med root-åtkomst för en angripare med goda resurser.” Fyra saker följer av det, enligt vår uppfattning.

Patcha snabbare, och vet vad du kör. Jan Schaumann, chefsarkitekt för informationssäkerhet på Akamai, skrev i juli att det inte längre är möjligt att prioritera enskilda ändringar i kärnan, och sa till The Register att ”automatiserade, regelbundna och täta uppdateringar” verkar vara det enda rimliga tillvägagångssättet, hur svåra de än är för stora organisationer. Det kräver en aktuell lista över varje server, enhet och tjänst, och över vem som uppdaterar var och en.

Välj leverantörer som patchar snabbt, och fråga hur lång tid det tar innan en kritisk åtgärd når dig. Fråga dina programvaruleverantörer hur de använder dessa modeller: om de söker igenom sin egen kod, hur de verifierar det som modellerna rapporterar och om de deltar i program som Daybreak eller Fairwind.

Håll känsliga data i system som du kontrollerar, med åtkomst begränsad per roll, så att en brist i någon annans tjänst exponerar mindre. Kontroll tar inte bort skyldigheten att patcha, den gör skyldigheten till din. OpenAI rekommenderar också sandlådor och isolering för att begränsa skadan när något utnyttjas.

Var vi står

Vi bygger inte säkerhetsskannrar. Vår del är den sista punkten på listan. Twin, som är live, ger ett företags assistenter en enda hjärna med åtkomst per roll, där varje skrivåtgärd kopplas till en inloggad användare och varje steg loggas, med drift i Schweiz, EU, USA eller på företagets egen hårdvara. Eigna, i tidig åtkomst och byggd av vår partner Eigna Labs, är en privat modell som körs i företagets eget moln eller på dess egna servrar och är utformad för att köras offline i slutna nätverk. Som allt annat som ett företag kör måste båda hållas uppdaterade.