Googles säkerhetsavdelning, Threat Intelligence Group (GTIG), har meddelat ett genombrott inom cybersäkerhet. För första gången någonsin har man dokumenterat en hotaktör som använt en så kallad zero-day-exploatering utvecklad med hjälp av artificiell intelligens.
Zero-day-sårbarheter är säkerhetshål som är okända för offren, vilket innebär att de drabbade har noll dagar på sig att förbereda sig eller skydda sina system innan en attack sker. Enligt rapporten från GTIG var hotaktörens avsikt att använda exploateringen i en storskalig attack, men Googles proaktiva arbete lyckades sannolikt förhindra att den kom till faktisk användning.
AI som verktyg för vapenisering
Google uttrycker en "hög tilltro" till att en AI-modell har varit involverad i både upptäckten av sårbarheten och i själva processen att göra den till ett fungerande digitalt vapen. Trots AI-inslagen konstaterar Google att de inte tror att deras egna Gemini-modeller har använts i syftet.
Även om det specifika målet för attacken inte har namngivits, bekräftar Google att de har meddelat det berörda företaget, som därefter har åtgärdat felet med en säkerhetspatch. De specifika aktörerna bakom exploateringen har heller inte namngivits, men Google belyser att entiteter med kopplingar till Kina och Nordkorea har visat ett betydande intresse för att använda AI för att hitta säkerhetsbrister.
En försmak av framtiden
John Hultquist, chefsanalytiker på GTIG, beskriver händelsen som ett tecken på vad som komma skall. Han kallar upptäckten för "toppen av isberget" och betonar att detta är det första påtagliga beviset för den här typen av AI-assisterade attacker.
Viktiga detaljer om upptäckten:
- Historiskt fynd: Första gången en AI-utvecklad zero-day-exploatering har dokumenterats.
- Förebyggande skydd: Attacken var tänkt att bli ett massivt utnyttjande, men stoppades innan dess.
- Modeller: Google utesluter användningen av de egna Gemini-modellerna i skapandet.
- Geopolitiskt intresse: Aktörer i Kina och Nordkorea pekas ut som särskilt intresserade av tekniken.
AI i försvarets tjänst
Även om rapporten fokuserar på hur hotaktörer utnyttjar AI, poängterar Google att tekniken även är ett kraftfullt verktyg för försvarare. Som ett exempel nämns Anthropic, som nyligen lanserade "Project Glasswing". Projektet använder modellen Claude Mythos Preview för att hitta och försvara system mot kritiska säkerhetssårbarheter.
