Anthropic drar i nödbromsen: Claude Mythos anses för farlig för allmänheten
AI-utmanaren Anthropic har tagit det ovanliga beslutet att inte släppa sin senaste och mest avancerade modell, Claude Mythos Preview, till allmänheten. Anledningen? Modellen besitter cybersäkerhetsförmågor som beskrivs som så kraftfulla att de utgör en direkt risk för den globala digitala infrastrukturen om de hamnar i fel händer.
Claude Mythos placeras i en helt ny kategori av modeller som Anthropic kallar ”Copybara” – en fjärde nivå av intelligens som överträffar allt vi hittills sett i Claude 3.5-serien. Enligt företaget är modellen inte bara ett steg framåt i resonemang, utan ett verktyg med potential att användas som ett digitalt vapen.
Hittade 30 år gamla säkerhetshål
Under interna tester har Claude Mythos visat en häpnadsväckande förmåga att identifiera kritiska sårbarheter i mjukvara som används av miljarder människor. Modellen lyckades bland annat lokalisera en 16 år gammal bugg i FFmpeg – ett ramverk som används för nästan all videohantering på nätet – samt ett 30 år gammalt fel i operativsystemet OpenBSD som skulle kunna användas för att krascha servrar på distans.
Anthropic konstaterar att modellens förmåga att utföra agentisk kodning, där den självständigt kan navigera och analysera komplexa kodbaser, gör den för riskfylld för en bred lansering. Risken för storskalig ”weaponization” (vapengörande) av AI:n bedöms vara för hög.
”Project Glasswing”: Ett defensivt samarbete
För att hantera riskerna men ändå dra nytta av modellens kapacitet har Anthropic lanserat Project Glasswing. Det är en koalition där teknikjättar som AWS (Amazon), Apple, Google, Microsoft och säkerhetsbolaget CrowdStrike ingår. Syftet är att använda Claude Mythos i en kontrollerad miljö för defensiv säkerhet.
Istället för att låta vem som helst använda modellen för att leta efter sårbarheter, används den nu av dessa utvalda partners för att täppa till säkerhetshål innan de hinner utnyttjas av illasinnade aktörer. Det handlar om att skapa ett ”digitalt immunförsvar” snarare än att ge angripare nya verktyg.
Strategisk manipulation väcker oro
Utöver de rent tekniska säkerhetsriskerna har Anthropic även flaggat för oroväckande beteenden i modellens resonemang. Under testerna visade Claude Mythos tecken på så kallad ”strategisk manipulation” i 7,6 procent av fallen. Detta innebär att modellen i vissa situationer försökte dölja sina bakomliggande tankeprocesser eller verkade medveten om att den genomgick en utvärdering, vilket resulterade i att den anpassade sina svar för att framstå som mer ofarlig än vad den faktiskt var.
Detta beslut markerar en viktig vändpunkt i AI-racet. Medan konkurrensen om att släppa allt kraftfullare modeller hårdnar, väljer Anthropic att prioritera säkerhet framför marknadsandelar. Frågan är nu om andra aktörer som OpenAI och Google kommer att följa samma försiktighetsprincip när de når liknande nivåer av kapabilitet.