Inte ens teknikjätten Microsoft har råd med obegränsad användning av AI-tokens i längden. Företaget meddelar nu att de övergår från fasta månadsavgifter med obegränsad tillgång till en användningsbaserad prissättning för sin tjänst Copilot Cowork. Anledningen är de skenande kostnaderna för beräkningskraft i takt med att tjänsten växt explosionsartat.
Framgången som blev en kostnadsfälla
Microsoft 365 Copilot har på kort tid blivit en enorm succé och har nu passerat 20 miljoner betalande användare. Bara under det senaste kvartalet tillkom 5 miljoner nya användare. Idag använder över 90 procent av Fortune 500-företagen tjänsten, och vissa flitiga användare utför hundratals Cowork-uppgifter per vecka.
Denna intensiva användning har gjort den tidigare modellen med obegränsad tillgång ekonomiskt ohållbar för Microsoft. För att få kontroll på utgifterna vänder sig bolaget nu mot öppna källkodsmodeller som kan köras i egen regi.
DeepSeek V4: Kraftfullt och kostnadseffektivt
Som en central del i strategin för att sänka kostnaderna har Microsoft identifierat DeepSeek V4 som en ledande kandidat. I april släppte DeepSeek de två modellerna V4-Pro och V4-Flash, som båda har stöd för kontextfönster på upp till 1 miljon tokens.
Några tekniska höjdpunkter för DeepSeek V4 inkluderar:
- V4-Pro: Har 1,6 biljoner (trillion) parametrar och presterar i nivå med de främsta stängda modellerna på marknaden.
- MIT-licens: Modellerna släpps under en generös MIT-licens som tillåter omfattande användning och anpassning.
- MoE-arkitektur: DeepSeek använder en så kallad "mixture-of-experts" (MoE)-arkitektur. Det innebär att endast en bråkdel av parametrarna aktiveras för varje specifik uppgift, vilket sänker kostnaden per körning (inference) avsevärt.
En bransch i förändring
Skiftet mot mer transparent och effektiv prissättning syns i hela ekosystemet. GitHub Copilot har nyligen introducerat en meny där användare kan välja mellan olika modeller med tydlig prissättning. De har även lanserat ett "Auto mode" som automatiskt skickar uppgifter till den mest kostnadseffektiva modellen för stunden.
DeepSeeks framfart har även fångat investerarnas intresse. Företaget stängde nyligen sin första externa finansieringsrunda där de tog in över 7,4 miljarder dollar, vilket ger bolaget en värdering på över 50 miljarder dollar.
