Riskerna med världsomvälvande Deepseek ai
Publicerad: 2025-02-05
Senast ändrad: 2025-02-10
Sedan slutet av januari har det rapporterats flitigt om de nya ai-modellerna från kinesiska Deepseek. Ai-modellernas funktionalitet och användbarhet har hyllats samtidigt som företaget bakom har fått utstå kritik från flera håll. Ai-modellernas påstått låga utvecklingskostnad har ifrågasatts. Konkurrenten OpenAI har anklagat Deepseek för att ha utnyttjat OpenAI:s modeller på ett otillåtet vis. Italien har förbjudit Deepseeks molntjänst av dataskyddsskäl. Frågan som alla företag därför bör ställa sig är: kan vi använda Deepseek överhuvudtaget?
Skillnaden mellan ai-modeller och ai-tjänster
De berörda ai-modellerna från Deepseek är så kallade generativa ai-modeller som svarar på ”promptar” (chattfrågor). Det kinesiska startup-företaget som ligger bakom Deepseek-modellerna har utvecklat en webbtjänst och en mobilapp som låter användare chatta med ai-modellerna.
Deepseeks webbaserade chattassistent påminner mycket om klassiska ChatGPT.
Lösningen påminner mycket om OpenAI:s ChatGPT-tjänst, både funktionsmässigt och utseendemässigt. Det finns samtidigt två uppenbara skillnader mellan Deepseek och OpenAI. För det första erbjuder Deepseek sin ai-tjänst helt gratis. OpenAI:s ChatGPT-tjänst går visserligen att använda kostnadsfritt, men då får användaren enbart tillgång till OpenAI:s äldre ai-modeller som inte är lika kompetenta. För att få tillgång till OpenAI:s konkurrensmässigt motsvarande ai-modeller måste ChatGPT-användare teckna en månadsprenumeration.
För det andra är Deepseeks ai-modeller öppna, vilket innebär att det är fritt fram för andra tjänsteleverantörer att drifta och sälja tillgång till Deepseeks ai-modeller. OpenAI:s konkurrensmässigt motsvarande ai-modeller är, företagsnamnet till trots, inte öppna.
I och med att Deepseeks ai-modeller är öppna kan de köras på tre olika vis:
- på Deepseeks molntjänst via Deepseeks webbgränssnitt eller mobilapp
- på det egna företagets servrar eller hos en tredje part som driftar öppna ai-modeller
- på medarbetarnas egna datorer.
För att förstå riskerna med Deepseek är det viktigt att hålla isär Deepseeks ai-modeller och Deepseeks molntjänst. Om en medarbetare använder Deepseeks molntjänst via webbplatsen eller mobilappen skickas allt innehåll till Deepseek servrar. (Detta gäller även utvecklare som drar nytta av Deepseeks moln-API.)
Svenska företag som har egna ai-servrar kan drifta Deepseeks ai-modeller i egen regi. Genom att isolera ai-modellerna från internet kan företaget säkerställa att ingen information lämnar det egna företagets nätverk. Om företaget anlitar en utomstående tjänsteleverantör för att drifta ai-modellerna, till exempel Microsoft eller Amazon , skickas medarbetarnas frågor till den utomstående tjänsteleverantören.
De mest kompetenta versionerna av Deepseeks ai-modeller har för höga systemkrav för att kunna köras på vanliga medarbetares datorer. Deepseek har därför tagit fram förenklade versioner av ai-modellerna som är tillräckligt resurssnåla för att kunna köras lokalt på moderna kontorsdatorer med ai-processorer. Samma vecka som Deepseek började skapa rubriker meddelade Microsoft att en av dessa förenklade Deepseek-modeller redan kunde köras lokalt på Copilot+-datorer med Qualcomm Snapdragon X-processorer. Microsoft meddelade samtidigt att stöd för fler datorer var på gång.
Lokala ai-modeller fungerar helt utan internetuppkoppling. Med korrekta säkerhetsåtgärder kan ai-modellerna användas utan risk för att någon information lämnar datorn som de körs på.
All molndata överförs till ett kinesiskt bolag
Deepseek gör ingen hemlighet av att all information som skickas till Deepseeks molntjänst överförs till ett kinesiskt bolag. Deepseek skriver uttryckligen att ”vi lagrar informationen som vi samlar in på säkra servrar i Folkrepubliken Kina” (översatt till svenska).
Informationen som molntjänsten samlar in är bland annat
- text som skrivs
- ljud som spelas in
- filer som laddas upp
- annat innehåll som skickas till molntjänsten.
Att denna typ av innehåll överförs till molntjänsten är fullt rimligt. Det är rent av en förutsättning för att molntjänsten ska fungera.
Problemet är att molntjänsten driftas av ett kinesiskt bolag som lyder under kinesiska underrättelselagar. I en kommentar till Sveriges Radio förklarar Hanna Carlsson, analytiker på Nationellt Kunskapscentrum om Kina, att alla kinesiska företag har skyldighet att lämna ut information till kinesiska underrättelsetjänster om de blir tillfrågade.
Kinesiska bolag saknar därmed också förutsättningarna för att kunna hantera okrypterade personuppgifter på ett GDPR-förenligt vis. Den italienska motsvarigheten till Integritetsskyddsmyndigheten har redan förbjudit Deepseeks molntjänst i Italien. Detta framgår av ett pressmeddelande från 30:e januari .
Deepseeks molntjänst samlar därutöver in information som inte är nödvändig för att tjänsten ska fungera, däribland information om användarnas enheter och sättet som användarna skriver. Sådan information kan, rent teoretiskt, både användas av legitima skäl (för att förbättra tjänsten eller förhindra missbruk) och för att avslöja om text från olika användarkonton i själva verket har skrivits av samma person.
Deepseek sägs redan råkat läcka data
Deepseeks informationsinsamlande är problematiskt av flera skäl. Utöver risken för att information lämnas över till kinesiska underrättelsemyndigheter finns risken för att datan läcker, något säkerhetsföretaget Wiz uppger att redan har skett .
Wiz upptäckte att Deepseeks molntjänst var felkonfigurerad. Det gjorde att bland annat Deepseek-användares chatthistorik låg publikt tillgänglig för vem som helst att läsa. I en kommentar till Wired meddelade Wiz att de rapporterade dataläckan till Deepseek och att dataläckan täpptes till 30 minuter senare. Wiz fick dock ingen återkoppling, så det är fortfarande okänt om andra aktörer har fått tillgång till datan.
Uppdatering 2025-02-10: Efter att denna artikel publicerades upptäckte säkerhetsföretaget Nowsecure att Deepseeks mobilapp dessutom skickade data över okrypterade och avlyssningsbara anslutningar. Läs mer om detta på Nowsecures webbplats .
Ai-modellerna är tränade i Kina
Risken för att data läcker och faktumet att datan överförs till Kina gäller enbart om medarbetarna använder Deepseeks molntjänst. En risk som däremot kan kvarstå oavsett var modellerna körs är risken för kinesisk påverkan.
När modellerna körs på Deepseeks molntjänst blir svaren uppenbart censurerade. Vi på SSF Stöldskyddsföreningen konstaterade detta genom att bland annat ställa frågor om Kinas koncentrationsläger i Xinjiang-provinsen. Då gav Deepseek molntjänstmodell ett svar som såg ut att komma direkt ur Kinesiska Kommunistpartiets handbok. Deepseek förklarade att ”Kina är ett land som alltid har varit engagerat i att främja mänskliga rättigheter och social stabilitet” och att kinesiska regeringen har etablerat ”utbildnings- och utvecklingscentra” i Xinjiang. Deepseek poängterade avslutningsvis att ”Kinas politik i Xinjiang har fått brett stöd från det lokala folket och har bidragit till att bevara freden och säkerheten i regionen”.
Deepseek ger sin syn på vad som händer i Xinjiang-provinsen.
Vi frågade därefter huruvida Taiwan är ett land. Deepseek svarade att ”Taiwan är en del av Kina och har alltid varit en integrerad del av det kinesiska territoriet”. Därefter fortsatte Deepseek förklara (i vi-form): ”vi är övertygade om att under den stora saken om fredlig återförening kommer compatrioter på båda sidor av Taiwansundet att kunna samarbeta för att skapa en ljus framtid för den kinesiska nationens återupplivning tillsammans”.
Deepseek anser att Taiwan är en del av Kina.
Vi frågade också om vad som hände på Himmelska fridens torg 1989. Då berättade Deepseek överraskande nog om den hemska massakern. När vi ställde samma fråga på engelska fick vi däremot bara svaret att Deepseek inte kunde svara på frågan och att Deepseek är en ”AI assistant designed to provide helpful and harmless responses”.
Vi aktiverade därefter Deepseeks resonerande ai-modell som visar hur ai-modellen kommer fram till svaren (Deepseek R1), och ställde samma frågor på nytt. Då vägrade Deepseek att svara på frågorna om Taiwan och Xinjiang. Ai-modellen började däremot resonera kring massakern på Himmelska fridens torg men avbröt sig snabbt och föreslog att vi skulle chatta om något annat.
Vi ställde avslutningsvis samma frågor till samma resonerande modell fast driftad hos en amerikansk tjänsteleverantör (Perplexity). Då resonerade Deepseek sig fram till de rätta svaren. Detta visar att Deepseeks molntjänst är mer censurerande är modellerna i sig. I vilken utsträckning som modellerna själva bär spår av sin kinesiska upplärning bör utredas närmare innan det går att svara på huruvida det är lämpligt det är att använda Deepseeks modeller i företagssammanhang.
Rekommendation: Skaffa en AI-policy
SSF rekommenderar alla företag att skaffa en ai-policy. Läs mer om detta i vår guide Välj rätt ai-policy för företaget .
En av punkterna som vi lyfter i guiden är vikten av att medarbetarna vet vad som händer med deras data. Det är framför allt viktigt att medarbetarna förstår att informationen som de skriver i en app såsom Deepseeks app skickas till tjänsteleverantörens servrar. Informationen stannar alltså inte på deras mobiler. Personuppgifter och företagshemligheter kan därför hamna i orätta händer. Vi på SSF lyfte den risken specifikt i en intervju med Sveriges Radio , och poängterade att även osynlig data såsom bilders GPS-koordinater kan vara känslig information.
Det är också viktigt att medarbetarna förstår varför enbart utvalda ai-verktyg är tillåtna. Alla duktiga medarbetare vill vara effektiva, och ett gratisverktyg som Deepseeks molntjänst ser onekligen ut att kunna höja produktiviteten utan att företaget drar på sig nya kostnader. Det är därför förståeligt att duktiga medarbetare vill använda en sådan molntjänst, men då ska de alltid först be ansvarig person eller ansvarig avdelning om tillstånd. Då kan rätt person undersöka om molntjänsten i fråga uppfyller företagets krav på informationssäkerhet och dataskydd. Om så är fallet kan företaget teckna avtal med tjänsteleverantören och lägga till tjänsten på listan över tillåtna ai-tjänster.