Den nya attackytan för AI: Varför organisationer måste förbereda sig för säker innovation

Artificiell intelligens går i rasande fart från pilotprojekt och produktivitetsexperiment till att bli en central del av organisationers verksamhet. Företag använder AI för att analysera data, automatisera arbetsflöden, förbättra beslutsfattande och utveckla nya tjänster. Inom hälso- och sjukvård, transport, offentlig förvaltning och kritisk infrastruktur har AI potential att skapa betydande värde.

Men samma utveckling förändrar också hotbilden inom cybersäkerhet. I takt med att stora språkmodeller och AI-agenter blir mer avancerade skapar de inte bara nya möjligheter till innovation. De öppnar också upp en ny attackyta. Kraftfullare modeller kan göra det snabbare, billigare och enklare att identifiera sårbarheter, automatisera delar av attacker och utnyttja svagheter i den digitala infrastrukturen. För många organisationer skapar detta ett nytt strategiskt dilemma: de har inte råd att hamna på efterkälken när det gäller AI – men de har inte heller råd att införa den utan att ha rätt säkerhet, infrastruktur och styrning på plats.

AI-tekniken förändrar lönsamheten i cyberattacker

Cyberattacker har traditionellt sett krävt tid, expertis och resurser. AI börjar nu förändra detta. Avancerade modeller kan hjälpa till att analysera system, identifiera svagheter, skriva kod och automatisera repetitiva uppgifter. För de som skyddar systemen kan detta stärka säkerhetsarbetet och påskynda insatserna. För angriparna kan det sänka tröskeln för att genomföra attacker och göra det enklare att skala upp dem.

Anthropics förhandsvisning av Claude Mythos har redan visat varför detta är viktigt. Det brittiska AI Security Institute konstaterade att modellen uppvisade betydande förbättringar i simuleringar av flerstegscyberattacker, samtidigt som rapporter tyder på att den lyckades klara ett svårt cybersäkerhetstest som tidigare utvärderade modeller inte hade klarat. Anthropic har valt att behålla modellen inom ett begränsat program för defensiv cybersäkerhet istället för att släppa den till allmänheten, vilket understryker hur kraftfulla AI-system kan skapa både möjligheter på det defensiva området och allvarliga farhågor om missbruk.

Oron gäller inte ett specifikt verktyg, utan den övergripande utvecklingen av AI-system och -agenter som kan öka hastigheten och sofistikationsgraden hos både legitima och skadliga aktiviteter. Framtida AI-funktioner kan hjälpa angripare att hitta sårbarheter, utnyttja bristfälligt underhållen infrastruktur eller mer effektivt utvinna värde ur stulna data. Som en följd av detta blir gamla svagheter – system utan säkerhetsuppdateringar, otydliga åtkomsträttigheter, exponerade data och dåligt styrda molnmiljöer – allt farligare.

För nordiska och europeiska organisationer är detta viktigt eftersom många är beroende av komplex digital infrastruktur, leveranskedjor och känslig information. Inom sektorer som hälso- och sjukvård, transport, offentlig service och kritisk infrastruktur utgör cyberincidenter inte bara en ekonomisk risk. De kan störa samhällsviktiga tjänster och, i extrema fall, äventyra människors säkerhet.

Att undvika AI är ingen strategi

Svaret är inte att undvika AI. Organisationer behöver AI för att förbli konkurrenskraftiga. De måste utnyttja data mer effektivt, automatisera manuella processer, förbättra beslutsfattandet och skapa bättre tjänster. Företag som inte gör detta riskerar att hamna på efterkälken både gentemot lokala konkurrenter och globala aktörer med starkare digital kompetens. Men att använda AI utan rätt förutsättningar medför allvarliga risker.

Känslig information kan läcka ut via allmänna verktyg. Kritiska data kan behandlas i miljöer som ligger utanför organisationens kontroll. Anställda kan börja använda AI-tjänster utan tydliga riktlinjer. Automatiserade system kan ges åtkomst till system utan adekvat styrning. Och organisationer kan bli beroende av infrastruktur som väcker frågor kring säkerhet, efterlevnad och jurisdiktion.

”AI öppnar upp nya möjligheter för organisationer, men skapar samtidigt nya sårbarheter. Lösningen är inte att undvika AI, utan att förstå var era data finns, vem som har tillgång till dem och vilka verktyg som används. Det ansvaret måste ligga hos ledningen – inte bara hos IT-avdelningen”, säger Robin Frantzen, affärsutvecklingschef på NetNordic.

Den verkliga utmaningen är därför inte om man ska använda AI, utan hur man använder den på ett säkert sätt. Ett bra sätt att se på frågan är följande: organisationer bör inte hamna på efterkälken genom att undvika AI, men de bör inte heller utsätta sig för risker genom att införa AI på fel infrastruktur.

Varför infrastruktur har blivit en del av diskussionen om AI

Avancerad AI kräver betydande datorkraft, vilket gör GPU-kapaciteten till en strategisk infrastrukturfråga. Men kapacitet i sig räcker inte. Organisationer måste också veta var AI-arbetsbelastningarna körs, var data bearbetas och vem som kontrollerar miljön.

För organisationer som hanterar känslig eller reglerad information kan offentliga AI-tjänster ge upphov till problem när det gäller juridik, säkerhet och efterlevnad. Det är därför lokala AI-lösningar och privata språkmodeller blir allt viktigare. Med lokal AI avses att modellerna körs i en kontrollerad miljö, antingen på organisationens egen infrastruktur eller i ett privat moln.

I NetNordics fall kan detta innebära att kunderna får tillgång till språkmodeller och GPU-kapacitet i nordiska datacenter, med isolerade miljöer som inte är anslutna till det öppna internet.

En privat AI-miljö kan bidra till att hålla data inom Norden, minska beroendet av offentliga AI-plattformar, sänka risken för dataläckage och ge organisationer bättre kontroll över infrastruktur och kostnader. För organisationer som hanterar känslig data kan detta göra det möjligt att driva innovation med AI utan att skicka kritisk information till offentliga molnmiljöer.

Datasuveränitet håller på att bli en säkerhetsfråga

Diskussionen om AI kopplas också allt oftare till datasuveränitet. Många AI- och molntjänster drivs av leverantörer som lyder under utländsk jurisdiktion. För europeiska och nordiska organisationer väcker detta viktiga frågor: Var behandlas uppgifterna? Vem har tillgång till dem? Vilka rättsliga ramar gäller? Vad händer om uppgifterna blir föremål för förfrågningar från myndigheter utanför Europa?

Poängen är inte att alla utländska molntjänster är osäkra. Många organisationer kommer att fortsätta använda globala molnplattformar som en del av sin digitala infrastruktur. Men de måste förstå de rättsliga, operativa och säkerhetsmässiga konsekvenserna av detta – särskilt när det gäller hantering av känslig information.

Detta är särskilt relevant för hälso- och sjukvården, organisationer inom den offentliga sektorn, kritisk infrastruktur, finansiella tjänster och andra reglerade branscher. För dessa organisationer är datasuveränitet inte längre bara en juridisk fråga eller en upphandlingsfråga. Det håller på att bli en del av cybersäkerhetstrategi.

AI-agenter skapar en ny utmaning för styrningen

AI-agenter går längre än traditionella AI-modeller som besvarar frågor, skapar innehåll eller analyserar information. De kan utföra uppgifter, vilket gör dem betydligt mer kraftfulla – och innebär större risker.

En AI-agent kan kopplas till arbetsflöden, affärssystem, databaser eller produktionsmiljöer. Den kan hämta information, sätta igång åtgärder, uppdatera system eller stödja operativa processer. I praktiken kan agenterna börja fungera som digitala medarbetare inom en organisation.

Detta medför en ny utmaning när det gäller åtkomsthantering. Organisationer måste ha koll på vilka agenter som finns, vad de kan göra, vilka system de har åtkomst till, vem som har godkänt dem och hur deras åtgärder övervakas. De behöver också rutiner för att granska behörigheter och inaktivera agenter som inte längre behövs.

En AI-agent med åtkomst till produktionssystem bör hanteras på samma sätt som alla andra behörigheter med utökade rättigheter. Utan en sådan hantering kan organisationer skapa allvarliga interna risker utan att ens vara medvetna om det.

Säkerhetsuppdateringar och motståndskraft blir allt viktigare

Den nya attackytan för AI gör också att det blir ännu viktigare att ha en väl förberedd infrastruktur. Om AI gör det möjligt att upptäcka sårbarheter snabbare måste organisationerna bli snabbare och mer systematiska när det gäller att installera säkerhetsuppdateringar, hantera infrastrukturrisker och åtgärda kända svagheter. Långsam uppdatering, otydligt ansvar och föråldrade system är redan vanliga problem. I ett hotlandskap präglat av AI blir dessa problem ännu farligare.

Frågan som organisationer bör ställa sig är enkel: om angriparna kan agera snabbare, är vi då beredda att reagera snabbare? För många kommer det ärliga svaret att vara nej.

Vad organisationer bör göra nu

Det första steget är att kartlägga den nuvarande mognadsgraden: var organisationen befinner sig idag, var de största bristerna finns och vilka risker som bör åtgärdas först. ”Kartlägg era system, leverantörer, åtkomsträttigheter och skugg-IT, och identifiera sedan bristerna. Man kan inte säkra något man inte vet finns”, säger Frantzen.

En mognadsbedömning kan avslöja brister inom infrastruktur, åtkomsthantering, molnanvändning, dataskydd, incidenthantering och efterlevnadsberedskap. Den ger dessutom ledningen en tydligare grund för att prioritera investeringar.

Utbildning är lika viktigt. AI-säkerhet är inte bara en IT-fråga. Ledningen, säkerhetsavdelningen, den juridiska avdelningen, avdelningen för regelefterlevnad och berörda affärsenheter måste ha en gemensam förståelse för cyberrisker kopplade till AI, agentisk AI, säker användning av språkmodeller, datasuveränitet och myndigheternas förväntningar.

Riskbedömningarna bör också uppdateras. Många av dem har inte utformats för en värld där AI-verktyg och AI-agenter är en integrerad del av den dagliga verksamheten. Organisationerna bör granska underleverantörer, molntjänster, AI-verktyg, leveranskedjor, kritiska data och operativa beroenden.

Identitets- och åtkomsthantering bör prioriteras. Företagen måste ha koll på vem – och vad – som har åtkomst till deras system, inklusive anställda, användare med utökade behörigheter, servicekonton och AI-agenter. Åtkomsträttigheter bör granskas, övervakas och tas bort när de inte längre behövs.

Organisationer bör också identifiera sina viktigaste data och system: vad som är mest känsligt, var det lagras, vem som har tillgång till det och vad som skulle hända om det läckte ut eller blev otillgängligt.

Slutligen bör företagen beräkna de faktiska kostnaderna för driftstopp. För vissa kan några timmars driftstopp kosta miljoner. För sjukhus och samhällsviktiga tjänster kan konsekvenserna sträcka sig långt bortom ekonomiska förluster.

Framtiden tillhör de organisationer som kan använda AI på ett säkert sätt

AI kommer att bli en del av hur organisationer konkurrerar, bedriver sin verksamhet och tillhandahåller tjänster. Det kommer att hjälpa dem att utnyttja data bättre, automatisera arbetsuppgifter och skapa nytt värde – men det kommer också att ge angripare nya möjligheter och öka trycket på infrastruktur-, styrnings- och säkerhetsteamen.

Att undvika AI är inte hållbart. Men att införa det utan kontroll är inte säkert. De organisationer som är bäst förberedda för nästa fas är de som förstår den nya attackytan och agerar i god tid. De kommer att kombinera innovation med stärkt säkerhet, tydligare styrning och bättre kontroll över data och infrastruktur.

I en tid präglad av avancerade stora språkmodeller (LLM) och AI-agenter är säker innovation inte längre något valfritt. Det håller på att bli en förutsättning för att förbli konkurrenskraftig, motståndskraftig och trovärdig.