Når målet er å forvirre og splitte
Angrep som rammer tanker, tillit og beslutningsevne visker ut skillet mellom fred og krig. Dette er en utfordring for vår felles sikkerhet. Dersom folk mister tillit til institusjoner, informasjonskilder eller hverandre, blir det langt vanskeligere å oppnå enighet og handle målrettet og besluttsomt.
Algoritmene jobber mot oss
Dersom folk mister tillit til institusjoner, informasjonskilder eller hverandre, blir det langt vanskeligere å oppnå enighet og handle målrettet og besluttsomt.
Av Eirin Larsen, teknologistrateg i Telenor
Svindel og propaganda er ikke nytt. Heller ikke at kriminelle og andre aktører tar i bruk nye teknologier for å påvirke, lure og manipulere mennesker. Det som derimot kjennetegner vår tid, er at vi i stor grad lever livene våre på plattformer som er designet for at disse aktørene skal lykkes.
For å forstå hvorfor cybertrusler, svindel og påvirkningsoperasjoner er blitt så effektive, må vi svare på tre spørsmål:
For det første: Hvilke føringer legger plattformene og teknologien for informasjonsoperasjoner?
For det andre: Hva gjør dette med oss, samfunnet vårt og tilliten vi er avhengige av?
Og for det tredje: Hva kan vi faktisk gjøre med det?
Svarene handler mindre om teknologi enn mange tror – og mer om mennesker.

Såkalt sosiale medier
I starten var plattformene sosiale. De koblet oss sammen, åpnet verden, ga ny inspirasjon og innsikt. Så kom annonsene, svindelkampanjene, feil- og desinformasjonen og polariseringen.
I dag diskuteres skjermtid og aldersgrenser, men det er bare toppen av isfjellet. De største problemene ligger i plattformenes grunnmur: systemer designet for vekst, ikke velferd. For profitt, ikke demokrati.
Det handler ikke om at alle sosiale medier er slemme eller at alt som skjer på en skjerm er så farlig, men om at det er feige lag. Manipulativ design og atferdspsykologisk hacking i det ene hjørnet. En uutviklet frontallapp, en strevsom dag eller et svakt øyeblikk i det andre.
Vi er sårbare for uendelig skroll, autoplay, tilfeldig belønning, feedback loops, pushvarsler, streaks og FOMO – fear of missing out. Virkemidlene holder oss på plattformen, og oppmerksomhetsøkonomien fôres.
Ingen teknologi er nøytral. Den er utviklet for å oppnå bestemte mål.
På sosiale medier betyr det at jo sterkere reaksjoner et innlegg skaper, desto større sannsynlighet er det for at vi liker, kommenterer og deler. Sinne og frykt skaper mer aktivitet enn fakta, nyanser og saklighet.
For svindlere, propagandister og andre påvirkningsaktører er dette gode arbeidsforhold.

Når følelser blokkerer kritisk tenkning
Den israelsk-amerikanske psykologen Daniel Kahneman beskrev hvordan hjernen vår har to måter å tenke på: et raskt og intuitivt system og et langsomt og analytisk system. Den raske delen reagerer umiddelbart. Den langsomme delen krever mer tid og energi. Når følelsene tar overhånd, blir det vanskeligere å stoppe opp, vurdere informasjon kritisk og tenke gjennom konsekvensene.
Dermed oppstår en sammenheng mellom menneskelig psykologi og algoritmenes logikk. Det som gjør sterkest inntrykk på oss, får ofte størst spredning i de digitale systemene.
Facebook beskrev selv dette som «det naturlige mønsteret for engasjement» i 2018. Jo mer innholdet nærmer seg grensene for hva som provoserer eller vekker sterke reaksjoner, desto mer oppmerksomhet får det. Strategien fungerer ikke bare for annonsører og svindlere. Den fungerer også for aktører som ønsker å skape splittelse, mistillit og uro.
Derfor peker mange fagmiljøer innen desinformasjon på at systemene som sprer informasjon ofte er et større problem enn selve innholdet.
Samtidig har aktørene bak påvirkningsoperasjoner fått kraftigere verktøy gjennom generativ kunstig intelligens.
Det er ikke lenger vanskelig eller dyrt å produsere troverdige falske bilder, videoer eller lydopptak. Såkalt dypfalske og syntetiske stemmer blir stadig bedre. Verktøyene spres raskere enn samfunnet rekker å forstå konsekvensene.
Vi merker det allerede. Vi ser det hver dag, snakker om det i lunsjen og minner hverandre på at «alt kan være KI» og «alt kan være falskt». Faren er at bevisstheten glir over i permanent tvil. For når alt kan være falskt, blir også det ekte mistenkelig.
Hva skjer med oss når vi ikke kan tro på det vi ser og stole på det vi hører?
Målet er ofte ikke å overbevise oss om én ideologi eller én historie, men å forvirre og splitte.
Det er her påvirkningsoperasjoner blir særlig farlig for høytillitssamfunn som Norge. Tilliten mellom mennesker og institusjoner er selve grunnmuren i den norske modellen. Vi stoler på at banken håndterer pengene våre, at staten forvalter fellesskapets ressurser og at medier jakter sannhet.
Denne tilliten er ikke teknologi. Den er et menneskelig prosjekt.
Derfor begynner også første del av løsningen med oss.
Fire prinsipper for økt motstandskraft
Svaret begynner med kunnskap. Vi må forstå hvordan sosiale medier, algoritmer og kunstig intelligens faktisk virker. Hvordan de påvirker samfunnet og offentligheten vår. Ikke fordi alle skal bli teknologieksperter, men fordi det er vanskelig å beskytte seg mot mekanismer man ikke kjenner.
Det gjelder særlig i møte med påvirkning, propaganda og desinformasjon. Uansett hvor sterke passord, solide brannmurer og gode sikkerhetsrutiner du har på jobben eller i livet ditt, er mennesker den viktigste motstandskraften.
Vi kan ikke skru av internett. Vi kan ikke forby løgner. Og vi kan neppe regulere oss ut av alle utfordringene som kommer.
Men vi kan gjøre samfunnet mindre sårbart.
Vi må spre kunnskap om hvordan sosiale medier og kunstig intelligens fungerer.
Vi må verne om institusjonene våre – og samtidig utfordre dem når de gjør feil.
Vi må prioritere virkelighet og kvalitet i møte med en flom av billig, syntetisk innhold.
Og vi må stille kritiske spørsmål, særlig når teknologien imponerer og budskapet bekrefter det vi allerede tror.
Målet er ikke å bli mest mulig skeptisk. Målet er å bli akkurat passe skeptisk.
For i møte med informasjonsoverfloden er det viktigste spørsmålet kanskje ikke hva du skal tvile på, men hvem du kan stole på.
Tillit er ikke teknologi. Den kan ikke automatiseres, genereres eller lastes ned. Den bygges mellom mennesker – over tid. Derfor må vi alle gjøre vårt beste for å fortjene den, særlig når det føles som om verden suser forbi i et KI-generert romskip.
Fakta er bare en del av kampen
Intervju med Paul Buvarp, seniorforsker ved Forsvarets forskningsinstitutt.

Paul M. H. Buvarp, seniorforsker ved Forsvarets forskningsinstitutt (FFI), forsker på desinformasjon og informasjonspåvirkning. Han mener at en av de største feilene organisasjoner gjør, er å betrakte påvirkning og manipulasjon først og fremst som en kamp mellom fakta og usannheter.
– Det handler om følelser, det handler om identitet, og det handler om tillit, sier han, og viser til de ulike forklaringene som oppsto etter forgiftningen av Sergej Skripal eller etter nedskytingen av Malaysia Airlines-flyet MH17.
Buvarp peker på at mange av narrativene som ble fremmet av Kreml eller Kreml-tilknyttede kilder, ikke utgjorde én sammenhengende alternativ forklaring.
Det trengte de heller ikke å gjøre. Effekten, sier han, handler ofte mindre om å overbevise folk om én bestemt versjon av virkeligheten og mer om å skape så mye tvil og usikkerhet at ingen forklaring, heller ikke den riktige, fremstår som helt troverdig.
– Målet er ikke nødvendigvis å få en hel befolkning til å tro på én bestemt forklaring. Forvirring har en verdi i seg selv. Dersom mennesker mister tillit til institusjoner, informasjonskilder eller hverandre, blir det langt vanskeligere å oppnå enighet og handle målrettet og besluttsomt.
Tomrommet fylles raskt
En alvorlig hendelse skaper nærmest perfekte betingelser for dette.
De som står i sentrum av en hendelse – det være seg en virksomhet eller organisasjon – trenger som regel tid til å undersøke saken og verifisere informasjonen. Ulike team og myndigheter kan måtte koordinere innsatsen, og beslutninger må ofte tas på grunnlag av et ufullstendig situasjonsbilde.
På nettet er det få som venter på at en fullstendig forklaring skal foreligge.
Buvarp viser til knivstikkingen i Southport i Storbritannia i 2024. Mens politi, sikkerhetsmyndigheter og journalister arbeidet med å fastslå angriperens identitet og motiv, var konspirasjonsteorier og falske fortellinger allerede i ferd med å spre seg på nettet.
Det var ikke nødvendigvis en utenlandsk aktør som sto bak den opprinnelige falske påstanden.
– Ja, trusselaktørene i Russland er et problem, sier Buvarp.
– Men jeg tror det største problemet er alle de andre.
Et rykte kan oppstå av seg selv. Aktivister eller politiske grupper kan knytte det til en eksisterende misnøye eller konflikt. Folk deler det fordi det passer med det de allerede tror på. En ondsinnet aktør trenger bare å identifisere en nyttig fortelling og forsterke den.
Det skillet er viktig. Organisasjoner forsvarer seg ikke nødvendigvis mot en nøye orkestrert desinformasjonskampanje med en tydelig begynnelse. De opererer i et informasjonsmiljø der spekulasjoner, feilinformasjon, politiske agendaer og bevisst manipulasjon raskt blir uløselig sammenvevd.
Derfor er det også viktig å være tilbakeholdende. Ikke alle uriktige påstander, negative kommentarer eller legitime innvendinger er uttrykk for en påvirkningsoperasjon. Å stemple vanlig uenighet som bevisst manipulasjon kan i seg selv undergrave tilliten.
Det endrer hva som kreves av god krisekommunikasjon.
Det er lett å forstå en tradisjonell tilnærming: først få oversikt over fakta, koordinere internt, avklare responsen med jurister og andre relevante fagmiljøer, og kommunisere når virksomheten er trygg på at informasjonen som gis er korrekt.
Buvarp påpeker at det å vente for lenge kan få negative konsekvenser.
Hvis en organisasjon forblir taus i 24 eller 48 timer mens den arbeider med å få på plass en verifisert fremstilling av hendelsen, vil andre fortsette å fortelle historien uten denne.
Det betyr ikke at man skal spekulere eller gå ut med informasjon som ikke er verifisert. Buvarp peker heller på det etterretningstjenester og mediehus kaller å «vise arbeidet»: å være åpen om hva som er kjent, hva som fortsatt er uklart, hva som etterforskes, og hvordan vurderinger og konklusjoner blir til.
Han viser til hvordan amerikansk etterretning kommuniserte i månedene før Russlands fullskala invasjon av Ukraina. I stedet for å holde vurderingene sine for seg selv, delte de svært detaljert informasjon om hva de observerte og hvorfor de vurderte situasjonen slik de gjorde.
En organisasjon kan kanskje ennå ikke fortelle folk nøyaktig hva som har skjedd, men den kan likevel bidra til at de forstår hva den gjør for å finne svar.
– Den tilliten du trenger i en krise, må bygges på forhånd, sier han.
Arbeidet med å håndtere informasjonskrisen begynner lenge før en hendelse som et utfall, cyberangrep eller mulig sabotasje oppstår.
Buvarp mener at organisasjoner bør se på tillit blant kunder, lokalsamfunn, partnere og andre interessenter som en strategisk ressurs som må forstås, ivaretas og vedlikeholdes. De bør avklare hvilke kanaler folk kan stole på under en hendelse, og inkludere informasjonsmiljøet i kriseøvelser på linje med den operative beredskapen. Og arbeidet bør ikke stoppe når nettverket er oppe igjen.
– Det er viktig å være forberedt på hva som skjer dersom falske forklaringer begynner å sirkulere. Hva hvis noen utgir seg for å representere virksomheten eller ledelsen? Hva hvis eksisterende misnøye eller kritikk plutselig blir knyttet til hendelsen? Hvem skal svare, gjennom hvilke kanaler og hvordan skal innsatsen koordineres? sier han.
Øvelser kan aldri gjenskape en krise slik den faktisk utspiller seg. Men som Buvarp uttrykker det, kan de i det minste bidra til at de rette personene «vet hvem de skal ringe».
Hans kanskje mest kontroversielle råd er også det enkleste.
– Jeg ville tatt ut ordet ‘fakta’ fra alle planer og prosedyrer.
Han hevder ikke at fakta ikke betyr noe, eller at organisasjoner burde formidle informasjon som ikke er korrekt. Poenget hans er at fakta alene ikke er tilstrekkelig.
– Folk vil forsøke å forstå det som skjer. De vil bygge en fortelling rundt en hendelse, enten organisasjonen som er berørt deltar i kommunikasjonen eller ikke. For organisasjoner som forbereder seg på neste krise, innebærer dette en ekstra robusthetsutfordring ved siden av selve gjenopprettingen av systemet: å bidra til at folk forstår hendelsesforløpet mens det fortsatt utspiller seg, avslutter han.