En kontraktsfestet rett til videre drift er sårbar hvis bare leverandøren vet hvordan driften skal gjennomføres.
PROSESS: Et valg legger føringer for senere valg, selv om en kontrakten gir oss anledning til å bytte.Foto: Krister Sørbø, Forsvarets forum
Christian Berg-JensenChristianBerg-JensenKommandørkaptein, Forsvarsstaben
Publisert
Dette er en kronikk. Meninger i teksten står for skribentens regning. Send inn kronikker og debattinnlegg til Forsvarets forum her.
Dette er den andre kronikken i en serie på tre om KI. Les del én her. Du finner kilder og referanser nederst i kronikken.
Annonse
Når militære beslutninger blir avhengige av maskinell bearbeiding, må prosesseringsevnen utvikles og forvaltes som en kapabilitet. Vi må også sikre rådighet over den. Ellers kan vi beholde både dataene og beslutningsmyndigheten, mens forutsetningene for å bruke dem ligger hos andre.
Sikkerhetstiltak som står i veien for dette, påfører oss dermed en militær kostnad som ikke alltid er like lett å få øye på.
Dette er likevel bare en del av det som ligger bak begrepet need-to-process.
Som mennesker har vi alltid bearbeidet informasjon, og vår evne til avansert prosessering av tilgjengelige data – med en kalkulert fremskrivning av sannsynlige utfall – er på mange måter det som skiller oss fra andre dyr.
Forskjeller i denne evnen kan gi svært ulike resultater, fra alvorlige feilvurderinger til vitenskapelige gjennombrudd.
Tilsvarende er det også for organisasjoner: evnen til å prosessere informasjon og omsette den til beslutninger og handling kan gi et betydelig fortrinn. Hva skjer da når informasjonstilfanget overstiger det vi klarer å bearbeide?
Spørsmålet er allmenngyldig, men vi avgrenser det her til militær kontekst.
Denne artikkelen undersøker derfor behovet for prosessering, hva det krever av Forsvarets evne, og hvilken rådighet vi må ha over den.
Bearbeiding som forutsetning for handling
I Forsvaret har informasjonsbehandling alltid vært spesiell. Behovet for hemmelighold av visse typer informasjon ligger som ryggmargsrefleks hos enhver offiser, samtidig som metoder for bearbeiding er blitt strukturert og institusjonalisert gjennom ulike stabsprosesser.
Der ligger da også selve hensikten med en stab – å utvide evnen til å forstå utover det en enkelt person kan makte.
Herbert Simon pekte allerede i 1971 på at et rikt informasjonstilfang gjør mottakernes oppmerksomhet til en knapp ressurs. 1 Vi kan samle inn og lagre langt mer enn vi rekker å lese. Arbeidsdeling hjelper, men skaper også behov for sammenstilling.
Flere analyser gir med andre ord ikke et samlet bilde før noen har vurdert hvordan de henger sammen.
Det er altså fullt mulig å øke tilgangen på informasjon uten å forbedre forståelsen. Når mengden og antallet mulige forbindelser øker, kan viktige sammenhenger bli liggende utenfor det staben rekker å behandle. Da er det vår samlede evne til bearbeiding som setter grensen for beslutningsgrunnlaget.
Kostnaden kan være vanskelig å oppdage, fordi ingen vet sikkert hva en grundigere analyse ville ha avdekket.
Dette viser seg i praksis når korte tidsfrister og begrenset stabskraft fremtvinger en «godt nok»- tilnærming. Godt nok vil åpenbart alltid være godt nok, men spørsmålet er om ikke begrepet ofte heller skjuler en «dette var det vi fikk til»-løsning.
Behovet består uavhengig av kapasitet
Need-to-process setter navn på dette vedvarende behovet for å bearbeide informasjon til tilstrekkelig forståelse for beslutning og handling. Uavhengig av vår kapasitet må den militære oppgaven fortsatt løses.
Vi kan kompensere med bedre prosesser eller mer personell, men hvis behovet for bearbeiding overstiger organisasjonens evne, må vi enten akseptere at beslutningsunderlaget vårt blir svakere, eller utvide kapasiteten. Kunstig intelligens (KI) gjør her sin inntreden, ved at den – brukt riktig – gjør det mulig å opprettholde eller forbedre bearbeidingen som beslutningene bygger på.
Det forutsetter at støtten faktisk avlaster oss. En løsning som produserer hundre analyser på tiden vi tidligere brukte på én, er av begrenset verdi dersom alle hundre må leses før vi kan si noe om situasjonen.
Simon var også opptatt av dette: Informasjonssystemene må vurderes etter hva de krever av mottakernes oppmerksomhet. 1 For en stab er gevinsten at vesentlige forhold blir lettere å finne og vurdere, uten at oversikten går tapt.
KI: Dersom kunstig intelligens klarer 100 oppgaver på tiden vi klarer en, er verdien fortsatt begrenset hvis et menneske må gå gjennom alle 100.Illustrasjonsbilde: Kjersti Binh Hegna, Forsvarets forum
Vi bruker gjerne «KI» om støtten, men nytten forutsetter en fungerende kjede fra datatilgang til anvendelse av resultatene. Det er denne kjeden Forsvaret må kunne stille til rådighet. Hvor god en enkelt modell er, sier bare noe om én del av den.
Prosessering som militær kapabilitet
I Natos arkitekturrammeverk defineres en kapabilitet som evnen til å oppnå en ønsket effekt under angitte standarder og forhold. 2 Evnen realiseres altså gjennom en kombinasjon av ressurser og måter å anvende dem på.
For prosesseringens del må denne samlede evnen vurderes ut fra hva den tilfører beslutningsgrunnlaget, og hvor raskt det blir anvendelig.
Dette omfatter hele bearbeidingen, fra innhenting til sammenstilling og menneskelig vurdering. Regnekraft og modeller bidrar, men personellet må kunne bruke resultatene i arbeidet sitt. Gevinsten avhenger derfor også av kompetanse og organisering. Forsvarsdepartementets KI-strategi beskriver allerede mange av disse forutsetningene. 3
Det er denne samlede evnen som gir grunnlag for å behandle prosessering som en militær kapabilitet. Når bearbeidingen blir avhengig av maskinell støtte, blir teknologien en del av det Forsvaret trenger for å forstå og løse oppgavene sine. Svikt i støtten kan da svekke beslutningsevnen, selv om sensorene fortsatt samler inn informasjon.
Prosesseringsevne vil inngå i flere militære kapabiliteter, og flere anvendelser kan være avhengige av samme infrastruktur eller fagmiljø. Begrensninger eller svikt i disse kan derfor ramme flere militære evner samtidig.
Det taler for å betrakte prosesseringsevnen som en felles, muliggjørende kapabilitet, på samme måte som samband understøtter mange oppgaver uten selv å være hensikten med dem.
Det innebærer at vi i Forsvaret må ta et samlet ansvar for evnen vi gjør oss avhengige av – også når deler av den leveres av andre.
Leverandørvalg og handlefrihet
Vi kan eie dataene og beholde beslutningsmyndigheten, samtidig som evnen til å bruke dem avhenger av en bestemt leverandør. Denne avhengigheten kan vare langt utover den første kontrakten.
For om lag tjue år siden bestemte jeg meg for å digitalisere CD-samlingen min, slik at jeg kunne ta med meg store mengder musikk på det overlegne mediet MiniDisc.
Jeg brukte uker på å «rippe» hundrevis av CD-er til Apples iTunes og lage nøye kuraterte samlinger – langt mer praktisk og robust enn den gamle Discman-en tillot.
Da Spotify kom, var utsikten til å bygge opp biblioteket og spillelistene mine fra grunnen av nok en gang lite fristende. Et bytte var ikke umulig, men arbeidet det ville kreve, gjorde at jeg ble værende. Fenomenet kalles «lock-in», og talende nok bruker jeg fremdeles iTunes.
I Forsvaret kjenner vi denne problemstillingen fra SAP. Onde tunger ville i sin tid ha det til at siden det ikke var mulig å tilpasse den valgte SAP-løsningen til lovverket, måtte vi tilpasse lovverket til SAP istedenfor.
Overdrivelse eller ikke, evalueringen av LOS-programmets Logistikkprosjekt fra 2020 beskrev hvordan samlingen av flere virksomhetsområder i én løsning gjorde Forsvaret mer avhengig av leverandøren. Kostnaden ved å bytte var så høy at alternativene fikk liten troverdighet i forhandlingene.
Forsvaret anerkjente selv at dette hadde svekket forhandlingsposisjonen overfor SAP. 4 Når datakilder og arbeidsprosesser først er knyttet sammen i en plattform, kan et leverandørbytte kreve omfattende endringer i virksomheten.
Det første valget legger dermed føringer for senere valg, selv om kontrakten gir oss anledning til å bytte.
Natos «Maven Smart System» aktualiserer dette. Systemet leveres av programvareselskapet Palantir og er en KI-støttet plattform for kommando og kontroll, hvor informasjon fra ulike kilder sammenstilles til støtte for militære vurderinger og beslutninger. 5
Palantirs dokumentasjon beskriver koblinger mellom data, modeller, tilgangsregler og arbeidsprosesser. 6
LEVERANDØRVALG: Valget av leverandør, kan ha stor betydning for senere valg, skriver kronikkforfatteren. Bildet er kun for illustrasjon.Foto: Krister Sørbø, Forsvarets forum
Slike koblinger illustrerer hvordan en plattform kan bli krevende å erstatte, også når dataene kan flyttes. At Maven støtter flere KI-modeller, blant andre fra Mistral og Meta, 7 gir valgmuligheter inne i plattformen, men det sier likevel lite om hva det vil kreve å erstatte selve plattformen.
Leverandørvalget kan dermed få betydning for vår militære handlefrihet lenge etter at anskaffelsen er gjennomført.
Suverenitet over evnen til å orientere seg
Suverenitet handler i denne sammenhengen om at vi kan fortsette å danne og bruke vårt eget beslutningsgrunnlag. Vi må kunne bestemme over anvendelsen av prosesseringsevnen og ha praktiske forutsetninger for å gjennomføre det vi bestemmer.
En kontraktsfestet rett til videre drift er sårbar hvis bare leverandøren vet hvordan driften skal gjennomføres.
Konkurs, endret eierskap, kompetanseflukt, nye sikkerhetspolitiske rammer – det er en rekke scenarioer hvor en kontrakt til syvende og sist ender opp med å være lite annet enn ord på et papir.
Rådigheten gjelder også vår evne til å vurdere resultatene. Hvilke kilder er brukt; hva er valgt bort; hvordan er opplysningene sammenstilt?
Vi trenger egen kompetanse og tilgang til kildegrunnlaget for å kunne undersøke slike spørsmål. Hvis vi bare kan ta imot leverandørens vurderinger, blir også vår vurdering av beslutningsgrunnlaget avhengig av leverandøren.
Evnen må dessuten kunne utvikles. Systemet kan fortsatt være i drift selv om modellen ikke lenger fungerer godt på dataene den møter. Motstanderen tilpasser seg, og våre behov kan endre seg. Vi må kunne få nødvendige endringer gjennomført mens de fortsatt har militær verdi.
Tiden fra en svakhet er avdekket til en endring er godkjent for bruk, får dermed betydning for beredskapen.
Denne rådigheten kan sikres også når andre leverer teknologien eller utfører deler av arbeidet. Det krever rettigheter, egen kompetanse og reelle alternativer. En kommersiell tjeneste kan gi rask tilgang til bedre teknologi, samtidig som videreutviklingen følger leverandørens prioriteringer.
Egen drift gir oss større innflytelse over utviklingen, men krever ressurser til å holde løsningen relevant. Det er ingen gevinst i å kontrollere en evne som ikke lenger er god nok for oppgaven.
Spørsmålet om rådighet gjelder også i alliert samarbeid. En felles evne kan gi større kapasitet og sterkere fagmiljøer. Norges adgang til å bruke evnen og innflytelse over prioriteringene må være avklart, sammen med muligheten for videre drift.
Ordningene må gi tilstrekkelig nasjonalt handlingsrom også når landenes behov konkurrerer.
Konklusjon
Behovet for å bearbeide informasjon har alltid vært der. Det vi militært hittil har løst gjennom menneskelig vurdering og etablerte stabsprosesser, må nå kunne understøttes maskinelt der omfanget krever det.
Need-to-process synliggjør behovet som består, også når den vante måten å møte det på ikke lenger er tilstrekkelig.
Forsvaret må derfor utvikle prosesseringsevnen som en militær kapabilitet og sikre tilstrekkelig rådighet over den. Vi må kunne bruke og fornye evnen, og ha alternativer dersom viktige leveranser faller bort.
Ellers kan beslutningsmyndigheten fortsatt være vår, mens forutsetningene for å bruke den ligger hos andre.
Kilder og referanser
1. Simon, H. A. Designing Organizations for an Information-Rich World. I M. Greenberger (red.), Computers, Communications, and the Public Interest. Johns Hopkins Press, 1971. https://gwern.net/doc/design/1971-simon.pdf
