Kronikk
KI i krig er allerede ille nok. Jeg frykter fremtidens bruk blir verre
Den norske allmennheten fortjener en bred debatt om bruk av kunstig intelligens i krig.
120 BARN DREPT: Bildet er fra et klasserom i Shajareh Tayyebeh-skolen i Minab i Iran, etter et amerikansk flyangrep 28. februar. Bruk av kunstig intelligens bidro til at bygningen ble identifisert som et militært mål.
Foto: Vahid Salemi, AP, NTB
Dette er en kronikk. Meninger i teksten står for skribentens regning. Send inn kronikker og debattinnlegg til Forsvarets forum her.
I dagens kriger er et tastetrykk nok til å ta et liv. Distansen mellom den som dreper og den som blir drept er så stor at det blir abstrakt og nærmest uforståelig.
Fjernstyrt droneangrep har vært i bruk siden 2001, men de siste årene har angrepsformen blitt mer og mer dominert av kunstig intelligens.
Dette mener jeg vi må snakke mer om.
Jeg frykter at KI-bruk i krig kan ha enorme konsekvenser for sivile, noe vi allerede har sett.
Jenteskolen i Iran
Tidligere i år gikk USA til angrep på Iran. I februar angrep amerikanske missiler en jenteskole.
Angrepet førte til drap på 158 mennesker, deriblant 120 barn.
En intern granskning viste at skolen var registrert som et militært anlegg. KI-systemet som ble brukt i arbeidet med å identifisere og velge ut mål, fanget ikke opp at den etterretningen var utdatert. Menneskene i beslutningskjeden stolte blindt på KI-systemet og kontrollerte ikke opplysningene godt nok.
Resultatet var at amerikanske missiler traff en jenteskole full av barn.
Dette er bare et eksempel. I fremtiden vil det bli mange flere. Dette tror jeg fordi vi er nå vitne til at store KI-selskap inngår digre avtaler med USA. Nylig inngikk OpenAI, som står bak ChatGPT, en slik stor avtale. Avtalene innebærer massiv bruk av kunstig intelligens i krig og forsvar.
Deres KI kan dermed brukes til å hente inn store mengder informasjon, og identifisere «trusler» mot USA. Slik blir militære handlinger mer automatiserte og effektive.
Beslutninger kan tas raskere, og flere operasjoner kan gjennomføres på mindre tid. Fjernstyrte droneangrep går nå på steroider.
Norge kan ikke se bort
Jeg frykter at jenteskolen i Iran bare er begynnelsen. Og dette er ikke bare et amerikansk problem.
Norge har lenge sagt at vi vil jobbe for internasjonale regler for autonome våpen. I 2020–21 behandlet Stortinget et forslag om at Norge skulle ta en lederrolle i arbeidet for et forbud mot såkalte drapsroboter.
Samtidig tok Hæren i fjor i bruk sin første dronesverm med kunstig intelligens. Vi kan ikke snakke om regulering internasjonalt og tie hjemme.
Derfor ber jeg norsk forsvarsindustri om å gjøre rede for hvordan de bruker KI i våpensystemene sine. Dette er spesielt betimelig gitt tiden vi nå lever i.
Hvor går grensen for hva maskinene får bestemme, og hvor mye kontroll har mennesker? Den norske allmennheten fortjener en bred debatt om KI i krig. Dette burde ikke være noe forbeholdt nisjemedier og konferanser.
Dette må vi alle snakke om. Før neste tastetrykk.
Innlegget er levert i samarbeid med Ung debatt, et selskap som får unge meninger på trykk.
