KI-feil gjorde kinesisk skip til militært mål

Det amerikanske militæret var før sommeren nær ved å gå til aksjon mot et kinesisk skip i Midtøsten, etter at lasten ble identifisert som utstyr til å lage atomvåpen.

Det skriver CNN. Etterretningsrapporten om det kinesiske skipet førte ifølge CNN til at amerikanske styrker forberedte seg på å borde skipet, mens militærfly ble sendt i luften.

Operasjonen ble avblåst kort tid før den skulle settes i gang, etter at amerikanske etterretningsfolk oppdaget at rapporten var utarbeidet ved hjelp av kunstig intelligens (KI).

Det amerikanske militæret bruker KI på stadig flere områder, blant annet til å analysere etterretningsdata og velge ut mål.

Ifølge en kilde til CNN understreker hendelsen risikoen ved å bruke KI på denne måten.

– Bruken av KI i målutvelgelse er definitivt økende, og det finnes ingen tydelige retningslinjer for hvordan menneskelig kontroll skal kunne forhindre sivile tap eller at egne styrker blir rammet, sier kilden.

I etterkant har USA og Kina jobbet med hvordan de kan varsle hverandre om sikkerhetsrelaterte KI-hendelser. 

– Vi vil begynne å diskutere prosedyrer, slik at begge parter kan bli enige om hva de viktigste KI-farene er, sa USAs finansminister Scott Bessent til CNBC.

Les også

KINA

Brukte amerikanske KI-modeller

USA

Oppfordrer til å bruke kunstig intelligens

Forsvarsdepartementet

Ser på tilgang til ukrainske krigsdata