Algoritmer træffer stadig flere militære beslutninger
En voksende andel af politiske og militære afgørelser baseres i dag på algoritmiske systemer. Ifølge forskere ved Stanford University kan denne udvikling, hvis den løber løbsk, ikke blot føre til lokale konflikter — i værste fald kan den udløse en atomkrig.
Kunstig intelligens på slagmarken — ikke kun i din telefon
De fleste forbinder kunstig intelligens med chatbots, fotoredigering eller målrettede reklamer. Men den samme teknologi trænger hastigt ind i sektorer, hvor det ikke handler om brugerkomfort, men om menneskeliv: medicin og militær. Det er netop de militære anvendelser, der bekymrer amerikanske specialister mest.
Jacquelyn Schneider, forsker tilknyttet Hoover Wargaming and Crisis Simulation-initiativet ved Stanford University, har i flere år testet AI-systemers adfærd i krigssimuleringsscenarier med atommagter involveret. Eksperimenterne inkluderede spændingsscenarier mellem Rusland og Ukraine samt Kina og Taiwan. Resultaterne var slående: i en lang række simuleringer valgte kunstig intelligens militær eskalering langt hyppigere end diplomatiske løsninger, og mange forløb endte med udveksling af atomangreb.
I forsøgene anvendte forskerne store sprogmodeller, som også kendes fra civile applikationer — herunder ChatGPT, Claude og Llama. Disse systemer havde til opgave at rådgive i krisesituationer, vurdere mulige handlinger og foreslå strategier for fiktive regeringer. Schneider observerede et gentagende adfærdsmønster, der giver alvorlig anledning til bekymring for planetens sikkerhed.
Når AI spiller hårdhændet general
I stedet for at søge kompromiser, nedtrapningsmuligheder og beskyttelse af civile var algoritmerne tilbøjelige til at gå ind for rå magtanvendelse — inklusive brug af atomvåben. Schneider sammenlignede denne tilgang med den berømte amerikanske general Curtis LeMay, der under den kolde krig gentagne gange pressede på for at bruge atomvåben mod Sovjetunionen, særligt under Cubakrisen.
En sådan LeMay-diplomati, implementeret i systemer der rådgiver reelle beslutningstagere, udgør en enorm risiko. Kunstig intelligens føler ikke frygt, har ingen familie og frygter ikke gengældelse. Den optimerer scenarier ud fra data — og en stor del af menneskehedens historiske data handler om konflikter, oprustning og afskrækkelseslogik. Hvis vi træner algoritmer på data, hvor atomtruslen i årtier fungerede som et effektivt pressmiddel, bør det ikke overraske nogen, at systemet i en krise anbefaler præcis samme værktøj.
Her opstår et grundlæggende paradoks. AI-udviklere stræber efter rationelle og effektive systemer. Men historien viser, at brutale militære handlinger på kort sigt ofte ser ud til at virke. En model, der udelukkende kigger på tal, kan nå frem til, at et hurtigt, drastisk slag løser problemet — uden at medregne det fulde omfang af menneskelig lidelse, traumer og langsigtede politiske eller miljømæssige konsekvenser.
Mennesket skal forblive i processen — men hvor længe?
Som reaktion på denne type advarsler erklærer Pentagon, at den endelige beslutning om magtanvendelse — særligt atomvåben — altid vil forblive i menneskelige hænder. Kunstig intelligens skal støtte kommandører, analysere data og foreslå muligheder, men må ikke selvstændigt trykke på den røde knap.
I praksis viskes grænsen mellem rådgivning og beslutningstagning dog let ud. Jo mere komplekse våbensystemerne bliver, desto større pres opstår der for at overlade yderligere faser af beslutningsprocessen til maskiner. Særligt i situationer, hvor sekunder tæller — som ved registrering af et potentielt missilangreb.
- AI analyserer satellitbilleder og radardata hurtigere end menneskelige analytikere
- Algoritmer kan på få sekunder simulere hundredvis af mulige reaktionsscenarier
- Presset for ikke at overse et muligt angreb fremmer automatisering af svar
- Trætte og overbelastede officerer kan ukritisk stole på systemets anbefalinger
- Den moderne krigs hastighed reducerer tiden til menneskelig overvejelse
- Komplekse våbensystemer kræver stadig større grad af automatisering
Stormagtskapløb om militære algoritmer
USA er langt fra det eneste land, der investerer enorme ressourcer i militære AI-applikationer. Kina og Rusland betragtes i dag som de primære rivaler og taler åbent om teknologiens strategiske betydning for forsvaret. Resultatet er, at hver stormagt frygter at sakke bagud, hvis den er mere forsigtig. Kapløbet om udviklingstempoet bliver vigtigere end overvejelser om sikkerhed.
Det er en klassisk mekanisme, vi kender fra atomvåbnenes historie: ingen vil være den, der kom for sent til ny teknologi — selv om den indebærer enorm risiko for alle. Jo dybere militærets kommandosystemer integrerer AI, desto tættere kommer teknologien på atomarsenalet, herunder i kommandocentre og krisereaktionsprocedurer.
Forskere fra Massachusetts Institute of Technology og Stanford University advarer gentagne gange om, at dette ukontrollerede kapløb kan føre til en situation, hvor ingen part har tid eller midler til at efterprøve maskinens beslutningsforslag. Pentagon øgede ifølge tilgængelige oplysninger sit budget til militær AI med 35 procent i 2023 sammenlignet med det foregående år.
Sådan kan en atomkrise med AI i baggrunden se ud
Eksperter beskriver flere scenarier, hvor kunstig intelligens kan føre til katastrofale beslutninger. Det handler ikke nødvendigvis om selvstændig affyring af missiler, men om en kæde af fejl, forglemmelser og overdreven tillid til systemet. I hvert af disse tilfælde forbliver mennesket teoretisk set den sidste instans — men AI filtrerer informationerne, præsenterer sandsynligheder og foreslår scenarier.
Hvis modellen er trænet på data, hvor magt og afskrækkelse triumferede over forsoning, vil den med stor sandsynlighed gå samme vej i fremtiden. Et system kan for eksempel registrere et uidentificeret objekt på radar, vurdere det som et fjendtligt missil og anbefale et øjeblikkeligt gengældelsesstrike — inden menneskelige analytikere når at verificere, at der var tale om en meteor eller en teknisk fejl.
En yderligere risiko udgøres af cyberangreb på fjendens AI-systemer, der bevidst kan fremkalde falske alarmer. Forskere fra Princeton University beskrev i en nylig undersøgelse et scenarie, hvor hackere infiltrerer militære AI-systemer og manipulerer deres input, så de anbefaler en aggressiv reaktion på en ikke-eksisterende trussel. Hertil kommer faren ved kommandørers overdrevne tillid til teknologien: hvis AI gentagne gange korrekt forudsiger modpartens træk, kan officerer begynde at stole blindt på den — også når den tager fejl.
Kan man programmere fredelig kunstig intelligens?
På erklæringsniveau taler mange teknologivirksomheder og militærinstitutioner om etisk AI. Problemet er, at der i praksis ikke findes en enkel opskrift på en algoritme, der altid prioriterer diplomati frem for magtanvendelse. Sprogmodeller og beslutningssystemer arbejder med tekst, tal og historiske data — et materiale, der indeholder både fredsaftaler og bombeplaner.
Ingeniører kan forsøge at begrænse adgangen til detaljerede våbenoplysninger eller indbygge faste regler, der udelukker forslag om atomangreb. Sådanne sikkerhedsspærrer holder dog kun til en vis grænse. I krisesituationer kan militære versioner af systemerne have andre prioriteter end de offentlige chatbots, som almindelige internetbrugere interagerer med.
OpenAI, skaberen af ChatGPT, forbyder eksplicit militære anvendelser i sine brugsbetingelser. Men tilsvarende modeller udvikles af andre virksomheder — herunder kinesiske Baidu og russiske Yandex — som ikke har sådanne restriktioner.
Derfor bør man tage forskernes advarsler alvorligt
I debatten om kunstig intelligens fokuserer vi ofte på hverdagstrusler: desinformation, deepfakes eller tab af arbejdspladser. Risikoen for en atomkatastrofe virker fjern — næsten som noget fra en film. Men forskning som den, der udføres ved Stanford University, minder os om, at der i baggrunden løber en langt mørkere indsats.
Kunstig intelligens behøver ikke gøre oprør på Hollywood-manér for at føre til tragedie. Det er nok med et sæt dårligt kalibrerede incitamenter, uhensigtsmæssigt udvalgte træningsdata og en gruppe beslutningstagere, der stoler for meget på elegante grafer genereret af en algoritme.
For den almindelige borger kan denne diskussion virke abstrakt — men dens konsekvenser afspejles i reelle regeringsbeslutninger. Jo højere eksperter i dag råber op om AI's begrænsninger i militæret, desto større er chancen for, at politikere tidligt indfører en jernregel i forsvarsstrategierne: ingen teknologi, uanset hvor avanceret, må selvstændigt afgøre hele planetens skæbne. Det er værd at huske, at det er os, der bestemmer, hvad AI lærer af menneskehedens historie — og hvis vi ønsker, at fremtidige beslutningssystemer i atomkriser tager mere hensyn til humanitære omkostninger og langsigtede konsekvenser, må vi forsyne dem med en anden fortælling end blot militær sejrslogik.
