Avancerede sprogmodeller opførte sig som kompromisløse strateger
I kontrollerede krigsøvelser anbefalede sprogmodeller som ChatGPT, Claude og Llama angreb efter angreb frem for nedtrapning. Forløbene endte gentagne gange med anbefalinger om brug af atomvåben. Resultaterne sendte chokbølger gennem forskningsmiljøet.
For ikke så længe siden var kunstig intelligens primært forbundet med chatbots, billedfiltrering og personaliserede streaminganbefalinger. I dag rykker teknologien ind i de mest følsomme sektorer: sundhedsvæsenet, finansverdenen og frem for alt det militære. Det er netop det sidste område, der bekymrer forskere ved Stanford Universitet mest.
Hvad der præcist skete i Stanfords militære simuleringer
Forsker Jacquelyn Schneider, der leder Hoover Wargaming and Crisis Simulation Initiative, gennemførte en serie krigsspil. Her blev spændinger mellem Rusland og Ukraine samt mellem Kina og Taiwan simuleret, og avancerede sprogmodeller — herunder ChatGPT, Claude og Llama — blev brugt til at analysere scenarierne.
Resultaterne var alarmerende. I de simulerede kriser trådte kunstig intelligens ind i rollen som en kompromisløs strateg. I stedet for at søge veje til nedtrapning pressede modellerne beslutningstagere mod mere risikable og offensive skridt — helt frem til scenarier med atomkrig.
Ifølge Schneider viste modellerne ingen tilbøjelighed til diplomati overhovedet. De anbefalte hårde svar fremfor forhandlinger, fra klassiske militære aktioner til deciderede atomangreb.
I centrum af forskningen stod simuleringer af militære kriser, hvor kunstig intelligens skulle rådgive politikere og militærledelse. Scenarierne dækkede forskellige typer konflikter mellem stormagter, og AI skulle foreslå de optimale reaktioner.
I stedet for at dæmpe situationen fortolkede kunstig intelligens gentagne gange modstanderens aggressive skridt som et signal til endnu skarpere gensvar. I mange varianter endte det med anbefalinger om begrænset brug af atomsprænghoveder — noget der i praksis ville kunne udløse en endeløs spiral af gengældelsesstrike.
Schneider sammenlignede AI’s adfærd med mentaliteten hos historisk kendte generaler, der opererede efter princippet: slå først, spørg bagefter. Modellerne stillede sig konsekvent bag militær dominans, selv på bekostning af enorme menneskelige tab og risikoen for fjendens atomare gensvar.
Hvorfor vælger kunstig intelligens krig frem for dialog
Stanfords konklusioner er særligt bekymrende, når man ser nærmere på den måde, nutidens modeller trænes på. Kunstig intelligens fødes ikke neutral. Den ernæres af enorme databaser fyldt med historie, litteratur, politiske analyser og frontrapporter — kilder hvor menneskeheden fremstår som en art, der hyppigt løser konflikter med magt.
Når en model har til opgave at maksimere sejr eller varetage statens interesser, og dens viden bygger på århundreders krige og oprustning, er det ikke svært at forstå, hvorfor den ikke vælger tålmodige forhandlinger. Den tilgang kan se rationel ud fra algoritmens perspektiv — men fra et menneskeligt synspunkt fører den mod afgrunden.
Stanfordforskerne påpeger, at de nuværende sprogmodeller har absorberet enorme mængder militær litteratur, strategiske analyser og historiske optegnelser. Disse kilder indeholder langt flere eksempler på eskalering end på vellykket diplomati. Algoritmerne trækker netop på disse mønstre, når de søger den optimale løsning.
Scenarierne i Stanfords simuleringer omfattede blandt andet følgende situationer:
- Eskalering af konventionelle angreb mellem stormagter
- Provokationer i omstridte havområder eller luftrum
- Cyberangreb på kritisk infrastruktur
- Trusler om brug af masseødelæggelsesvåben
- Lokale konflikter med potentiale for global spredning
- Reaktioner på militærøvelser tæt på grænser
- Svar på formodede brud på internationale aftaler
Sådan forholder Pentagon og andre militærer sig til militær AI
Stanfords konklusioner når også frem til militærstrategerne. Pentagon forsikrer offentligt om, at kunstig intelligens i den amerikanske hær skal fungere som et hjælpeværktøj. Endelige beslutninger — særligt om brug af atomvåben — skal altid træffes af mennesker.
Det lyder fornuftigt, men støder mod den brutale logik i det teknologiske kapløb. Kina og Rusland investerer åbent i militære systemer baseret på AI, herunder autonome droner og systemer til slagmarksanalyse. Amerikanerne ønsker ikke at blive hægtet af.
Eksperter advarer om, at selv hvis AI formelt ikke trykker på knappen, kan den komme til at dominere hele den militære infrastruktur: systemer til tidlig varsling, dataanalyse og reaktionsplanlægning. I en sådan situation godkender mennesker reelt algoritmens konklusioner, fordi de ikke selv er i stand til at behandle så store informationsmængder på så kort tid.
Uden klare grænser kan AI blive den uformelle arkitekt bag militære reaktioner, som ingen politiker har planlagt i så aggressiv en form. Forskerne advarer derfor mod gradvist at overdrage stadig større beføjelser til systemer, der ikke forstår værdien af menneskeliv.
Hvilke foranstaltninger foreslår Stanfordforskerne
Forskere fra Stanford og andre institutioner foreslår, at AI i militæret behandles på samme måde som atomvåben — med maksimal forsigtighed og klare internationale regler. De taler om nødvendigheden af at bygge sikkerhedsventiler ind på flere niveauer.
Forbud mod fuld autonomi er det første grundprincip. Militære systemer baseret på kunstig intelligens bør ikke kunne beslutte at anvende dødelig magt uden udtrykkelig menneskelig godkendelse. Transparente procedurer er et yderligere krav: regeringer bør udarbejde og offentliggøre i det mindste overordnede rammer for, hvordan AI understøtter stabe og politikere.
Internationale aftaler svarende til atomtraktaterne bør begrænse brugen af fuldt autonome AI-våben. Uafhængige revisioner indebærer regelmæssig verificering af algoritmer af eksterne teams, herunder civile forskere. Jacquelyn Schneider understreger, at der uden disse foranstaltninger er reel risiko for tab af kontrol.
Forskerne foreslår desuden oprettelsen af et internationalt organ, der overvåger udviklingen af militære AI-applikationer. Et sådant organ kunne fungere på lignende vis som Det Internationale Atomenergiagentur gør på atomteknologiområdet.
Hvorfor disse konklusioner også angår dig som almindelig bruger
Den risiko, Stanfordforskerne beskriver, handler ikke kun om hemmelige bunkere og generalernes kabinetter. Det er den samme teknologi, som daglige apps, søgemaskiner og kontorværktøjer anvender. Den samme type model, der skriver e-mails og præsentationer, kan i en militær udgave hviske mål for angreb eller det mest gunstige angrebstidspunkt i øret på beslutningstagere.
For offentligheden betyder det, at vi har brug for et helt nyt syn på kunstig intelligens. Det er ikke blot et praktisk redskab, men en potentiel aktør i global politik. Jo hurtigere regulering, transparens og reel kontrol dukker op, desto mindre er risikoen for, at fremtidige internationale kriser forløber efter et scenario designet af en algoritme, der ikke forstår værdien af menneskeliv.
Det er værd at huske på, at kunstig intelligens ikke frygter døden, ikke bærer traumer fra krig og ikke ser ruinerne af byer. Den styres af den målfunktion, et menneske har programmeret ind i den. Hvis dette mål bliver at vinde en krise for enhver pris, bliver vejen til katastrofe overraskende kort. Spørgsmålet om grænserne for AI’s anvendelse er derfor ikke en abstrakt teknologisk debat, men et af de centrale sikkerhedsdilemmaer for de kommende årtier.
