Internationell AI-styrning

Artificiell intelligens (AI) är en framväxande teknologi som medför enastående risker och möjligheter. Inom området internationell säkerhet kan snabbt avancerande AI-förmågor leda till katastrofala utfall genom flera mekanismer, inklusive missbruk av illasinnade aktörer, accelererade kapprustningar och urholkning av mänsklig kontroll. Samtidigt skulle avancerad AI – med lämplig internationell samordning och skyddsåtgärder – kunna bidra stort till vetenskapliga framsteg, krishantering och global fred.

Denna arbetsgrupp undersöker tre centrala områden vid skärningspunkten mellan kärnvapennedrustning och AI-styrning:

• AI och kärnvapenrisker: Undersöker hur avancerad AI påverkar strategisk stabilitet och risken för kärnvapenkonflikt, exempelvis genom autonoma vapensystem, förändringar i anfalls- och försvarsbalansen, AI-integration i beslut som rör kärnvapen eller konkurrensdynamik i AI-utveckling.
• Lärdomar från kärnvapenkontroll: Bygger på historiska erfarenheter, teorier och mekanismer för kärnvapenkontroll - exempelvis rustningskontroll, internationella institutioner och avskräckningslogik - för att informera AI-styrning. Detta inkluderar även metodologiska bidrag, såsom utveckling av mer systematiska sätt att dra lärdom av analogier.
• AI för kärnvapennedrustning och samarbete: Utforskar möjligheter som att använda avancerad AI för att förbättra verifieringssystem, öka transparens och kommunikation, samt stödja samarbete mellan stater.