Arbetsgrupp 8: Internationell AI-styrning

Alva Myrdal-centrum för kärnvapennedrustning är glada att kunna tillkännage bildandet av en ny arbetsgrupp fokuserad på AI-styrning inom ramen för kärnvapennedrustningsforskning.

Denna grupp kommer att undersöka riskerna på samhällsnivå av avancerad AI, och dra paralleller med kärnteknikens transformativa karaktär och karaktär av att kunna användas både militärt och icke-militärt. Även om riskerna förknippade med AI och kärnvapen är olika, finns det betydande överlappningar, särskilt när det gäller existentiella hot, militära tillämpningar och utmaningar kopplade till styrning. Riskerna förknippade med avancerad AI och kärnvapen är sammanlänkade, där utvecklingen inom en av dessa domäner potentiellt förstärker farorna i den andra. Samtidigt kan lärdomar från de styrningsramverk som upprättats för kärnvapen erbjuda värdefulla insikter för att hantera spridningen av farliga AI-förmågor.

Preliminära forskningsområden

• AI och risken för kärnvapenkrig: Undersöka hur AI kan öka risken för kärnvapenkonflikt, bland annat genom förbättrade vapensystem, sammanbrott av kärnvapenavskräckning eller de destabiliserande effekterna av stormaktskonkurrens inom AI-utveckling.
• Stormaktskonkurrens och AI-risker: Utforska hur konkurrens mellan kärnvapenmakter och geopolitiska spänningar skulle kunna förvärra riskerna förknippade med avancerad AI, särskilt genom effekterna på internationellt samarbete, vetenskapligt samarbete och regelverket för AI-säkerhet.
• Lärdomar från kärnkraftsstyrning: Undersöka hur befintliga kärnkraftsstyrningsmodeller – såsom vapenkontrollavtal, internationella verifieringsmekanismer och multilateralt samarbete – kan bidra till utvecklingen av styrningsramar för AI.

Denna arbetsgrupp syftar till att bidra till den globala dialogen om AI och kärnkraftsstyrning, genom att erbjuda insikter i hur man kan minska risker och främja stabilitet i ett snabbt föränderligt tekniskt landskap.