CAVAA

Är medvetenhet nyckeln till bättre interaktioner mellan människa och maskin?

Att ha kunskap är viktigt. Men något man inte ofta tänker på är värdet av att veta vad man inte vet – medvetenhet (eller awareness på engelska). Det är något vi människor och andra levande varelser kan som maskiner är oförmögna till. CAVAA-projektet (Counterfactual Assessment and Valuation for Awareness Architecture) arbetar för att förbättra interaktionen mellan människor och maskiner genom att ta just medvetenheten till hjälp. Genom att förklara hur medvetenhet fungerar i biologiska system hoppas de kunna konstruera det i teknologiska system som robotar och artificiella agenter. Det skulle skapa mer medvetna maskiner med bättre förståelse för sin omgivning.

CAVAA-projektet ska skapa ett tydligt beräkningsramverk med en arkitektur som består av nyckelkomponenter för medvetenhet, som perception, minne, virtualisering, simulering och integration. Forskare i projektet kommer sedan att genomföra experiment med olika scenarier som involverar interaktioner mellan flera människor och artificiella agenter. Till exempel uppgifter som robotsökning, social robotik och riktmärken för datorspel. Projektet syftar till att ta itu med de olika avvägningarna som behöver göras, som att balansera sökeffektivitet och robusthet och samtidigt säkerställa att mänskliga användare accepterar denna "medvetna" teknologi.

Etiken spelar en viktig roll i projektet. Med ett dedikerat ramverk som tar hänsyn till delade ontologier, avsiktskomplementaritet, beteendematchning, empati, relevans av utfall, ömsesidighet, kontrafakta och prognoser mot framtida scenarier. För att se till att de teknologier som utvecklas är pålitliga och utvecklas i linje med EU:s riktlinjer om trustworthy AI. Arbetet leds av forskare vid Uppsala universitets Centrum för forsknings- & bioetik.

Slutprodukten av projektet är interaktioner mellan människa och maskin som präglas av tydlighet, anpassningsförmåga och förståelse. Och kanske en förändring av hur vi ser på relationen mellan människor, andra arter och smarta teknologier – genom att göra det osynliga synligt även för andra.

Besök projektets hemsida