Utnyttja fördelarna med interaktioner mellan människan och AI i ostrukturerat beslutsfattande: sökande efter faktorer som bestämmer prestationerna

Namn: Darek M. Haftor och Sandra Bergman

Projekttitel: Utnyttja fördelarna med interaktioner mellan människan och AI i ostrukturerat beslutsfattande: sökande efter faktorer som bestämmer prestationerna

Institution: Institutionen för informatik och media

Forskningsområde: Informationssystem

Projektsammanfattning

I detta forskningsförslag fokuserar vi på prestationsfördelar från användning av artificiell intelligens (AI). Vårt fokus handlar om att identifiera faktorer som bestämmer beslutsfattandeprestationer när människor och AI arbetar tillsammans i ostrukturerade beslutssituationer. Dokumentet inleds med en introduktion till ämnet och den valda forskningsinriktningen, följt av en detaljerad beskrivning av målen för AI4-sabbatsarbetet.

Forskningsprojektets fokus

Även om företag och statliga organisationer ökar sina investeringar i olika typer av AI-system, saknas det kunskap om hur man ser till att användningen av AI-tillämpningar är fördelaktig. Det avsedda resultatet av denna föreslagna forskning förväntas ge vägledning i användningen av AI i komplexa ostrukturerade beslutsfattandesituationer.

AI har börjat användas på områden som logistik, industriverksamhet och tjänsteområden såsom bank, finans och försäkring. Intill nyligen har användningen av AI främst avsett strukturerade situationer. I sådana situationer är arbetsprocesser och beslutsfattande repetitiva och lätta att förstå, med exempel som robotteknik inom biltillverkningen och automatisering av försäkringsanspråk och låneansökningar. Sådant rutinmässigt beslutsfattande kännetecknas av entydiga resultat, insatser och regler för beslutsfattandeprocessen. Dessa kännetecken gör det möjligt att automatisera de strukturerade arbetsprocesserna och de tillhörande besluten och därmed ersätta människors beslutsfattande med beslut som fattas av maskiner.

Förutom denna etablerade men ändå begränsade användning av AI i strukturerade situationer, har försök gjorts nyligen på att låta AI stödja eller förstärka människors beslutsfattande i ostrukturerade situationer. Exempel från verkliga livet omfattar Unilevers rekryteringsprocess, Netflix beslut om handlingen i filmer och om regissörer och skådespelare och Pfizers aktiviteter kring upptäckt och utveckling av läkemedel. Ostrukturerat beslutsfattande kännetecknas av tvetydiga och/eller föränderliga mål och beslutskriterier, där det krävs att en människa fattar ett beslut som avslutar beslutsfattandeprocessen.

Det finns tre inflytelserika böcker om användningen av AI i beslutsfattande som kan ge normativ vägledning kring hur AI kan förbättra de organisatoriska prestationerna: Brynjolfsson och McAfee (2014), Daugherty och Wilson (2018) samt Davenport och Kirby (2016). I dessa böcker antyder man att användningen av AI i förstärkt ostrukturerat beslutsfattande är en större fördel för organisationer än enbart automatisering av strukturerade processer. Följaktligen kommer Microsoft ”att etablera intelligens som förstärker människans förmåga och erfarenheter. I slutändan kommer det inte att handla om människan kontra maskinen”. På samma sätt hävdar Deutsche Telekom i inledningen till sina AI-riktlinjer att ”syftet med AI är att utvidga och komplettera människans förmåga snarare än att reducera eller begränsa dem”, medan IBM bekräftar att ”syftet med AI och kognitiva system som utvecklas och tillämpas av IBM är att förstärka människans intelligens”.

Hur välmenta dessa avsikter än är så är extrapoleringar som bygger på isolerade laboratoriestudier inte tillräckligt tillfredsställande eller rigorösa. Det finns för närvarande inget avgörande bevis från verkliga livet som visar att AI-förstärkta beslutsfattandeprocesser får bättre resultat än ostrukturerade beslut som fattas enbart av människor. Vi vet för lite om de tillfälliga faktorer som bestämmer hur framgångsrika AI-förstärkta beslut blir. De viktigaste målen för den avsedda empiriska forskningen är därför (a) att tillhandahålla rigorösa empiriska bevis för att AI-förstärkt beslutsfattande i ostrukturerade situationer överträffar människors beslutsfattande och (b) att identifiera de faktorer som bestämmer hur väl AI-förstärkt beslutsfattande lyckas. Om vi uppnår dessa mål kommer vi att utöka den för närvarande begränsade kunskapsbasen på det här området och kommer att tillhandahålla viktig normativ vägledning för organisationer kring användningen av AI-tillämpningar.

Den forskningsriktning som anges här bygger på vårt senaste projekt som tilldelades utmärkelsen ”2019 Best Paper” från Strategic Management Society för sin identifiering av kontraintuitiva prestationer i AI-förstärkt beslutsfattande i ostrukturerade situationer. Studien, där PostNord var en av sponsorerna, bygger på ett kvasinaturligt experiment, där en grupp säljare på ett företag presterade avsevärt mycket bättre i sitt säljbeslutsfattande när de fick hjälp av ett AI-stödsystem utformat för att tillhandahålla flera kompletterande faktorer. Detta åstadkoms genom att matcha beslutsfattarens kognitiva stil med två faktorer: sättet att presentera informationen på som tillhandahålls av AI-systemet och sättet att utföra arbetet på, där den aktuella personen utför arbetsuppgifter, använder AI-systemet och fattar beslut. Allt detta jämfördes med tre kontrollgrupper. Två grupper använde samma AI-system utan att använda de kompletterande faktorerna, medan den andra gruppen använde ett äldre beslutsfattandesystem utan AI. Resultaten visar att gruppen som använde kompletterande faktorer klarade sig bäst. Förvånansvärt nog visar resultatet också att gruppen utan AI-system presterade bättre än de två grupperna med AI-system som inte matchas med kompletterande faktorer.

På det hela taget visar studien att AI-förstärkt beslutsfattande betingas av ett antal faktorer som måste komplettera varandra för att generera önskat resultat. Denna slutsats visar alltså att en organisation – företag, sjukvårdsinstans eller statlig myndighet – som investerar i en felaktigt konfigurerad användning av ett AI-system faktiskt klarar sig sämre än om de inte gjorde en sådan investering och arbetade som vanligt. Trots att studien bryter ny mark har den vissa begränsningar, eftersom den bortser från två välbestyrkta faktorer som bestämmer hur väl en person kan fatta beslut (dvs. beslutsfattarens motivation och beslutskompetens). Under min AI4Research-sabbatsperiod kommer jag att förbereda en empirisk studie som ska överbrygga den klyftan.

Syfte och mål med min AI4Research-sabbatsperiod

Mot bakgrund av ovanstående är det övergripande syftet med min AI4Research-sabbatsperiod att förbereda ovan nämnda forskning. Syftet ska uppnås genom att förverkliga följande mål för sabbatsperioden:

Att visa den här antagna forskningsriktningen för mina AI4Research-kollegor
Att etablera ett forskarnätverk inom AI4-kontexten
Att etablera ett forskningsteam för ett gemensamt forskningsförslag
Att etablera samarbete med ett eller flera industriföretag som vill delta i en empirisk studie
Att utveckla ett komplett projektförslag för en empirisk studie som handlar om att undersöka användningen av AI-förstärkt beslutsfattande i ostrukturerade situationer
Att lämna in forskningsförslaget till ett eller flera finansieringsorgan
Att ta fram detaljerade mätinstrument för insamling av data under utförande av den empiriska studien

Den här antagna forskningsinriktningen innehåller teoretiska komponenter från olika vetenskapsgrenar, såsom psykologi, socialpsykologi, sociologi, informationssystem och AI samt kostnads- och intäktsanalys. Uppsala universitets AI4Research-initiativ med kollegor från olika vetenskapsgrenar fungerar därför som en viktig intellektuell miljö för etableringen av ett framgångsrikt forskningsprojekt, såsom det föreslås här. AI4Research-kollegorna kan komplettera det nuvarande initiativet (i) med ytterligare teoretiska komponenter som är relevanta för denna forskningsriktning, (ii) med information om hur olika teoretiska faktorer kopplas samman till ett sammanhängande ramverk, och sedan (iii) hur man praktiskt använder dessa teoretiska komponenter i en empirisk studie. Fördelen med AI4Research-initiativet gäller också åt andra hållet, eftersom detta forskningsförslag kommer att informera forskningskollegorna om den senaste tekniken inom AI-forskningen som fokuserar på att utforska driftmekanismer som genererar värde från användningen av AI-system.

Förutom mig själv omfattar denna ansökan även Sandra Bergman, en forskarstuderande från Institutionen för informatik och media. Hennes forskning samfinansieras av institutionen och Swedish National Research School on Management and Information Technology. Hon intresserar sig främst för utförande av beslutsfattandeprocesser i virtuella team, där minst en beslutsaktör är en AI-applikation, till exempel Googles nuvarande användning av AI-systemet Deep Mind som hjälper vetenskapsmän världen över att samarbeta för att förstå det förödande coronaviruset.