AI räddar fler liv än läkare – men skapar nya problem

Charlotte Blease har undersökt hur mycket generativ AI används inom vården redan idag. Studier visar att fler läkare än man kan tro använder sig av de nya AI-verktygen i sitt dagliga arbete. Anledningen är att det idag finns stora begränsningar inom hälso- och sjukvården, där AI kan vara till hjälp, menar hon.

– I boken ställer jag frågan: Även om vi har det bäst finansierade hälso- och sjukvårdssystemet i världen, skulle det fortfarande finnas begränsande faktorer när det gäller vad människor kan göra? Och sedan försöker jag titta på är hur AI skulle kunna hantera några av dessa utmaningar.

Patientens väg genom vården

Hon har analyserat patientens resa i vården. Från symtom, till att boka en tid, gå till läkaren och prata om det. Sedan använder läkaren sin kunskap och expertis för att ta reda på vad som är fel och behandlar patienten. Men det finns flera hinder på vägen.

Till exempel utsätts läkare för höga stressnivåer, ett ökande antal patienter och en ständig utveckling av medicinsk kunskap. Samtidigt bär de, som alla människor, på fördomar av olika slag som påverkar den vård patienterna får.

– Jag kom fram till att AI har en enorm potential, eftersom människor på vissa sätt är mycket begränsade inom medicinen, och det är en enorm kamp för läkarna att uppfylla förväntningarna. Men det är inte den enda motiveringen för eller utmaningen med AI.

Fördelar och farhågor

Charlotte Blease ser det hela från två olika håll. Hon vill undvika en alltför utopisk syn på AI, men också en alltför dystopisk syn.

– Det finns mycket att frukta och oroa sig för när det gäller AI, men det finns också mycket som AI kan göra för mänskligheten. För att få ut det bästa av AI, behöver vi inse att det måste balanseras med integritet. Det handlar till exempel om regulatoriska frågor, miljökostnader och växande ojämlikhet. Vad händer med de jobb som vissa av dessa verktyg kan ta över?

Forskning i olika länder

Boken bygger på forskning i olika länder, bland annat vid Uppsala universitet, dit Charlotte Blease kom för tre år sedan. Här i Uppsala har hon bland annat studerat online-åtkomst till journaler och användningen av generativa AI-verktyg som ChatGPT av läkare i Storbritannien.

– Jag tror många blev förvånade över hur omfattande användningen är. Vi har också studerat hur AI-verktyg kan användas för att göra journaler mer tillgängliga och empatiska. En intressant studie visade att Chat GPT kunde infoga tecken på empati på ett sätt som vi inte alls hittade några spår av i dokumentationen som skrivits av mänskliga läkare.

Bakgrund inom filosofi

Charlotte Blease har en bakgrund som universitetslektor i filosofi i Storbritannien, men gick sedan vidare till medicinska fakulteter. Numera är hon docent i hälsoinformatik.

Varför är det här viktig forskning?

– Vi behöver ha en debatt om framtiden för hälso- och sjukvården. Och vi måste verkligen ta ställning till användningen av dessa verktyg. Vi vet att patienter använder generativa AI-verktyg som ChatGPT. Men vi vet också från vår forskning att läkare använder dessa verktyg. Så vi måste vakna upp och inse det här – även om det innebär obekväma debatter.

Nya typer av yrken

Det handlar till exempel om säkerhetsåtgärder och hur man integrerar verktygen i arbetsflöden inom vården. Behövs det nya typer av yrken och professionella relationer? Vilken identitet kommer läkare att ha vi framtiden och vilken typ av expertis behöver de? Det finns många frågor att ta tag i.

– Det vore oförlåtligt att skjuta upp debatten, eftersom det kan finnas risker, men också fördelar. Vi måste verkligen ha en mycket öppen och ärlig diskussion om alla dessa saker. Tekniken kan potentiellt göra mycket för många människor, men det finns inga innovationer som har kommit utan utmaningar.

Annica Hulth