Clinical Ethics & Accountability in health Records AI

AI in Healthcare Unleashed: Ansvarsfull och etisk implementering av Large Language Model Chatbots i kliniska arbetsflöden och patientvård

Sen lanseringen av OpenAIs ChatGPT i november 2022, har AI fått stor uppmärksamhet. ChatGPT, en generativ AI som bygger på Large Language Models (LLM), kan sammanfatta data och generera svar i olika stilar.

Inom sjukvården kan dessa verktyg erbjuda många fördelar, som att hjälpa läkare med dokumentation och diagnoser. Samtidigt kan LLM också innebära fel och bias, samt riskera patienters integritet.

Det här projektet utforskar hur LLM kan stödja dokumentation och patientstöd och har tre mål:

Mål 1: Att undersöka svenska läkare och sjuksköterskors erfarenheter och förståelse av LLM i dokumentation inom klinisk praktik.

Mål 2: Att undersöka patienters upplevelser och förståelse av LLMvid tolkning av deras hälsodata.

Mål 3: Att undersöka hur sjukvården på ett etiskt och säkert sätt kan anta dessa verktyg för att gynna både vårdpersonal och patienter.

Varför är detta projekt viktigt?
I december 2023 skapade EU historia genom att föreslå de första reglerna för LLM-chatbots, vilket kräver att AI-tillverkare säkerställer att användare vet att de interagerar med AI.

Men här är problemet: vi vet fortfarande inte hur eller när vårdpersonal och patienter använder dessa verktyg, eller hur vi etiskt, säkert och effektivt kan integrera LLM i vården. Det är den utmaningen vi måste hantera.

I tidigare studier som nådde nationella och internationella rubriker upptäckte forskarlaget att mer än 1 av 3 psykiatriker i USA och 1 av 5 allmänläkare i Storbritannien använde generativ AI för att assistera med kliniska uppgifter. Det nuvarande projektet syftar till att utveckla denna forskning inom Sverige genom att bredda undersökningen till nationellt representativa läkare och sjuksköterskor inom alla specialiteter samt fråga patienter om deras erfarenheter och åsikter om dessa verktyg.

Kontakt

Om du har frågor eller är intresserad av att delta i projektet, kontakta projektledaren Charlotte Blease