fAIrHEALTH: Rättvisa i AI-modeller för hälsa?

Förra året utvecklade forskarteamet bakom fAIrHEALTH en ny version av ChatGPT, DelFI, som bättre förstår tid. Genom att analysera miljontals anonyma hälsoregister kan den förutsäga vem som riskerar att drabbas av sjukdomar som cancer eller hjärtsjukdom, och ungefär när det kan ske. Dessa tidiga varningar kan hjälpa läkare att bestämma bästa tidpunkt och vilka personer som bör få screening, förebyggande mediciner eller vacciner vid nya epidemier.

Men AI:n är inte rättvis. Verktyget fungerar sämre för personer som redan har sämre hälsa: etniska minoriteter, låginkomstfamiljer och de som bor utanför storstäderna. Eftersom de flesta träningsdata kommer från rikare, vita grupper, blir förutsägelserna för andra grupper mindre exakta. Om sjukhusen använder verktyget idag, riskerar hälsoklyftorna att vidgas.

AI kan förutsäga vem som riskerar att drabbas av sjukdom men fungerar bäst för rika, vita människor. Det är inte rättvist. fAIrHEALTH skapar en rättvisekarta för medicinsk AI: en tydlig guide till vilka sociala grupper och sjukdomar som löper störst risk för orättvis behandling, och vilka lösningar som fungerar bäst. Resultatet blir den första "rättvisekartan" för medicinsk AI.

Hur är studien utformad?

Med hjälp av säkert kopplade hälso- och sociala data för alla vuxna över 40 år fyra nationella databaser (i Estland, Finland och Danmark, och snart även Sverige) kan forskarna...

• Mäta ojämlikhet genom att be den uppgraderade DelFI att förutsäga fyra verkliga problem (bröstcancer, kolorektal cancer, hjärtinfarkt och stroke, samt död av COVID-19) i varje land, och mäta var den är mindre exakt,
• Testa lösningar genom att utvärdera fem nya tekniska metoder som syftar till att göra AI rättvisare och kontrollera exaktheten för nio olika grupper baserat på t.ex. ålder, kön, ursprung och inkomst, och
• Utforska acceptansen för tekniken i samhället genom att genomföra en online-studie med 1 500 frivilliga för att förstå hur mycket orättvisa allmänheten är beredd att acceptera i AI-baserade rekommendationer.