Transkribering avsnitt 76

Transkribering av Forskarpoddens avsnitt 76: AI kan ge säkrare hjärtdiagnoser. Annica Hulth intervjuar Johan Sundström, hjärtläkare och professor i epidemiologi, och Thomas Schön, professor i artificiell intelligens.

JOHAN: Det finns forskning som visar att vi kardiologer har haft fel i ungefär ett fall av fyra, när det är ett EKG som indikerar en hjärtinfarkt, medans maskiner vi byggt har fel i ett fall av hundra ungefär. Och det är inte så konstigt om man är en idog kardiolog eller fysiolog, då kanske man hinner tolka 20 000 EKG:n under en karriär, medans den här algoritmen då har fått 600 000 EKG:n. Så den har ett ointagligt försprång hela tiden.

ANNICA: Med specialtränade AI-algoritmer blir det lättare att ställa diagnos vid hjärtsjukdomar, tack vare tvärvetenskaplig forskning. Det här är bara en av alla möjligheter med den nya AI-tekniken. Men forskarna behöver också väga möjligheter mot risker. Du lyssnar på Forskarpodden vid Uppsala universitet, och det här avsnittet produceras av mig, Annica Hulth.

JOHAN: Ja, jag heter Johan Sundström, och jag är hjärtläkare och professor i epidemiologi.

THOMAS: Och jag är Thomas Schön, och jag är professor i artificiell intelligens här vid Uppsala universitet.

ANNICA: Ja, och välkomna tillbaka till Forskarpodden, för ni har båda varit med här förut, fast i olika avsnitt. Du, Thomas, var med i ett avsnitt om AI, och Johan, du var med i ett avsnitt om hur stora datamängder kan användas och öka kunskapen om olika sjukdomar. Ni jobbar nu tillsammans i ett projekt om AI och hjärtsjukdomar som ska förbättra diagnostiken. Hur går forskningen till?

JOHAN: Ja, vilken bra fråga. Det händer så mycket samtidigt. Vi har börjat med att samla in väldigt stora datamängder, och bland annat då … Det vi har börjat med tillsammans, det är att titta på digitala EKG:n som vi har ungefär 600 000 av, och för mig som hjärtläkare så … Jag trodde att ett EKG var lite streck på ett rosavitt papper, men det är i själva verket ungefär två meter hexadecimal kod, alltså digital kod. Och då, när vi har de här EKG:na, som är lite svåra att veta hur man ska forska kring, om man inte ska ha en människa som sitter och bedömer dem, då kommer de fram till att det här är en sak som skulle lämpa sig väldigt bra för mönsterinkänning av en maskininlärningsalgoritm. Och Thomas och jag lärde känna varann på en ledarskapskurs på universitetet som var tvärvetenskaplig. Det är fördelen med det här kompletta universitetet, där man har nära till andra fakulteter. Och då kom vi fram till att just EKG:n ska vi börja att titta på, och sen så på den vägen blev det.

ANNICA: Och vad är din roll i det här samarbetet, Thomas?

THOMAS: Så min roll … Precis som Johan säger, så har vi tillgång till en stor digital mängd information och då kan man lite arrogant se på det som just det, och det är något som löper över tiden. Och det är precis det som jag har tittat på sen tidigare då. Hur kan vi utvinna den information vi vill ha ur de här signalerna? Så det blir en perfekt tillämpning av den teknologin som jag utvecklar och använder mig av.

ANNICA: Och då är det en AI-modell som då får tränas på allt det här?

THOMAS: Vi har tränat upp ett så kallat djupt neuralt nätverk, som har tränats på en stor mängd EKG:n, för att känna igen vad det är för … Vi har tittat på lite olika saker, dels olika anomalier som förmaksflimmer, eller vad det nu kan vara, och även det som vi har gjort tillsammans nu senast, tittat på vissa typer av hjärtinfarkter, om man kan fånga upp det.

JOHAN: Man kan väl säga att det var att stjärnorna stod rätt, så att säga. Det drogs i dig från flera håll, dels kom vi in med den här stora EKG-mängden, och dessutom så hade du brasilianska kollegor som också drog i dig, som hade delvis annorlunda problem. Så det var ett ganska konkret sjukvårdsproblem som de hade då.

ANNICA: Vad var det för problem då?

THOMAS: Så där är problemet … De har inte lika väl förspänt som vi, utan där kan en individ ha 200 mil till närmaste kardiolog, och då måste man lägga upp det på ett annat sätt. Och det har mina vänner gjort där. Det som är fint med de här EKG-maskinerna, som man har för att mäta upp EKG:et, är att de är väldigt billiga, förhållandevis billiga, och de är lätta att hantera. Man har en kortare utbildning för att hantera dem. Men sen att sen tolka och fatta beslut om vad man ska göra är lurigt. Så då har de spritt ut de här maskinerna över en yta, som är ungefär lika stor som Spanien, och som täcker 20 miljoner invånare. Så i dag, när vi sitter här nu, så skickas det 5 000 EKG:n till huvudstan för tolkning. Och det har de hållit på med i dryga tio år. Så det finns en otroligt stor datamängd där, vilket är precis det vi behöver för den här typen av teknologi.

ANNICA: Och det blir för att avgöra vilka patienter som behöver vård?

THOMAS: Ja, precis. Just så. Och det vi hoppas kunna göra nu, som Johan sa, det finns andra riktiga tillämpningar där, som börjar bli aktuella, med att man kan … att vi hoppas kunna testa och försortera de här i vilken hög man ska börja titta i när man kommer på sitt skift, i stället för att nu ligger de mer eller mindre slumpmässigt.

ANNICA: Men nu är det alltså ett nytt material som man har tränat algoritmen på? Det är det svenska EKG?

JOHAN: Ja, just det. Då har vi i samarbete med en kollega i Stockholm, Martin Holzmann, som tyvärr dog för ett och ett halvt år sen, och han har samlat in, och tillsammans med oss delvis har ett stort material med akutmottagningsbesök, ungefär 6 miljoner akutmottagningsbesök, där han har kunnat få ut ur sjukhusrullorna diverse data om patienterna, och deras puls, och blodtryck, och temperatur, och sånt där, som man mäter på akutmottagningen, och också tidigare sjuklighet. Men också de digitala EKG:na. Så det var det vi började med kan vi säga, och där har vi lyckats bygga en algoritm, och några i mitt team har blivit upplärda av Thomas team, så att vi har kunnat bygga en algoritm som kan hitta hjärtinfarkter väldigt bra. Och jag får inte säga det här för teamet, men den maskinen är mycket bättre än en människa att tolka EKG:n. Men nu har vi inte gjort en sån direkt tävling, med de prestanda som algoritmen får är helt otroliga, om man jämför med hur vi människor är.

ANNICA: Hur pass mycket bättre då? Kan man säga det, eller?

JOHAN: Ja, vi brukar säga att vi kardiologer, eller det finns forskning som visar, att vi kardiologer har fel i ungefär ett fall av fyra, när det är ett EKG som indikerar en hjärtinfarkt, medans maskiner vi byggt har fel i ett fall av hundra ungefär. Så det är en väldigt mycket bättre … Men som sagt, vi har inte gjort den direkta jämförelsen. Vi har inte låtit en maskin tävla med en människa, men tidigare forskning indikerar att vi mänskor är mycket sämre än datorn. Och det är inte så konstigt om man är en idog kardiolog eller fysiolog, då kanske man hinner tolka 20 000 EKG:n under en karriär, medans den här algoritmen då har fått 600 000 EKG:n. Så den har ett ointagligt försprång hela tiden. Den kan träna sig på mycket fler EKG:n än vad vi människor hinner med.

ANNICA: Och hur kommer läkarrollen att förändras av det här, när den här tekniken kommer … införs?

JOHAN: Ja, det är jag rätt övertygad om och det kommer att gå olika fort på olika ställen. Redan nu så ser vi jättestora framsteg inom bildtolkning, till exempel. Det kan vara röntgenbilder, eller mikroskopibilder, eller ögonbottenfotografier, eller så, eller för all del bilder av hudfläckar. EKG:n har vi använt ungefär samma sorts maskininlärningsmodeller på, som vi använde för bilder, och med en här ganska stora framgången. Andra fält kommer att ligga ganska långt fram i tiden innan man blir ersatt av en AI. I kirurgi, till exempel, där kommer vi att behöva människor väldigt länge. Men diagnostik, där tror vi nog att de här algoritmerna kommer att vara till stor hjälp ganska snart. Som man brukar säga, att det är nog ingen risk att doktorer blir utkonkurrerade av algoritmer, men doktorer som använder algoritmer kommer att konkurrera ut doktorer som inte använder algoritmer. Det är nog bara att inse att det här kommer att förändra våra yrkesliv ganska mycket.

ANNICA: Och när du var med i Forskarpodden nummer 41, för några år sen, då pratade du om just hur man kan, genom att analysera stora mängder data, lära sig mer om sjukdomar och ställa diagnostik, och där kommer AI in ganska bra, kan jag tänka mig?

JOHAN: Ja, just det, därför att de här neurala nätverken är ganska … Det de gör ganska bra, det är att snabbt processa väldigt stora mängder data, och då lära sig saker om diagnostik, till exempel, av vissa tillstånd, på ett sätt som vi inte explicit har programmerat dem för. Vi säger åt algoritmer att här är data på 6 miljoner akutmottagningsbesök, och det här var diagnoserna det blev. Ta nu reda på hur du ska hitta de här diagnoserna. Och sen så får den träna sig på det, ungefär som en människa skulle göra, kan vi tänka oss. Men det blir helt enkelt … Vi kan ställa andra frågor än de vi är vana vid med vår vanliga statistik. Men vanlig statistik kommer att vara oslagbar för kliniska prövningar, till exempel, där man har en tydlig fråga, om man behöver få veta om behandling A är bättre än behandling B. Men för en sån sak som att tolka ett EKG, till exempel, då behöver vi den här maskininlärningsalgoritmen.

ANNICA: Och om det här börjar användas mer inom sjukvården, eller på kliniker, vad finns det för risker med det?

JOHAN: Man ska väl först säga, att innan någonting kan komma in i sjukvården så behöver det testas ganska rigoröst, och vi har ett system som vi kallar evidensbaserad medicin, där man behöver skaffa evidens enligt i förväg uppgjorda regler för hur studierna ska se ut, innan de kan komma in på sjukhusen. I allmänhet så behövs också en CE-märkning, och då ska det vara kliniska studier som ligger till grund för dem också, för att visa att algoritmen är säker, så att säga. För manicker gäller det att man inte får elstötar av dem när man använder dem och så vidare, men för algoritmer så finns andra aspekter av CE-märkningen. Och CE-märkning är i princip också en kvalitetsstämpel på det företag eller den organisation som står bakom en algoritm, hur jobbar man med felsökning och driftsäkerhet, och så vidare. Så det är en bit kvar ifrån våra forskningsdatorer tills en algoritm når sjukvården. Nu ska man säga att evidensen för diagnostik kan ofta vara lite lägre än vad den är för ett läkemedel, till exempel, där har vi väldigt tydliga riktlinjer för vilka studier som behöver göras, medans för någonting som är ett diagnostikum så kan kraven ibland vara lite lägre. Det kan gå lite fortare in i sjukvården, kanske ibland lite för fort. Men det är viktigt att vi … Systemet funkar så att vi kommer ut med våra resultat, och sen hoppas vi att någon annan vill testa det, att en oberoende forskare vill testa algoritmerna och se att de funkar lika bra i en annan kontext.

[musik]

ANNICA: Du, Thomas, du var med också i Forskarpodden för ett tag sen, eller det var nog några år sen nu, i nummer 35 av Forskarpodden. Då pratade du mycket om alla möjligheter som finns med att använda AI inom forskningen. Sen dess har du blivit professor i artificiell intelligens, och håller på att bygga upp lite tvärvetenskapliga forskningsmiljöer kring AI, till exempel AI4research. Kan du berätta lite om vad ni gör där?

THOMAS: Ja, för det första, det som har … En trevlig sak sen sist är väl att den känslan har förstärkts och i viss mån bekräftats lite grann också, just potentialen i att använda det som ett verktyg inom en mängd andra områden. Så det som universitet har gjort, och som jag leder, är AI4research som håller till på Carolina Rediviva-biblioteket. Och där samlar vi folk från hela universitetet som har AI-inslag i sin forskning. Och det behöver inte nödvändigtvis vara att man använder AI för en viss uppgift, eller att man som jag utvecklar den. Det kan också vara att man vill se, vad gör den här tekniken med oss människor? Vilka problem finns det? Vilka möjligheter finns det? Och så vidare. Vi har människor som tittar på flera olika aspekter. Så inför hösten så kommer vi starta upp två stycken nya forskargruppen inom ramen för ett AI-labb för artificiell intelligens borta på Ångström. Så vi är redan ett antal som bygger och använder teknologin, och så har vi valt att fokusera på två områden, dels en som vi kallar för social impacts. Jag vet inte vad man kallar det på svenska, men vilken inverkan det här har på vårt samhälle, men med en tydlig teknisk grund, så att väldigt tydligt koppla ihop tekniken med vilken inverkan man har på människor. Något som jag tror är jätteviktigt, och även få till feedbacken från inverkan till hur vi bygger teknologin. Och den andra grupperingen kommer att titta … Det är inspirerat lite av det som Johan och jag har gjort, och även annat mot livsvetenskaper, alltså hur den här tekniken kan användas där.

ANNICA: Är det vissa forskningsområden som passar särskilt bra för att använda AI?

THOMAS: Ja, så är det. Många försöker sig på och nu, där det passar särskilt bra, det är där man har mycket data, för att det kommer man inte runt. Det behövs. Och om man dessutom råkar ha en hyfsat väl definierad uppgift, så är det också väldigt bra för de befintliga algoritmerna. Det exempel vi har pratat om tidigare är just ett sånt exempel, då vi har miljontals EKG:n i Brasilien-fallet och hundratusentals i det svenska fallet, och uppgiften är väldigt tydligt definierad. Det handlar om att hitta ett förmaksflimmer, eller hitta en hjärtinfarkt, eller vad det nu kan vara. Men fortfarande, man ska ha respekt för de uppgifterna. Men väldigt tydliga och väldigt mycket data, då passar den här typen av teknik.

ANNICA: Så man måste veta vad man letar efter, så att säga, innan man sätter i gång?

THOMAS: Nej, jag ska inte säga att man måste det. Men om man gör det, så har man kommit en bra bit på vägen.

ANNICA: Ja, och det vi också pratade om förra gången var att mycket av den här forskningen och utvecklingen görs vid stora företag. Och det satsas väldigt mycket pengar på det här. Finns det några nackdelar med att den här forskningen görs utanför universiteten?

THOMAS: Det finns olika aspekter av det. Många av de här forskningsavdelningarna på företag rör sig väldigt fritt och publicerar väldigt mycket, men inte allt naturligtvis och valda bitar. Men om man har en situation, där en enhet sluter sig, om det nu är ett företag eller vad det kan vara, och generar kunskap och inte talar om vad som händer, då kan man skapa en väldigt ojämn situation i ett samhälle. Så därför är det extremt viktigt, en sån sak som jag känner som är en väldigt viktig uppgift för universitetet. Det gäller alla områden, skulle jag säga, men att delta i utvecklingen, bidra till den, och även utbilda, att se till att våra … Jag utbildar mest ingenjörer och ser till att de kan den här teknologin, eller åtminstone så pass mycket att man kan ta till sig det nya, för det kommer nytt hela tiden, så att man kan fortsätta att lära sig framöver.

ANNICA: Och det kanske är fler grupper än ingenjörer som behöver lära sig det här i framtiden?

THOMAS: Oh, ja. Det är det. Det tror jag, som Johan sa, inom sjukvården kommer det vara viktigt också, men på ett annat sätt och i en annan omfattning, naturligtvis.

ANNICA: Är det viktigt med tvärvetenskap inom det här området?

THOMAS : Jag tycker att det passar sig fantastiskt bra för tvärvetenskap, för att problemen, som man kan angripa, dyker upp på så många olika platser. Och då är det jättenaturligt att försöka hitta synergier. Så bara i dag så har jag haft inom både fysik, biologi, och nu får vi väl säga att vi är inne på medicin och pratar. Och det är lika naturligt allihopa. De har sina olika utmaningar, naturligtvis. Nej, det är väldigt naturligt, och det viktiga när man har tvärvetenskapliga samarbeten, för att de verkligen ska funka på lite längre sikt, tror jag är, för mig i alla fall, att det finns en väldigt tydlig egen anledning till att driva på samarbetet, och att man hittar synergier. Men att det inte blir att Johan bara ger mig EKG:n och sen slutar vår kommunikation där, eller att jag bara ger Johan en lösning på ett tekniskt problem. Då kan det vara kul i några månader, kanske ett halvår, eller så, men inte så mycket längre än så. Men om man hittar det här att man båda kan driva på sina grundläggande funderingar, och korsbefrukta på olika sätt, då brukar det funka väldigt fint, tycker jag.

ANNICA: Just det. Vad tycker du Johan? Tycker du också det?

JOHAN: Absolut. Jag är jätteglad att få sitta på Carolina i den här AI4research-miljön, därför att man träffar så mycket spännande människor som har liknande frågeställningar och problem, men som kommer från helt olika håll. Så jag håller verkligen med om den här tvärvetenskapliga ansatsen, att den är bra, och de enorma behoven som finns. Jag kan illustrera det med det att jag blev ombedd att skriva i artikel i Svensk Kardiologi, en liten tidskrift som Svenska Kardiologföreningen har, och då tog jag med Thomas som medförfattare där förstås. Och då fick jag uppdraget att bevaka allting som handlade om AI på den stora europeiska hjärtkonferensen som är i augusti-september varje år. Så då gick jag runt där, och då kunde man då, om man planerade sitt program väl, då kunde man tillbringa hela konferensen, som var fyra dagar, med att bara gå på AI-pass helt enkelt, pass som handlade om artificiell intelligens inom kardiologin. Och det var väldigt mycket karaktären av … Vad ska man säga, utan att säga några förbjudna ord där? Men en blind leder en blind ofta. Det var väldigt få som kunde någonting egentligen om de här metoderna, och väldigt mycket spekulation. Så det finns ett jättestort behov av att utbilda inom alla fält, skulle jag säga, som inte minst den här [?? 0:19:59] matematiken. Men på AI4research har vi också jurister, och etiker och humanister, så det slår igenom på alla fält, och det blev en ganska kraftig debatt nu om hur ChatGPT påverkar de uppgifter vi kan ge studenterna, till exempel. Det behövs en enorm kompetenshöjning på alla fronter på universitet över dessa ämnen.

[musik]

ANNICA: Ja. Jo, men det är väl det jag också känner, att på senare tid så har det varit väldigt mycket diskussioner kring AI. Och det har varit både de som ser fantastiska, nya möjligheter nu, när de här nya språkmodellerna ChatGPT och andra, har kommit. Men sen finns det också de som ser stora risker. Vad tycker ni? Är vi inne i en sån period när utvecklingen går väldigt fort inom AI?

THOMAS: Ja, det är vi, och det har vi varit ett tag. Vi kommer nog att fortsätta vara det ett tag till, skulle jag tro. Sen är problemet i sig är samma problem, skulle jag säga, som vi alltid har haft. Det är bara det att det helt plötsligt blir uppenbart för alla, att det här problemet finns, den här avvägningen mellan möjligheter och risker. Ja, och den måste man göra och hantera försiktigt. Det är aldrig så att det värsta slår in, eller extremt sällan i alla fall, och det är aldrig så att det bara blir bra och fint alltihop, utan det hamnar någonstans däremellan. Och vi har en viktig uppgift att hjälpa till och balansera det där och nyansera det.

ANNICA: Kan du ge exempel på det, när det gäller hur man balanserar?

THOMAS: Ja, vad ska vi ta för exempel?

JOHAN: Vi fick precis ett sånt här ERC Advanced Grants, som är ett lite prestigefyllt anslag, för att göra den här forskningen tillsammans. Och då hade EU kommissionen en etikpanel, som gick igenom projektet ganska noggrant, och sen så gav de mig 33 frågor om etiska aspekter på programmet, och risker framför allt då, som de fick ungefär 45-sidor svar på av mig. Och man skulle svara inom tre veckor, annars fick man inte pengarna. Och sen så sa de ”tack det var fina svar. Nu ska vi läsa dem”, och sen så första juli så återkom de med följdfrågor 12 stycken, och så fick man tre veckor på sig att svara på det. Och tre veckor i juli hade jag andra planer, men då fick jag faktiskt sätta mig och svara på dem. Och jag måste säga att det var ganska upplysande för mig också, som tycker att jag har tänkt jättemycket på de här riskerna, att tvingas fördjupa mig ordentligt, och fundera på, hur ska man försäkra sig om att beakta alla de här riskerna under utvecklingen? Och bland annat fick vi då se till att vi har en etikexpert med i projektet. Så hon är avlönad, Jessica, som är lektor i etik och expert på maskiners ansvar. Hon ska jobba fem procent i projektet under femårsperioden. Och jag var tvungen att lova dem, den här etikpanelen, en hel doktorsavhandling i projektet som bara skulle se på de etiska aspekterna.

ANNICA: Åh, jaha.

JOHAN: Och då handlar det bland annat om att försäkra sig om att det hela tiden finns en människa med som kan ta ansvar för de prediktioner som ett slutstödssystem ger. Det är det vi ska försöka bygga i det här projektet, ett slutstödssystem för akutmottagningen. Och hur kan vi vara säkra på …? Alltså, den vanligaste frågan är väl ofta, hur kunde vi vara säkra på att det inte är ett beslutsstödsystem, som är tränat på en massa mänskliga fall, att det inte reproducerar de ojämlikheter som finns i de här mänskliga fallen? Det är ett ganska bra exempel på där de har byggt en AI som ska föreslå juridiska domar och en domstol, och om domstolen hittills har varit diskriminerande på ett eller annat sätt, så är det förstås så att man reproducerar den diskrimineringen i beslutsstödsystemet också, för den har tränat på verkliga fall. Och det där är inte superenkelt att komma ur, därför att vi står i den verklighet vi har med de data vi har. Och vi har i vårt fall de beslut som de behandlande läkarna har fattat. Det är det vi har att träna maskinen på. Men det är därför … Jag är tacksam över att vi fick den ganska stränga förhållningsordern, att vi måste ha med en etiker som hela tiden har en blåslampa och ett förstoringsglas på de här frågorna.

ANNICA: Vad säger du om det då, Thomas, rent tekniskt? Går det att göra AI mindre fördomsfullt?

THOMAS: Det går att jobba mot det. Absolut. Och det är något som vi borde göra ännu mer, och också försöker ta oss an, genom till exempel att starta upp den här nya grupperingen som har den typen av uppgift. Men även i alla … att försöka ha det förhållningssättet i det mesta av det man gör, för att inte säga allt. Och det är en stor förändring för min del, hur jag tänker, och där tror jag kan tala för många som bygger teknologi, att man … Uppgiften är så svår ändå, så att säga, så att man klarar inte av det viktigt. Men det räcker inte som försvar mot den här problematiken. Absolut inte, utan man måste verkligen försöka att få in våra värderingar redan långt ner i teknologin. Och det är en jätteutmaning, men en viktig sådan. Absolut.

ANNICA: För man har inte riktigt full insyn i hur det här tänkandet gå till, eller vad man kallar det för?

THOMAS: Ja, det är beräkningar …

ANNICA: Beräkningarna. Man har inte full insyn i hur …?

THOMAS: Ja, full insyn har man väl, för all del, men vi vet inte hur vi ska tolka det vi ser, för att det är så stora mängder siffror krasst. Så vi har inte full förståelse för det. Det har vi inte. Insyn har vi. Vi kan titta på vad vi vill. Men hur ska jag tolka det, omsätta det i någon slags förståelse? Det har vi faktiskt inte. Nej.

ANNICA: Men finns det en fara i det här, som du Johan sa, att AI:n nu är så pass mycket bättre än oss människor på vissa saker? Kommer AI:n att konkurrera ut det mänskliga tänkandet?

JOHAN: Det som det alltid finns risk för och särskilt då om man tar på sig akutmottagningsglasögonen, det är såna här decision fatigue, att man inte riktigt orkar gräva i varför AI förslog ett visst blodprov, eller viss behandling, och så vidare, utan man bara ”ja, ja”, köper det, så att säga. Men annars så försöker vi bygga alla system, så att det finns någon slags transparens, att man försöker komma bort ifrån den här svarta lådan-logiken, utan man ber AI:n berätta för oss, hur kom du fram till det här beslutet? Och det hade en ganska kul effekt i, att när vi har lärt den tolka EKG:n och hitta hjärtinfarkter, så bad vi den rita ut, var någonstans i EKG:t såg du att det var en hjärtinfarkt? Och då visade de på de ställen, där vi hjärtläkare brukar titta, på ST-sträcka som den heter, men den visade också slutet på T-vågen. Det blev tekniskt, men ett helt … Ett ställe som inte står i någon lärobok om EKG:n, att så här ser hjärtinfarkter ut. Så nu lär AI:n oss att tolka EKG:n.

ANNICA: Just det.

JOHAN: Så det är väldigt intressant. Men det är bara ett exempel på att man kan försöka göra dem lite mer transparenta, så att säga, och lite mer … Det finns så mycket engelska ord för det här, men accountable, att man kan förstå dess resonemang lite mer. Och sen finns det andra sätt att inte automatisera väldigt långa serier, väldigt långa processer, så att säga, utan ha det som kallas a human in the loop hela tiden, att man kan presentera med en mänsklig beslutsfattare med vissa data, och så får människan ändå välja höger eller vänster här, eller A eller B, i stället för att automatisera långa processer och inte förklara hur man har tänkt, så att säga. Så det finns väl lite olika sätt att handskas med risk, och se till att det finns en människa med. Men det här ansvaret är inte lätt, har jag förstått, eftersom att ha umgåtts med Jessica, vår etiker, att det handlar om att kunna ta ansvar, och det handlar om att kunna tillskriva ansvar, och att få ansvar för någonting innan är inte samma sak som att man utkrävs ansvar efteråt. Det finns många aspekter på ansvar. Men det är väl en pågående diskussion om det, hur mycket kan AI:n ta ansvar då?

ANNICA: Ja, precis, för jag kan tänka mig just på en akutmottagning, så är det lätt att det ändå blir fel, så att säga?

JOHAN?: Ja, och det är, hur mycket kan vi tillskriva ansvar för den mänskliga hjärnan då? Har den här doktorn många liknande fall, och har den egentligen fått träna sig på, hur har den lärt sig att fatta beslut? Det är verkligen en svart låda. Här har vi åtminstone en AI som vi vet exakt vad den har tränat på för data, och vilken vård de patienterna har fått, och det kanske är … Den är egentligen mer transparent än den mänskliga beslutsfattaren är, tycker jag.

ANNICA: Och en jämförelse är väl det här med självkörande bilar? Där handlar det väl också om, vem är ansvarig om det blir en krock, eller? Det är väl också sånt som jurister behöver titta på?

THOMAS: Ja, och biltillverkare, och det är i gång. Varje år så för vi in bättre och bättre förarassistanssystem. Och det är så det kommer att ske, och det är så det sker också den här övergången från manuellt till maskinellt körande, att det sker stegvis. Så man ska inte glömma det, att det här med självkörande bilar, den diskussionen kommer lite för tidigt, egentligen. Men varje år blir det bättre och bättre. Det är ingen som skulle ge upp sitt ABS eller antispinn-system, och så vidare, nu när man ser, för nu har vi data och kan se tillbaka. Det är framför allt försäkringsbolagen, faktiskt, som har tagit fram det i det fallet, och visat på siffror, hur det här har minskat ner, minskad dödlighet och allvarliga skador i trafiken. Så den trajektorian har vi, och den har vi jobbat med, och den kommer vi att fortsätta med. Så det är väl ett konkret sätt framåt där, tror jag. Återigen, små steg. Det är lätt när man pratar så här, helt plötsligt ska en bil köra själv. Det blir ett jättesteg från där vi är i dag, och återigen, sättet man kommer dit är en massa små steg, som sen i efter hand kommenteras som ett stort. Men att vi hela tiden gör rätt sak i de här små stegen. Då tror jag att vi kommer att klara av det där också. Men man kan vända på det. Jag brukar göra det när jag diskuterar de här grejerna, att vi människor verkar acceptera att vi kör ihjäl varandra i trafiken. Det är ingen som tycker om det, men det är samtidigt inte något som folk håller på att fundera på så mycket. Så vi har som art accepterat att det där är ett helt okej beteende, för vi måste faktiskt kunna flytta oss med de här tunga metallbitarna fram och tillbaka. Och om man då har en teknologi som gör att man kan kraftigt reducera det där, då får vi helt enkelt ta och lösa de här ansvarsfrågorna i de fall när det sker. Det kommer fortfarande att ske fel, så klart, bara att de sker betydligt mer sällan än när vi gör det.

ANNICA: Och då kommer det bli så även i andra branscher nu kanske, att det går lite gradvis?

THOMAS: Jag skulle tro det. Ja.

[musik]

ANNICA: Ja, om ni tittar framåt i tiden inom era olika fält, var är vi om fem eller tio år? Vad hoppas ni på?

THOMAS: Ja, det där är alltid en lika spännande fråga, var befinner vi oss då? Men vi ser lite fakta på saker och ting, och det är hur mängden tillgängliga data ökar extremt kraftigt, och det finns väl inget att anta att det kommer att minska. Så det kommer bara att finnas mer data, alltså kommer man kunna göra bättre på det viset, så länge vi hinner bygga tillräckligt bra datorer. Men det verkar vi också klara av, som det ser ut. Så på så sätt så är det lätt att se att det kommer att bli mer och större, och därmed bättre i någon mening. Så den utvecklingen kommer att fortsätta. Det som är spännande i det som man inte riktigt kan förutse, alltså stora skift i teknologin. Nu bara extrapolerar jag ifrån hur det går till nu, och ett område där som jag tycker är extremt spännande, men väldigt hög risk, det är med förmåga att resonera kring, hur skulle det ha blivit om vi hade gjort så här i stället? Det är en typ av fråga som vi inte … eller vi, vi klarar av det, men en dator klarar inte av det där. Och det kräver väsentlig ny matematik, och det kräver också sammankoppling av matematiken och data på nya sätt, skulle jag tro. Man pratar ofta om det som kausalitet, alltså att det här leder till detta. Så en sån typ av resonemang är extremt spännande, och där ser jag att det händer en hel del. Så det skulle kunna komma någonting där. Och det är något vi satsar på en hel del, och forskar mycket på här och även på andra platser.

JOHAN: Och kanske också att kunna ha modeller som inte bara kräver allt med data, utan som kanske kan börja resonera med symboler, och med construct, som är att kanske datorn börjar förstå vad en hund är, inte bara genom att en har sett alla sorters hundar, utan att den precis som ett barn lär sig genom att se sjutton olika hundar, så att när den ser den artonde, som den aldrig har sett förr, så kan den ändå förstå, att det där är en hund.

THOMAS: Ja, det är en sån där grej som jag har funderat på mycket för några år sen och pratade om, och som jag fortfarande tror jättemycket på, alltså att man kan bygga modeller som … det är en ganska uppenbar tanke, en kombination av datadrivet och mänskligt kunnande, som vi har inom fysiken, till exempel kan vi ta att vi kan skriva ner väldigt mycket om hur världen fungerar med hjälp av penna och papper bara. Så om vi tar det där tillsammans med datadrivet, det tittar man på så klart, men förvånansvärt lite ändå. Om man då tänker sig att man kan bygga såna modellblock inom fysik, biologi, medicin, och så vidare, och sen kunna koppla ihop de här, där tror jag att man har en väldigt spännande trajektoria också. Allt behöver absolut inte vara datadrivet, som Johan sa. Det är väldigt viktigt att ha med sig.

ANNICA: Ja, spännande. Ja, och du då, Johan, har du något framtids…?

JOHAN: Ja, jag tror att … Vi ser redan nu snabba intåg i, som jag sa diagnostikbranschen framför allt, så att det är nog snarare så att tårtbitar kommer att ganska snabbt bli fulla av AI-algoritmer som hjälper oss att diagnosticera utifrån bilder till att börja med nu. De finns redan nu. Vi fick bland annat nu i vår hand, precis för några veckor sen, ett par små ultraljudsmaskiner som då, enligt uppgift, kan hjälpa oss att göra en fullständig ultraljudsundersökning av hjärtat och spotta ut sig en 40, 50 FDA-godkända [?? 0:35:23] godkända mått på hjärtats funktion, något som i dag tar kanske tjugo minuter för en biomedicinsk analytiker att samla in bilderna och sen så ungefär lika lång tid för en fysiolog att tolka bilderna, och den här AI-driven, helt enkelt då. Så det där kommer, och ganska fort. Så det tror jag på.

Något som man skulle hoppas på, det är att det här fanns i våra journalsystem och i de vanliga administrativa systemen vi sitter med, att man kunde få förslag på diagnostik eller diagnos, eller behandlingar, och så vidare. Men givet hur otroligt dyrt och långsamt det har gått att utveckla de här journalsystemen vi har, så är jag lite pessimistisk där, att vi har någonting inom fem år, kanske femton, tyvärr. Än så länge gillar jag fortfarande, om jag ska vara helt ärlig, de gamla pappersjournalerna bättre. För då kunde man se på bunten hur tjock den var, och man kunde vrida på den och se vilka sorters papper som fanns i den, och då kunde man få sig en uppfattning om patienten. Nu är det fortfarande en skärm som … Jag hade en kollega som sa det, att vi när det gäller att trycka böcker, och så vidare, då övergick vi från rullar till bokformatet för väldigt länge sen. Men sen när vi skulle göra journalerna till datorer, då gick vi tillbaks till rullar, och det var en nackdel. Man blir trött i händerna av att rulla den här rullen fram och tillbaks, för att kunna läsa vad patienterna har varit med om.

ANNICA: Ja, precis. Så man får ta det bit för bit, så att säga?

JOHAN: Ja, så när det gäller journaler är vi inte framme ännu. Men samtidigt, man kan få drömma om de stora språkmodellerna som kommer att kunna snabbt sammanfatta patienthistorien för oss. Det är svårt att säga när vi har det, givet GPT:s oerhörda framgång på sista tiden.

ANNICA: Ja, men tack så mycket för att ni kom hit, och lycka till i fortsättningen.

JOHAN: Tack själv.

THOMAS: Tack.

[musik]

ANNICA: Du har lyssnat på Forskarpodden med forskarna Johan Sundström och Thomas Schön. Följ oss på Poddbean, iTunes, Spotify, eller andra poddläsare. Kontakta oss gärna i sociala medier på #Forskarpodden, eller på universitetets webbsida uu.se/forskarpodden. Jag heter Annica Hulth, och Forskarpodden produceras av Uppsala universitet med musik av Markus Sjöblom.

[musik]