AI i hälso- och sjukvård #7 – Automatisera sekundärdiagnos, human AI, GOFAI

Intro

Jag och kollegan Almira från Sahlgrenskas psykiatri gästade Sahlgrenskapodden för att prata AI i vården – här finns det avsnittet om du vill lyssna – i maj släpptes avsnittet. Jag tror det är värt att lyssna på för de flesta.

Mässan och konferensen Vitalis arrangerades under slutet av maj. Förvirringen kring AI var tydlig i många samtal jag hade. Att många av oss har olika avgränsningar för vad vi inkluderar i begreppet AI gör det svårt att bygga vidare på andras arbete. Exempelvis inkluderar vissa utredare robotiserad processautomatisering (RPA) i det arbete man gör nationellt, medan andra, mig inkluderat, inte kan se vad vanlig automatisering har med AI att göra. RPA är en väldigt intressant teknik för att effektivisera bort onödiga sysslor i vården. Men som Mattias Måsbäck, kollegan på AI Innovation of Sweden, ständigt konstaterar så är RPA en teknik som inte skalar upp särskilt bra. Du ersätter en människas syssla med att en maskin gör exakt samma jobb, samtidigt bygger du ännu mer komplexitet runt något du vill slippa göra. Du cementerar kostigar.

RPA är säkert användbart i många fall, men det behöver inte kallas för AI. Tycker jag.

Nyhetsbrevet tar en paus över sommaren, men i september kommer nästa utskick.

//avd Vårdens digitalisering, genom Marcus Österberg

Wallenberg-pengar till en mer human och social AI

WASP investerar 660 miljoner i WASP-HS, där HS står för humanistic och social, som är det senaste forskningsprogrammet. En av personerna som ska få detta att hända är Virginia Dignum som är professor på Umeå Universitet, vilket är universitetet där arbetet förläggs. Virginias namn har nämnts i lite olika sammanhang som den som påpekade att en panel på Chalmers-träffen Advancing AI i mars enbart bestod av vita äldre män. Bra att någon pekar ut obalanser vi behöver bryta upp.

Sekundärdiagnos – något för AI?

Sista veckan i maj hölls en träff om AI hos Sahlgrenska Science Park med fokus på dermatologi och radiologi. När det gällde radiologi var det Simon Borkmann och Fredrik Langkilde som presenterade. Simon beskrev en studie där de funnit att röntgenbilder över tid innehåller mer information om patientens hälsotillstånd än vad röntgenläkaren uppmärksammat. Specifikt har de tittat på just förekomst av njurcancer som röntgenläkare har missat för att de ombads titta efter andra saker.

Så låt säga att en assisterande AI med datorseende jämför alla delar av alla röntgenbilder, både nya och gamla, under tiden som röntgenläkaren kollar mer specifikt på det som efterfrågats. Ja, då kan AI:n försöka rangordna sina “fynd” och påkalla röntgenläkarens uppmärksamhet om något är tillräckligt avvikande från vad den förväntar sig.

Men en stor andel av äldre människor har många “fynd” i kroppen som inte kommer påverka deras överlevnad, så risken är att en AI framstår som korkad om den inte trimmats in mot röntgenläkarens arbetsflöde.

I vanlig ordning är inte problemet löst bara för att man har en lovande teknik, inte ens som inom dermatologi där AI i många fall mest hela tiden är bättre på att ställa diagnos jämfört med människor.

Kroppsnära och human AI

Under maj kördes Googles utvecklarkonferens i/o. Där visades hur en mobiltelefon kan förstå mänskligt tal även fast personen ifråga har en talstörning, det vill säga inte talar exakt så som förväntat. En annan demonstration Google gjorde var hur analfabeter på egen hand kan få hjälp via mobilen att med ljud läsa upp text med vad deras mobilkamera såg via datorseende.

Det gjordes en stor poäng av att det inte krävdes internetuppkoppling för att detta ska fungera. Varken med en dyrare eller billigare mobil. Detta passar även Sverige där folk ibland är i radioskugga och vissa använder mobiler som inte är av den dyraste sorten.

Sen blir det allt vanligare med digitala assistenter i folks hem och byxfickor. Dessa har fortfarande ganska begränsade användningsområden, särskilt på svenska, men blir allt bättre. Hur många gånger har man inte funderat på något man vet svaret finns på nätet, eller i arbetsgivarens system, som en medicinsk riktlinje eller läkemedelslista. Så förutom att få generellt stöd som med mötesanteckningar vore det trevligt att kunna utbrista “Tjillevippen, hur mycket paracetamol ska jag ge min dotter” och få ett svar som tagit hänsyn till det vården redan vet om henne.

Klarar vården av att använda AI?

“[…] artificiell intelligens (ai) skapar nya interaktioner mellan människa och maskin inom vården. Men utbildning och träning på alla nivåer släpar efter.

I dag är kunskapsökningen inom hälso- och sjukvården så snabb att när nyutexaminerade läkare genomfört sin specialistutbildning har mycket kunskap redan hunnit bli förlegad.”
”Kunskap saknas för säker användning av ai i vården” | Ny Teknik

Ovanstående citat är från ett debattinlägg som sätter fingret på AI:s problematik för att komma till användning i vården. Vården lever enligt en annan måttstock och kultur än den teknikbransch som vill sprida AI.

Till att börja med är nog nästan all AI att betrakta som en medicinteknisk produkt. För det finns ett regelverk. Om en AI verkligen är intelligent blir den ofta svår att inspektera i detalj hur den fungerar (precis som med en människa), vilket är i strid med GDPR:s regler.

Att en läkare “tillåts” ta beslut beror på att de tagit sig igenom en standardiserad utbildning och kan avkrävas ansvar. Ett sätt att få en AI att genomföra något som motsvarar läkarutbildningen är att ha en kvalitetsmärkning på framtagandet och förvaltandet av de algoritmer den använder. Sen kanske de flesta människor inte riktigt ser hur man ska kunna avkräva ansvar på ett meningsfullt sätt av en mjukvara likt en AI.

Och hur ska en läkare ha en chans att förstå det föränderliga landskapet av metoder inom AI och axla det ansvaret det innebär att dra nytta av det? Det räcker dock inte att vid ett tillfälle läsa en kurs och sedan tillämpa de lärdomarna ett helt yrkesliv. Så hur bör det fungera?

AI som produkt, tjänst eller anonym medhjälpare

Vad tänker du på när AI eller en AI-teknik nämns i ett budskap du läser? När man skrapar på ytan är det många gånger det som kallas för AI snarare är så att någon AI-teknik använts för att komma fram til ett resultat. AI har med andra ord inget som helst att göra med själva tjänsten som erbjuds. Det är inte en AI-tjänst, snarare att skaparen använde en AI-teknik.

Brukar vi bry oss om ifall någon använt IT-tekniker för att skapa en tjänst? Nej, i de flesta fall är det snarare så att det förväntas att IT är en ingående del när en tjänst tas fram. Det är väl vad vi men med digitalisering.

Så vad är en rimlig förväntan när något kallas för AI, eller att det drar nytta av AI?

Behöver det bli ständigt bättre genom att vara självlärande? Måste det anpassa sig efter användarens behov och användning?

Begrepp: Domänexpertis

Många gånger hamnar diskussioner om AI i vård- och omsorg om ett begrepp som hänvisar till något som kallas domänexpertis. Eftersom de som använder detta begrepp ofta är ingenjörer eller har annan form av teknisk kompetens är det som avses det som en tekniskt kompetent person inte kan något om.

En domänexpert är alltså alla som jobbar i verksamheten. Det vill säga läkare, sjuksköterskor, administratörer, sekreterare, och vad som helst bland de som faktiskt möter patienter eller vem som nu använder systemet.

Det finns en obalans bland de som kan tekniska saker och de som är längst ut i verksamheten. Domänexpertis avser att de som är lövet i organisationsträdet är de verkliga experterna. Det är de som träffar patienter som besitter den tysta kunskapen om hur problem löses.

Begrepp: GOFAI – Good Old Fashioned AI – kontra “AI 2.0”

På en AI-konferens arrangerad av O´Reilly i New York under våren nämndes begrepp som AI 2.0, alltså att AI tagit steget från 1.0 till en ny helversion. Vissa menar att den gamla sortens AI nu börjar bli historia. Så vad är den gamla sortens AI – GOFAI?

GOFAI, som myntades 1985 av John Haugeland, har också kallats symbolisk AI och avser människoläsbara lösningar, som logik och sök. GOFAI är den AI-paradigm som gällde mellan 1956 när Dartmouth-träffen hölls och slutet av 1980-talet. När du hör någon prata om expertsystem och regelbaserade system är det GOFAI de pratar om. Den AI som är i produktion exempelvis inom bilddiagnostik i sjukvården sedan innan millenieskiftet är också GOFAI – en människa har handgripligen kodat ner sina kunskaper så en maskin kan återupprepa vissa sysslor.

Vad som kanske landar i AI 2.0, eller dagens AI, är saker som neurala nätverk, djupinlärning och autonomi i multiagentsystem som exempelvis de kommande fordonsflottorna i en stadsmiljö.

Anmäl dig till nyhetsbrevet

Anmäl dig till nyhetsbrevet per mejl på följande länk:
http://eepurl.com/dO2yer