Funderingar om AI från Umeå

Del 3 i bloggserien för uppdraget Swelife 😍 AI. I början på februari fördes samtal i Umeå om AI. Vad man gör, skulle vilja göra och svårigheter (med hopp om att kunna lösa dem). Bland de sju intervjuoffren smög sig en gökunge från Göteborg in. Lite lustigt att åka till Umeå och sedan ringa upp en person som jobbar några få kilometer från min hemadress 🙂

De jag talat med är IT-kunniga projektledare, forskare, datavetare, akademiker, konsulter, direktörer och chefer. Alla med olika bakgrund, bland annat som aktiva inom beslutstöd, lärare, ingenjörskonst som medicinteknik och lite till.

Den saliga blandningen är bra. Bara på dessa första personer har vi allt från tänkbara författare av kurslitteratur inom djupinlärande till att nästan uteslutande se AI som en strategisk riktning för verksamhetens möjlighet att bibehålla sin servicenivå i framtiden.

…och när du säger AI menar du vad då?

Vid samtliga samtal har frågan antingen ställts direkt, avhandlats direkt från min sida (att jag tänker “inkluderande”) eller att den tilltalade inte är bekväm att uttala sig kring AI.

Diskussion om vad som är eller inte är AI har likheter med vad som är idrott och vad som snarare är sport. Min ståndpunkt under samtalen är att jag släpper med nästan vad tusan som helst som inte är uppenbart något helt annat. Men där kommer problemet med OCR-skanning, bilddiagnostik och tal-till-text in som många inte tänker på som AI-tekniker. Bilden verkar vara att lärande och självlärande är det AI handlar om. Men så är ju denna våg av intresse för AI också initierad av genombrott inom machine learning, närmare bestämt, det är ofta djupinlärning som pekas ut.

Förhoppningar om vad AI-teknik kan bidra med

Det uttrycktes dels lösa förhoppningar om nytta men också konkreta och väldigt mätbara mål, såväl kvalitativa som kvantitativa. Gemensamt för nästan alla var att de är personcentrerade och handlade inte primärt om ekonomi.

De mer luddiga drivkrafterna handlade om effektivisering och att hjälpa människor, eller att man ville demonstrera sin innovationskraft. När det gällde att införa digitala ersättare till överkvalificerad personal fanns tydliga nyckeltal om upplevd service (kvalitativt) och mängd arbetstid som styrts om till mer kvalificerade arbetsuppgifter (kvantitativt). Här finns förstås en avvägning att göra i att balansera hur mycket digital assistent man kan ha utan att det försämrar den upplevda servicen.

Den intervjuade IT-konsulten hade höjd kvalitet och ROI (Return of Investment) som måttstock för de insatser de gjort åt kund.

AI är inte primärt för att spara pengar, men…

Där ekonomi dök upp som samtalsämne gällde det “inlandet”, det vill säga glesbygden. En person uttryckte det som att resurserna kommer inte finnas framgent och att man tror sig fått märka av det tidigare i Norrland än resten av Sverige.

Prognos på vårdinsats och automatiserad planering

En tanke som återstår att realisera är att hur AI kan hjälpa till med mer personcentrerade och vardagliga saker. Som att ge en prognos på vilka insatser och resurser som kommer behövas för hela vårdbehovet och se till att boka upp dem på ett ordnat sätt. Som det är nu läggs inte mycket möda på att göra det enkelt för patienten att under ett besök i vården genomföra ett flertal ärenden samtidigt, istället kallas man ett flertal gånger till vården vilket spiller både restid och kalendertid, samt stökar till vardagen.

Förbättringar inom sekretess och patienters integritet

Vissa saker man gör av vana är inte alltid så vettiga när man tar en titt på dem med nya ögon. Som det här med att behöva identifiera sig för en främling på en mottagning vars verksamhet tydligt indikerar ens hälsostatus. Eller att för den personen behöva ta upp väldigt privata saker. Kanske uppskattar folk att få checka in via en skärm på mottagningen, lämna sin patientberättelse till en robot istället eller lämna anamnes via mobilen på väg till mottagningen?

Jag kan inte vara ensam om att ha suttit i väntrum i vården och hört frågor i korridoren, som “Kan du uppge ditt personnummer? Hur länge har du haft de här besvären?” Ibland uppblandat med “Ditt blodvärde är xxx. Du bör inte ha biverkningar av det läkemedlet.”

Typ av AI-projekt och kompetenser

När det gäller kompetenser så finns det på Umeå Universitet folk med kunskaper inom de flesta områden som går under begreppet AI idag. Dock är det inte självklart att de själva väljer det begreppet då de är specialiserade på en viss inriktning eller att AI som begrepp är mer vanligt förekommande i näringslivet. En av de intervjuade personerna exemplifierar med att själv varit aktiv inom expertsystem redan på 1980-talet, vilket ofta i produktsammanhang skulle kallas för chatbot idag. Eller att man idag jobbar med tekniska ramverk som Keras och praktiserar djupinlärande som en normal aktivitet inom systemutveckling.

AIDA – Artificiell Intelligent Dental Assistent – chatbot som receptionist

Ett av flera innovationsprojekt inom tandvården i Västerbotten är AIDA, en chatbot som är receptionist på en särskild tandvårdsmottagning där man testar nya lösningar i faktisk verksamhet.

Vad jag förstod förstår AIDA lite drygt hundra olika frågeställningar. Jag hoppas hinna gå in djupare på ämnet frågeställningar (också kallat intents på engelska) i en kommande bloggpost.

Innovation kring data

Under 2018 har kompetenshöjande träffar genomförts kring AI-tekniker som machine learning, textanalys, bildanalys, autonoma agenter och diskussioner kring de moraliska dilemman AI kan innebära. Man har bland annat kört Moral Machine där man som människa utsätts för att välja det minst dåliga av två dåliga alternativ. Det är inte fullt så enkelt som man först kan tro.

En insikt var att vissa sorters övningar kan lämpa sig för kortare sessioner än halvdagar, exempelvis passet med bildklassificering enligt YOLOv2-modellen var rätt intensiv.

(Jag lovade där och då att försöka hjälpa till med att samla in data. Att i alla fall plocka ner och dela med mig av alla artiklar från 1177.se i ett strukturerat format. Det erbjuds ju trots allt via ett API. Så den som vill göra NLP/textanalys kan kolla in swelife-ai-workshop/datasource på Github.)

Ett mål för 2019 är att bilda ett lag och ställa upp i en tävling på Kaggle, en tjänst för data science som ganska ofta har tävlingar i datadriven insikt för hälsa- och sjukvård.

LADDS – ett datadrivet samhälle

Erfarenheter som är relativt generella och kan överföras till ett kontext inom life science. Som att detektera strömmar av folk på evenemang, eller klassificera saker som kommer till återvinningscentraler, närmare bestämt Returbutiken.

Sakernas internet – uppkopplade hem i Skellefteå

Sen finns det i närområdet projekt som skulle ha potential till (ännu) mer AI-teknik. Exempelvis ett IoT-projekt (Internet of Things) med sensorer i hemmet. IoT är inte konstigare än sensorer som är uppkopplade mot internet. Exempel på sådana sensorer är sådana som vet ifall ugnen är på, lyset tänds, inomhustemperatur, om någon rör sig i rummet eller kollar hur hur mycket folk väger när de sätter sig på toaletten första gången på morgonen.

Mer info hos IoT Sverige >

Hemkommen till Göteborg möttes jag av ett potentiellt hjärtsviktsprojekt där en sensor skulle kunna förvarna. En utmaning är att all denna teknik inte ska ta en massa uppmärksamhet i vardagen, så det är bra att uppkopplade hem utvärderas.

Beräkningskraft

HPC-center finns i Umeå (High Performance Computing), det vill säga beräkningskraft.

Diktering rakt in i journalen för tandvården

Istället för att ha vårdpersonal som skriver in diktatet i journalen kör man tal-till-text, så det talade diktatet landar som text direkt i journalen. Det innebär att sköterskan kan förbereda för nästa patient i ett annat rum och öka tillgängligheten för patienterna.

Intressant med patientens perspektiv. Hur upplever de att höra dikteringen? Har de invändningar? Är det en bra repetition?

Svårigheter

Befintliga lokala styrkor inom exempelvis ultraljud och MR, som tekniker, skulle ha nytta av kompletterande kompetens inom AI. Att AI som ska komma till nytta är en mix av följande kunskaper:

  • Hårdvara likt medicinteknik
  • Matematik
  • Statistik
  • Informatik
  • Verksamhetsutveckling
  • Domänkunskap inom ämnet det gäller (exempelvis diabetes, mammografi, etc)

En annan svårighet är att få tillgång till och kunna slå samman data ifrån alla landets regioner.

Vetenskaplig publiceringsstandard

Det finns en övertro på vad AI behärskar gör det svårt att möta den förväntan många har. Denna övertro kan tänkas hänga ihop med vad som publiceras, både i form av vetenskapliga papers men också i media. Rimligen är antalet misslyckanden enormt mycket större än vad som rapporteras, det vi hör är det positiva ur en optimistisk tolkning.

Kompetensbrist på de flesta fronterna

Den snäva specialiseringen inom det akademiska nämns som utmaning för applicerad AI då det kräver mer helhetssyn, men specialisering krävs för akademisk legitimitet.

En chef kommenterade också att (alla) man försöker ta hjälp av är underbemannade på avgörande kompetenser.

En mycket IT-kunnig person beklagade sig över att AI fortfarande är fast i IT-branschen. Man har “brist på allt” och det går inte att rekrytera någon. Diskussionen uppstod att de som kan statistik får vidareutbilda utvecklare och vice versa, att man nog får hålla till godo med de man har eller kan anställa för att sedan vidareutbilda.

Något mer överraskande var kommentaren om brist på tillgänglig kompetens inom informatik. Vi spekulerade i att bristen kan bero på att så många landsting har stora upphandlingar av nya journalsystem igång och att denna typ av kompetens låsts upp i de initiativen.

Personen som jobbade som IT-konsult önskade sig att det fanns en data scientist på kundsidan, någon man kan föra en dialog med. Kanske orimligt för kommunerna men landstingen borde klara av detta, exempelvis genom att vidareutbilda sina ETL-kunniga (Extract Transform Load), de som jobbar med Business Intelligence (BI), mfl.

Brist på data (och metadata)

Att försöka skapa insikt i AI med hjälp av data har visat sig svårt, åtminstone när det gäller att få fram datakällor av mer avgörande betydelse. Lite samma problem som öppna data-rörelsen länge drogs med. Ibland är problemet att den kombination av datakällor man behöver är utspridd hos ett flertal aktörer, där inte alla tycker det är värt energin att dela med sig. Ibland saknas data helt och hållet, där enda alternativet är att börja samla in det man behöver.

Även metadata är ett problem. Det vill säga data som beskriver data, berättar vad den är. Men även att man kan få data i standardiserade format är en utmaning.

En person som jobbar med NLP poängterar att 90% av arbetet handlar om att jobba med den data man behöver och 10% är relaterat till det folk kallar AI.

Bias – icke-representativa datakällor

Att datakällor kan ha en etisk slagsida är inget nytt under solen även fast det kan låta så i media ibland. På Umeå Universitet har man kompetens inom social och etisk AI, bland annat genom professorn Virginia Dignum. Det är ett problem att transparensen till dagens massmarknads-AI är så pass bristande och ibland bortförklaras med att det inte går att nå insikt i AI:s beslut.

Oklara kostnader för att hyra molntjänster och IT-drift vs IT-innovation

En person ondgjorde sig över att det inte är helt enkelt att räkna på utgifterna när man inte har sin egen beräkningskraft. Dessutom finns det inga garantier att resultatet av beräkningen är något som är användbart, vilket gör det dubbelt chansartat och inte särskilt kul att försvara inför de som ansvarar för budget.

Det visar sig även när det gäller AI vara svårt att få IT-verksamheten att fungera optimalt på två samtidiga plan. Dels att förvalta allt befintligt och garantera stabilitet och att samtidigt vara snabbrörliga och innovativa.

Juridik och upphandling är en mardröm!

Det är svårt att få raka svar när det gäller det juridiska. Jurister uttrycker sig visserligen även vanligtvis gärna i oprecisa ordalag enligt oss lekmän, men det här är nog ett område som inte prövats särskilt mycket i domstol ännu. Det behöver klargöras vad som är tillåtet och inte.

För närvarande är det mindre än ett år sedan GDPR aktiverades, utöver det finns lagstiftning gällande sekretess, patientdata m.m. Nyttan med AI ligger inte sällan i att kombinera så mycket data som möjligt, vilket inte gör det lättare.

Och man kan fråga sig när registerforskning slutar och produktutveckling baserat på data från ett kvalitetsregister börjar.

Sen att köpa in hjälp eller upphandla den hjälp man behöver är inte helt enkelt. Det är väl aldrig särskilt enkelt att köpa in något man inte själv har kompetens att ens beskriva, inte heller är det enkelt att sålla agnarna från vetet när man får in anbud.

Om och när man väl fått till något som fungerar bra förhindras man av kommunallagen att sälja sin lösning vidare som ett sätt att sprida den. Så har man inte på förhand planerat för succé uppstår ett vakuum kring äganderätten.

Övriga reflektioner

Det är inte ovanligt med en rädsla ute i verksamheterna att ta in AI i organisationen. Kan man lita på AI, kan man verkligen förlita sig på AI?

Varför har vi inte en nationell instans som stöttar med svårigheterna kring AI? Ska verkligen 21 landsting och 290 kommuner behöva springa på samma svårigheter? Detta kan ses som en passning till SKL, antar jag 🙂

I största allmänhet; varför gissar vi så mycket å patientens vägnar? Man kan ju involvera dem och utmana sina antaganden.

Några talar om vilka man som AI-kunnig kan liera sig med i verksamheten. Exempelvis pekas de som förstår sig på precisionsmedicin ut.

En personlig reflektion är att man inom tandvården inte tycks ha dragit nytta av den automatiserade bilddiagnostik man gjort inom radiologin ett bra tag nu. Är det verkligen så att det inte går att låna inspiration och verktyg vid röntgen av tänderna? Exempelvis Försäkringskassan har någon form av analys av tandröntgenbilder, men med ett annat syfte.

Länkar för den vetgirige…

5 svar på ”Funderingar om AI från Umeå”

  1. Tack för ditt värdefulla besök uppe hos oss, känns bra med ett nationellt initiativ som försöker samordna insatser så vi inte sitter och uppfinner nya hjul lite här och var.
    Lycka till med dina fortsatta Linneiska utforskarresor i AI:ns namn. Ser fram emot bloginläggen och framtida samarbeten, helst önskade jag att vi fick fram en tidsmaskin..och kanske en evighetsmaskin för att lösa energi/klimatproblem också..

Lämna ett svar

E-postadressen publiceras inte. Obligatoriska fält är märkta *