AI i hälso- och sjukvård #6 – Vinnova-pengar för NLP, om juridik, etik, robotik och ordvektorer

Intro

Vad är AI och vilken roll ska det ha för att resultatet bör ha AI i innehållsförteckningen? Ofta ser man formuleringar som ”tack vare AI och maskininlärning” och då funderar jag på när vi annars förklarar vad som ligger bakom ett framsteg. För just idag är folk intresserade av detta, och det finns också en kraft i att säga att man håller på med AI. Desto mer sällan hör man ett energiföretag säga att de drar nytta av gravitationen, eller ångans kraft, att förflytta något för att skapa elektricitet, eller liknande förutsättningar som inte längre imponerar på någon. Så varför är vi så imponerande av AI-teknikerna och när kommer vi sluta bry oss?

Personligen tror jag att vi ganska snart tycker att nuvarande nivå av AI är en helt självklar förutsättning, precis som elektriskt ljus. Men det finns fortfarande de som menar att AI-utvecklingen är exponentiell, alltså att den fortsätter att accelerera. Detta med en extremt optimistisk syn på teknik är inget nytt. Att vi skulle ha en generell AI inom 3-8 år utfästes av en kompetent person 1970. Som senast, när undertecknad fortfarande gick i blöja, av tyg förmodligen, förrförra gången folk hade utsvängda byxor, då skulle maskinerna börja likna människor i mångsidig kompetens. Där är vi inte idag, heller.

”In from three to eight years we will have a machine with the general intelligence of an average human being.”
– Marvin Minsky (1970)

Så vad är annorlunda idag när folk gör utfästelser och pratar om den tekniska singulariteten? Ja, inte vet jag.

Psst. Har du sett Vinnovas senaste utlysning? AI-tekniken NLP ingår, så är det nu någon gör slag i saken med att summera journaler, bygger en medicinsk ordvektor (se nedan) eller annat häftigt?

//avd Vårdens digitalisering, genom Marcus Österberg

Robotar som hjälper till

Nu kanske du funderar på vad robotar och AI har med varandra att göra. Utgår man från Norvigs och Russels definition av AI så är maskiner som kan agera som en människa, som genom att lyfta människor i behov av hjälp, en av fyra varianter av AI.

I Mora har man en duschrobot, alltså en robot som hjälper människor att duscha och därmed ha en god hygien.

Ett annat område är robotkirurgi i den nivå av självständighet robotar kan uppvisa. Exempelvis att kirurger ibland kan övervaka roboten när den letar sig fram på egen hand i ett bultande grishjärta. Tänk då om dessa självständiga robotar kan skickas ut till där behövande befinner sig. Ja, det skulle störa patientens vardag ännu mindre än en operation där man får gå hem efter en timme.

Är medicinsk AI ens laglig?

Det finns ett antal hinder för att använda AI-teknik i största allmänhet, men också specifikt för vården. Dataskyddsförordningen (GDPR) ger var och en rätten till transparens i beslut som gäller dem. När det gäller en AI innebär det att man inte kan använda teknik man inte förstår eller som inte kan förklara sig. Man behöver alltså en AI som kan resonera – xAI.

Sedan finns också ett medicintekniskt regelverk där särskilt MDR Rule 11 pekas ut som viktig. Om en AI används för att ta beslut som kan leda till “Death or an irreversible deterioration of a person’s state of health” anses AI:n vara en klass 3 medicinteknisk produkt. Med nuvarande tillämpning av lagen är detta ett stort hinder, alternativt om man ser det som att det är upp till bevis för AI-förespråkarna.
AI:n är förpassad till användning av mindre avgörande beslut.

Amerikanska myndigheten FDA jobbar med att ta fram regler som istället för att certifiera ett slutresultat i produktutvecklingen snarare fokuserar på processen. Detta skulle tillåta en föränderlig AI-lösning vilket är vad som behövs om den ska förbättras kontinuerligt.

Automatisering och etik: Klarar chatbotar av suicidala diabetespatienter?

Det är mycket tal om etik och AI nu. När det gäller vården är etik inte ett nytt påfund med tanke på den hippokratiska eden som är flera tusen år gammal.

”[…] Efter förmåga och omdöme skall jag följa den behandling jag anser gagnerikast för mina patienter och det som kan skada eller irritera dem skall jag undvika.[…]”
Den Hippokratiska Eden – Svenska Läkaresällskapet

Inom IT-industrin, som i mångt och mycket driver AI-arbetet idag, har man inte briljerat med sin proaktiva omtanke och några organisationers misstag sätter andra i dålig dager.

Två stora utmaningar är dels den enorma effektivitet som AI, och IT i största allmänhet, har när det gäller att utföra något. Den automatiseringen riskerar att gömma diskriminering och utföra det i en hissnande takt.

En annan stor utmaning är hur man hanterar oförutsedda användningsmönster. Som att en diabetiker bekänner för en chatbot att hen är suicidal.

””To be honest, when we started this, I didn’t think it was as big an issue as it obviously is,” said Daniel Nathrath, CEO of Ada Health.

The European company built a chatbot to provide smartphone users with possible explanations for their medical complaints. Since the app launched in late 2016, people around the world have used it to complete more than 10 million health assessments. In about 130,000 of those cases, users have told Ada that they’re struggling with suicidal thoughts or behaviors, the company said.”
Patients are using digital health apps to confess suicidal thoughts

Mer om etik och automatisering:

Begreppet: Ordvektorer

Ordvektor är en språkteknik inom NLP (Natural Language Processing), en av alla de AI-tekniker som finns. Det är alltså en sammansättning av “ord” och “vektor”. Vad ord är listar de flesta ut, men vektor kan behöva förklaras. En vektor är i detta sammanhang ett sätt att beskriva ett ords relation och närhet till andra ord. Det är ett sätt att göra språkliga saker mer matematiska, eller computational lingvistics som området ibland kallas på engelska. Man vill alltså göra språk till matematik för att en maskin ska förstå och kunna göra beräkningar.

Tänk dig en kubs tre dimensioner. Den har en bredd, en höjd och ett djup. Som en mjölkförpackning.

Om alla ord i alla världens medicinska riktlinjer ska placeras ut som sandkorn i denna kub på ett strukturerat sätt, ja då kommer ordvektorer väl till användning. Saker som liknar varandra finns nära, på lite mer avstånd är det som är mindre likt. Sånt som ofta nämns tillsammans finns nära varandra. Så kubens ytterligheter har lite med varandra att göra.

Om man i denna kub letar upp ordet ‘kvinna’ kommer ord som ‘äggstockar’ och ‘livmoder’ att ligga närmre ‘kvinna’ än ordet ‘man’.

Tanken är att man med dessa relationer ska kunna låta en maskin göra beräkningar på ord för att sätta dem i sammanhang. En beräkning kan vara att ta följande matematiska uppställning:

testosteron – man + kvinna

och svaret ska bli östrogen.

Tillämpningar av ordvektorer du kan stöta på kan vara Word2Vec, ELMo eller BERT som slog igenom förra året. 2018 släpptes också en kunskapsmodell baserad på 29 miljoner dokument från PubMed.

Videoklipp

Poddavsnitt

Artikelvimmel

Anmäl dig till nyhetsbrevet

Anmäl dig till nyhetsbrevet per mejl på följande länk:
http://eepurl.com/dO2yer