Västra Götalandsregionens synpunkter på EU:s vitbok om Artificiell intelligens

Nedan följer en bloggversion av VGR:s officiella svar kring EU:s vitbok om artificiell intelligens. Beslutad av Regionstyrelsen 26:e maj.

Huvudbudskap:

  • Öppna och maskinläsbara data är en förutsättning för fungerande AI
  • Data av hög kvalitet är en nödvändighet för att utveckla spetskompetens i vården och övriga sektorer
  • Utvecklingen och användningen av AI behöver vägledas av demokratiska och etiska principer
  • Kompetensutveckling inom AI är av strategisk vikt för långsiktig konkurrenskraft, arbetsmarknadens omställning och robusthet
  • Tillvarata befintliga strukturer och ekosystem som finns på regional, nationell och europeisk nivå.

Artificiell intelligens (AI) har potential att bidra med betydande nytta inom en mängd områden genom ökad ekonomisk tillväxt såväl som lösningar på miljömässiga och sociala samhällsutmaningar. Redan i dag finns exempel på att AI kan bidra till att bättre diagnostisera sjukdomar, minska energianvändningen, reducera trafikolyckor, skapa nya tjänster, effektivisera industriell produktion, utveckla nya läkemedel och förkorta handläggningstider.

Men för att AI ska bidra med önskvärda effekter behöver data tillgängliggöras. Det är med hjälp av stora mängder data som AI kan användas för att exempelvis inom vården diagnostisera och bidra till förebyggande hälsa. Data är en grundläggande förutsättning för AI-tillämpningar – utan data ingen AI. För att säkerställa att den personliga integriteten i användandet av data behövs gemensamma policyer och riktlinjer i EU gällande hur data ska anonymiseras och psedounymiseras. I tillämpliga fall bör användande av syntetiska data regleras, då sammanslagning av olika datakällor kan öka riskerna för den personliga integriteten.

Vidare behöver data vara av hög kvalitet. Det är också önskvärt att den är i standardiserat maskinläsbart format för automatiserade processer. Det är tillgången till data av hög kvalitet som möjliggör utvecklingen och användningen av AI inom olika tillämpningsområden. Data av hög kvalitet kännetecknas av representativa data med stor bredd som inkluderar jämställdhet och människors alla olika förutsättningar.  För att möjliggöra AI-lösningar för alla individer krävs således en insikt och vilja att skapa väl genomtänkta lösningar som kan användas av alla. Detta innebär att olikheter måste premieras även i dataset. Det är med representativ data som etiska principer kan upprätthållas. Utvecklingen och användningen av AI behöver vägledas av normer och etiska principer och grunda sig på principen om alla människors lika värde. En generalklausul som säkerställer denna princip är en viktig grundregel som bör gälla all AI-tillämpning och användningsområden. Den övergripande målsättningen bör vara hållbar AI, med innebörden att AI-applikationer ska vara etiska, säkra, pålitliga och transparenta.  Etiska och säkerhetsmässiga överväganden kan inte vara en eftertanke i AI-applikationer utan måste vara en integrerad del från det tidiga designarbetet.

Tillgången till kompetens är en nyckelfaktor för att åstadkomma konkurrenskraftig AI. Resurser behöver investeras i kompetensutveckling och tillämpning av AI inom såväl offentlig som privat sektor. Medarbetarnas förståelse och engagemang i AI-utvecklingen är också en förutsättning för ett hållbart införande och tillämpning av AI som har medborgarnas stöd. En annan viktig faktor för AI-tillämpning är tillgång till olika typer av infrastrukturer. I arbetet med spetskompetens är det därför viktigt att ta tillvara på befintliga strukturer som finns på regional, nationell och europeisk nivå. Regioner har lång erfarenhet av att samla och stötta aktörer som samverkar i ekosystem och infrastrukturer på regional nivå. Dessa upparbetade arbetsformer och ekosystem bör beaktas i det fortsatta arbetet.

Svar på frågorna i enkäten

Del 1 – Ett ekosystem av spetskompetens

Hur viktiga är enligt dig de sex åtgärder som föreslås i avsnitt 4 i vitboken om AI

En grundläggande förutsättning för AI är tillgången till data. Det är tillgången till data av hög kvalitet som möjliggör spetskompetens som kan stödja utvecklingen och användningen av AI. Tillgången till data av hög kvalitet bör därför inkluderas i listan för åtgärder. Vidare är tillgången till kompetens en nyckelfaktor för att åstadkomma spetskompetens.

Översyn av den samordnade planen om AI – Hur viktigt är det enligt dig att i vart och ett av dessa områden anpassa politiken och stärka samordningen såsom beskrivs i avsnitt 4.A i vitboken

För att AI ska kunna bidra på bästa sätt till stärkt konkurrenskraft och bättre välfärd måste rätt förutsättningar finnas. Ett genomgående tema bör vara hållbar AI, med innebörden att AI-applikationer bör vara etiska, säkra, pålitliga och transparenta. En förutsättning för detta är tillgången till data av hög kvalitet och tillgänglig infrastruktur.

Samlad och stärkt forskning och innovation med strävan efter spetskompetens – Finns det några andra åtgärder för stärkt forskning och innovation som borde prioriteras?

För utveckling och användning av AI behövs olika typer av infrastrukturer. Vissa delar kräver tillgång till stora mängder data och kraftfulla datorer för skapandet av algoritmer. Gällande spetskompetens är det viktigt att ta tillvara på befintliga strukturer som finns på de olika nivåerna. Regioner har lång erfarenhet av att samla och stötta aktörer som samverkar i ekosystem och infrastrukturer på regional nivå. Dessa upparbetade arbetsformer och ekosystem bör beaktas i det fortsatta arbetet.

Fokusering på små och medelstora företag – Finns det några andra uppgifter som enligt dig är viktiga för specialiserade digitala innovationsknutpunkter?

För utveckling och tillämpning av AI behövs utöver anläggningar för test- och demonstration även möjligheten till kontinuerlig validering av algoritmer och andra produkter. Många av de nyttor som AI har att erbjuda kan tillämpas i den offentliga sektorn vilket även resulterar i kostnadseffektivitet på sikt. Det är därför viktigt att de digitala innovationsknytpunkterna även ser till den offentliga sektorns behov i den digitala omställningen.   

Del 2 – Ett ekosystem av förtroende

Har du några andra farhågor rörande AI som inte nämns ovan? Förklara närmare:

För att minimera farhågorna rörande AI är det viktigt att grunden för regelverket bygger på alla människors lika värde. Ett genomgående tema bör vara hållbar AI, med innebörden att AI-applikationer bör vara etiska, säkra, pålitliga och transparenta. Etiska och säkerhetsmässiga överväganden kan inte vara en eftertanke i AI-applikationer utan måste vara en integrerad del från det tidiga designarbetet. Viktig med transparens till civilsamhället och en ständig dialog kring syften.

Tror du att de farhågor som uttryckts ovan kan åtgärdas med hjälp av den befintliga lagstiftningen? Om inte, tror du att det bör införas nya särskilda regler för AI-system? Annat, precisera:

Ett omtag av digitalisering i ett bredare perspektiv och en gapanalys av rådande situation behövs. EU:s dataskyddsförordning är ett bra exempel på en övergripande lagstiftning som ger ett starkt integritetsskydd och som därmed är viktig i ett AI ramverk. Gemensamma policyer och riktlinjer i EU behövs för hur data ska anonymiseras, psedounymiseras och i tillämpliga fall användande av syntetiska data regleras, då sammanslagning av olika datakällor kan öka riskerna för den personliga integriteten.

Om du anser att det är nödvändigt att införa nya regler för AI-system, håller du med om att nya obligatoriska krav bör begränsas till tillämpningar med hög risk (där risken för att AI-systemen kan tillfoga skada är särskilt hög)? Annat, precisera:

Det är av yttersta vikt att all användning och lagstiftning gällande AI bygger på alla människors lika värde. En generalklausul som säkerställer denna princip är en viktig grundregel som bör gälla all AI tillämpning.

En annan styrande princip bör vara möjligheten att alltid kunna överklaga automatiserade beslut, inte minst när det gäller applikationer i offentlig sektor och automatisering av myndighetsbeslut, oberoende av om AI tillämpningen är av hög eller låg risk.

Ange gärna vilken AI-tillämpning eller AI-användning som är mest oroande (”hög risk”) ur ditt perspektiv:

Användandet av dåliga algoritmer har hög riskfaktor då det leder till snedvridna resultat och diskriminering av olika grupper i samhället. Hög kvalitetsdata utmärks av data som inkluderar jämställdhet och människors alla olika förutsättningar. I skapandet av AI lösningar krävs väl genomtänkta lösningar för alla. Det är med representativa data som etiska principer kan upprätthållas. Olikheter måste premieras och inte bara lösningar som ger korrekt resultat för majoriteten.

Anser du att det behövs ytterligare riktlinjer eller lagstiftning på EU-nivå för system för biometrisk fjärridentifiering (t.ex. ansiktsigenkänning) och annan teknik som kan användas på offentliga platser? Vänligen utveckla svaret:

Det är av yttersta vikt att all användning och lagstiftning gällande AI bygger på alla människors lika värde. En generalklausul som säkerställer denna princip är en viktig grundregel som bör gälla all AI tillämpning.

Sådana ramverk måste balansera fundamentala behov av integritetsskydd, etik, tillit och samhällsskydd med nödvändig tillgång till data för att möjliggöra potentialen med AI.

Har du några ytterligare förslag på ett frivilligt märkningssystem?

Frivillig märkning kan skapa ökad tydlighet för användare och konsumenter. Riktlinjer och standarder kan vägleda privata och offentliga aktörer gällande AI användande och kan främja teknisk, semantisk, rättslig och annan interoperabilitet. Ett särskilt EU märkningssystem som garanterar att AI tekniken bygger på alla människors lika värde skulle skapa ett mervärde för både användare och utvecklare genom en ökad tydlighet om att etiska avvägningar är en integrerad del av tekniken som används.

Del 3 – Konsekvenser för säkerhet och ansvar när det gäller AI, sakernas internet och robotteknik

Finns det enligt dig några ytterligare risker som bör behandlas ytterligare för att skapa ökad rättslig säkerhet?

Partisk datakvalitet är ett stort problem som leder till diskriminerande resultat och utesluter grupper i samhället från användningen av den specifika tekniken. Data av hög kvalitet kännetecknas av representativ data som inkluderar jämställdhet och människors olika förutsättningar. Det är med representativa data som etiska principer kan upprätthållas. Ändamålsenliga ramverk med principer, normer, standarder och regler är därför en förutsättning för att förverkliga nyttan med AI i samhället.

Har du några ytterligare synpunkter rörande riskbedömningsförfaranden?

Det är viktigt att det är syftet och skeendet som analyseras och inte tekniken. Bedömningen bör helst vara teknikagnostisk. Rättsstatens principer ska gälla vid all AI-användning.

En annan styrande princip bör vara möjligheten att alltid kunna överklaga automatiserade beslut, inte minst när det gäller applikationer i offentlig sektor och automatisering av myndighetsbeslut, oberoende av om AI tillämpningen är av hög eller låg risk.

Tror du att den befintliga EU-regelverket för ansvar (direktivet om produktansvar) bör ändras för att bättre täcka risker med vissa AI tillämpningar?

Principen om att ansvarsutkrävande ska vara möjligt måste vara vägledande. Det måste vara tydligt var ansvaret ligger och till vem användaren eller konsumenten ska vända sig till vid problem. Revidering av direktivet om produktansvar kan krävas för att göra ansvarsutkrävandet tydligare.

Tror du att de befintliga nationella ansvarsreglerna bör anpassas till användning av AI för att säkerställa lämplig ersättning för skada eller rättvis ansvarsfördelning?

Principen om att ansvarsutkrävande ska vara möjligt måste vara vägledande. Det måste vara tydligt var ansvaret ligger och till vem användaren eller konsumenten ska vända sig till vid problem.

Lämna ett svar

E-postadressen publiceras inte. Obligatoriska fält är märkta *