{"id":2538,"date":"2020-05-27T16:29:57","date_gmt":"2020-05-27T14:29:57","guid":{"rendered":"https:\/\/vgrblogg.se\/utveckling\/?p=2538"},"modified":"2020-05-27T16:30:01","modified_gmt":"2020-05-27T14:30:01","slug":"vastra-gotalandsregionens-synpunkter-pa-eus-vitbok-om-artificiell-intelligens","status":"publish","type":"post","link":"https:\/\/vgrblogg.se\/utveckling\/2020\/05\/27\/vastra-gotalandsregionens-synpunkter-pa-eus-vitbok-om-artificiell-intelligens\/","title":{"rendered":"V\u00e4stra G\u00f6talandsregionens synpunkter p\u00e5 EU:s vitbok om Artificiell intelligens"},"content":{"rendered":"\n
Nedan f\u00f6ljer en bloggversion av VGR:s officiella svar kring EU:s vitbok om artificiell intelligens. Beslutad av Regionstyrelsen 26:e maj.<\/p>\n\n\n\n\n\n\n\n
Huvudbudskap:<\/p>\n\n\n\n
Artificiell intelligens (AI) har potential att bidra med betydande nytta inom en m\u00e4ngd omr\u00e5den genom \u00f6kad ekonomisk tillv\u00e4xt s\u00e5v\u00e4l som l\u00f6sningar p\u00e5 milj\u00f6m\u00e4ssiga och sociala samh\u00e4llsutmaningar. Redan i dag finns exempel p\u00e5 att AI kan bidra till att b\u00e4ttre diagnostisera sjukdomar, minska energianv\u00e4ndningen, reducera trafikolyckor, skapa nya tj\u00e4nster, effektivisera industriell produktion, utveckla nya l\u00e4kemedel och f\u00f6rkorta handl\u00e4ggningstider.<\/p>\n\n\n\n
Men f\u00f6r att AI ska bidra med \u00f6nskv\u00e4rda effekter beh\u00f6ver data tillg\u00e4ngligg\u00f6ras<\/em><\/strong>. Det \u00e4r med hj\u00e4lp av stora m\u00e4ngder data som AI kan anv\u00e4ndas f\u00f6r att exempelvis inom v\u00e5rden diagnostisera och bidra till f\u00f6rebyggande h\u00e4lsa. Data \u00e4r en grundl\u00e4ggande f\u00f6ruts\u00e4ttning f\u00f6r AI-till\u00e4mpningar – utan data ingen AI. F\u00f6r att s\u00e4kerst\u00e4lla att den personliga integriteten i anv\u00e4ndandet av data beh\u00f6vs gemensamma policyer och riktlinjer i EU g\u00e4llande hur data ska anonymiseras och psedounymiseras. I till\u00e4mpliga fall b\u00f6r anv\u00e4ndande av syntetiska data regleras, d\u00e5 sammanslagning av olika datak\u00e4llor kan \u00f6ka riskerna f\u00f6r den personliga integriteten.<\/p>\n\n\n\n Vidare beh\u00f6ver data vara av h\u00f6g kvalitet. Det \u00e4r ocks\u00e5 \u00f6nskv\u00e4rt att den \u00e4r i standardiserat maskinl\u00e4sbart format f\u00f6r automatiserade processer. Det \u00e4r tillg\u00e5ngen till data av h\u00f6g kvalitet som m\u00f6jligg\u00f6r utvecklingen och anv\u00e4ndningen av AI inom olika till\u00e4mpningsomr\u00e5den. Data av h\u00f6g kvalitet k\u00e4nnetecknas av representativa data med stor bredd som inkluderar j\u00e4mst\u00e4lldhet och m\u00e4nniskors alla olika f\u00f6ruts\u00e4ttningar. F\u00f6r att m\u00f6jligg\u00f6ra AI-l\u00f6sningar f\u00f6r alla individer kr\u00e4vs s\u00e5ledes en insikt och vilja att skapa v\u00e4l genomt\u00e4nkta l\u00f6sningar som kan anv\u00e4ndas av alla. Detta inneb\u00e4r att olikheter m\u00e5ste premieras \u00e4ven i dataset. Det \u00e4r med representativ data som etiska principer kan uppr\u00e4tth\u00e5llas<\/em><\/strong>. Utvecklingen och anv\u00e4ndningen av AI beh\u00f6ver v\u00e4gledas av normer och etiska principer och grunda sig p\u00e5 principen om alla m\u00e4nniskors lika v\u00e4rde. En generalklausul som s\u00e4kerst\u00e4ller denna princip \u00e4r en viktig grundregel som b\u00f6r g\u00e4lla all AI-till\u00e4mpning och anv\u00e4ndningsomr\u00e5den. Den \u00f6vergripande m\u00e5ls\u00e4ttningen b\u00f6r vara h\u00e5llbar AI, med inneb\u00f6rden att AI-applikationer ska vara etiska, s\u00e4kra, p\u00e5litliga och transparenta. Etiska och s\u00e4kerhetsm\u00e4ssiga \u00f6verv\u00e4ganden kan inte vara en eftertanke i AI-applikationer utan m\u00e5ste vara en integrerad del fr\u00e5n det tidiga designarbetet.<\/p>\n\n\n\n Tillg\u00e5ngen till kompetens \u00e4r en nyckelfaktor f\u00f6r att \u00e5stadkomma konkurrenskraftig AI. Resurser beh\u00f6ver investeras i kompetensutveckling och till\u00e4mpning av AI inom s\u00e5v\u00e4l offentlig som privat sektor. Medarbetarnas f\u00f6rst\u00e5else och engagemang i AI-utvecklingen \u00e4r ocks\u00e5 en f\u00f6ruts\u00e4ttning f\u00f6r ett h\u00e5llbart inf\u00f6rande och till\u00e4mpning av AI som har medborgarnas st\u00f6d. En annan viktig faktor f\u00f6r AI-till\u00e4mpning \u00e4r tillg\u00e5ng till olika typer av infrastrukturer. I arbetet med spetskompetens \u00e4r det d\u00e4rf\u00f6r viktigt att ta tillvara p\u00e5 befintliga strukturer som finns p\u00e5 regional, nationell och europeisk niv\u00e5. Regioner har l\u00e5ng erfarenhet av att samla och st\u00f6tta akt\u00f6rer som samverkar i ekosystem och infrastrukturer p\u00e5 regional niv\u00e5. Dessa upparbetade arbetsformer och ekosystem b\u00f6r beaktas i det fortsatta arbetet.<\/p>\n\n\n\n En grundl\u00e4ggande f\u00f6ruts\u00e4ttning f\u00f6r AI \u00e4r tillg\u00e5ngen till data. Det \u00e4r tillg\u00e5ngen till data av h\u00f6g kvalitet som m\u00f6jligg\u00f6r spetskompetens som kan st\u00f6dja utvecklingen och anv\u00e4ndningen av AI. Tillg\u00e5ngen till data av h\u00f6g kvalitet b\u00f6r d\u00e4rf\u00f6r inkluderas i listan f\u00f6r \u00e5tg\u00e4rder. Vidare \u00e4r tillg\u00e5ngen till kompetens en nyckelfaktor f\u00f6r att \u00e5stadkomma spetskompetens.<\/p>\n\n\n\n F\u00f6r att AI ska kunna bidra p\u00e5 b\u00e4sta s\u00e4tt till st\u00e4rkt konkurrenskraft och b\u00e4ttre v\u00e4lf\u00e4rd m\u00e5ste r\u00e4tt f\u00f6ruts\u00e4ttningar finnas. Ett genomg\u00e5ende tema b\u00f6r vara h\u00e5llbar AI, med inneb\u00f6rden att AI-applikationer b\u00f6r vara etiska, s\u00e4kra, p\u00e5litliga och transparenta. En f\u00f6ruts\u00e4ttning f\u00f6r detta \u00e4r tillg\u00e5ngen till data av h\u00f6g kvalitet och tillg\u00e4nglig infrastruktur.<\/p>\n\n\n\n F\u00f6r utveckling och anv\u00e4ndning av AI beh\u00f6vs olika typer av infrastrukturer. Vissa delar kr\u00e4ver tillg\u00e5ng till stora m\u00e4ngder data och kraftfulla datorer f\u00f6r skapandet av algoritmer. G\u00e4llande spetskompetens \u00e4r det viktigt att ta tillvara p\u00e5 befintliga strukturer som finns p\u00e5 de olika niv\u00e5erna. Regioner har l\u00e5ng erfarenhet av att samla och st\u00f6tta akt\u00f6rer som samverkar i ekosystem och infrastrukturer p\u00e5 regional niv\u00e5. Dessa upparbetade arbetsformer och ekosystem b\u00f6r beaktas i det fortsatta arbetet.<\/p>\n\n\n\n F\u00f6r utveckling och till\u00e4mpning av AI beh\u00f6vs ut\u00f6ver anl\u00e4ggningar f\u00f6r test- och demonstration \u00e4ven m\u00f6jligheten till kontinuerlig validering av algoritmer och andra produkter. M\u00e5nga av de nyttor som AI har att erbjuda kan till\u00e4mpas i den offentliga sektorn vilket \u00e4ven resulterar i kostnadseffektivitet p\u00e5 sikt. Det \u00e4r d\u00e4rf\u00f6r viktigt att de digitala innovationsknytpunkterna \u00e4ven ser till den offentliga sektorns behov i den digitala omst\u00e4llningen. <\/p>\n\n\n\n F\u00f6r att minimera farh\u00e5gorna r\u00f6rande AI \u00e4r det viktigt att grunden f\u00f6r regelverket bygger p\u00e5 alla m\u00e4nniskors lika v\u00e4rde. Ett genomg\u00e5ende tema b\u00f6r vara h\u00e5llbar AI, med inneb\u00f6rden att AI-applikationer b\u00f6r vara etiska, s\u00e4kra, p\u00e5litliga och transparenta. Etiska och s\u00e4kerhetsm\u00e4ssiga \u00f6verv\u00e4ganden kan inte vara en eftertanke i AI-applikationer utan m\u00e5ste vara en integrerad del fr\u00e5n det tidiga designarbetet. Viktig med transparens till civilsamh\u00e4llet och en st\u00e4ndig dialog kring syften.<\/p>\n\n\n\n Ett omtag av digitalisering i ett bredare perspektiv och en gapanalys av r\u00e5dande situation beh\u00f6vs. EU:s dataskyddsf\u00f6rordning \u00e4r ett bra exempel p\u00e5 en \u00f6vergripande lagstiftning som ger ett starkt integritetsskydd och som d\u00e4rmed \u00e4r viktig i ett AI ramverk. Gemensamma policyer och riktlinjer i EU beh\u00f6vs f\u00f6r hur data ska anonymiseras, psedounymiseras och i till\u00e4mpliga fall anv\u00e4ndande av syntetiska data regleras, d\u00e5 sammanslagning av olika datak\u00e4llor kan \u00f6ka riskerna f\u00f6r den personliga integriteten.<\/p>\n\n\n\n Det \u00e4r av yttersta vikt att all anv\u00e4ndning och lagstiftning g\u00e4llande AI bygger p\u00e5 alla m\u00e4nniskors lika v\u00e4rde. En generalklausul som s\u00e4kerst\u00e4ller denna princip \u00e4r en viktig grundregel som b\u00f6r g\u00e4lla all AI till\u00e4mpning.<\/p>\n\n\n\n En annan styrande princip b\u00f6r vara m\u00f6jligheten att alltid kunna \u00f6verklaga automatiserade beslut, inte minst n\u00e4r det g\u00e4ller applikationer i offentlig sektor och automatisering av myndighetsbeslut, oberoende av om AI till\u00e4mpningen \u00e4r av h\u00f6g eller l\u00e5g risk.<\/p>\n\n\n\n Anv\u00e4ndandet av d\u00e5liga algoritmer har h\u00f6g riskfaktor d\u00e5 det leder till snedvridna resultat och diskriminering av olika grupper i samh\u00e4llet. H\u00f6g kvalitetsdata utm\u00e4rks av data som inkluderar j\u00e4mst\u00e4lldhet och m\u00e4nniskors alla olika f\u00f6ruts\u00e4ttningar. I skapandet av AI l\u00f6sningar kr\u00e4vs v\u00e4l genomt\u00e4nkta l\u00f6sningar f\u00f6r alla. Det \u00e4r med representativa data som etiska principer kan uppr\u00e4tth\u00e5llas. Olikheter m\u00e5ste premieras och inte bara l\u00f6sningar som ger korrekt resultat f\u00f6r majoriteten.<\/p>\n\n\n\n Det \u00e4r av yttersta vikt att all anv\u00e4ndning och lagstiftning g\u00e4llande AI bygger p\u00e5 alla m\u00e4nniskors lika v\u00e4rde. En generalklausul som s\u00e4kerst\u00e4ller denna princip \u00e4r en viktig grundregel som b\u00f6r g\u00e4lla all AI till\u00e4mpning.<\/p>\n\n\n\n S\u00e5dana ramverk m\u00e5ste balansera fundamentala behov av integritetsskydd, etik, tillit och samh\u00e4llsskydd med n\u00f6dv\u00e4ndig tillg\u00e5ng till data f\u00f6r att m\u00f6jligg\u00f6ra potentialen med AI.<\/p>\n\n\n\n Frivillig m\u00e4rkning kan skapa \u00f6kad tydlighet f\u00f6r anv\u00e4ndare och konsumenter. Riktlinjer och standarder kan v\u00e4gleda privata och offentliga akt\u00f6rer g\u00e4llande AI anv\u00e4ndande och kan fr\u00e4mja teknisk, semantisk, r\u00e4ttslig och annan interoperabilitet. Ett s\u00e4rskilt EU m\u00e4rkningssystem som garanterar att AI tekniken bygger p\u00e5 alla m\u00e4nniskors lika v\u00e4rde skulle skapa ett merv\u00e4rde f\u00f6r b\u00e5de anv\u00e4ndare och utvecklare genom en \u00f6kad tydlighet om att etiska avv\u00e4gningar \u00e4r en integrerad del av tekniken som anv\u00e4nds.<\/p>\n\n\n\n Partisk datakvalitet \u00e4r ett stort problem som leder till diskriminerande resultat och utesluter grupper i samh\u00e4llet fr\u00e5n anv\u00e4ndningen av den specifika tekniken. Data av h\u00f6g kvalitet k\u00e4nnetecknas av representativ data som inkluderar j\u00e4mst\u00e4lldhet och m\u00e4nniskors olika f\u00f6ruts\u00e4ttningar. Det \u00e4r med representativa data som etiska principer kan uppr\u00e4tth\u00e5llas. \u00c4ndam\u00e5lsenliga ramverk med principer, normer, standarder och regler \u00e4r d\u00e4rf\u00f6r en f\u00f6ruts\u00e4ttning f\u00f6r att f\u00f6rverkliga nyttan med AI i samh\u00e4llet.<\/p>\n\n\n\n Det \u00e4r viktigt att det \u00e4r syftet och skeendet som analyseras och inte tekniken. Bed\u00f6mningen b\u00f6r helst vara teknikagnostisk. R\u00e4ttsstatens principer ska g\u00e4lla vid all AI-anv\u00e4ndning.<\/p>\n\n\n\n En annan styrande princip b\u00f6r vara m\u00f6jligheten att alltid kunna \u00f6verklaga automatiserade beslut, inte minst n\u00e4r det g\u00e4ller applikationer i offentlig sektor och automatisering av myndighetsbeslut, oberoende av om AI till\u00e4mpningen \u00e4r av h\u00f6g eller l\u00e5g risk.<\/p>\n\n\n\n Principen om att ansvarsutkr\u00e4vande ska vara m\u00f6jligt m\u00e5ste vara v\u00e4gledande. Det m\u00e5ste vara tydligt var ansvaret ligger och till vem anv\u00e4ndaren eller konsumenten ska v\u00e4nda sig till vid problem. Revidering av direktivet om produktansvar kan kr\u00e4vas f\u00f6r att g\u00f6ra ansvarsutkr\u00e4vandet tydligare.<\/p>\n\n\n\n Principen om att ansvarsutkr\u00e4vande ska vara m\u00f6jligt m\u00e5ste vara v\u00e4gledande. Det m\u00e5ste vara tydligt var ansvaret ligger och till vem anv\u00e4ndaren eller konsumenten ska v\u00e4nda sig till vid problem.<\/p>\n","protected":false},"excerpt":{"rendered":" Nedan f\u00f6ljer en bloggversion av VGR:s officiella svar kring EU:s vitbok om artificiell intelligens. Beslutad av Regionstyrelsen 26:e maj.<\/p>\n","protected":false},"author":3,"featured_media":2539,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[47,997,143,57,1085],"class_list":["post-2538","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-innovation","tag-artificiell-intelligens-ai","tag-etisk-ai","tag-eu","tag-oppna-data","tag-vitbok"],"yoast_head":"\nSvar p\u00e5 fr\u00e5gorna i enk\u00e4ten<\/h2>\n\n\n\n
Del 1 – Ett ekosystem av spetskompetens<\/h3>\n\n\n\n
Hur viktiga \u00e4r enligt dig de sex \u00e5tg\u00e4rder som f\u00f6resl\u00e5s i avsnitt 4 i vitboken om<\/strong> AI<\/strong><\/h4>\n\n\n\n
\u00d6versyn av den samordnade planen om AI – Hur viktigt \u00e4r det enligt dig att i vart och ett av dessa omr\u00e5den anpassa politiken och st\u00e4rka samordningen s\u00e5som beskrivs i avsnitt 4.A i vitboken<\/strong><\/h4>\n\n\n\n
Samlad och st\u00e4rkt forskning och innovation med str\u00e4van efter spetskompetens – Finns det n\u00e5gra andra \u00e5tg\u00e4rder f\u00f6r st\u00e4rkt forskning och innovation som borde prioriteras?<\/strong><\/h4>\n\n\n\n
Fokusering p\u00e5 sm\u00e5 och medelstora f\u00f6retag – Finns det n\u00e5gra andra uppgifter som enligt dig \u00e4r viktiga f\u00f6r specialiserade digitala innovationsknutpunkter?<\/strong><\/h4>\n\n\n\n
Del 2 – Ett ekosystem av f\u00f6rtroende<\/h3>\n\n\n\n
Har du n\u00e5gra andra farh\u00e5gor r\u00f6rande AI som inte n\u00e4mns ovan? F\u00f6rklara n\u00e4rmare:<\/strong><\/h4>\n\n\n\n
Tror du att de farh\u00e5gor som uttryckts ovan kan \u00e5tg\u00e4rdas med hj\u00e4lp av den befintliga lagstiftningen? Om inte, tror du att det b\u00f6r inf\u00f6ras nya s\u00e4rskilda regler f\u00f6r AI-system? Annat, precisera:<\/strong><\/h4>\n\n\n\n
Om du anser att det \u00e4r n\u00f6dv\u00e4ndigt att inf\u00f6ra nya regler f\u00f6r AI-system, h\u00e5ller du med om att nya obligatoriska krav b\u00f6r begr\u00e4nsas till till\u00e4mpningar med h\u00f6g risk (d\u00e4r risken f\u00f6r att AI-systemen kan tillfoga skada \u00e4r s\u00e4rskilt h\u00f6g)? Annat, precisera:<\/strong><\/h4>\n\n\n\n
Ange g\u00e4rna vilken AI-till\u00e4mpning eller AI-anv\u00e4ndning som \u00e4r mest oroande (\u201dh\u00f6g risk\u201d) ur ditt perspektiv:<\/strong><\/h4>\n\n\n\n
Anser du att det beh\u00f6vs ytterligare riktlinjer eller lagstiftning p\u00e5 EU-niv\u00e5 f\u00f6r system f\u00f6r biometrisk fj\u00e4rridentifiering (t.ex. ansiktsigenk\u00e4nning) och annan teknik som kan anv\u00e4ndas p\u00e5 offentliga platser? V\u00e4nligen utveckla svaret:<\/strong><\/h4>\n\n\n\n
Har du n\u00e5gra ytterligare f\u00f6rslag p\u00e5 ett frivilligt m\u00e4rkningssystem?<\/strong><\/h4>\n\n\n\n
Del 3 – Konsekvenser f\u00f6r s\u00e4kerhet och ansvar n\u00e4r det g\u00e4ller AI, sakernas internet och robotteknik<\/h2>\n\n\n\n
Finns det enligt dig n\u00e5gra ytterligare risker som b\u00f6r behandlas ytterligare f\u00f6r att skapa \u00f6kad r\u00e4ttslig s\u00e4kerhet?<\/strong><\/h4>\n\n\n\n
Har du n\u00e5gra ytterligare synpunkter r\u00f6rande riskbed\u00f6mningsf\u00f6rfaranden?<\/strong><\/h4>\n\n\n\n
Tror du att den befintliga EU-regelverket f\u00f6r ansvar (direktivet om produktansvar) b\u00f6r \u00e4ndras f\u00f6r att b\u00e4ttre t\u00e4cka risker med vissa AI till\u00e4mpningar?<\/strong><\/h4>\n\n\n\n
Tror du att de befintliga nationella ansvarsreglerna b\u00f6r anpassas till anv\u00e4ndning av AI f\u00f6r att s\u00e4kerst\u00e4lla l\u00e4mplig ers\u00e4ttning f\u00f6r skada eller r\u00e4ttvis ansvarsf\u00f6rdelning?<\/strong><\/h4>\n\n\n\n