Intelligent overvåkning i EU?

EU-Kommisjonen jobber nå med å utarbeide forslag til nye og strengere regler for bruken av kunstig intelligens (AI) i samfunnet. Forslaget, som er det første i sitt slag, er ventet å bli lagt fram 21. april.

Foto: EU-Kommisjonen

I det kommende forslaget ønsker Kommisjonen å forby bruken av ansiktsovervåkning. Det er blant andre nyhetsorganisasjonen Politico som melder dette. I forkant av den ventede publiseringen, har også 40 medlemmer av Europaparlamentet hevet seg på og delt sin støtte til dette konkrete elementet av forslaget.

På sine egne nettsider, skriver Kommisjonen at et nytt lovforslag på feltet er ventet i 2021, med det formål å “sikre EUs fundamentale verdier og rettigheter, samt brukernes sikkerhet ved å forplikte høy-risiko AI-systemer å møte obligatoriske krav til tillit”. Som et ledd i dette, nevner de behovet for menneskelig kontroll, samt tydelig informasjon om mulighetene og begrensningene ved bruk av kunstig intelligens.

Ønsker å forby intelligent overvåkning
I det nye forslaget er det ventet at Kommisjonen vil forby kunstig intelligens i bruk i overvåkning. Dette er for å sikre europeiske verdier og unngå at europeiske stater går i en autoritær retning gjennom mulighetene som finnes i teknologien. De gjør imidlertid unntak for etterforskning av alvorlig kriminalitet.

Spesielt i fokus står teknologi for ansiktsgjenkjenning, og bruken av denne i statlig overvåkning. Dette er en problematikk som har gjort seg spesielt gjeldende under pandemien, da slik teknologi kan være et effektivt og presist hjelpemiddel i håndhevingen av koronareglene, med betydelige muligheter for å innskrenke folks bevegelsesfrihet. Samtidig er ansiktsgjenkjenningsteknologi blitt en integrert og kjær del av den teknologiske hverdagen og en praktisk løsning for mange, gjennom effektive innloggingsmetoder for PC og mobil.

Nytt EU-organ
Forslaget legger også opp til opprettelsen av et europeisk råd for kunstig intelligens, slik databeskyttelsesrådet ble opprettet i forbindelse med personvernforordningen (GDPR). Dette organet skal overvåke at loven blir overholdt og at erfaringene fra implementeringen kan deles på tvers av landegrensene. Rådet skal bestå av én representant fra Kommisjonen og én representant fra hvert av de 27 medlemslandene, i tillegg til representanter fra EUs databeskyttelsesmyndighet.

Adresserer kjønnsdiskriminering i teknologien
Kommisjonen tar også for seg kjønnsperspektivet. Utarbeidelsen av algoritmene som brukes i kunstig intelligens og i teknologisektoren som helhet, er i stor grad utarbeidet av menn. Det har derfor i lengre tid pågått en diskusjon om hvorvidt de løsningene som utarbeides er for maskulint vektet, i den forstand at de er laget av og for menn.

Apple fikk sterk kritikk i 2019, for sitt betalingskort Apple Card, som de opererer i samarbeid med den amerikanske investeringsbanken Goldman Sachs. Det viste seg at ansiktsgjenkjenningsteknologien som brukes i appen analyserte kjønn på personen og vektet dette ulikt i kredittvurderingen av kvinner og menn. Ektepar med felles økonomi, opplevde for eksempel at mannen fikk innvilget høyere kreditt enn kona.

Den samme problemstillingen er blitt trukket fram hva angår etnisitet og mangfold, der kritikere har pekt på at det i stor grad er hvite mennesker som leder og jobber med teknologisk utvikling.

Europa i førersetet
Dersom reguleringene blir vedtatt, vil de være historiske i sitt slag. Dette er nemlig det første initiativet som i større skala akter å begrense bruken av kunstig intelligens. Europa har gjort seg bemerket hva angår forsøk på regulering av teknologigiganter tidligere, der Kommisjonen blant annet har adressert den voksende trenden med skatteunndragelse via outsourcing.

I likhet med tidligere reguleringer for teknologisektoren, er også dette initiativet ventet å møte motstand. Noe av argumentasjonen mot sterkere regulering av kunstig intelligens i EU bunner i frykten for at teknologiselskaper og utviklere ikke vil etablere seg eller satse videre i Europa, og at dette kan hindre innovasjon og næringsutvikling på sikt. En uttalt bekymring er at Europa skal “regulere seg ut” av konkurransen med USA og Kina om utvikling av morgendagens teknologi og næringsliv. Denne problemstillingen gjorde seg også gjeldende i forbindelse med at GDPR trådte i kraft i 2018.

En annen motargumentasjon er hvorvidt reguleringene som foreslås vil være realistiske og gi mening for brukere og utviklere, slik at de kan håndheves på en effektiv måte. Også dette er et aspekt som har vist seg utfordrende knyttet til GDPR, der det har vist seg at håndhevingen av reglene har vært mangelfull.

Det er ventet at det endelige forslaget til en regulering legges fram den 21. april.

  • Du kan lese mer om Kommisjonens arbeid med kunstig intelligens her.
  • I 2020 publiserte Kommisjonen en hvitbok om bruken av kunstig intelligens. Den kan du lese her.