EU strammer grepet om robotene

En robot står klar til tjeneste i Brussel. Nå ønsker EU-Kommisjonen å legge strengere føringer for bruken av kunstig intelligens i samfunnet. Foto: EU-Kommisjonen.
En robot står klar til tjeneste i Brussel. Nå ønsker EU-Kommisjonen å legge strengere føringer for bruken av kunstig intelligens i samfunnet. Foto: EU-Kommisjonen.


Med sitt nye lovforslag på bruken av kunstig intelligens, ønsker Europakommisjonen å regulere omfanget og utbredelsen av intelligente systemer i samfunnet. Men kritiske røster mener de ikke går langt nok.

Under visjonen om et “EU klart for den digitale era” lanserte EU-Kommisjonen den 21. april et forslag til en forordning for et harmonisert regelverk for kunstig intelligens (KI) – på engelsk kjent som Artificial Intelligence Act (AIA). Forslaget, som er verdens første i sitt slag, tar sikte på å styrke EUs ledende rolle som en garantist for en teknologistyring som er sentrert rundt menneskelig kontroll, bærekraft, inkludering og tillit.

Kommisjonens visepresident for den digitale tidsalder, Margrete Vestager, uttalte følgende i forbindelse med lanseringen:

– Når det kommer til kunstig intelligens, er tillit en nødvendighet – ikke bare noe som er kjekt å ha. EU går i bresjen for å utvikle et sett nye globale normer for å sikre at KI er til å stole på.

Adresserer etterslepet i teknologilovgivningen
Teknologiutviklingen akselerer, og det blir stadig mer utfordrende for lovgivere å holde tritt. Strengere regulering av teknologibransjen, og spesielt på kunstig intelligens, er i lengre tid blitt etterspurt, og mange mener at en lov på dette feltet er på høy tid. Samtidig satser EU med dette forslaget på å komme utviklingen i forkjøpet, ved å sette rammer for bruken av intelligente systemer i årene som kommer.

Et uttalt ønske bak lovforslaget er å sikre europeiske verdier som frihet og demokrati i møte med de kontrollmulighetene som ligger i kunstig intelligens. Her er kinesisk overvåkning og deres system for sosial rangering blitt brukt som skrekkeksemplet for hvor vi kan være på vei dersom bruken på ikke blir regulert på overstatlig nivå.

Samtidig med lovforslaget på KI, kommer også et forslag til en forordning på maskinvarer, som en såkalt REFIT av maskindirektivet av 2006. Denne skal regulere intelligente maskiner og forbrukerelektronikk, som for eksempel robotstøvsugere, 3D-printere eller pleierobototer i helsevesenet.

Risikobasert tilnærming
Kommisjonen opererer med en bred definisjon av KI-systemer og tilpasser dermed også kravene til de ulike aktørene etter hvor de befinner seg i verdikjeden. Lovforslaget på KI tar utgangspunkt i graden av risiko forbundet med den enkelte type teknologi. Teknologiene rangeres i tre ulike kategorier; henholdsvis lav, høy og uakseptabel risiko.

Lav risiko betegner for eksempel chatteroboter som inntar en menneskelig framtoning. Her kreves det at operatøren gjør det klart for brukeren at det er nettopp en robot de snakker med.

Bruk av KI i blant annet kritisk infrastruktur og sertifisering vil falle inn under kategorien høy risiko, mens teknologi som utgjør en klar trussel mot folks sikkerhet og fundamentale rettigheter vil betegnes som uakseptabel risiko, og vil bli forbudt. Eksempler på sistnevnte vil kunne være kunstig intelligens som er manipulerende og som forsøker å styre menneskelig handling og væremåte. Her kan Kinas sosiale kredittsystem igjen trekkes fram som et konkret eksempel.

Krav om menneskelig kontroll
Et uttalt krav i det nye lovforslaget er at selskapene selv må kunne dokumentere at de har menneskelig kontroll over høyrisikabel bruk av KI, og hvorden teknologien utvikles og brukes. Aktører som bryter disse reglene, vil kunne motta bøter på opptil 30 millioner euro eller inntil 6% av årlig omsetning – avhengig av hvilket tall som er størst. Bøtene legger seg på samme linje som det som er brukt ved brudd på personvernforordningen (GDPR). For teknologigiganter som Facebook og Google, vil dette betyr bøter i milliardklassen – målt i euro.

Kunstig intelligens som økonomisk motor
Samtidig som Kommisjonen er opptatt av å sikre en trygg og forutsigbar hverdag for EUs digitale brukere, retter de også fokus på mulighetene som ligger i den digitale utviklingen og bruken av kunstig intelligens. Tilbydere av helsetjenester, forskningsmiljø, industri, mat- og energiprodusenter er avhengige av å benytte intelligente løsninger for å kunne optimalisere sin virksomhet.

Teknologisk innovasjon og digitalisering vil dessuten stå sentralt når EU skal reise seg økonomisk etter pandemien, og er viktige bærebjelker i EUs grønne giv. Kommisjonen fremmer derfor en visjon om økte investeringer i kunstig intelligens på nasjonalt, europeisk og globalt nivå, med utgangspunkt sin oppdaterte KI-strategi.

Uenighet om biometrisk identifikasjon
Selv om mange berømmer EUs regulatoriske innsats på personvern og teknologisbruk, er det flere som mener at Kommisjonen ikke går langt nok, og at lovforslaget som foreligger gir rom for for mange unntak. Spesielt er diskusjonen rundt biometrisk indentifikasjon blitt et hett tema. Her mener kritikerne at ansiktsgjenkjenning i det offentlige rom bør totalforbys, selv i etterretnings- og antiterrorøyemed.

Rett i forkant av at lovforslaget ble publisert, signerte 40 EU-parlamentarikere under et opprop mot nettopp slik ansiktsgjenkjenningsteknologi, og krevde et totalforbud. Samtidig øyner flere av medlemslandene, deriblant Frankrike, muligheter i nettopp slik teknologi, for eksempel i forbindelse med terrorbekjempelse og radikalisering. Det er derfor duket for en grundig debatt når forslaget nå skal til behandling i Parlamentet, og deretter i Rådet.


Nytt EU-organ for kunstig intelligens
Forslaget legger også opp til opprettelsen av et europeisk råd for kunstig intelligens, slik databeskyttelsesrådet (EDPB) ble opprettet i forbindelse med personvernforordningen (GDPR). European Artificial Intelligence Board (EAIB) skal overvåke at loven blir overholdt og at erfaringene fra implementeringen kan deles på tvers av landegrensene. Rådet skal bestå av én representant fra Kommisjonen og én representant fra hvert av de 27 medlemslandene, i tillegg til representanter fra EUs databeskyttelsesmyndighet.

Det er imidlertid ikke alle som møter forslaget om et nytt organ med like stor entusiasme. Kritikere har blant annet påpekt at det forslåtte styret vil få for stor definisjonsmakt, og at hva som blir vurdert til å utøve hvilken risiko i stor grad vil avhenge av personene som til enhver tid er utnevnt.


Global utvikling
Til tross for at EU er ansett som banebrytende i å regulere bruken av teknologi og beskytte personvernet, er de ikke alene i å kreve mer regulering på feltet. USAs president, Joe Biden, har også antydet at han vil føre en tøffere linje overfor teknologikjempene i Silicon Valley, etter massiv oppmerksomhet rundt blant annet skatteunndragelse fra disse selskapene. Den 19. april publiserte dessuten den føderale handelskommisjonen (FTC) sine retningslinjer for kommersielle aktører som benytter seg av nettopp kunstig intelligens.

I Storbritannia er tilsvarende politisk handling fått vind i seilene, der øynasjonen søker sakseierskap på nye politiske fronter post-brexit. Også India, som har en stor og stadig voksende teknologibransje ser behovet for mer regulering, spesielt hva angår sosiale medier.

På hjemlige trakter, lanserte Regjeringen i fjor sin strategi på kunstig intelligens. Den legger vekt på verdiprinsippene transparens, etterprøvbarhet og forsiktig utprøving. Sistnevnte gjør seg gjeldende i bruken av såkalte regulatoriske sandkasser; et virkemiddel som gir FoU-sektoren og næringslivet muligheten til å teste ut bruken av ny teknologi innenfor visse regulatoriske rammer, uten å måtte stå til rette for eventuelle juridiske konsekvenser. Regulatoriske sandkasser ansees som et viktig prinsipp hva gjelder å sikre nyskaping i samfunnet, og er også en viktig del av innovasjonsstrategien for kunstig intelligens og AIA på EU-siden.

Veien videre
AIA skal nå opp til behandling i Europaparlamentet. Det er en viss spenning knyttet til hvilken parlamentskommité som skal behandle den, da lovgivning berører så mange områder. Komiteene for blant annet juridiske saker, indre marked, borgerrettigheter og industri har alle ytret sin interesse på feltet, og argumentert for at nettopp de bør bli tildelt lovforslaget. Gitt kompleksiteten og det brede sektorielle nedslagsfeltet til lovgivningen, er det ventet at den politiske prosessen vil ta flere år.