Etiske retningslinjer for kunstig intelligens
Meddelelse fra Kommisjonen til Europaparlamentet, Rådet, Den europeiske økonomiske og sosiale komite og Regionsutvalget. Oppbygging av tillit til menneskesentrert kunstig intelligens
Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Building Trust in Human-Centric Artificial Intelligence
Svensk departementsnotat offentliggjort 10.5.2019. Dansk departementsnotat offentliggjort 16.5.2019
Nærmere omtale
BAKGRUNN (fra Kommisjonens pressemelding 8.4.2019)
Kunstig intelligens: Kommissionen fortsætter sit arbejde med etiske retningslinjer
Kommissionen præsenterer i dag de næste skridt i opbygningen af tillid til kunstig intelligens ved at videreføre det arbejde, som er udført af ekspertgruppen på højt niveau.
På grundlag af arbejdet i gruppen af uafhængige eksperter, der blev udnævnt i juni 2018, iværksætter Kommissionen i dag en pilotfase for at sikre, at de etiske retningslinjer for udvikling og anvendelse af kunstig intelligens kan gennemføres i praksis. Kommissionen opfordrer industrien, forskningsinstitutioner og offentlige myndigheder til at afprøve den detaljerede evalueringsliste udarbejdet af ekspertgruppen på højt niveau, som supplerer retningslinjerne.
Planerne er et delresultat af strategien for kunstig intelligens fra april 2018, som har til formål at øge offentlige og private investeringer til mindst 20 milliarder EUR årligt i løbet af det næste årti, hvilket vil gøre flere data tilgængelige, fremme talentudvikling og skabe tillid.
Næstformand med ansvar for det digitale indre marked, Andrus Ansip, udtaler: "Jeg glæder mig over det arbejde, som vores uafhængige eksperter har udført. Den etiske dimension af kunstig intelligens er ikke en luksusegenskab eller en add-on. Det er kun med tillid, at vores samfund til fulde kan drage fordel af teknologierne. Etisk kunstig intelligens er en win-win-løsning, og det kan blive en konkurrencefordel for Europa: at være lederen af en menneskecentreret kunstig intelligens, som folk kan stole på."
Kommissæren med ansvar for den digitale økonomi og det digitale samfund, Mariya Gabriel, tilføjer: "I dag tager vi et vigtigt skridt mod etisk og sikker kunstig intelligens i EU. Vi har nu et solidt grundlag baseret på EU's værdier, der samtidig er et resultat af et omfattende og konstruktivt engagement fra mange interessenter, herunder virksomheder, den akademiske verden og civilsamfundet. Vi vil nu omsætte disse krav til praksis og samtidig fremme en international debat om menneskecentreret kunstig intelligens."
Kunstig intelligens kan være til gavn for en lang række sektorer såsom sundhedspleje, energiforbrug, bilsikkerhed, landbrug, klimaændringer og finansiel risikostyring. Kunstig intelligens kan også bidrage til at afsløre svig og trusler mod cybersikkerheden og gøre det muligt for retshåndhævende myndigheder at bekæmpe kriminalitet mere effektivt. Ikke desto mindre medfører kunstig intelligens også nye udfordringer for fremtidens arbejde, og den rejser en række juridiske og etiske spørgsmål.
Kommissionen anvender en trestrenget tilgang: at udarbejde de centrale krav til pålidelig kunstig intelligens, iværksætte en storstilet pilotfase med henblik på feedback fra interessenter samt arbejde med at skabe international konsensus om menneskecentreret kunstig intelligens.
1. Syv centrale krav til at opnå pålidelig kunstig intelligens
Pålidelig kunstig intelligens bør overholde alle gældende love og bestemmelser samt en række krav; specifikke evalueringslister skal hjælpe med at kontrollere anvendelsen af hvert af de centrale krav:
• Menneskelige aktiviteter og kontrol udført af mennesker: Kunstig intelligens-systemer bør muliggøre retfærdige samfund ved at støtte menneskelige aktiviteter og grundlæggende rettigheder og ikke mindske, begrænse eller vildlede menneskers autonomi.
• Robusthed og sikkerhed: Pålidelig kunstig intelligens kræver algoritmer, som er sikre, stabile og robuste nok til at håndtere fejl eller uoverensstemmelser i alle livscyklusfaser af kunstig intelligens-systemet.
• Privatlivets fred og datastyring: Borgere bør have fuld kontrol over deres egne data, og disse data vil ikke blive brugt til at skade eller diskriminere dem.
• Gennemsigtighed: Sporbarheden af alle systemer med kunstig intelligens bør sikres.
• Mangfoldighed, ikkediskrimination og retfærdighed: Kunstig intelligens-systemer bør tage hele spektret af menneskelige evner, færdigheder og krav i betragtning og sikre tilgængelighed.
• Social og miljømæssig velfærd: Kunstig intelligens-systemer bør anvendes til at fremme positive sociale ændringer og øge bæredygtighed og miljømæssig ansvarlighed.
• Ansvarlighed: Der bør indføres mekanismer til at sikre ansvar og ansvarlighed for kunstig intelligens-systemer og deres resultater.
2. Storstilet pilotfase med partnere
I sommeren 2019 vil Kommissionen iværksætte en pilotfase med inddragelse af en bred vifte af interessenter. Allerede i dag kan virksomheder, offentlige myndigheder og organisationer tilslutte sig den europæiske alliance vedrørende kunstig intelligens og modtage en meddelelse, når pilotfasen starter. Medlemmer af ekspertgruppen på højt niveau vil derudover hjælpe med at præsentere og forklare retningslinjerne for relevante interessenter i medlemsstaterne.
3. Skabe international konsensus om menneskecentreret kunstig intelligens
Kommissionen vil bringe denne tilgang til etik i forbindelse med kunstig intelligens frem på den globale scene, da teknologier, data og algoritmer ikke kender nogen grænser. Til dette formål vil Kommissionen styrke samarbejdet med ligesindede partnere såsom Japan, Canada eller Singapore og fortsætte med at deltage aktivt i internationale drøftelser og initiativer, herunder G7 og G20. Pilotfasen vil også omfatte virksomheder fra andre lande og internationale organisationer.
Næste skridt
Medlemmer af ekspertgruppen vedrørende kunstig intelligens vil præsentere deres arbejde i detaljer på den tredje digitale dag i Bruxelles den 9. april. I begyndelsen af 2020 vil ekspertgruppen vedrørende kunstig intelligens gennemgå evalueringslisterne for de centrale krav på grundlag af den modtagne feedback. På baggrund af denne gennemgang vil Kommissionen evaluere resultatet og foreslå eventuelle næste skridt.
For at sikre den etiske udvikling af kunstig intelligens vil Kommissionen desuden senest i efteråret 2019: lancere netværk af førende forskningscentre inden for kunstig intelligens begynde at oprette netværk af digitale innovationsknudepunkter og i samarbejde med medlemsstater og interessenter indlede drøftelser for at udvikle og gennemføre en model for dataudveksling og optimal udnyttelse af fælles dataområder.
Baggrund
Kommissionen fremmer og styrker samarbejdet om kunstig intelligens i hele EU for at styrke sin konkurrenceevne og sikre tillid baseret på EU's værdier. Efter sin europæiske strategi for kunstig intelligens, som blev offentliggjort i april 2018, nedsatte Kommissionen ekspertgruppen på højt niveau vedrørende kunstig intelligens, der består af 52 uafhængige eksperter, som repræsenterer den akademiske verden, industrien og civilsamfundet. De offentliggjorde et første udkast til de etiske retningslinjer i december 2018 efterfulgt af en interessenthøring og møder med repræsentanter fra medlemsstaterne for at indsamle feedback. Dette følger den koordinerede plan i samarbejde med medlemsstaterne om at fremme udviklingen og anvendelsen af kunstig intelligens i Europa, som blev præsenteret i december 2018.
Kunstig intelligens: Kommissionen fortsætter sit arbejde med etiske retningslinjer
Kommissionen præsenterer i dag de næste skridt i opbygningen af tillid til kunstig intelligens ved at videreføre det arbejde, som er udført af ekspertgruppen på højt niveau.
På grundlag af arbejdet i gruppen af uafhængige eksperter, der blev udnævnt i juni 2018, iværksætter Kommissionen i dag en pilotfase for at sikre, at de etiske retningslinjer for udvikling og anvendelse af kunstig intelligens kan gennemføres i praksis. Kommissionen opfordrer industrien, forskningsinstitutioner og offentlige myndigheder til at afprøve den detaljerede evalueringsliste udarbejdet af ekspertgruppen på højt niveau, som supplerer retningslinjerne.
Planerne er et delresultat af strategien for kunstig intelligens fra april 2018, som har til formål at øge offentlige og private investeringer til mindst 20 milliarder EUR årligt i løbet af det næste årti, hvilket vil gøre flere data tilgængelige, fremme talentudvikling og skabe tillid.
Næstformand med ansvar for det digitale indre marked, Andrus Ansip, udtaler: "Jeg glæder mig over det arbejde, som vores uafhængige eksperter har udført. Den etiske dimension af kunstig intelligens er ikke en luksusegenskab eller en add-on. Det er kun med tillid, at vores samfund til fulde kan drage fordel af teknologierne. Etisk kunstig intelligens er en win-win-løsning, og det kan blive en konkurrencefordel for Europa: at være lederen af en menneskecentreret kunstig intelligens, som folk kan stole på."
Kommissæren med ansvar for den digitale økonomi og det digitale samfund, Mariya Gabriel, tilføjer: "I dag tager vi et vigtigt skridt mod etisk og sikker kunstig intelligens i EU. Vi har nu et solidt grundlag baseret på EU's værdier, der samtidig er et resultat af et omfattende og konstruktivt engagement fra mange interessenter, herunder virksomheder, den akademiske verden og civilsamfundet. Vi vil nu omsætte disse krav til praksis og samtidig fremme en international debat om menneskecentreret kunstig intelligens."
Kunstig intelligens kan være til gavn for en lang række sektorer såsom sundhedspleje, energiforbrug, bilsikkerhed, landbrug, klimaændringer og finansiel risikostyring. Kunstig intelligens kan også bidrage til at afsløre svig og trusler mod cybersikkerheden og gøre det muligt for retshåndhævende myndigheder at bekæmpe kriminalitet mere effektivt. Ikke desto mindre medfører kunstig intelligens også nye udfordringer for fremtidens arbejde, og den rejser en række juridiske og etiske spørgsmål.
Kommissionen anvender en trestrenget tilgang: at udarbejde de centrale krav til pålidelig kunstig intelligens, iværksætte en storstilet pilotfase med henblik på feedback fra interessenter samt arbejde med at skabe international konsensus om menneskecentreret kunstig intelligens.
1. Syv centrale krav til at opnå pålidelig kunstig intelligens
Pålidelig kunstig intelligens bør overholde alle gældende love og bestemmelser samt en række krav; specifikke evalueringslister skal hjælpe med at kontrollere anvendelsen af hvert af de centrale krav:
• Menneskelige aktiviteter og kontrol udført af mennesker: Kunstig intelligens-systemer bør muliggøre retfærdige samfund ved at støtte menneskelige aktiviteter og grundlæggende rettigheder og ikke mindske, begrænse eller vildlede menneskers autonomi.
• Robusthed og sikkerhed: Pålidelig kunstig intelligens kræver algoritmer, som er sikre, stabile og robuste nok til at håndtere fejl eller uoverensstemmelser i alle livscyklusfaser af kunstig intelligens-systemet.
• Privatlivets fred og datastyring: Borgere bør have fuld kontrol over deres egne data, og disse data vil ikke blive brugt til at skade eller diskriminere dem.
• Gennemsigtighed: Sporbarheden af alle systemer med kunstig intelligens bør sikres.
• Mangfoldighed, ikkediskrimination og retfærdighed: Kunstig intelligens-systemer bør tage hele spektret af menneskelige evner, færdigheder og krav i betragtning og sikre tilgængelighed.
• Social og miljømæssig velfærd: Kunstig intelligens-systemer bør anvendes til at fremme positive sociale ændringer og øge bæredygtighed og miljømæssig ansvarlighed.
• Ansvarlighed: Der bør indføres mekanismer til at sikre ansvar og ansvarlighed for kunstig intelligens-systemer og deres resultater.
2. Storstilet pilotfase med partnere
I sommeren 2019 vil Kommissionen iværksætte en pilotfase med inddragelse af en bred vifte af interessenter. Allerede i dag kan virksomheder, offentlige myndigheder og organisationer tilslutte sig den europæiske alliance vedrørende kunstig intelligens og modtage en meddelelse, når pilotfasen starter. Medlemmer af ekspertgruppen på højt niveau vil derudover hjælpe med at præsentere og forklare retningslinjerne for relevante interessenter i medlemsstaterne.
3. Skabe international konsensus om menneskecentreret kunstig intelligens
Kommissionen vil bringe denne tilgang til etik i forbindelse med kunstig intelligens frem på den globale scene, da teknologier, data og algoritmer ikke kender nogen grænser. Til dette formål vil Kommissionen styrke samarbejdet med ligesindede partnere såsom Japan, Canada eller Singapore og fortsætte med at deltage aktivt i internationale drøftelser og initiativer, herunder G7 og G20. Pilotfasen vil også omfatte virksomheder fra andre lande og internationale organisationer.
Næste skridt
Medlemmer af ekspertgruppen vedrørende kunstig intelligens vil præsentere deres arbejde i detaljer på den tredje digitale dag i Bruxelles den 9. april. I begyndelsen af 2020 vil ekspertgruppen vedrørende kunstig intelligens gennemgå evalueringslisterne for de centrale krav på grundlag af den modtagne feedback. På baggrund af denne gennemgang vil Kommissionen evaluere resultatet og foreslå eventuelle næste skridt.
For at sikre den etiske udvikling af kunstig intelligens vil Kommissionen desuden senest i efteråret 2019: lancere netværk af førende forskningscentre inden for kunstig intelligens begynde at oprette netværk af digitale innovationsknudepunkter og i samarbejde med medlemsstater og interessenter indlede drøftelser for at udvikle og gennemføre en model for dataudveksling og optimal udnyttelse af fælles dataområder.
Baggrund
Kommissionen fremmer og styrker samarbejdet om kunstig intelligens i hele EU for at styrke sin konkurrenceevne og sikre tillid baseret på EU's værdier. Efter sin europæiske strategi for kunstig intelligens, som blev offentliggjort i april 2018, nedsatte Kommissionen ekspertgruppen på højt niveau vedrørende kunstig intelligens, der består af 52 uafhængige eksperter, som repræsenterer den akademiske verden, industrien og civilsamfundet. De offentliggjorde et første udkast til de etiske retningslinjer i december 2018 efterfulgt af en interessenthøring og møder med repræsentanter fra medlemsstaterne for at indsamle feedback. Dette følger den koordinerede plan i samarbejde med medlemsstaterne om at fremme udviklingen og anvendelsen af kunstig intelligens i Europa, som blev præsenteret i december 2018.