AI-forordningens afgørende time er kommet: Vi skal huske at holde fast i grundprincippet
EU’s forordning for kunstig intelligens (AI Act) er gået ind i trilogforhandlingerne. Særligt spørgsmålet om, hvordan kunstig intelligens til generelle formål (General Purpose AI), såkaldte ”foundation models” og generativ AI som sådan skal reguleres er stadig uvist. Aftalen forventes at blive lukket inden udgangen af året.
Virksomheder - på tværs af sektorer - bruger i stigende grad kunstig intelligens. Derfor bliver den kommende AI-forordning, der fastsætter rammerne for, hvordan vi bruger og udvikler kunstig intelligens i EU, afgørende for EU's fremtidige konkurrenceevne. Men for at vi kan lykkedes med AI-forordningen er det vigtigt, at vi holder fast i forordningens grundprincip – nemlig, at det ikke er selve teknologien vi skal regulere, men anvendelsen af den.
”Vi oplever lige nu et erhvervsliv, der er bekymret for, at forhandlingerne om AI-forordningen lige nu er ved at glide væk fra grundprincippet om at regulere anvendelsesområder, og dermed risikerer at skade innovationslysten og vores internationale konkurrenceevne. Anvendelsen af AI vil blive banebrydende og afgørende for dansk erhvervslivs konkurrenceevne bredt set, men det kræver at vi får sat de rette regulatoriske rammer op for anvendelsen af teknologien, og ikke af selve teknologien” siger Andreas Holbak Espersen, digitaliseringspolitisk chef, DI.
Udfordrende forhandlinger...
Den fortsat hastige udbredelse og udvikling af AI udfordrer forhandlingerne om, hvordan kunstig intelligens skal reguleres i EU. Det gælder bl.a. regulering af AI systemer, der anvendes på udpegede højrisikoområder, der skal leve op til en række krav, før de kan indgå på markedet. Ifølge EU parlamentet bør man regulere de såkaldte foundation models – AI-modeller, der er trænet på omfattende data og kan tilpasses en bred række af forskellige opgaver, fx ChatGPT.
Rådet udviser bekymring overfor denne reguleringstilgang, da gennemsigtighedsprincippet menes at blive svært af efterleve i og med, at det ikke med sikkerhed kan vises, hvilken data modellen er trænet med. Ifølge Rådet bør reguleringen ske ved de såkaldte General Purpose AI Systems (GPAIs) med det argument om, at regulering vil se på systemer, brug og risici og ikke specifikt på teknologien.
Hvis vi skal lykkes med reguleringen af AI, er det essentielt at vi gør det ud fra en balancegang, hvor vi forholder os teknologineutrale, og ud fra et proportionalitetsprincip, så EU’s erhvervsliv fortsat kan være med i det digitale kapløb.
De forbudte AI-systemer
Foruden diskussionen om GPAI og foundation models, forventes et af stridspunkterne i forhandlingerne mellem institutionerne i EU at blive, hvilke typer af kunstig intelligens, vi vil forbyde i Europa. Eksempelvis mener Europa-Parlamentet at biometriske identifikationssystemer, f.eks. ansigtsgenkendelse, i realtid i offentlige rum skal forbydes. Rådet derimod, er åbne over for at det i visse sjældne tilfælde skal være muligt at bruge ansigtsgenkendelse i realtid i offentlige rum, eksempelvis hvis der er tale om en forbrydelse.
Ved brug af biometrisk data, er det vigtigt, at vi holder tungen lige i munden ift. hvornår det giver mening af anvende det, og hvornår det ikke gør. De muligheder som teknologien bringer kan potentielt være med til at bringe større tryghed i det offentlige rum, men det er vigtigt at vi klæder virksomhederne ordentligt på til at kunne foretage en striks nødvendighedsvurdering Andreas Holbak Espersen, Digitaliseringspolitisk chef
DI’s videre arbejde
I den kommende tid vil DI bistå politisk til forhandlingerne i Bruxelles. Ønsker du som virksomhed at vide mere om AI-forordningen eller har du input til det politiske arbejde, er du velkommen til at række ud til Maria Smith på mhbs@di.dk, eller Mette Finnemann på mefi@di.dk.
Læs AI-forordningen her.
Se DI’s AI-vejledningsunivers her.
Boks om DI’s politiske anbefalinger på AI her.
