AI i et kapløb mod bunden eller toppen?

”AI skal omfavnes, men uden naiv begejstring.”

Sådan lød det fra udenrigsminister Lars Løkke Rasmussen, da vi i sidste uge satte kunstig intelligens på dagsordenen ved DI Topmødet, hvor også Siemens’ bestyrelsesformand Jim Hagemann Snabe gav sit besyv med. Du kan se eller gense højdepunkterne fra Topmødet her. 

Imens er spørgsmålet om AI-sikkerhed for alvor trådt op på den storpolitiske scene, og det kommer næppe til at træde ned foreløbig. 

Baggrunden er selvfølgelig den stribe hændelser, vi har set, af alvorlig og til dels sci-fi-agtig karakter. I juli brød en sværm AI-agenter fra OpenAI ud af deres testmiljø og hackede AI-platformen Hugging Face for at snyde i en cybersikkerhedstest. Siden har forskeren Jacob Coxon forladt Anthropic med en advarsel om, at udviklingen kan være ude af kontrol inden udgangen af næste år. 

Senest har Anthropics topchef Dario Amodei opfordret branchen til at sænke tempoet, fordi AI i stigende grad selv bygger den næste generation af AI. Uden bremser kan den såkaldte rekursive selvforbedring løbe fra vores evne til at forstå og kontrollere systemerne. ”Derfor skal den foregå med stor forsigtighed, hvis den overhovedet skal finde sted,” skriver han i sit essay, der blev bakket op af Sam Altman fra OpenAI og Elon Musk fra SpaceXAI. 

Jeg har selv kaldt opfordringen anerkendelsesværdig og sagt, at hændelserne endnu en gang viser, hvorfor det er så afgørende at have de rette spilleregler på plads for AI. 

En rød telefon for AI 

I weekenden mødtes så USA’s finansminister Scott Bessent og Kinas vicepremierminister He Lifeng. Ifølge Bessent er de to lande enige om at formalisere en dialog om AI-sikkerhed. Mødet var en optakt til torsdagens topmøde i Washington mellem Xi Jinping og Donald Trump, der ellers har nedtonet sikkerhedsudfordringerne ved AI. 

Spørgsmålene om AI er blevet til ægte stormagtsdiplomati og minder mere om den kolde krigs røde telefon end om almindelig techregulering. Det er selvfølgelig alt for tidligt at tale om egentlig global AI-kontrol. Men der er sat en proces i gang, og det er i sig selv et positivt skridt. 

Også FN har taget sagen op. Tirsdag brugte generalsekretær António Guterres sin sidste tale til Generalforsamlingen på igen at efterlyse internationalt AI-tilsyn.

Onsdag aften drøftede Sikkerhedsrådet AI som et sikkerhedsspørgsmål, hvor blandt andre andre AI-forskeren Yoshua Bengio, Sam Altman og Dario Amodei kom med deres indlæg til rådet. 

Mødet var historisk. Aldrig tidligere har AI været genstand for drøftelser på dette niveau, og det vidner om, hvor alvorligt vi skal se på udviklingen af kunstig intelligens. På mødet var repræsentanten fra USA imod, at et internationalt FN-organ skal regulere udviklingen af AI. Kina var derimod for et samarbejde i FN-regi om kontrol med AI, men understregede også, at alle lande har ret til at vælge, hvilken AI-teknologi de vil bruge. 

Der kommer ikke en global AI-traktat ud af ét møde i Sikkerhedsrådet – det vil også kræve amerikansk tilslutning – men mødet kan blive starten på noget mere konkret. Mit håb er, at stormagterne anerkender, at kontrollen med de mest avancerede AI-systemer er et fælles sikkerhedsanliggende og ikke kun et spørgsmål om, hvem der vinder kapløbet. 

Hvad så med Europa? 

Selv om diskussionen går på at sænke tempoet hos de amerikanske og kinesiske frontier-AI-laboratorier, er det i mine øjne ikke den rigtige medicin for Europas virksomheder og vores fælles sikkerhed. Vores problem er snarere, at vi tager teknologien for langsomt i brug i Europa. 

I sin tale om Unionens tilstand i sidste uge bakkede Ursula von der Leyen op om at sænke tempoet i udviklingen af de mest potente systemer. AI-forordningen fremhævede hun som EU’s afsæt for at præge de globale spilleregler. Men hun slog også fast, at Europa skal blive i ræset, men ikke nødvendigvis behøver at udvikle de førende modeller for at hente mest værdi ud af AI.  

Jeg mener, at hun rammer rigtigt, for AI er både et spørgsmål om vores velstand og sikkerhed. Vores styrke ligger blandt andet i at omsætte teknologien til konkrete løsninger i industrien, hvor vi har en stærk produktionsbase og adgang til kvalitetsdata.  

På DI Topmødet opfordrede Jim Hagemann Snabe, der også rådgiver Kommissionen om industriel AI, Europa til at blive verdensmester i netop det.  

Vi kan ikke regulere os til global teknologisk styrke. Vi skal også investere i regnekraft og give virksomhederne bedre adgang til kapital.  

Og selv om AI-risiciene skal tages alvorligt, må sikkerhedsdagsordenen ikke blive et generelt stopskilt for innovation. Reguleringen skal være risikobaseret og mulig at efterleve, især for de mindre virksomheder. 

Hvordan vi sikrer, at kapløbet ender i toppen og ikke i bunden, skal ikke kun afgøres i Washington og Beijing. Europa har længe været verdensmester i regulering. Vi er også nødt til at blive det i udvikling og ikke mindst i anvendelse af teknologien.