Finske Utopia Analytics’ kunstige intelligens (AI) modtager og analyserer millioner af beskeder og billeder fra kunder såsom den norske mediekoncern Schibsted, det brasilianske medie UOL og danske Momio.

Kunder som Momio formulerer retningslinjerne, der bestemmer, hvilke beskeder og billeder Utopia Analytics AI skal fjerne, siger adm. direktør dr. Mari-Sanna Paukkeri.

Men for Utopia Analytics spiller FN’s menneskerettigheder også en central rolle. Virksomheden sælger nemlig ikke sin AI-teknologi til hvem som helst. I kontrakten med kunderne står der eksempelvis, at begge parter skal opsige samarbejdet, hvis menneskerettighederne ikke bliver respekteret.

– Der har eksempelvis været diskussion om at differentiere på baggrund af køn i kundernes retningslinjer. Det har jeg stærkt frarådet dem, da det ikke fremmer lighed. Når vores AI modererer beskeder og billeder, skal den kun se på selve indholdet og ikke på, hvem det kommer fra, siger Mari-Sanna Paukkeri.

Ifølge direktøren har virksomheden aldrig opsagt et samarbejde grundet en overtrædelse af menneskerettighederne.

Læs også: Vi giver børn kørekort til sociale medier

Objektiv, præcis og foranderlig

Det ville kræve mange medarbejdere, hvis Utopia Analytics manuelt skulle analysere og moderere al data, virksomheden modtager.

Det job er overladt til AI’en, og den er ifølge Mari-Sanna Paukkeri mere præcis og konsekvent end nogen menneskelig moderator.

– Mennesker er generelt meget subjektive. Deres beslutninger kan variere fra dag til dag og især fra person til person. AI-moderatoren kan gøre det samme hver dag og endda tilpasse sig undervejs, siger hun.

Læs også: DI øremærker 10 millioner til at styrke dansk digitalisering

Kraftfuld, men blot et redskab

Utopia Analytics’ AI-moderator kan analysere tekst på tværs af alle sprog og alle dialekter. Den kan bruges på alle platforme, hvor brugerne genererer en form for data. Men selv en AI kan få brug for hjælp,

– Teknologien er stadig et hjælpemiddel til mennesker. Hvis den møder en udfordring, den ikke kan løse, vil den altid bede et menneske om hjælp. På den måde udvikler algoritmerne sig hele tiden, og AI’en bliver klogere, forklarer Mari-Sanna Paukkeri.

Læs også: Virksomheder får ”øko-mærke” for digital ansvarlighed

Udvikling kræver tillid

Ifølge direktør i Dansk Industri (DI), Lars Frelle-Petersen, har vi i Danmark nogle af de bedste forudsætninger for at arbejde med digital ansvarlighed.

- Vi har generelt høj tillid til hinanden, og rigtig mange handler på nettet og bruger de digitale løsninger som NemID og Borgerportalen, siger Lars Frelle-Petersen.

Forbrugernes data er en vigtig del af udviklingen af eksempelvis kunstig intelligens. Det kræver, at forbrugerne er trykke og har tillid til, at deres data ikke misbruges. Men det kan være svært for forbrugerne at orientere sig i, hvilke virksomheder der passer på deres data, og hvilke der ikke gør.

Det er blandt andet derfor, DI står bag  en ny mærkningsordning, der skal være med til at sikre, at virksomheder behandler borgernes data sikkert og ansvarligt. Ordningen ventes indført i løbet af 2020.

- Forbrugerne skal have en lettere måde at se, hvilke virksomheder der er digitalt ansvarlige. Det tror jeg, forbrugerne kommer til at efterspørge mere og mere, siger Lars Frelle-Petersen.

Læs også: Laserfødder skaber iværksættereventyr