Et kørekort til sociale medier er næste skridt på vejen mod digital ansvarlighed for børn hos virksomheden Momio, der udvikler den sociale platform af samme navn.

– Vi skal give børnene nogle værktøjer til, hvordan man agerer på internettet. Det skal de have et bevis for – eksempelvis et kørekort til sociale medier. Og det skal foregå i sikre rammer, siger Mikael Jensen, adm. direktør i Momio.

Facebook, Instagram, Snapchat og TikTok fylder meget i udbuddet af sociale medier, og deres privatlivs- og sikkerhedsindstillinger er udviklet til voksne. Det er et problem, når en tredjedel af verdens internetbrugere ifølge Unicefs rapport Children in a Digital World er børn.

Momios sociale platform er rettet mod børn mellem syv og 13 år, men alle under 18 må bruge Momio. Digital ansvarlighed og børns rettigheder på internettet er baggrunden for platformen, der åbnede første gang i Danmark i 2013. Det er der gode grunde til, hvis man spørger den adm. direktør bag den digitale platform, Mikael Jensen.

– Børn er hurtige og gode til at bruge internettet og de sociale medier, men det er ikke det samme som at vide, hvordan man sikkert og trygt gebærder sig blandt milliarder af andre brugere. Det er en udfordring. For børn får tidligere og tidligere adgang til internettet på eksempelvis tablets og telefoner, siger direktøren.

Læs også: Menneskerettigheder styrer kunstig intelligens

Fra menneske til maskine

Gennemgangen af beskeder, billeder og andet indhold er central for børnenes sikkerhed hos Momio. Det sikrer, at platformen holdes fri for mobning, voksne og indhold, der ikke er beregnet til børn.

Før bestod sikkerheden i medarbejdernes manuelle gennemgang af indhold og beskeder, men med 800.000 månedlige brugere i ni forskellige lande blev det uoverskueligt.

Momio lancerede platformen i de nordiske lande i 2014 og har siden udvidet til Tyskland, Holland, Polen, Schweiz og Østrig.

Virksomheden valgte en finsk samarbejdspartner, Utopia Analytics, der udvikler kunstig intelligens (AI), som kan analysere tekst og billeder.

– Det finske sprog er et af verdens sværeste, så det lagde vi ud med. Hvis vi kunne få AI’en til at virke her, var vi sikre på, at det ville virke på alle sprog. I dag gennemgår og analyserer AI’en alle beskeder, billeder og indhold, der bliver delt mellem brugerne, for grimt sprog, mobning eller tegn på at det er en voksen, der skriver, siger Momio-direktøren.

Læs også: DI: flere store virksomheder tager cybertruslen alvorligt

Emojis og stavefejl

Hvis en bruger på Momio sender en besked, der ikke lever op til reglerne for, hvad man må publicere, så fjerner AI’en den og giver brugeren besked på hvorfor.

– Fordelen ved det er, at vi tager fat i den dårlige opførsel, når det sker. Børnene lærer på den måde hele tiden, hvad der er okay, og hvad der ikke er okay på sociale medier. Samtidig holder AI’en ubudne gæster væk fra platformen, siger Mikael Jensen.

Den kan nemlig også gennemskue, hvis en voksen er på Momio og giver sig ud for at være et barn, hvilket ikke er tilladt. Børn kommunikerer på mange forskellige måder og bruger emojis og laver stavefejl. Alt dette skal AI’en kunne opfange, analysere og eventuelt fjerne.

– Og den gør det helt automatisk på tværs af alle sprog i samme øjeblik, en bruger sender en besked afsted. De opdager slet ikke, at det sker, siger direktøren. Han påpeger også, at det kun er fem promille af indholdet, der faktisk bryder med retningslinjerne og bliver fjernet.

Læs også: Du tænker - computeren skriver

Politimanden Jack

– Opmærksomheden omkring digital ansvarlighed og etik fra både befolkningen, medierne og politikerne bliver større og større. Når man snakker børn, er det endnu mere relevant og presserende. Derfor vil vi klæde børnene på til mødet med internettet med et kørekort til sociale medier, siger Mikael Jensen.

Det er dog ikke den adm. direktør selv, der bliver den kommende prøvesagkyndige.
– Vi planlægger, at AI’en kan tage form af politimanden Jack, en fiktiv karakter på det sociale medie. På Momio fortæller han børnene, når de har postet noget, de ikke må. Han kommer også med sikkerhedstip og andre råd til adfærd på internettet, siger han.

Jack vil i fremtiden kunne komme til at fungere som en chatbot, børnene kan komme til, hvis de selv har spørgsmål til digital sikkerhed.

Vi kan altså ved hjælp af kunstig intelligens lave en sikker social platform for børn, hvor de samtidig med at chatte med deres venner får køretimer i sikkerhed på internettet og digital ansvarlighed, siger Mikael Jensen.

Læs også: Gadefejer- og bartenderrobotter overtager fra mennesker

Dansk styrkeposition

Dansk Industri (DI) ser i høj grad digital ansvarlighed som en dansk styrkeposition, der er værd at udvikle på.

– Vi tror, at det kan blive et vigtigt konkurrenceparameter, hvis vi kan vise, at ”Data made in Denmark” er ensbetydende med høj digital sikkerhed og ansvarlighed, siger Christian Hannibal, digitaliseringschef i DI.

Derfor er det alfa og omega, at der er tillid til de digitale løsninger, vi bruger i hverdagen.

– Danmark er blandt de mest digitaliserede lande i verden, og hvis vi ikke skulle være med til at sætte standarden for digital ansvarlighed, hvem skulle så? siger Christian Hannibal.