MeeBook bygger ansvarlig AI til det danske skolevæsen

At udvikle og anvende AI i private virksomheder er én ting, men når løsningen henvender sig direkte til offentlige institutioner, så skærpes kravene ofte markant. Hvis målgruppen samtidig er uddannelsesinstitutioner og børn, bliver dokumentation, datasikkerhed og gennemtænkte designvalg helt afgørende.

I denne use case ser vi nærmere på, hvordan MeeBooks læringsplatform har implementeret AI i praksis, og hvordan det er lykkedes at gøre det på en måde, der både skaber reel værdi for undervisere, og samtidig lever op til kravene fra kommunernes databeskyttelsesrådgivere (DPO’er).

En dansk virksomhed med rødder i klasselokalet

MeeBook er en dansk EdTech virksomhed, der siden 2012 har udviklet og leveret en digital læringsplatform til danske skoler. Platformen hører under den brede betegnelse Learning Management System (LMS), men fungerer i praksis som lærerens digitale arbejdsrum: et sted hvor undervisningsforløb planlægges, materialer samles, og indhold deles med eleverne.

Virksomheden er grundlagt af Jesper Rømer, tidligere gymnasielærer, som aldrig havde drømt om at være selvstændig. Nej, ideen opstod faktisk med udgangspunkt i en konkret frustration fra undervisningen, da tablets og iPads for alvor blev introduceret i klasselokalerne. Her blev det hurtigt tydeligt for Jesper, at den klassiske fil- og mappebaserede måde at arbejde på ikke fungerede på de nye enheder.

Det blev startskuddet til udviklingen af en platform, der kunne håndtere distribution og strukturering af undervisningsmateriale, uden at lærere og elever skulle forholde sig til fillokationer og versionsproblemer. I stedet blev undervisningen organiseret, så alt kunne tilgås direkte i en browser.

En digital assistent til forberedelsen

Men systemet kan mere end filhåndtering. For at gøre undervisningsforberedelsen smartere, har MeeBook integreret en AI funktion i deres læringsplatform. Funktionen genererer udkast til undervisningsforløb på baggrund af få input.

Læreren angiver for eksempel emnet ”Den Kolde Krig” sammen med oplysninger om klassetrin, fag og hvor mange lektioner forløbet skal strække sig over, hvorefter systemet genererer et samlet udkast til undervisningsforløbet, som kan danne udgangspunkt for den videre planlægning.

Samtidig er AI-funktionen koblet til Googles søgemaskine, hvilket gør det muligt for den at foreslå relevant kildemateriale, som kan indgå i undervisningen.

Billede af MeeBooks AI funktion

Jesper Rømer understreger i interviewet, at formålet aldrig har været, at erstatte lærerens faglighed, men at fjerne behovet for at starte fra bunden. I stedet får læreren et forløb, der i grove træk er på plads, som kan tilpasses og udbygges efter behov.

Når vi beder Jesper uddybe, hvad han ser som den væsentligste effekt af løsningen, peger han ikke på tidsbesparelsen, men på noget mere grundlæggende. For ham handler det i høj grad om at have vist, at det faktisk er muligt at integrere AI i et produkt til offentlige kunder og samtidig leve op til de krav, som kommunerne stiller til compliance.

Det er ifølge ham netop de krav, der udgør den største barriere for at få nye teknologier i reel anvendelse i det offentlige.

Han understreger desuden, at det kan være svært at gøre tidseffekten op uden at forsimple kompleksiteten i undervisningsforberedelserne, men at det ikke er unormalt, at det forberedende arbejde tager et par timer – specielt hvis der skal findes kildemateriale på nettet. Og netop dette detektivarbejde kan med MeeBooks assistent reduceres til under et minut.

Den AI-genererede forløbsudkast kan efterfølgende overføres til lærerens eget bibliotek og blive delt direkte med eleverne via platformen.

Kommunernes krav til data og compliance

Hvis MeeBooks teknologi skulle gøre en reel forskel for lærerne, så skulle den også fungere i den kommunale virkelighed hvor datasikkerhed og lovmedholdelighed er i højsædet. Det er en præmis for arbejdet med det offentlige, da de i sagens natur varetager og behandler meget følsomme personoplysninger.

Kommunerne skal kunne forklare og stå inde for, hvordan deres data behandles, hvilke oplysninger der sendes til tredjeparter, og hvilke risici der er forbundet med brugen af nye teknologier. For MeeBook Det betyder betød det, at der skulle være helt tjek på spørgsmål som:

• Kan lærere, bevidst eller ubevidst, komme til at indtaste personoplysninger?
• Bliver input logget, gemt eller brugt til træning af AI modeller?
• Sendes data ud af EU?
• Kan man identificere en konkret bruger, klasse eller skole ud fra data?
• Kan systemet afgrænses, så det ikke anvendes til formål, det ikke er godkendt til?

Spørgsmål som disse behandles typisk i en såkaldt databehandleraftale, men også her kan der være forskellige krav og fokusområder fra kommune til kommune. Af netop den grund har vi hos Dansk Industri foreslået etableringen af et fællesoffentligt databehandlersekretariat, som skal forsøge at sikre ensretning imellem kommuner. 

For MeeBook har det altså været et grundvilkår, at disse spørgsmål skulle kunne besvares, og deres AI løsning nu, ifølge Jesper Rømer, er blevet vurderet og godkendt af over 30 kommunale DPO’er.

Hvordan bygger man en datasikker AI platform?

For MeeBook var løsningen på kommunernes krav til datasikkerhed ikke at træne sin egen sprogmodel eller at hoste en model på interne servere. I stedet har de valgt en arkitektur, der gør det muligt at anvende de store, etablerede AI-modeller, samtidig med at brugen kan kontrolleres og dokumenteres.

Kernen i løsningen er et internt mellemled mellem MeeBooks platform og sprogmodellen. Al trafik fra skolerne passerer gennem denne ”boks”, som:

• håndterer API kald
• filtrerer og anonymiserer data
• samler forespørgsler fra mange brugere i ét samlet kald

Simpel illustration af MeeBooks arkitektur

Set fra modellens side fremstår tusindvis af brugere dermed som én. Det gør det umuligt at identificere den enkelte lærer, klasse eller skole ud fra de data, der sendes videre.

Inden forespørgsler sendes videre til sprogmodellen, passerer de desuden gennem filtre, der identificerer og stopper indhold som f.eks.CPR-numre og andre personlige oplysninger. Som Jesper Rømer formulerer det, siger systemet ganske enkelt fra, hvis noget ikke bør sendes videre.

Ifølge Jesper er det heller ikke afgørende, hvilken sprogmodel der anvendes. I dag er det OpenAI, men arkitekturen gør det muligt relativt hurtigt at skifte model, hvis man f.eks. ville anvende en europæisk udbyder som Mistral.ai.

Det centrale er kontrollen over dataflowet, som MeeBook betragter som en del af deres kerne-IP.

Privacy by default

Samtidig er brugeroplevelsen bevidst designet med privacy by default. Antallet af fritekstfelter er holdt på et minimum og erstattet af strukturerede input som f.eks. "drop down" menuer. Det er altså ikke et UX princip, men et benhårdt compliance valg. Jo mindre fri tekst, desto mindre risiko for, at personfølsomme oplysninger indtastes utilsigtet.

Erfaringer og råd til andre SMV'er

Hvis der er ét råd, Jesper Rømer vender tilbage til, så er det at lade være med at bygge AI, der skal erstatte mennesker. Byg AI, der assisterer dem.

For MeeBook har det været helt afgørende at tænke AI som et værktøj, der giver læreren superkræfter. Ikke som noget der tager styringen fra dem. Jesper bruger selv billedet af Iron Man: Læreren er stadig Tony Stark. AI’en er bare dragten.

I MeeBooks tilfælde tager AI'en sig af de gentagne og rutineprægede opgaver, så læreren kan bruge sin tid og faglighed der, hvor den gør størst forskel.

Han advarer samtidig mod en udbredt fejltænkning, hvor AI primært ses som et spareværktøj. Hvis udgangspunktet er “så kan vi fyre en medarbejder”, har man ifølge Jesper allerede misforstået teknologien. MeeBooks erfaring er, at AI i stedet øger kvaliteten i arbejdet. Udviklere laver færre fejl, producerer mere og oplever større arbejdsglæde. Det samme gør sig gældende for lærerne.

Vil du lære mere om AI?

AI udvikler sig hurtigt, og det kan være svært at følge med, men du står ikke alene. Hos Dansk Industri har vi samlet en lang række ressourcer, der gør det lettere at forstå, anvende og implementere AI – uanset om du er i gang, på vej eller bare nysgerrig.

Hvis du har fået blod på tanden efter at læse om MeeBooks rejse, og gerne vil lære mere om AI, så kan du finde mere materiale på vores AI for Alle univers.

Her finder du desuden:

• Guides og artikler om alt inden for AI
• Konkrete cases fra danske virksomheder
• Gratis værktøjer og vejledninger
• Kurser og events

AI er ikke kun for specialister og teknikere. Det er for alle, der vil være med til at forme fremtiden, og bruge teknologien klogt og ansvarligt.