Blog: Explainable AI - Bryd ud af den sorte kasse

Hvorfor? Det er det spørgsmål, som mange stiller sig selv, når de får serveret et søgeresultat på Google, ser en reklame på Facebook, eller når en algoritme beregner, hvor meget dit hus kan sælges for.

AI og Machine Learning (ML) løser flere forretningsproblemer hos virksomhederne end nogensinde før, både når det gælder nye produkter og services til kunderne og for at nedbringe omkostninger eller effektivisere.

Langt de fleste af de AI/ML-modeller, der bruges i virksomhederne i dag, er baseret på, at data fødes ind i en læringsalgoritme, og når læringsalgoritmen er præcis nok, kan den baseret på lignende input give et output.

Et eksempel kunne være:

Forståelse er nøglen til at afmystificere AI

Det underliggende problem er, at vi ikke altid stoler på de beslutninger, som en model kan give os. Dette skyldes vores hang til at forstå den kontekst, som algoritmerne opererer under, de fejl som algoritmen begår og bevæggrundene for, hvorfor en algoritme giver et givent resultat.

Det er muligt, at de data scientists, som har udviklet algoritmen, måske i højere grad forstår systemet, men for en slutbruger, der modtager svaret, vil det være "ren magi". Som Arthur C. Clarke sagde i 1973 i sin berømte tredje lov: "Any sufficiently advanced technology is indistinguishable from magic".

Det handler altså om at skabe forståelse. For når vi forstår algoritmens resultater, skabes der en større grad af fortrolighed og tillid til systemet og måske også en trang til at "lære" systemet en ting eller to.

Med explainable AI får vi en logisk grund

Der er i de seneste 20 år blevet forsket en del inden for explainable AI (XAI), og specielt de sidste 5 år er der kommet værktøjer, som er i stand til at give en form for forklaring.

Med sådanne værktøjer og det rette datasæt er det muligt at give forklaringen:

Bagved denne tekst ligger, at en række parametre er blevet valgt ud som “de mest betydningsfulde” parametre for den pris, der gives. Inden for billedgenkendelse og fritekst-data er der lavet lignende værktøjer.

Mange gange bliver disse forklaringsværktøjer brugt, når der udvikles og driftes AI/Machine Learning-modeller, men resultaterne bliver desværre sjældent leveret til slutbrugere.

Vi må vide, hvordan algoritmen er skabt

Et andet overordnet problem er, at en fuld og egentlig forklaring på et givent resultat, udover den ovennævnte "lokale forklaring" også kræver, at man ved, hvordan en given algoritme er blevet skabt, dvs. hvilke data i hvilken version, den er bygget på, samt hvilke bevidste eller ubevidste beslutninger, der blev taget, mens algoritmen blev udviklet, trænet og driftet. Disse forklaringer kaldes "globale forklaringer" eller transparens.

Det er derfor også særdeles vigtigt for virksomheder at have den rette teknologi og platforme til både at skabe processer omkring transparens, lokale og globale forklaringer og at sikre sporbarheden af alt dette, da det er den eneste måde, hvorpå man sikre tillid.

Med sådanne teknologier og platforme er det muligt meget nemt at give forklaringen: