Dette spørsmålet står sentralt i Anna Rodum Bjøru sin nylig avlagte doktorgradsavhandling i Explainable AI (XAI), eller på norsk; forklarbar kunstig intelligens, ved NTNU.
Rodum Bjøru jobber i dag som Data Scientist i Vitalthings.
Hennes doktorgradsavhandling tar utgangspunkt i følgende utfordring: Avanserte maskinlæringsmodeller blir stadig mer presise, men også mindre tolkbare og mer ugjennomsiktige. Dermed er de også utfordrende å forstå. Vi vet hva de konkluderer med, men ikke alltid hvorfor. Det er et problem når kunstig intelligens skal brukes i beslutningsprosesser som påvirker mennesker.
Rodum Bjøru har i sin forskning et særlig fokus på kausale forklaringer, som handler om årsak og virkning, ikke bare statistiske mønstre. Slike forklaringer er lettere for mennesker å forstå, fordi de ligner på den måten vi naturlig tenker på.
XAI er et viktig satsingsområde i Vitalthings fordi det blir stadig viktigere å kunne forstå AI-algoritmer og dermed kunne forklare klinikere hvorfor algoritmene sier det de gjør, og hvordan dette kan hjelpe klinikerne å ta gode beslutninger.
Les mer om Rodum Bjøru sin forskning her: https://nva.sikt.no/registration/019df8bd5841-bd9c6683-f5b3-49da-b9c6-4750ab625899
Doktorgradsavhandling NTNU, 2026:
«Causal Post-hoc Explainable AI» av Anna Rodum Bjøru
- Avanserte maskinlæringsmodeller tar i økende grad del i beslutningsprosesser på tvers av mange samfunnsområder. Selv om ytelsen er imponerende, er det en betydelig kostnad ved moderne maskinlæring at kompleks modellarkitektur ofte ikke er tolkbar. Dette er til umiddelbart hinder for god forståelse av beslutningslogikken som ligger til grunn for avgjørelsene som tas.
- I møte med denne utfordringen har fagfeltet Forklarbar Kunstig Intelligens (XAI) oppstått, og et hovedmål innen XAI er å sørge for at automatiske prediksjoner kan suppleres med tilhørende forklaringer.
- Post-hoc forklarbarhet er en av hovedretningene innen XAI, og kjennetegnes av at forklaringene genereres først etter at modellen som skal forklares er ferdig trent. Denne typen forklaring har derfor ingen påvirkning på modellens ytelse for øvrig.
-
Samtidig har fagfeltet for kausalitet utviklet et strukturert rammeverk for utforming av forklaringer, basert på modellering av kausale sammenhenger i et avgrenset sett med variabler av interesse. Dette gjør det mulig å modellere både intervensjons-baserte og kontrafaktiske scenarioer, med hensikt å tydelig identifisere årsak som forklaring av virkning. Kausale og kontrafaktiske forklaringer regnes som spesielt gunstig for å oppnå god forståelse, med forankring i fysiske sammenhenger i den virkelige verden.
- Denne avhandlingen utforsker kausal og kontrafaktisk forklaring som utgangspunkt for utvikling av post-hoc XAI.
Fremtidens pasientmonitor for komplekse utfordringer
Guardian M10 tilbyr kontinuerlig og presis monitorering av vitale parametre. Systemet monitorerer pustefrekvens og pustemønster kontaktløst, uten behov for fysiske sensorer.
NO 
EN