{"id":374094,"date":"2026-06-12T13:05:03","date_gmt":"2026-06-12T11:05:03","guid":{"rendered":"https:\/\/vitalthings.com\/?p=374094"},"modified":"2026-06-12T13:12:37","modified_gmt":"2026-06-12T11:12:37","slug":"how-can-we-trust-artificial-intelligence-and-the-explanations-it-provides","status":"publish","type":"post","link":"https:\/\/vitalthings.com\/en\/hvordan-kan-vi-stole-pa-kunstig-intelligens-og-de-forklaringer-den-gir\/","title":{"rendered":"How can we trust artificial intelligence and the explanations it provides?"},"content":{"rendered":"\n[et_pb_section fb_built=»1″ _builder_version=»4.23″ custom_margin=»||0px||false|false» custom_padding=»30px||0px||false|false» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_row _builder_version=»4.23″ _module_preset=»default» width=»100%» custom_padding=»10px||7px|||» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_column type=»4_4″ _builder_version=»4.23″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_text _builder_version=»4.27.5″ _module_preset=»default» header_3_font=»||||||||» header_3_text_color=»#1D1D1D» header_3_line_height=»1.3em» header_4_line_height=»1.5em» hover_enabled=»0″ header_3_font_size_tablet=»» header_3_font_size_phone=»18px» header_3_font_size_last_edited=»on|phone» global_colors_info=»{}» theme_builder_area=»post_content» sticky_enabled=»0″]

Dette sp\u00f8rsm\u00e5let st\u00e5r sentralt i Anna Rodum Bj\u00f8ru sin nylig avlagte doktorgradsavhandling i Explainable AI (XAI), eller p\u00e5 norsk; forklarbar kunstig intelligens, ved NTNU. <\/strong><\/h3>\n



<\/b><\/p>\n

<\/h3>[\/et_pb_text][\/et_pb_column][\/et_pb_row][et_pb_row _builder_version=»4.27.4″ _module_preset=»default» width=»100%» custom_padding=»20px||15px||false|false» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_column type=»4_4″ _builder_version=»4.23″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_text _builder_version=»4.27.5″ _module_preset=»default» text_font_size=»16px» text_line_height=»1.5em» min_height=»131px» custom_padding=»0px||0px||false|false» hover_enabled=»0″ global_colors_info=»{}» theme_builder_area=»post_content» sticky_enabled=»0″]

Rodum Bj\u00f8ru jobber i dag som Data Scientist i Vitalthings.<\/span><\/p>\n

Hennes doktorgradsavhandling tar utgangspunkt i f\u00f8lgende utfordring: Avanserte maskinl\u00e6ringsmodeller blir stadig mer presise, men ogs\u00e5 mindre tolkbare og mer ugjennomsiktige. Dermed er de ogs\u00e5 utfordrende \u00e5 forst\u00e5. Vi vet hva de konkluderer med, men ikke alltid hvorfor. Det er et problem n\u00e5r kunstig intelligens skal brukes i beslutningsprosesser som p\u00e5virker mennesker.<\/span><\/p>\n

Rodum Bj\u00f8ru har i sin forskning et s\u00e6rlig fokus p\u00e5 kausale forklaringer, som handler om \u00e5rsak og virkning, ikke bare statistiske m\u00f8nstre. Slike forklaringer er lettere for mennesker \u00e5 forst\u00e5, fordi de ligner p\u00e5 den m\u00e5ten vi naturlig tenker p\u00e5.<\/span><\/p>\n

XAI er et viktig satsingsomr\u00e5de i Vitalthings fordi det blir stadig viktigere \u00e5 kunne forst\u00e5 AI-algoritmer og dermed kunne forklare klinikere hvorfor algoritmene sier det de gj\u00f8r, og hvordan dette kan hjelpe klinikerne \u00e5 ta gode beslutninger.<\/span><\/p>\n

Les mer om Rodum Bj\u00f8ru sin forskning her: https:\/\/nva.sikt.no\/registration\/019df8bd5841-bd9c6683-f5b3-49da-b9c6-4750ab625899<\/p>\n



<\/p>[\/et_pb_text][\/et_pb_column][\/et_pb_row][et_pb_row use_custom_gutter=»on» gutter_width=»1″ make_equal=»on» _builder_version=»4.23″ _module_preset=»default» width=»100%» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_column type=»4_4″ _builder_version=»4.23″ _module_preset=»default» background_color=»#F5F4F0″ border_radii=»on|12px|12px|12px|12px» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_text _builder_version=»4.27.5″ _module_preset=»default» text_text_color=»#496E7B» text_font_size=»16px» text_line_height=»1.5em» header_3_text_color=»#5FBCC4″ header_3_font_size=»18px» width=»85%» width_tablet=»90%» width_phone=»90%» width_last_edited=»on|tablet» module_alignment=»left» custom_margin=»40px|10px|0px|0px|false|false» custom_margin_tablet=»|2px|||false|false» custom_margin_phone=»40px|1px|0px|0px|false|false» custom_margin_last_edited=»on|tablet» custom_padding=»1px|1px|0px|28px|false|false» hover_enabled=»0″ global_colors_info=»{}» theme_builder_area=»post_content» sticky_enabled=»0″]

Doktorgradsavhandling NTNU, 2026:<\/em><\/strong><\/p>\n

«Causal Post-hoc Explainable AI» av Anna Rodum Bj\u00f8ru<\/strong><\/p>\n

    \n
  • Avanserte maskinl\u00e6ringsmodeller tar i \u00f8kende grad del i beslutningsprosesser p\u00e5 tvers av mange samfunnsomr\u00e5der. Selv om ytelsen er imponerende, er det en betydelig kostnad ved moderne maskinl\u00e6ring at kompleks modellarkitektur ofte ikke er tolkbar. Dette er til umiddelbart hinder for god forst\u00e5else av beslutningslogikken som ligger til grunn for avgj\u00f8relsene som tas.<\/li>\n
  • I m\u00f8te med denne utfordringen har fagfeltet Forklarbar Kunstig Intelligens (XAI) oppst\u00e5tt, og et hovedm\u00e5l innen XAI er \u00e5 s\u00f8rge for at automatiske prediksjoner kan suppleres med tilh\u00f8rende forklaringer.<\/li>\n
  • Post-hoc forklarbarhet er en av hovedretningene innen XAI, og kjennetegnes av at forklaringene genereres f\u00f8rst etter at modellen som skal forklares er ferdig trent. Denne typen forklaring har derfor ingen p\u00e5virkning p\u00e5 modellens ytelse for \u00f8vrig.<\/li>\n
  • \n

    Samtidig har fagfeltet for kausalitet utviklet et strukturert rammeverk for utforming av forklaringer, basert p\u00e5 modellering av kausale sammenhenger i et avgrenset sett med variabler av interesse. Dette gj\u00f8r det mulig \u00e5 modellere b\u00e5de intervensjons-baserte og kontrafaktiske scenarioer, med hensikt \u00e5 tydelig identifisere \u00e5rsak som forklaring av virkning. Kausale og kontrafaktiske forklaringer regnes som spesielt gunstig for \u00e5 oppn\u00e5 god forst\u00e5else, med forankring i fysiske sammenhenger i den virkelige verden.<\/span><\/p>\n<\/li>\n

  • Denne avhandlingen utforsker kausal og kontrafaktisk forklaring som utgangspunkt for utvikling av post-hoc XAI.<\/li>\n<\/ul>\n

     <\/p>[\/et_pb_text][\/et_pb_column][\/et_pb_row][\/et_pb_section][et_pb_section fb_built=»1″ _builder_version=»4.27.4″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_row column_structure=»1_2,1_2″ _builder_version=»4.27.4″ _module_preset=»default» background_color=»#F5F4F0″ width=»100%» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_column type=»1_2″ _builder_version=»4.27.4″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_image src=»https:\/\/s48869.pcdn.co\/wp-content\/uploads\/2024\/06\/ForsideHoy-scaled.jpg» alt=»Vitalthings Guardian M10 at St. Olavs Hospital» title_text=»Vitalthings Guardian M10 at St. Olavs Hospital» _builder_version=»4.27.4″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][\/et_pb_image][\/et_pb_column][et_pb_column type=»1_2″ _builder_version=»4.27.4″ _module_preset=»default» global_colors_info=»{}» theme_builder_area=»post_content»][et_pb_text _builder_version=»4.27.4″ _module_preset=»d33c28b8-cc16-46b6-83d4-39d60adcb9c7″ width=»100%» global_colors_info=»{}» theme_builder_area=»post_content»]

    Fremtidens pasientmonitor for komplekse utfordringer<\/h3>[\/et_pb_text][et_pb_text _builder_version=»4.27.4″ _module_preset=»c290a3bb-fa43-4cc1-a54c-c421dcd91488″ custom_padding=»||1px|||» global_colors_info=»{}» theme_builder_area=»post_content»]

    Guardian M10 tilbyr kontinuerlig og presis monitorering av vitale parametre. Systemet monitorerer pustefrekvens og pustem\u00f8nster kontaktl\u00f8st, uten behov for fysiske sensorer.<\/span><\/p>[\/et_pb_text][et_pb_button button_url=»https:\/\/s48869.p701.sites.pressdns.com\/produkter\/guardian-m10\/» button_text=»Les mer» _builder_version=»4.27.4″ _module_preset=»6f92051d-7355-4e67-aff3-e02990ed66bd» global_colors_info=»{}» button_bg_color__hover=»#F8FD2D» button_bg_enable_color__hover=»on» theme_builder_area=»post_content»][\/et_pb_button][\/et_pb_column][\/et_pb_row][\/et_pb_section]\n","protected":false},"excerpt":{"rendered":"

    This question is central to Anna Rodum Bj\u00f8ru\u2019s recently completed PhD thesis on Explainable AI (XAI) at NTNU. <\/p>","protected":false},"author":11,"featured_media":374100,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_et_pb_use_builder":"on","_et_pb_old_content":"","_et_gb_content_width":"","content-type":"","footnotes":""},"categories":[7,5],"tags":[50,54,56],"dipi_cpt_category":[],"class_list":["post-374094","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blogg","category-forskning","tag-innovasjon-i-helsevesenet","tag-kontaktlos-helsemonitorering","tag-proaktiv-helsemonitorering"],"_links":{"self":[{"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/posts\/374094","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/users\/11"}],"replies":[{"embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/comments?post=374094"}],"version-history":[{"count":0,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/posts\/374094\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/media\/374100"}],"wp:attachment":[{"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/media?parent=374094"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/categories?post=374094"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/tags?post=374094"},{"taxonomy":"dipi_cpt_category","embeddable":true,"href":"https:\/\/vitalthings.com\/en\/wp-json\/wp\/v2\/dipi_cpt_category?post=374094"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}