Vem avgör när medicinsk AI får uppdateras?
Medicinsk AI kan förbättras med nya patientdata, men varje uppdatering måste granskas först. I tidskriften npj Digital Medicine presenterar forskare vid Karolinska Institutet AEGIS, ett ramverk för att styra och följa upp medicinska AI-modeller på marknaden.
Patienter, utrustning och arbetssätt förändras, och en modell som tränats på äldre data kan gradvis bli sämre utan att det märks. Regelverken i USA och EU anger vad som ska göras när medicinsk AI följs upp och uppdateras, men inte i detalj hur. AEGIS definierar och demonstrerar ett sätt att göra det i praktiken.
Två frågor vid varje uppdatering
AEGIS svarar på två frågor: Kan den nya modellen tas i bruk? Behöver modellen som redan används undersökas? Svaren följer regler i en ändringsplan som tillverkaren fått godkänd i förväg.
– De flesta AI-baserade medicintekniska produkter låses efter godkännandet och lär sig inte av nya data. Varje förbättring kräver ny träning och validering, säger Farhad Abtahi, chef för kärnfaciliteten SMAILE vid institutionen för klinisk vetenskap, intervention och teknik, och studiens korresponderande författare.
Två demonstrationer: sepsis och hjärntumörer
Forskarna demonstrerade AEGIS med två modeller: en som i efterhand identifierar sepsisfall i intensivvårdsdata och en som avgränsar hjärntumörer på MR-bilder.
– Demonstrationerna prövar beslutsreglerna, men visar inte hur säker eller effektiv en AI-modell är i vården. Varje klinisk tillämpning kräver egen validering och regulatorisk bedömning, säger Farhad Abtahi.
I dag upptäcker AEGIS förändringar i inkommande data, men ännu inte direkt om sambandet mellan data och utfall förändras. Nästa steg är att pröva ramverket i verklig drift med kliniska samarbetspartner och myndigheter.
Studien finansierades av SMAILE vid KI och EIT Health (projektet Moodmon). Ramverket inspirerades delvis av ett användningsfall från Britenet Med. Forskarna uppger att de inte har några intressekonflikter.
Publikation
"AEGIS: an operational infrastructure for post-market governance of adaptive medical AI under US and EU regulatory frameworks," Afdideh F, Astaraki M, Seoane F, Abtahi F. npj Digital Medicine, online 13 oktober 2026, doi: 10.1038/s41746-026-03290-1.