KI inviger nytt centrum – ska lyfta AI från projekt till praktik
Karolinska Institutets Centrum för AI-Innovation ska fungera som stöd och kompetensnod. Det är viktigt att vårdprofessionen sitter i förarsätet så att tekniken anpassas till användarna – och inte tvärtom, menar två företrädare.
– Det görs jättemycket AI på KI, men i stället för att göra allting ”styckevis och delat” ska vi samla kompetens inom olika områden, säger Clara Hellner, adjungerad professor vid institutionen för klinisk neurovetenskap och rektorsråd inom life science. Hon ingår också i det nya centrumets styrgrupp.
En uppgift blir att fungera som stödfunktion.
– Vi ska stötta forskarna i deras AI-arbete i den mån de behöver, säger Clara Hellner.
Centrum för AI-Innovation ska även utveckla policy inom området, något som ligger inom rektors ledningsråd Maja Fjaestads intressesfär, även hon medlem av styrgruppen. Tidigare arbetade Maja Fjaestad vid EU-kommissionens AI-byrå i Bryssel.
– Jag ser fram emot att få komma med det europeiska policyperspektivet. KI är briljant vad gäller medicinsk forskning, ingen kan slå KI på fingrarna där, men jag kan bidra med ett bredare samhällsvetenskapligt perspektiv, säger hon.
En viktig del av verksamheten är att vara en nod för samverkan. Enligt Clara Hellner inbegriper samarbetet med till exempel sjukvården en rad frågor som hantering av data och immaterialrätt, men även beteendevetenskap.
– Hur interagerar vi med AI? Det finns hur mycket som helst att gräva i där. Inte minst att se till att tekniken är till för oss och inte tvärtom, vi har väl alla stönat över hopplösa hemsidor och appar, säger hon.
Det nya centrumet får även en viktig roll i samverkan med andra lärosäten.
– Det är ofta en styrka att vara ett enfakultetsuniversitet men i det här sammanhanget också en svaghet, då det är längre till andra forskningsmiljöer som tänker på annorlunda sätt, säger Clara Hellner.
När AI möter vården
Maja Fjaestad säger att det kan tyckas enkelt att införa AI i vården.
– Men de som arbetar med detta beskriver många ”bumps on the road”. Allt från att vad är det för jurisdiktion som gäller, till hur man ska se till att data inte hamnar på avvägar vid en upphandling.
Hon förvånades över att tekniken inte alltid är mogen och ger ett exempel.
– När man skannat efter hjärtinfarkt visade det sig att patienten hade ett brutet nyckelben, men det tittade inte AI efter. Att lära AI att ”Om det finns en fraktur, så säg till”, det är en prompt, säger hon.
Hon betonar att AI inte är neutralt, utan påverkas av vilka data den tränas på. Förr utfördes exempelvis medicinsk forskning huvudsakligen på män.
– Vi blev jättebra på att hitta hjärtinfarkt hos män, men inte hos kvinnor som hade andra symtom. Det misstaget ska vi inte göra om och utveckla algoritmer utifrån alltför smal data, säger hon.
Maja Fjaestad lyfter också frågan om vad AI ska användas till i vården.
– Det är uppenbart att AI är bra på att se avvikelser i bilder. Men vad är AI bra på som är oväntat? Kan vi använda AI för att organisera vården bättre? Den typ av komplex information som AI är bra på att hantera finns på många andra ställen än just i bildigenkänning, säger hon och fortsätter:
– Jag tror det är bra att hålla beskrivningen öppen om vad AI i vården är och inte för snabbt landa enbart i de självklara applikationerna.
Clara Hellner nämner att det pågår en rad AI-projekt inom Region Stockholm och Karolinska Institutet. Från optimering av vårdflöden vid misstänkt sepsis, till utveckling av nya vaccin som delvis är framtagna med hjälp av AI.
– Tanken är att centret ska bidra till ökad systemförmåga när det gäller AI-utveckling. KI innehåller många små självständiga enheter som jobbar ihop i olika nätverk, det är som en myrstack, säger hon och fortsätter:
– Kring vissa frågor behövs en kraftsamling och nu står vi mitt uppe i ett stort tekniksprång. Då behöver vi förstå vad forskarna klarar på egen hand och vad de behöver hjälp med.
Multidisciplinär forskning
På KI ges innovationsstöd via Karolinska Institutet Innovation. Men vissa frågor är specifika för AI, som frågor om säkerhet, rättigheter, delningsmöjligheter eller tillgång till data.
– Här ska centret identifiera frågor som återkommer och jobba med dem. Hela centret är till för att skapa systemförmåga, säger Clara Hellner.
Maja Fjaestad fyller i:
– Jag ser för mig att centret har goda förutsättningar att dra ihop multidisciplinär forskning som kan leda just till innovation, det tror jag kan bli spännande, säger hon.
Ovanstående kan beskrivas som innovation ”inifrån och ut”, men Clara Hellner pekar på att Centrum för AI-Innovation även arbetar med innovation ”utifrån och in”.
– Vi blir kontaktade av företag som vill komma åt plattformar för att testa hos oss eller som vill validera sina algoritmer på våra data, säger hon.
Centret stöttar då små- och medelstora företag.
– Mycket innovationsarbete handlar om att få till ”the triple helix”, att akademin, offentlig sektor och näringsliv ska kunna jobba konstruktivt ihop, säger Clara Hellner och exemplifierar:
– Någon startup har en idé, men behöver tillgång till data, eller en testbädd, eller samarbetspartners. Eller varför inte en duktig kliniker som kan säga om de är på rätt spår. Vi ska leda företagen så att det blir så smidigt som möjligt att hitta rätt.
Som exempel på samhälls- och patientnytta lyfter Clara Hellner frigjord tid.
– När läkare eller annan vårdpersonal inser att en AI-agent kan hantera informationsmängder så att man kan öka tiden för att träffa patienter, då kommer det här flyta, säger hon.
Hon beskriver det som en stor utmaning ”att händer och fötter inte räcker till” när vårdpersonal sitter mycket vid datorn.
– Men för att bygga system som verkligen underlättar för användarna gäller det att de utgår från användarbehoven.
Även Maja Fjaestad lyfter denna aspekt.
– Centret innebär att vårdprofessionen får sitta i förarsätet när det gäller AI-utvecklingen i och med att det är vid ett universitet, att det bottnar i kunskap.
Ansvarsfull användning
På deltid forskar Maja Fjaestad vid AI Policy Lab hos professor Virginia Dignum, vid Umeå universitet. Gruppens fokus är ansvarfull användning av AI, som förutom etik inbegriper transparens och ansvarsskyldighet i systemen.
– Virginia är känd för att ställa ”question zero”. Det vill säga, är det här ett problem vi ska använda AI till att lösa? Att aktivt ställa frågan är viktigt, inte minst inom hälso- och sjukvården, säger hon och lägger till:
– Att ha en fot i AI-policyforskningen gör mig till en bättre person här på KI, och jag tror att centret kan bidra till att förbättra den dialogen på KI, säger hon.
Att införa AI i vården har sina utmaningar, där Clara Hellner lyfter det kliniska arbetet.
– Hur kan vi säkerställa kvaliteten? Vad händer om man bara trycker på knappar och får ut patientens behandlingsplan – hur ska vi motverka den digitala demensen?
Hon fortsätter:
– Det kommer att komma finnas både seriösa och oseriösa aktörer och då måste vi orka jobba med kvalitetsfrågorna. Det finns enorm potential i att hantera stora informationsmängder och se mönster, men vi måste fortfarande ta oss rätten att använda AI som hjälpmedel och inte förslappas, säger Clara Hellner.
Maja Fjaestad betonar för sin del vikten av att fokusera på patientnytta:
– I sjukvården blir det tydligt – vi kan inte införa ny teknik för att det är kul, utan frågan vi bör ställa är om det är i patientens intresse eller inte? Men det finns även risker med att inte digitalisera och inte använda AI. Att välja att inte digitalisera är också ett aktivt beslut, säger hon.