Panelsamtal på The Cell: Så kan människa och maskin utveckla vården tillsammans
Under ett fullsatt panelsamtal på The Cell i Hagastaden växte frågan om forskningens villkor till en diskussion om AI-användning, makten över våra hälsodata och vilka mänskliga förmågor som inte bör lämnas över till maskiner. I samtalet möttes perspektiv från forskning, samhällsvetenskap och vetenskapsjournalistik.
I panelen fanns bland andra Elham Rostami som forskar om traumatiska hjärnskador. Hon är en flitig användare av AI för att analysera stora mängder hälsodata, bland annat för att skapa bättre diagnosverktyg. Men steget från en fungerande AI-modell till en bred användning i vården är längre än man tror.
– Det är inte alls säkert att verktygen vi utvecklar också kan användas i länder som Brasilien, USA eller Norge. Därför är det oerhört viktigt att det vi utvecklar verkligen valideras för olika patientgrupper, både geografiskt och i olika populationer, sade Elham Rostami, docent i neurokirurgi vid institutionen för fysiologi och farmakologi, KI.
För att nå dit krävs också en säker tillgång till hälsodata, helst så nära patienterna som möjligt, betonade Johanna Furuhjelm, föreståndare för Karolinska Institutets Centrum för AI-innovation. Furuhjelm lyfte också vikten av att även ge mindre företag tillgång till innovationsmiljöer nära vården.
– Det är sällan som små företag har samma uthållighet att göra den innovationsresa som krävs för att få testa sina lösningar, trots att de kan ha teknik som kan passa vården perfekt, sade Johanna Furuhjelm.
Behåll kritiskt tänkande
I dag finns en rad exempel på hur AI-modellernas förmåga att se mönster i stora mängder hälsodata gett vården nya verktyg. Men samtidigt är resultatet alltid beroende av vilken data som används. Emma Frans varnade för att tekniken i sig ger en illusion av objektivitet.
– Dagens språkmodeller låter mycket övertygande. Därför behöver vi behålla vårt kritiska tänkande där vi funderar på saker som bias och falska positiva resultat. Och genomlyser vilka data vi stoppar in och hur resultaten kan appliceras, sade Emma Frans, författare, föreläsare och forskningsspecialist.
Panelen betonade också vikten av att inkludera kliniker, tekniker, forskare och humanister tidigt i utvecklingen av nya AI-verktyg. Samtidigt måste det också vara tydligt vem som ansvarar för att informationen är korrekt – och vem som tar konsekvenserna om något går fel.
Data är makt
En lika viktig fråga är vem som har makten över våra hälsodata. I grund och botten tillhör datan oss medborgare, menade panelen. Men det är långtifrån enkelt att ta del av informationen, varken för kliniker eller patienter.
Samtidigt är frågan om vem som äger informationen inte ett nytt problem, menade historikern Staffan Bergwik. Genom historien har såväl medeltida furstar som diktaturer styrt tillgången till information på olika sätt.
– När vi diskuterar vem som äger data hamnar vi därför oundvikligen i frågor om hur samhället ska organiseras. På det sättet är det en djupt politisk fråga, sade Staffan Bergwik, professor i idéhistoria vid Stockholms universitet.
Betonar det mellanmänskliga
Så när AI-verktygen tar över allt fler uppgifter – vilken plats finns det för oss människor? En väg för hälso- och sjukvården kan vara att välja att lägga mer tid på det mellanmänskliga mötet.
Emma Frans konstaterade att vården länge gjort motsatsen: människan har setts som en maskin som snabbt ska producera så mycket som möjligt.
– När maskinerna tar över vissa uppgifter så kan det vara bättre att lägga mer tid och energi på det mellanmänskliga mötet. Ibland kanske vi till och med ska sträva efter att vara långsammare och mer reflekterande, sade Emma Frans.
Elham Rostami bekräftade att det finns en stark önskan hos läkarkåren att få mer tid till mötet med patienterna, och slippa många av dagens administrativa uppgifter.
Viktigt förvalta individens förtroende
Diskussionen berörde också den starka motvilja mot AI som vuxit fram bland unga vuxna främst i USA. Hur kan vi undvika samma rörelse i Sverige? Emma Frans menade att det krävs ett gemensamt ansvar för att se till att tekniken utvecklar sig i en riktning som gynnar individ och samhälle.
Samtalet var en del av Tekniska museets valspecial inom programserien Samtal & idé och samarrangerades av The Cell och KI:s Centrum för AI-innovation. Moderator var Maja Fjaestad, strategiskt ledningsråd för samhällsrelationer vid KI som också driver centrumets policylabb.