Kunstig intelligens i medicin: Forvent det uventede
Ingen it-virksomhed kan undgå emnet kunstig intelligens (AI). Hvad mener du som CEO for Meedio om risici og potentialer ved AI, og hvordan finder AI vej ind i Meedios produkter?
Runi: Når vi taler om brugen af AI, er der én ting, der er vigtig at understrege: Kunstig intelligens er ikke længere et fremtidstema, det er for længst kommet ind i vores alle sammens hverdag. Også i den medicinske hverdag. Så når vi taler om, hvilken rolle AI kommer til at spille, er det ikke knyttet til spørgsmålet om, hvorvidt det kommer en dag. Vi taler snarere om, hvordan vi ønsker at håndtere AI i fremtiden, hvilken plads vi giver den, og i hvilken retning vi styrer den. En ting er allerede sikkert: Brugen af AI vokser eksponentielt, vi er lige nu i begyndelsen af en meget stejl kurve, og om få år vil AI være den vigtigste faktor for innovation. Virksomheder, der endnu ikke har integreret AI i deres produkter, arbejder hårdt på at gøre det for at forblive konkurrencedygtige i fremtiden.
Inden for hvilke områder af medicinen er AI allerede fast forankret i dag?
Runi: I dem alle sammen. Enhver, der besøgte DMEA, Tysklands største sundheds-IT-messe i Berlin i år, vil have bemærket, at næsten alle udstillere reklamerer for integrationen af AI i deres produkter. Brugen af AI i radiologi til diagnostisk støtte eller brugen af stemmestyret rapportering er kun toppen af isbjerget. Og hvis vi spørger os selv, hvordan fremtidens AI-baserede løsninger inden for medicin vil se ud, må vi konkludere: Vi ved det ikke engang i dag. Og det er det andet vigtige budskab om AI: AI's potentiale er enormt og overgår vores nuværende forestillingsevne. Det ville være en fejl at se AI-baserede innovationer udelukkende i videreudvikling af software til detektion af runde foci eller en komplet stemmestyring af software. Det vil være afgørende, at vi retter vores energi mod de områder, der giver det største potentiale for at reducere arbejdsbyrden - f.eks. medicinsk dokumentation.
ChatGPT vakte stor opsigt i det medicinske samfund, hvordan vurderer du løsningen?
Runi: ChatGPT er et godt eksempel på det næste niveau af AI. Det første niveau var at udvælge information baseret på data om præferencer på en måde, der mest sandsynligt er relevant for brugeren. Det er det, vi kender fra sociale medier. ChatGPT går et skridt videre, fordi løsningen indgår i en direkte dialog med brugeren, hvilket skaber risiko for individualiseret manipulation. Kunstig intelligens kontrollerer nu vores sprog. Og vi ved alle, hvilke vidunderlige verdener og hvilke trusler sproget kan skabe. Ved at beherske sproget kan AI potentielt styre menneskers adfærd. Den kan give livreddende instruktioner til en læge under en operation. Eller den kan hjælpe med at radikalisere folk. Begge dele er muligt.
Det lyder en smule dystopisk.
Runi: Kunstig intelligens har ikke nogen egenskaber. Vi giver den dem. Derfor er det så vigtigt, at vi træffer kloge beslutninger om, hvordan vi bruger AI. Inden for medicin har vi gjort det meget godt indtil videre, hvor AI hjælper læger med at udføre deres arbejde, hjælper med at træffe bedre individuelle beslutninger og gør folks pleje mere personlig og derfor bedre. Nu er det et spørgsmål om at fortsætte ad denne smarte vej. Som jeg sagde, er vi nødt til at fokusere på de væsentlige spørgsmål. Dokumentation er for eksempel stadig ikke særlig automatiseret i dag; læger skal stadig dokumentere meget selv og indhente oplysninger selv. Det kan vi ændre med AI. Snart vil læger bruge mindre tid på at indsamle og aggregere information og mere tid på at behandle patienter. Og denne udvikling sker utroligt hurtigt.
Lad os gå videre til Meedio og deres kerneprodukt, videokommunikation. Bruger Meedio allerede AI til produktudvikling?
Runi: Selvfølgelig bruger vi også AI i vores udvikling. Men kun til at træne vores kundeservice. Vi vil gerne finde ud af, om AI kan gøre vores kundeservice bedre og hurtigere, så brugerne kan få endnu mere ud af vores løsning. I fremtiden skal vores kunder ikke længere læse ofte stillede spørgsmål, men hurtigt få en løsning på deres problem - uanset sproget.
Og selvfølgelig bruger vi AI internt til at videreudvikle vores software. At skrive kode er ikke længere tænkeligt i dag uden brug af AI. Vi ville være alt for langsomme og ikke længere konkurrencedygtige.
Men Meedio bruger ikke kundedata til at fodre AI?
Runi: Nej, absolut ikke. Til træning af serviceværktøjet bruger vi kun data fra vores brugermanual. Og der bruges heller ikke kundedata på noget andet tidspunkt.
Hvad med den del af produktet, som brugerne ser og oplever? Altså videokommunikationen og udstillingsringen?
Runi: Her handler det om at beskytte de data og informationer, der udveksles, så godt som muligt. Altså at garantere, at der ikke er AI i vores produkt. Lad os tænke på de allerede nu foruroligende tilfælde af deep-fake-billeder og -videoer, som gør det næsten umuligt for lægfolk at afgøre, om det, de ser eller hører, er ægte. Deep-fake er et problem, der også bekymrer os ud fra et sikkerhedsmæssigt synspunkt. Vi har sat os for at forhindre for enhver pris, at vores brugere kan tvivle på ægtheden af en samtale eller en modpart. Vi er nødt til at garantere, at en samtale er ægte. At en patient taler med sin læge. Den opgave er vi allerede i gang med, og vi har allerede nogle gode tilgange til den. Den vigtigste er, at vi kan kontrollere hele den platform, som vores løsning kører på.
Hvilken rolle spiller lovbestemmelser for at styre AI i den rigtige retning?
Runi: En stor en. Der skal være bindende regler for alle, og der skal være juridiske definitioner på brugen af AI. I EU har vi skabt en solid ramme med GDPR. Men den besvarer ikke de presserende spørgsmål: Hvem er ansvarlig for AI-genererede resultater? Hvem er ansvarlig, hvis der sker noget? Alt dette er langt fra klart. Hvis vi ser på den kommende udvikling, skal politikerne virkelig op i et højere gear i udviklingen af koncepter til beskyttelse af borgerne og ansvarlig brug af AI.
