»Efterhånden står det klart for de fleste, at AI er noget, man som virksomhed bliver nødt til at forholde sig til - næsten uanset, hvad man beskæftiger sig med«
Kunstig intelligens kan være en hjælpende hånd i sundhedsvæsenet, hvor algoritmer kan give kortere ventetid på skadestuer, aflaste travle læger og spotte ting, det menneskelige øje ofte misser - hvis ellers hospitalerne vil lukke AI’en ind.
Ligesom i andre brancher skaber mødet mellem hastige teknologiske fremskridt og langsommeligt lovgivningsarbejde nemlig udfordringer for mange virksomheder.
Med chatbots, nye apps og digitale løsninger har den kunstige intelligens gjort sit indtog i mange menneskers hverdag – privat og professionelt. Samtidig er debatten om, hvorvidt man er for eller imod kunstig intelligens allerede forældet, for det handler ikke længere om, hvorvidt man vil bruge AI. Det handler om, hvordan - især hos virksomheder. Faktisk er det i 2024 næsten umuligt at undgå at tage stilling til AI-løsninger, hvis man ønsker at drive en fremtidssikret virksomhed:
»Jeg tror det efterhånden står klart for de fleste, at AI er noget, man som virksomhed bliver nødt til at forholde sig til. Det gælder næsten uanset, hvad man beskæftiger sig med,« siger Claus Westergaard Kraft, der er Head of Solutions hos TDC Erhverv.
»På samme måde, som GDPR-lovgivningen i en del år har været et fundament, virksomheder er blevet tvunget til at forholde sig til, er AI’en nu noget, man ikke kan komme udenom,« siger han.
Det er ikke tilfældigt, at han peger på netop EU-reglerne om databeskyttelse. Ligesom databeskyttelsesreglerne omskrev spillereglerne for mange virksomheder, så gør den kunstige intelligens det også. Og samtidig med, at den kunstige intelligens kan lette arbejdsbyrden og hjælpe med arbejdsopgaver i mange virksomheder, så kommer den også med en lang række udfordringer netop på databeskyttelsesområdet. Claus Westergaard Kraft fortæller, at det både er når det gælder personfølsomme oplysninger, kritisk infrastruktur og vigtig virksomhedsdata som patenter, at der kan opstå store udfordringer i mødet mellem datasikkerhed og AI.
»Ved at gøre brug af kunstig intelligens kunne vi spare en masse tid i sundhedsvæsenet, som kan bruges meget bedre«
Michael Lundemann, klinisk og videnskabelig direktør i Radiobotics
Datasikkerhed-hensyn er en udfordring for AI-virksomheder
Det kan være en stor udfordring for mange virksomheder at navigere i. Det oplevede teamet bag den danske virksomhed Radiobotics på første hånd, da de begyndte deres arbejde med at introducere innovativ AI-teknologi i hospitalsvæsenet.
Virksomheden udvikler algoritmer, der kan hjælpe med at analysere og fortolke røntgenbilleder og spotte brud på skeletsystemet. Det er en hjælpende hånd for læger, der skal vurdere, om der er et brud, og beslutte, hvordan en patient skal behandles. Ideen til virksomheden opstod, da en af virksomhedens stiftere, Mads Jarner Brevadt, arbejdede som biomedicinsk ingeniør på Imperial College i London. Ligesom i de fleste andre dele af sundhedsvæsenet var der mere end nok at lave, og hverdagen på den ortopædkirurgiske afdeling var præget af, at der var for mange patienter og opgaver, og for få timer og specialister.
Derfor ærgrede det også den danske ingeniør, at han hver dag brugte tid på at sidde og analysere røntgenbilleder - tid, han kunne have brugt på at forske, og som kirurgerne kunne have brugt på at operere.
»Vores medstifter Mads kunne se, at man ved at gøre brug af kunstig intelligens kunne spare en masse tid i sundhedsvæsenet, som kan bruges meget bedre,« fortæller Michael Lundemann, der er klinisk og videnskabelig direktør i Radiobotics.
I dag, syv år senere, bliver Radiobotics AI-løsninger anvendt på hospitaler i mange europæiske lande. Der er med andre ord fuld fart på - eller det ville der være, hvis ikke en række privatlivs- og databeskyttelsesregler spændte ben for den teknologiske udvikling.
Lægefagets tavshedspligt gælder nemlig også digital data, og sundhedsvæsenets teknologiske løsninger er ofte af ældre dato. Det fører til udfordringer for den kunstige intelligens, der har brug for data for at udvikle sig og som ofte er baseret på mere moderne, teknologiske løsninger.
»Vi tager datasikkerhed meget alvorligt, og vi vidste godt, at det ville være en af de største udfordringer. Men vi havde ikke forudset, hvor stor udfordringen ville være,« fortæller Michael Lundemann.
Lovgivningen har svært ved at følge med fremskridtene
Kombinationen af at arbejde med moderne, kunstig intelligens indenfor et fag, der både tager datasikkerhedsregler mere alvorligt end de fleste, og som til tider anvender ældre teknologi, har gjort Radiobotics til frontløbere i diskussionen om mødet mellem kunstig intelligens og datasikkerhed. Men virksomheden er langt fra alene.
Claus Westergaard Kraft fortæller, at balancen mellem at udvinde de teknologiske fremskridts fulde potentiale og at sikre sig, at man overholder alle de gældende regler på området, kan være en stor udfordring for virksomhederne. Ikke mindst fordi at den teknologiske udvikling går så hurtigt, at reglerne kan have svært ved at følge med.
»Den primære udfordring vi ser lige nu er, at teknologien anvendes på måder, man ikke har kunnet forudse. Mange af de eksisterende lovrammer om datasikkerhed, eksempelvis GDPR, kunne eksempelvis ikke forudse mange af de måder, kunstig intelligens bruges på i dag,« fortæller Claus Westergaard Kraft.
Den hastige udvikling indenfor kunstig intelligens stiller ikke bare store krav til politikerne, der skal være meget fremadsynede og proaktive for at kunne følge med. Det gør også, at virksomheder skal træde særdeles varsomt og velovervejet, når de kaster sig ud i AI-løsninger, og forvente, at der opstår udfordringer undervejs.
AI aflaster overbelastede læger
Det oplevede Radiobotics også. For dem bestod udfordringerne, som mødet mellem datasikkerhedshensyn og den kunstige intelligens skabte, blandt andet i, at hospitalerne indtil for nylig helst ville beholde al data inden for hospitalets digitale fire mure i stedet for at anvende cloud-baserede løsninger. Samtidig kunne Radiobotics ikke få adgang til danske patienters røntgenbilleder, uanset om de er anonymiserede eller ej.
Ligesom Mads Jarner Brevadt arbejdede Michael Lundemann med forskning på et hospital - i hans tilfælde Rigshospitalet - inden han begyndte at arbejde for Radiobotics. Det betød, at det var nemmere at forske og udvikle løsninger, for det var nemmere at få adgang til data. Det har været en større udfordring end ventet at navigere i junglen af datasikkerheds-regler på den anden side, som virksomhed uden for hospitalets fire mure:
»Det var aldrig et problem at få adgang til den data, vi skulle bruge for at udvikle prototyper og algoritmer, da jeg arbejdede indenfor et hospital. Det har været meget sværere herude på den anden side, og det har faktisk overrasket mig,« siger Michael Lundemann.
Alligevel er tænkepausen ikke lang, da han bliver spurgt om, hvorvidt han og Mads ville have kastet sig ud i projektet igen, hvis de på forhånd havde vidst, hvor stor udfordringen med datasikkerhed ville blive.
»Det er jeg ret sikker på, at vi ville have gjort, for der er et kæmpe potentiale, når man arbejder med AI, og det er virkelig spændende at arbejde med. Men vi ville nok have gjort nogle ting anderledes undervejs.«
Radiobotics blev stiftet af Mads Jarner Brevadt og tre andre medstiftere i 2017. I dag består virksomheden af 23 ansatte, og Radiobotics’ AI-teknologi bliver anvendt på hospitaler i Danmark, Sverige, England og Skotland, og snart også i Tyskland, Norge og Singapore.
Virksomhedens primære produkt er innovativ AI-teknologi, der analyserer røntgenbilleder og kan hjælpe læger med at spotte brud på skeletsystemer. Det bliver især brugt på travle skadestuer.
På et af de britiske hospitaler, der bruger løsningerne, viste et studie, at antallet af frakturer, der ikke blev spottet, blev reduceret med 50%, efter at skadestuen fik hjælp fra Radiobotics kunstige intelligens.
»Vi kunne se, at vi kan give enormt meget støtte til skadestuerne, der som bekendt ofte er ret pressede. Tit skal unge, uerfarne læger, der ikke er så vant til at kigge på røntgenbilleder, stå og aflæse dem for at beslutte, hvordan en patient skal behandles - om de skal opereres eller sendes hjem eller videre til en CT-scanning,« fortæller Michael Lundemann.
Her er 5 råd fra Radiobotics om datasikkerhed og AI
1. Hyr eksterne jurister tidligere
Der er én ting, Radiobotics ville gøre markant anderledes, hvis de skulle starte forfra.
»Vi skulle have søgt ekstern juridisk hjælp meget tidligere, især fordi vi ikke har nogle jurister internt,« siger Michael Lundemann.
Det kan de fleste virksomheder med fordel gøre, fortæller Claus Westergaard Kraft. Han opfordrer virksomheder til hurtigt at få overblik over, hvilke regler der gælder på det område, der berører deres AI-produkter.
»Noget af det allervigtigste, når man arbejder med AI, er, at man fra starten af gør sig klart, hvad det er for noget data, man ønsker at arbejde med, og hvilke regler, det er omfattet af. Det er en virkelig god idé tidligt at få lavet en risikovurdering af en ekspert, og så at tage udgangspunkt i den og bruge den som ramme for, hvordan man driver sin virksomhed,« siger Claus Westergaard Kraft.
Det er også en fordel i mødet med kunderne. Da Radiobotics først skulle overbevise hospitalerne til at anvende deres produkt, kunne teamet mærke, at det var en fordel, hvis de havde en med erfaring inden for radiologi med til mødet; det gav en anden vægt og skabte mere tiltro. På samme måde gav det bedre resultater, hvis en jurist snakkede med en jurist:
»Det er bare lidt forskellige sprog, man taler. Når man skal snakke med en jurist, der sidder på et eller andet hospital, så giver det bare en anden tyngde, hvis vi selv sender en jurist i stedet for en biomedicinsk ingeniør,« fortæller Michael Lundemann.
2. Insister på cloud-baserede løsninger - hvis sikkerheden er i orden
Da danske hospitaler først skulle begynde at bruge Radiobotics produkter, løb de ofte ind i en udfordring. Ligesom mange andre startups med fokus på teknologi og kunstig intelligens arbejder Radiobotics med moderne teknologiske løsninger, hvoraf mange er cloud-baserede. Hospitalerne, derimod, var til at starte med ikke meget for at lade dataen forlade hospitalets fire digitale vægge.
»Der har været en tanke om, at man skal holde alt patientdataen indenfor hospitalets firewall, men det er lidt forældet, for der er ikke mindre datasikkerhed med de rigtige cloud-løsninger. Men hospitalerne er heldigvis blevet mindre bange for at sende deres billeder op i skyen.«
Claus Westergaard Kraft fortæller, at netop datasikkerheden i forbindelse med anvendelsen af cloudbaserede løsninger er en af de største udfordringer for mange virksomheder - ikke mindst fordi, at mange AI-produkter i høj grad er afhængige af at operere i skyen:
»Det kræver en hel del ekspertviden at navigere i de regler der er for at kunne anvende cloud-løsninger. Forudsætningen for, at man effektivt kan anvende AI - og mange af de andre værktøjer, digitaliseringen tilbyder - er, at man virkelig forstår de forholder, man er underlagt på grund af eksempelvis GDPR-lovgivningen. Hvis ikke det fundament er på plads, så kan man heller ikke håndtere AI som virksomhed,« siger Claus Westergaard Kraft fra TDC Erhverv.
Han fortæller, at der heldigvis er flere og flere løsninger der gør, at man som virksomhed kan sikre den vigtige data - hvad end det omhandler et lands kritiske infrastruktur eller en patients følsomme personlige oplysninger.
Det betyder også, at flere og flere danske hospitaler i dag føler sig sikre ved at bruge cloud-baserede løsninger, ligesom de virker til at være mere positivt stemte overfor brugen af kunstig intelligens generelt, fortæller Michael Lundemann:
»Der er sket meget, tingene har virkelig rykket sig. Jeg kunne godt have ønsket mig, at det var gået lidt hurtigere, men jeg håber, at vi på sin vis har banet vej for nogle andre, så det bliver lidt lettere fremover.«
3. Hav lige så meget fokus på netværk og lovgivningsarbejde som teknologi
Når man er en lille startup med store drømme om et produkt baseret på kunstig intelligens, som man ser potentiale i, kan det være fristende kun at fokusere på produktet. Gør man det, risikerer man imidlertid at stå med et produkt, hvor algoritmerne fungerer perfekt, men hvor store dele af produktet ikke kan anvendes på grund af manglende tilladelser og forældet lovgivning.
»Det gik op for os, at det ikke nytter noget kun at skubbe på for at skabe ændringer inde på hospitalerne, for meget af tiden er hospitalerne positive, men lovgivningen spænder ben. Nu ved vi, at vi også er nødt til at prøve at skubbe på gennem andre kanaler,« fortæller Michael Lundemann.
Claus Westergaard Kraft er enig i, at man som virksomhed bør investere tid i at netværke med andre i branchen - også selvom der måske er tale om konkurrenter:
»For at vi som virksomheder kan absorberede den haglbyge af regler og reguleringer, der regner ned over os for tiden, er det i kæmpe stor grad enormt vigtigt, at der opstår virksomhedsfællesskaber, hvor vi hjælper hinanden. Det gælder også, selvom nogle af virksomhederne er konkurrenter. Hvis man vil sikre, at man som branche effektivt kan håndtere alle de her regler, er man nødt til at samarbejde.«
Derfor bruger Radiobotics-teamet nu også en del tid på netværks- og lobbyarbejde. Det er med til at gøre politikerne opmærksomme på, hvilke dele af lovgivningen, der kan ændres, blandt andet ved at kigge mod andre lande, hvor forskellige samtykkemodeller gør det muligt at dele mere data.
»Det er ikke noget, man bare gør fra den ene måned til den anden, for lovgivningsarbejdet tager virkelig lang tid. Men når vi snakker med politikerne, er det mit indtryk, at de nikker og forstår, godt kan se problemerne og er med på, at der skal findes løsninger. På sigt er den tid godt givet ud.«
4. Overvej, om din data er racistisk - og vær etisk i dit valg af data
Datasikkerhedsreglerne i Danmark betyder, at firmaer som Radiobotics ikke kan få adgang til dansk data. Når Radiobotics oplærer deres algoritmer i eksempelvis at spotte et brud på en knogle, er det derfor ikke udelukkende røntgenbilleder af danske, men især amerikanske knogler, der bliver brugt.
Det er et resultat af et samarbejde mellem Radiobotics og deres amerikanske datapartner, som hver måned sender tusindvis af røntgenbilleder til den danske virksomhed. Det er ikke tilfældigt, at virksomheden er netop amerikansk. Da Radiobotics skulle oplære algoritmerne, kunne de nemlig vælge mellem at få data fra en amerikansk samarbejdspartner eller en indisk.
»Der er andre firmaer, der køber deres data i eksempelvis Indien eller Kina, men det valgte vi ikke at gøre. Det skyldes dels dataetik: Med vores amerikanske datapartner ved vi, at de har en samtykkemodel med deres patienter, men med de indiske hospitaler var vi mere i tvivl om, hvorvidt patienterne havde givet hospitalerne lov til at sælge deres data videre,« siger Michael Lundemann.
Dataen kan også have en indbygget bias, som gør, at den ikke virker lige så godt i Danmark.
»Når man udvikler en kunstig intelligens-teknologi som vores, så er det vigtigt, hvor den data, man bruger til at træne algoritmerne, kommer fra, for der er en reel risiko for, at den ikke vil virke. Vi ved at der rent morfologisk er forskel på eksempelvis kaukasere og afroamerikanere. Så potentielt kan der være en bias som gør, at algoritmerne ikke virker, hvis de er trænet på en population, men skal anvendes på en anden,« fortæller Michael Lundemann.
5. Vær forberedt på, at ting - og især holdningsændringer - tager tid
Da Radiobotics startede, var en af de første udfordringer at overbevise hospitalerne om, at den kunstige intelligens var god nok til at den kunne give dem en pålidelig second opinion, og på, at datasikkerheden var i sikre hænder på trods af den nye teknologi. Siden da er der imidlertid sket en velkommen holdningsændring:
»Der er sket en generel modning, når det kommer til kunstig intelligens. Der er mindre frygt og mere tiltro,« fortæller Michael Lundemann.
Det er dels et resultat af, at sundhedspersonalet har lært algoritmerne bedre at kende, men også bare af, at kunstig intelligens ikke længere er noget, der hører en fjern sci-fi-agtig fremtid til, men noget, flere og flere anvender i deres daglige arbejde, fortæller Michael Lundemann.
»Til at starte med blev vi mødt af en vis skepsis, og vi møder den stadigvæk lidt. Men tingene har virkelig ændret sig - folk ved mere om kunstig intelligens generelt, der er større tiltro til teknologien, og hospitalerne har også rykket sig meget, når det kommer til kendskabet til datasikkerhed.«
Forstå fremtidens usikkerheder og bliv rustet til at navigere i den
Digitale løsninger skal helst være en dag foran, og i TDC Erhverv har vi et skarpt blik for, hvad der kommer til at ske. Få indsigt og inspiration til, hvordan man navigerer som virksomhed i fremtidens oprørte hav i vores white paper, ”Naviger i fremtidens usikkerhed”.