AI - nye muligheder og nyt ansvar

Uanset om ergoterapeuter møder kunstig intelligens med nysgerrighed, usikkerhed eller bekymring, er én ting sikkert: AI påvirker også ergoterapien, og for at sikre, at fagets kerneværdier bliver repræsenteret i sundhedsvæsenets AI-løsninger, er det vigtigt, at ergoterapeuter engagerer sig i udviklingen, skriver Vera Kälin. Som forsker undersøger hun, hvordan menneskecentreret kunstig intelligens kan understøtte rehabiliteringsindsatser.

Vera Kälin
Ergoterapeut, ph.d. og rehabiliteringsforsker
Umeå Universitet
[email protected]

Kunstig intelligens (AI) udvikler sig i hastigt tempo. Den indgår allerede i vores hverdag – fra navigation og stemmestyrede assistenter til automatiske oversættelser og anbefalinger. Sundhedsvæsenet er ingen undtagelse. AI bliver i stigende grad integreret i klinisk praksis, blandt andet i dokumentationssystemer og beslutningsstøtteværktøjer. Uanset om vi som ergoterapeuter møder udviklingen med nysgerrighed, usikkerhed eller bekymring, er én ting tydelig: AI påvirker ergoterapien og vores borgere – og det vil den fortsat gøre.

Derfor er det afgørende, at vi som profession forholder os aktivt til AI og de konsekvenser, teknologien har for vores arbejde. Ergoterapeuter har brug for viden og kompetencer til både at navigere i et sundhedsvæsen, hvor AI spiller en voksende rolle, og til at forstå de AI-prægede hverdagsliv, som vores borgere lever i.¹

Hvis vi ikke engagerer os, vil AI-løsninger i sundhedsvæsenet – og de teknologier, vores borgere anvender – i høj grad blive udviklet og implementeret af andre faggrupper eller kommercielle aktører...

Hvis vi ikke engagerer os, vil AI-løsninger i sundhedsvæsenet – og de teknologier, vores borgere anvender – i høj grad blive udviklet og implementeret af andre faggrupper eller kommercielle aktører. Dermed risikerer vi, at ergoterapiens kerneværdier og borgernes perspektiver ikke bliver tilstrækkeligt repræsenteret.

Lad os derfor begynde med at se nærmere på, hvad AI egentlig er, og hvordan det vedrører ergoterapien.

Hvad er AI?

Et AI-system defineres i EU’s AI-forordning² som et maskinbaseret system, der kan fungere med en varierende grad af selvstændighed. Det kan efter ibrugtagning tilpasse sig nye forhold og arbejder ud fra enten klart formulerede eller underforståede mål. Systemet bearbejder input og producerer output – for eksempel forudsigelser, indhold, anbefalinger eller beslutninger, der kan påvirke både fysiske og digitale omgivelser.

Kort sagt er et AI-system et computersystem, der kan lære eller justere sin funktion over tid og bruge de data, det modtager, til at producere resultater som for eksempel forudsigelser eller anbefalinger, der har betydning i den virkelige verden eller i digitale miljøer.

Sådan påvirker AI ergoterapien

AI i klinisk dokumentation. AI-løsninger afprøves og implementeres i stigende grad i de miljøer, hvor ergoterapeuter arbejder. Ét eksempel er automatiseret klinisk dokumentation.³ Her kan systemer optage samtaler mellem sundhedsprofessionelle og borgere, transskribere dem og automatisk generere journalnotater eller resuméer. Nyere forskning viser, at den slags systemer kan mindske lægers stress og deres oplevede administrative byrde. Samtidig kan de reducere den tid, der bruges på dokumentation, og dermed frigøre mere tid til direkte kontakt med borgerne.

Selvom udviklingen rummer oplagte fordele, indebærer den også væsentlige udfordringer og risici.

Hvis AI-systemer ikke i tilstrækkelig grad “forstår” ergoterapeutiske resultatmål, som for eksempel outcome, kan de have begrænset værdi for os – og i værste fald føre til forkerte beslutninger.

Forestil dig et automatiseret dokumentationssystem, der sammenfatter en samtale mellem en læge og en borger og på baggrund af resuméet vurderer, om borgeren skal henvises til ergoterapi. Hvis systemet ikke kan identificere relevante ergoterapeutiske problemstillinger, risikerer borgere med behov for ergoterapeutisk indsats, at de ikke bliver henvist.

I min og mine kollegaers tidligere forskning har vi undersøgt, hvordan begrebet deltagelse i aktiviteter – et centralt ergoterapeutisk resultatmål – er repræsenteret i AI-baserede interventioner, vurderingsredskaber og taksonomier, som anvendes inden for sundhedsinformatik.

Vores oversigtsstudier viser, at deltagelse set fra et ergoterapeutisk perspektiv er utilstrækkeligt repræsenteret i AI-baserede indsatser og vurderingsredskaber inden for pædiatrisk rehabilitering.⁵⁻⁶ Aktuelt arbejde inden for voksenrehabilitering peger på et tilsvarende mønster i AI-baserede indsatser i hjem og lokalsamfund.⁷

Derudover har vi vist, at deltagelse kun i begrænset omfang er indarbejdet i de taksonomier, der i vid udstrækning anvendes i sundhedsinformatik.⁸ For at komme den udfordring i møde er vi begyndt at undersøge, hvordan arkitekturen i store sprogmodeller (LLM’er) kan justeres.⁹ Formålet er at understøtte, at modellerne bedre kan identificere information om deltagelse på en måde, der stemmer overens med ergoterapiens forståelse af begrebet.

AI og elektroniske patientjournaler (EPJ). Elektroniske patientjournaler (EPJ), som i dag anvendes bredt i sundhedsvæsenet, udgør en central datakilde for mange AI-værktøjer. Det kan blandt andet være beslutningsstøtteredskaber, der anbefaler bestemte behandlinger som fx ergoterapi. Derfor har det stor betydning for vores profession, hvilke typer data der registreres i EPJ-systemerne.

I praksis foretrækker mange ergoterapeuter at dokumentere i fritekstfelter, fordi den form kan give et mere nuanceret billede af borgerens situation. AI-baserede beslutningsstøtteredskaber bygger imidlertid ofte primært på strukturerede data –som afkrydsningsfelter og standardiserede registreringer – og inddrager ikke fritekst i samme omfang.

Det kan betyde, at væsentlige aspekter af ergoterapeutisk praksis ikke indgår i de analyser og anbefalinger, som systemerne genererer. Derfor er det afgørende, at vi som profession engagerer os i drøftelserne om, hvilke resultatmål og hvilke registreringer der skal indgå i EPJ-systemerne, og hvordan dokumentationen struktureres.

En aktiv indsats her kan være med til at sikre, at ergoterapiens perspektiver og faglige indsatser bliver korrekt repræsenteret i fremtidens AI-systemer og sundhedsfaglige beslutningsprocesser.

AI former aktivitetsudførelse. Et andet vigtigt perspektiv er, at AI i stigende grad former hverdagslivet og dermed også de liv, som vores borgere lever. AI påvirker, hvordan mennesker udfører aktiviteter og deltager i dagligdagen. Det har betydning for, hvilke aktiviteter og situationer de har behov for eller ønsker at indgå i.

Det at lave mad kan i dag fx indebære, at man spørger en stor sprogmodel som ChatGPT, hvad man kan tilberede med de ingredienser, man har hjemme, og hvordan retten skal laves. På den måde får AI direkte indflydelse på aktivitetsudførelsen og dermed også på ergoterapeuters arbejde og de kompetencer, der er nødvendige for at støtte borgerne.

AI og etiske principper i ergoterapi

AI rejser en række etiske spørgsmål, som er relevante for ergoterapien.¹ Det gælder blandt andet bias i AI-systemer – det, at systemerne kan være forudindtagede. Det gælder begrænset gennemsigtighed, bekymringer om privatliv og datasikkerhed, det betydelige forbrug af globale ressourcer, der er forbundet med brugen af AI, samt de underforståede mål, som kan være indlejret i teknologierne.

Bias og aktivitetsretfærdighed. AI-systemer lærer på baggrund af eksisterende data. Hvis bestemte grupper, eksempelvis personer med funktionsnedsættelser eller minoritetsgrupper, er underrepræsenterede eller fejlagtigt repræsenterede i disse datasæt, kan systemerne komme til at reproducere eller forstærke eksisterende uligheder.

Fx har AI-værktøjer, der anvendes i rekruttering, vist sig at kunne stille personer med funktionsnedsættelser dårligere.¹⁰ Set fra et ergoterapeutisk perspektiv berører det direkte centrale ergoterapeutiske værdier som aktivitetsretfærdighed og respekt for mangfoldighed.

Gennemsigtighed og forståelighed. Mange AI-systemer fungerer som såkaldte “sorte bokse”, hvor det ikke er tydeligt, hvordan systemet er nået frem til en anbefaling eller beslutning. I sundhedsvæsenet er denne manglende gennemsigtighed problematisk. Fra et ergoterapeutisk perspektiv er det fx afgørende, at terapeuten kan forstå og forklare, hvorfor en bestemt anbefaling gives. Borgeren har samtidig ret til at vide, hvordan teknologien påvirker den indsats, vedkommende modtager.

Privatliv og fortrolighed. Oplysninger om hverdagsaktiviteter, rutiner og deltagelse er dybt personlige. Set fra et ergoterapeutisk perspektiv skal den slags data – også når de indsamles og analyseres af AI-systemer - håndteres ansvarligt og gennemsigtigt og kun anvendes med informeret samtykke til det konkrete formål.

Global sundhed og bæredygtighed. Udvikling og drift af AI-systemer kræver betydelige globale ressourcer, herunder store mængder energi og vand. Fra et ergoterapeutisk perspektiv hænger bæredygtighed tæt sammen med aktivitetsretfærdighed og global sundhed.

Implicitte mål og designerens magt. AI-systemer kan have både eksplicitte og implicitte mål.² De eksplicitte mål er tydelige og kendte for brugerne. De implicitte mål kan derimod udspringe af kommercielle eller institutionelle interesser, som er indlejret i systemets design.

De skjulte prioriteringer kan påvirke kliniske beslutningsprocesser, have betydning for, hvilke indsatser der anbefales, eller bidrage til at fastholde ulighed. Det tydeliggør designerens magt: De aktører, der udvikler og implementerer AI-systemer, indlejrer værdier, antagelser og prioriteringer i teknologien.