Uanset om ergoterapeuter møder kunstig intelligens med nysgerrighed, usikkerhed eller bekymring, er én ting sikkert: AI påvirker også ergoterapien, og for at sikre, at fagets kerneværdier bliver repræsenteret i sundhedsvæsenets AI-løsninger, er det vigtigt, at ergoterapeuter engagerer sig i udviklingen, skriver Vera Kälin. Som forsker undersøger hun, hvordan menneskecentreret kunstig intelligens kan understøtte rehabiliteringsindsatser.

Kunstig intelligens (AI) udvikler sig i hastigt tempo. Den indgår allerede i vores hverdag – fra navigation og stemmestyrede assistenter til automatiske oversættelser og anbefalinger. Sundhedsvæsenet er ingen undtagelse. AI bliver i stigende grad integreret i klinisk praksis, blandt andet i dokumentationssystemer og beslutningsstøtteværktøjer. Uanset om vi som ergoterapeuter møder udviklingen med nysgerrighed, usikkerhed eller bekymring, er én ting tydelig: AI påvirker ergoterapien og vores borgere – og det vil den fortsat gøre.

Derfor er det afgørende, at vi som profession forholder os aktivt til AI og de konsekvenser, teknologien har for vores arbejde. Ergoterapeuter har brug for viden og kompetencer til både at navigere i et sundhedsvæsen, hvor AI spiller en voksende rolle, og til at forstå de AI-prægede hverdagsliv, som vores borgere lever i.¹

Hvis vi ikke engagerer os, vil AI-løsninger i sundhedsvæsenet – og de teknologier, vores borgere anvender – i høj grad blive udviklet og implementeret af andre faggrupper eller kommercielle aktører...

Vera Kälin

Hvis vi ikke engagerer os, vil AI-løsninger i sundhedsvæsenet – og de teknologier, vores borgere anvender – i høj grad blive udviklet og implementeret af andre faggrupper eller kommercielle aktører. Dermed risikerer vi, at ergoterapiens kerneværdier og borgernes perspektiver ikke bliver tilstrækkeligt repræsenteret.

Lad os derfor begynde med at se nærmere på, hvad AI egentlig er, og hvordan det vedrører ergoterapien.

Hvad er AI?

Et AI-system defineres i EU’s AI-forordning² som et maskinbaseret system, der kan fungere med en varierende grad af selvstændighed. Det kan efter ibrugtagning tilpasse sig nye forhold og arbejder ud fra enten klart formulerede eller underforståede mål. Systemet bearbejder input og producerer output – for eksempel forudsigelser, indhold, anbefalinger eller beslutninger, der kan påvirke både fysiske og digitale omgivelser.

Kort sagt er et AI-system et computersystem, der kan lære eller justere sin funktion over tid og bruge de data, det modtager, til at producere resultater som for eksempel forudsigelser eller anbefalinger, der har betydning i den virkelige verden eller i digitale miljøer.

Sådan påvirker AI ergoterapien

AI i klinisk dokumentation. AI-løsninger afprøves og implementeres i stigende grad i de miljøer, hvor ergoterapeuter arbejder. Ét eksempel er automatiseret klinisk dokumentation.³ Her kan systemer optage samtaler mellem sundhedsprofessionelle og borgere, transskribere dem og automatisk generere journalnotater eller resuméer. Nyere forskning viser, at den slags systemer kan mindske lægers stress og deres oplevede administrative byrde. Samtidig kan de reducere den tid, der bruges på dokumentation, og dermed frigøre mere tid til direkte kontakt med borgerne.

Selvom udviklingen rummer oplagte fordele, indebærer den også væsentlige udfordringer og risici.

Hvis AI-systemer ikke i tilstrækkelig grad “forstår” ergoterapeutiske resultatmål, som for eksempel outcome, kan de have begrænset værdi for os – og i værste fald føre til forkerte beslutninger.

Forestil dig et automatiseret dokumentationssystem, der sammenfatter en samtale mellem en læge og en borger og på baggrund af resuméet vurderer, om borgeren skal henvises til ergoterapi. Hvis systemet ikke kan identificere relevante ergoterapeutiske problemstillinger, risikerer borgere med behov for ergoterapeutisk indsats, at de ikke bliver henvist.

I min og mine kollegaers tidligere forskning har vi undersøgt, hvordan begrebet deltagelse i aktiviteter – et centralt ergoterapeutisk resultatmål – er repræsenteret i AI-baserede interventioner, vurderingsredskaber og taksonomier, som anvendes inden for sundhedsinformatik.

Vores oversigtsstudier viser, at deltagelse set fra et ergoterapeutisk perspektiv er utilstrækkeligt repræsenteret i AI-baserede indsatser og vurderingsredskaber inden for pædiatrisk rehabilitering.⁵⁻⁶ Aktuelt arbejde inden for voksenrehabilitering peger på et tilsvarende mønster i AI-baserede indsatser i hjem og lokalsamfund.⁷

Derudover har vi vist, at deltagelse kun i begrænset omfang er indarbejdet i de taksonomier, der i vid udstrækning anvendes i sundhedsinformatik.⁸ For at komme den udfordring i møde er vi begyndt at undersøge, hvordan arkitekturen i store sprogmodeller (LLM’er) kan justeres.⁹ Formålet er at understøtte, at modellerne bedre kan identificere information om deltagelse på en måde, der stemmer overens med ergoterapiens forståelse af begrebet.

AI og elektroniske patientjournaler (EPJ). Elektroniske patientjournaler (EPJ), som i dag anvendes bredt i sundhedsvæsenet, udgør en central datakilde for mange AI-værktøjer. Det kan blandt andet være beslutningsstøtteredskaber, der anbefaler bestemte behandlinger som fx ergoterapi. Derfor har det stor betydning for vores profession, hvilke typer data der registreres i EPJ-systemerne.

I praksis foretrækker mange ergoterapeuter at dokumentere i fritekstfelter, fordi den form kan give et mere nuanceret billede af borgerens situation. AI-baserede beslutningsstøtteredskaber bygger imidlertid ofte primært på strukturerede data –som afkrydsningsfelter og standardiserede registreringer – og inddrager ikke fritekst i samme omfang.

Det kan betyde, at væsentlige aspekter af ergoterapeutisk praksis ikke indgår i de analyser og anbefalinger, som systemerne genererer. Derfor er det afgørende, at vi som profession engagerer os i drøftelserne om, hvilke resultatmål og hvilke registreringer der skal indgå i EPJ-systemerne, og hvordan dokumentationen struktureres.

En aktiv indsats her kan være med til at sikre, at ergoterapiens perspektiver og faglige indsatser bliver korrekt repræsenteret i fremtidens AI-systemer og sundhedsfaglige beslutningsprocesser.

AI former aktivitetsudførelse. Et andet vigtigt perspektiv er, at AI i stigende grad former hverdagslivet og dermed også de liv, som vores borgere lever. AI påvirker, hvordan mennesker udfører aktiviteter og deltager i dagligdagen. Det har betydning for, hvilke aktiviteter og situationer de har behov for eller ønsker at indgå i.

Det at lave mad kan i dag fx indebære, at man spørger en stor sprogmodel som ChatGPT, hvad man kan tilberede med de ingredienser, man har hjemme, og hvordan retten skal laves. På den måde får AI direkte indflydelse på aktivitetsudførelsen og dermed også på ergoterapeuters arbejde og de kompetencer, der er nødvendige for at støtte borgerne.

AI og etiske principper i ergoterapi

AI rejser en række etiske spørgsmål, som er relevante for ergoterapien.¹ Det gælder blandt andet bias i AI-systemer – det, at systemerne kan være forudindtagede. Det gælder begrænset gennemsigtighed, bekymringer om privatliv og datasikkerhed, det betydelige forbrug af globale ressourcer, der er forbundet med brugen af AI, samt de underforståede mål, som kan være indlejret i teknologierne.

Bias og aktivitetsretfærdighed. AI-systemer lærer på baggrund af eksisterende data. Hvis bestemte grupper, eksempelvis personer med funktionsnedsættelser eller minoritetsgrupper, er underrepræsenterede eller fejlagtigt repræsenterede i disse datasæt, kan systemerne komme til at reproducere eller forstærke eksisterende uligheder.

Fx har AI-værktøjer, der anvendes i rekruttering, vist sig at kunne stille personer med funktionsnedsættelser dårligere.¹⁰ Set fra et ergoterapeutisk perspektiv berører det direkte centrale ergoterapeutiske værdier som aktivitetsretfærdighed og respekt for mangfoldighed.

Gennemsigtighed og forståelighed. Mange AI-systemer fungerer som såkaldte “sorte bokse”, hvor det ikke er tydeligt, hvordan systemet er nået frem til en anbefaling eller beslutning. I sundhedsvæsenet er denne manglende gennemsigtighed problematisk. Fra et ergoterapeutisk perspektiv er det fx afgørende, at terapeuten kan forstå og forklare, hvorfor en bestemt anbefaling gives. Borgeren har samtidig ret til at vide, hvordan teknologien påvirker den indsats, vedkommende modtager.

Privatliv og fortrolighed. Oplysninger om hverdagsaktiviteter, rutiner og deltagelse er dybt personlige. Set fra et ergoterapeutisk perspektiv skal den slags data – også når de indsamles og analyseres af AI-systemer - håndteres ansvarligt og gennemsigtigt og kun anvendes med informeret samtykke til det konkrete formål.

Global sundhed og bæredygtighed. Udvikling og drift af AI-systemer kræver betydelige globale ressourcer, herunder store mængder energi og vand. Fra et ergoterapeutisk perspektiv hænger bæredygtighed tæt sammen med aktivitetsretfærdighed og global sundhed.

Implicitte mål og designerens magt. AI-systemer kan have både eksplicitte og implicitte mål.² De eksplicitte mål er tydelige og kendte for brugerne. De implicitte mål kan derimod udspringe af kommercielle eller institutionelle interesser, som er indlejret i systemets design.

De skjulte prioriteringer kan påvirke kliniske beslutningsprocesser, have betydning for, hvilke indsatser der anbefales, eller bidrage til at fastholde ulighed. Det tydeliggør designerens magt: De aktører, der udvikler og implementerer AI-systemer, indlejrer værdier, antagelser og prioriteringer i teknologien.

Menneskecentreret AI – og ergoterapiens værdier

En lovende retning inden for AI-forskning er menneskecentreret AI (HCAI).¹¹ Formålet er at udvikle AI-systemer, der understøtter mennesker frem for at erstatte dem.

HCAI har fokus på at styrke menneskers handlemuligheder, understøtte kvalificerede beslutninger og respektere menneskers værdier, behov og mangfoldighed.

Tilgangen lægger vægt på gennemsigtighed, forståelighed, retfærdighed, beskyttelse af privatliv og samarbejde med slutbrugere. I stedet for primært at fokusere på effektivitet eller økonomisk gevinst er målet at skabe værdi for både den enkelte og samfundet som helhed.

Principperne stemmer godt overens med ergoterapiens etiske værdier, herunder borgercentreret praksis, aktivitetsfokus, aktivitetsretfærdighed, respekt for mangfoldighed og socialt ansvar.¹˒¹²

Det betydelige overlap peger på, at ergoterapeuter har væsentlig faglig viden at bidrage med i udviklingen af menneskecentreret AI, og at AI-udvikling kan styrkes gennem et tydeligt ergoterapeutisk perspektiv.

AI og ergoterapi – hvad gør vi nu?

AI udvikler sig hurtigt, og teknologien er kommet for at blive. Den påvirker allerede ergoterapeutisk praksis og rummer både muligheder og betydelige udfordringer. Det giver professionen nye og vigtige opgaver:

At sikre, at ergoterapeutiske data er repræsenteret i EPJ: AI-systemer udvikles i stigende grad på baggrund af eksisterende digitale infrastrukturer, særligt elektroniske patientjournaler (EPJ). Da disse systemer er datagrundlag for mange AI-værktøjer, er det afgørende, at ergoterapeutiske resultatmål og perspektiver er meningsfuldt repræsenteret her.

At udvikle AI-kompetencer og indgå i samskabelsesprocesser: Viden om AI, praktiske færdigheder og en kritisk tilgang til teknologien er ikke længere et tilvalg for ergoterapeuter - det er en nødvendighed.

Det indebærer blandt andet, at ergoterapeuter må arbejde aktivt for at sikre kvalitet og synlighed af ergoterapeutiske data i AI-relevante systemer. Det er også vigtigt for ergoterapeuter at forholde sig til, hvilken type AI, der bør prioriteres, fx menneskecentreret AI (HCAI).

Det forudsætter, at der også er kompetencer til at håndtere etiske problemstillinger som privatliv, bias og gennemsigtighed samt en bevidsthed om den indflydelse, som AI-designere har på prioriteringer og beslutningsprocesser i sundhedsvæsenet.

Derfor bør ergoterapeuter samarbejde aktivt med forskere, udviklere og borgere i samskabende designprocesser og være parate til selv at tage initiativ og lederskab i den type processer.

Regardless of whether occupational therapists approach artificial intelligence with curiosity, uncertainty, or concern, one thing is certain: AI is also affecting occupational therapy. To ensure that the core values of the profession are represented in the healthcare system’s AI solutions, it is important that occupational therapists engage in the development, writes Vera Kälin. As a researcher, she studies how human-centered artificial intelligence can support rehabilitation efforts.

Artificial intelligence (AI) is developing incredibly fast. It is part of our everyday lives – from navigation apps and voice assistants to automated translations and recommendations. Healthcare is no exception. AI is increasingly being integrated into clinical practice such as documentation systems and decision-making tools. Regardless of whether occupational therapists (OTs) feel excited, uncertain, or concerned about this development, one thing is clear: AI affects occupational therapy (OT) and OT clients, and it will continue to do so

For this reason, it is essential that AI and its implications are actively discussed within the OT profession. OTs need the relevant knowledge and competencies to respond to AI-influenced healthcare systems and to the AI-shaped everyday lives of their clients.1 If OTs do not engage with this topic, AI applications in healthcare and technologies used by OT clients will mainly be designed and implemented by others, such as physicians, engineers, or commercial companies. This creates a risk that core OT values - and the perspective and needs of OT clients - will not be adequately represented in these developments.1 But let us start from the beginning and look at this in more detail.

What is Artificial Intelligence (AI)?

An AI system is defined by the EU AI Act2 as “a machine-based system that is designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment, and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.” In other words, an AI system is a computer system that can learn or adjust its behavior over time and use the data it receives to produce explicit or implicit results—like predictions, recommendations, or decisions—that affect the real or virtual world.

How AI Affects OT

AI in Clinical Documentation. AI applications are being tested and implemented in healthcare settings that involve OTs. One example is automated clinical documentation.3 These systems record conversations between healthcare professionals and clients, transcribed them, and automatically generate summaries. Recent research has shown that such systems can reduce stress and burnout among physicians, decrease time spent on documentation, and free up more time for direct client contact.4

Although these developments may offer benefits, they also involve important challenges and risks. For example, if AI systems do not adequately “understand” OT outcomes, they may be of limited use for OTs or even cause harm. Consider an automated documentation system designed to summarize a conversation between a physician and a client and then automatically determines based on these summaries whether the client should be referred to OT. If the system does not “understand” OT outcomes, clients’ who could benefit from OT may not be referred.

In our prior work, we examined how the concept of “participation in activities”- a core OT outcome - is represented in AI-based interventions, assessments, and taxonomies commonly used in health informatics. Our reviews showed that participation, from an OT perspective, is poorly represented in AI-based pediatric rehabilitation interventions and assessments.5,6 Ongoing work in adult rehabilitation suggests a similar pattern in AI-based home and community interventions.7 In addition, participation has been shown to be insufficiently represented in taxonomies widely used in health informatics.8 To address this challenge, we have begun exploring modifications to the architecture of large language models (LLMs).9 The aim is to guide these models in identifying and extracting information related to participation in a way that aligns more closely with the OT understanding of this concept.

AI and Electronic Health Records (EHR). Electronic health records (EHRs), which are widely used today, provide an important data source for AI tools. These tools may include decision-support systems that, for example, recommend certain therapy services such as OT. As a result, the type of data stored in EHR systems is important for the OT profession.

In practice, many OTs prefer to use free-text fields when documenting in EHR systems. While this approach may better reflect a client’s situation, AI-facilitated decision-support systems often rely primarily on structured data (e.g., checkboxes or standardized fields) and do not incorporate free-text information. Consequently, important aspects of OT practice may be overlooked. For these reasons, it is essential that OTs take an active role in discussions about which outcomes should be included in EHR systems (i.e., checkboxes) and how documentation should be structured. This proactive engagement can help ensure that OT practice is accurately represented in AI systems and future healthcare decision-making.

AI Shaping Occupational Performance. Another important aspect is that AI is increasingly shaping everyday life – and therefore also the lives of OT clients. AI influences how people perform activities and participate in daily life, which in turn affects the activities and situations they need or wish to engage in. For example, preparing a meal may now involve asking an LLM, such as ChatGPT, what to cook with the ingredients available at home and how to prepare it. In this way, AI directly shapes occupational performance and, thus, OTs’ work and skills needed to support clients.

AI and Ethical Principles in OT

AI raises important ethical reflections that are highly relevant to OT.1 These include bias in AI systems, limited transparency, concerns about privacy and data security, the extensive use of planetary resources, and the implicit goals embedded in AI technologies.

Bias and Occupational Justice. AI systems learn from existing data. If certain groups – such as people with disabilities or minority populations – are underrepresented or misrepresented in these datasets, AI systems may reinforce existing inequalities. For example, AI tools used in hiring have shown to disadvantage people with disabilities.10 From an OT perspective, this directly relates to occupational justice and respect for diversity.

Transparency and Explainability. Many AI systems function as “black boxes,” meaning it is not clear how decisions or recommendations are generated. In healthcare, this lack of transparency is problematic. From an OT perspective, therapists need to understand and explain why a particular recommendation is made. Clients also have the right to know how technology influences their care.

Privacy and Confidentiality. Data about daily activities, routines, and participation are deeply personal. From an OT perspective, when such data are collected and analyzed by AI systems, they must be handled responsibly, transparently, and with informed consent for their exact use.

Sustainability and Planetary Health. The development and maintenance of AI systems require substantial planetary resources, including a vast amount of energy and water. From an OT perspective, sustainability is closely linked to occupational justice and global health.

Implicit Goals and the Power of the Designer. AI systems can have both explicit and implicit goals.2 Explicit goals are transparent and clear to users. Implicit goals, however, may arise from commercial and institutional interests embedded in system design. These hidden priorities can subtly shape clinical decision-making, influence which interventions are recommended, or reinforce existing inequalities. This underscores the power of the designer: those who build and implement AI systems embed values, assumptions, and priorities into the technology.

Human-centered AI: A Match with Ethical Principles in OT

A promising direction in AI research is human-centered AI (HCAI).11 HCAI aims to design AI systems that support rather than replace humans. Its goal is to enhance human capabilities, enable informed decision-making, and respect human values, needs, and diversity. HCAI emphasizes transparency, explainability, fairness, privacy, and collaboration with end users. Instead of focusing mainly on efficiency or profit, it seeks to serve individuals and society as a whole.

These principles closely align with the ethical values of OT, including client-centeredness, occupation-focused practice, occupational justice, respect for diversity, and social responsibility.1,12 This strong overlap suggests that OTs have valuable expertise to contribute to HCAI – and that AI development can benefit greatly from OT perspective.

Looking Ahead: AI and OT

AI is developing rapidly, and it is here to stay. It already influences OT practice, which offers opportunities but also presents serious challenges resulting in important new tasks for OTs:

Ensuring OT Data are Well-Represented in EHRs: AI are increasingly built on existing digital infrastructures, particularly EHRs. Because these systems provide the data foundation for AI tools, OT outcomes and perspectives must be meaningfully represented within them.

Developing AI Competencies and Engaging in Co-Design: Knowledge, skills, and critical engagement with AI are no longer optional for OTs - they are essential. This includes proactively ensuring the quality and visibility of OT data in AI-relevant systems and reflecting on the type of AI that should be prioritized (e.g., HCAI). It also requires the competencies needed to actively address ethical issues such as privacy, bias, and transparency, as well as the awareness of the power of AI designers in shaping system priorities and care processes. Consequently, OTs should actively collaborate with researchers, developers, and clients in co-design processes – and be prepared to initiate and lead such processes themselves.