De implementatie van AI in de medische wereld lijkt onvermijdelijk en zal het toekomstbeeld kleuren. We zullen daarom nu moeten zorgen dat dit ook onderdeel wordt van het medisch onderwijs. Dit artikel bespreekt de implicaties en mogelijkheden van AI in de opleiding tot (revalidatie)arts, zowel medisch-inhoudelijk als onderwijs technisch.
Auteurs
PROF. DR. G.M. (CLEMENS) ROMMERS
Revalidatiearts, MUMC+ Maastricht/Maastricht University
DRS. E.M.H. (EVA-MARIA) STEVENS-LEFFERTS
Revalidatiearts Sint Maartenskliniek ziekenhuisaffiliaties Canisius Wilhelmina Ziekenhuis en Maasziekenhuis Pantein Boxmeer (recent opleiding afgerond bij Adelante)
DR. E. (ERIK) DE KLERK
Revalidatiearts, Adelante revalidatiecentrum, locatie Hoensbroek
‘It is clear to me that AI will
never replace physicians – but
physicians who use AI will
replace those who don’t’
J. Ehrenfeld, president of the American Medical Association 07-10-2023
We staan aan het begin van een nieuwe periode waarin artificial en/of augmented intelligence (AI) niet alleen de manier veranderen waarop we geneeskunde bedrijven, maar ook hoe we toekomstige artsen opleiden.1 Wij gebruiken in dit artikel – in lijn met de American Medical Association – de term augmented intelligence in plaats van artificial intelligence om de visie te weerspiegelen dat AI geen vervanging zal zijn van een arts, maar de besluitvorming van artsen kan ondersteunen. AI zal een onderdeel worden van de medische opleiding en praktijk. Hoe bereiden we onze toekomstige (revalidatie)artsen hierop voor? Wat zijn de kansen en valkuilen die we kunnen verwachten? De eerste ervaringen stemmen hoopvol, maar het onderwijs zal grondige afstemming vergen van onderwijsontwikkelaars, onderwijskundige ondersteuning en de makers van het curriculum van de toekomst.
Vorig jaar slaagde een AI-algoritme voor het meerkeuzegedeelte van Medical Licensing Examination, het Amerikaanse artsexamen.2 Met de groeiende beschikbaarheid van en interesse in toepassingen van AI in de gezondheidszorg is het belangrijk ervoor te zorgen dat (toekomstig) artsen de kennis en hulpmiddelen hebben om ermee om te gaan. We kunnen een aantal gebieden onderscheiden waar AI nu al een belangrijke rol speelt en die als startpunt kunnen dienen.1,3,5,6 Dat zijn:
- Identificatie: AI wordt gebruikt bij bijvoorbeeld het analyseren van beeldvormende diagnostiek, ECG’s, EEG’s, mammografieën en foto’s van dermatologische afwijkingen. Aiossen zullen moeten leren wanneer dit soort uitkomsten aangenomen mogen worden.
- Notuleren: AI kan een functie hebben bij bijvoorbeeld het uitwerken van gesproken tekst tot notulen van (opleidings)vergaderingen en individuele gesprekken. Er zijn al diverse aanbieders op de markt die met een microfoon het gesprek tussen arts en patiënt analyseren om er een medische brief van maken. Deze oplossingen kunnen ook ingezet worden voor de opleiding. Daarnaast zou je je kunnen afvragen of toekomstige artsen nog zelf een brief moeten leren schrijven.
- Samenvatten: AI kan worden ingezet om een groot medisch dossier in enkele paragrafen samen te vatten om snel overzicht te krijgen, een relevante probleemlijst op te stellen of medicatieoverzichten te creëren. Nog een taak die toekomstig artsen misschien niet meer hoeven te leren.
- Voorspellen: AI kan predictiemodellen opstellen waarbij veel meer input gebruikt kan worden om de modellen te verbeteren dan mogelijk is met traditionele, rules-based algoritmes. Wellicht kan dit in de toekomst ook toegepast worden in de opleiding om opleidingsschema’s meer individueel aan te passen aan sterktes en zwaktes en voorgaande ervaringen van de aiossen.
- Aanbevelingen: AI kan artsen helpen om op basis van alle beschikbare data suggesties te doen, bijvoorbeeld het uitbreiden van de differentiaaldiagnose of het combineren van informatie uit diagnostiek van verschillende vakgebieden. Een nuttige toepassing in de dagelijkse praktijk, maar we moeten toekomstig artsen erop voorbereiden hoe dit toe te passen.
- Niet-klinische toepassingen van AI in de gezondheidszorg: De toepassing van AI in de nabije toekomst ligt waarschijnlijk meer in de ondersteuning van de processen achter de schermen. Rondom de opleiding kan dan gedacht worden aan het maken van opleidingsschema’s, rooster en invullen van de dagelijkse agenda van de aiossen. Ook in wetenschappelijk onderzoek is een rol weggelegd voor AI, zowel op het gebied van verzamelen en structureren van data, de follow-up van patiënten, het analyseren van bestaande patiëntengegevens en samenvatten van die gegevens. Dit kan ook van toepassing zijn bij het wetenschappelijk project tijdens de opleiding.
‘Eén van de grootste uitdagingen
in medische vervolgopleidingen
is het leren omgaan met AI’
Eén van de grootste uitdagingen in medische vervolgopleidingen is dus het leren omgaan met AI. Computers die met AI werken zijn minder voorspelbaar qua procedure en resultaat.1 De onderliggende modellen die gebruikt worden zijn namelijk voor mensen niet langer te volgen (de zogenaamde lack of explainability) én kunnen (afhankelijk van het systeem) ook nog constant veranderen.5 Hierdoor kan het voorkomen dat een model gaat ‘hallucineren’ (onzin creëren) of antwoorden geven waar een sterke bias aan ten grondslag ligt. Hier zouden (toekomstig) artsen mee moeten leren werken, zoals we nu bias in wetenschappelijk onderzoek inschatten, en ernaar handelen.5
Daar is echter wel transparantie voor nodig. Momenteel zijn er vele niveaus van gebrek aan transparantie bij AI, zoals op welke datasets de modellen getraind werden, of dit statisch of dynamisch is gebeurd, de mate van kwaliteitscheck die plaatsvond tijdens de training van de modellen, de gebruikte onderliggende statische methoden om de modellen op te bouwen en genomen stappen om bias te verminderen.3 Het liefst zou, voorafgaand aan het gebruik, een beschrijving van het model wenselijk zijn, gelijkend op de methode-paragraaf van een wetenschappelijk artikel.3 De fabrikanten van AI zijn echter erg terughoudend met gedetailleerde gegevens over vrijwel alle bovenstaande facetten.
Hoewel programma’s als Chat GPT, Gemini en Claude met wat limitaties gratis of voor een relatief laag bedrag aan consumenten worden aangeboden gaan er enorme bedragen om in het ontwikkelen van AI. Dit leidt tot grote risico’s bij het ‘omvallen’ van grote aanbieders als de inkomsten tegenvallen.3 Voor een volledige implementatie van AI in de gezondheidszorg is het noodzakelijk om ook naar de financiering te gaan kijken met ministerie, verzekeraars en andere betrokkenen. Daarnaast speelt het probleem van de afhankelijkheid van de aanbieders.3,6 Welke partijen zijn betrouwbaar en stabiel genoeg om langdurige oplossingen aan te bieden? Op dit moment zijn er ook nog belangrijke gaten in de regelgeving en aansprakelijkheid, hoewel hier recent wel stappen in genomen zijn om één en ander te reguleren.3,6 Zo gauw er meer duidelijkheid is over deze aspecten, dient er ook onderwijs over gegeven te worden aan medisch studenten.
AI in de opleiding tot revalidatiearts?
De American Medical Association (AMA) heeft al sinds 2019 officiële werkgroepen om de rol van AI in de medische opleiding in goede banen te leiden. De basishouding is dat AI de dokter nooit zal vervangen, maar dat dokters die deze tools niet efficiënt gaan inzetten in de (nabije) toekomst gaan achterlopen.
In Nederland is er nog geen eenduidig beleid, maar de algemene houding van de faculteiten geneeskunde in Nederland is terughoudend in het toestaan van AI als hulpmiddel. In recente teksten van de examencommissie van de Faculty of Health, Medicine and Life sciences (FHML) van de Universiteit van Maastricht wordt het verboden om AI te gebruiken. Het gebruik van AI wordt dan als plagiaat aangemerkt. Internationaal zijn er ook andere ontwikkelingen, zo werd op het laatste wereldcongres van de AMEE (Association for Medical Education in Europe) stelling genomen om AI juist wel vrij baan te geven in de opleidingen. Dit vanwege de snelle ontwikkelingen maar ook vanwege de kansen die het biedt in het opleiden van artsen, zoals gepersonaliseerd onderwijs.5,7 Daarbij kan onderwijs worden aangepast aan het huidige niveau van de student, maar ook aan persoonlijke behoeften en wensen. Ook het genereren van oefensituaties zoals casussen of zelfs VR-omgevingen is iets wat eenvoudig aan AI overgelaten kan worden.5 Natuurlijk is er ook een rol weggelegd bij administratieve taken en wetenschappelijk onderzoek.
In onze ervaring wordt AI op dit moment in de opleiding revalidatiegeneeskunde nog maar sporadisch en niet structureel ingezet, bijvoorbeeld bij het schrijven en samenvatten van teksten, vlug een overzicht krijgen over een onderwerp, verbreding van differentiaaldiagnoses en het opzoeken van informatie over zeldzame diagnoses of klinische verschijnselen.
Go of No-go?
Ons inziens gaat het de komende jaren om het professioneel inzetten van AI in de opleiding (revalidatie)geneeskunde en het zoeken naar mogelijkheden en oplossingen voor de problemen rondom AI. Het onderwijs rondom AI zou wereldwijd onderdeel moeten worden van medische curricula. De toepassingen van AI zullen bruikbaar zijn in het leerproces zelf en op de medisch werkvloer. Daarnaast is het van groot belang toekomstige collega’s op te leiden in professioneel inzetten van AI in de praktijk. We zullen dit proces niet alleen moeten volgen, maar juist proactief moeten vormgeven.
Doe een test met AI
Voor de collega’s die nog geen of zeer beperkt ervaring hebben met AI: maak eens een (gratis) account aan bij openai.com, en open het ChatGPT scherm. Typ bijvoorbeeld: ‘leg me uit wat het verschil is tussen decubitus bij een dwarslaesiepatiënt en decubitus bij een patiënt met diabetes mellitus’. Check het antwoord op juistheid, compleetheid en probeer eens in te schatten hoeveel tijd het had gekost om een vergelijkbaar antwoord te krijgen met andere zoekmethoden (boeken, wetenschappelijke literatuur, traditionele zoekmachines).
Referenties
- Introduction to artificial intelligence (AI) in Health Care: Artificial Intelligence Learning Series. Introduction to Artificial Intelligence (AI) in Health Care: Artificial Intelligence Learning Series | Artificial Intelligence | Training for Future Physicians from AMA ChangeMedEd | AMA Ed Hub (ama-assn.org). Last accessed 14-06-2024.
- Crigger E, Reinbold K, Hanson C, et al. Trustworthy Augmented Intelligence in Health Care. J Med Syst 2022;46:12: https://doi.org/10.1007/s10916-021-01790-z
- Mycin: https://en.wikipedia.org/wiki/Myci , Last accessed 14-06-2024.
- Kung TH, Cheatham M, Medenilla A, Sillos C, De Leon L, Elepaño C, et al. Performance of ChatGPT on USMLE: Potential for AI-assisted medical education using large language models. PLOS Digit Health 2023;2:e0000198. https://doi.org/10.1371/journal.pdig.0000198
- Lomis K, Jeffries P, Palatta A, Sage M, Sheikh J, Sheperis C, Whelan A. Artificial Intelligence for Health Professions Educators. Discussion Paper. NAM Perspect 2021;2021:https://doi.org/10.31478/202109a.
- Khan B, Fatima H, Qureshi A, et al. Drawbacks of Artificial Intelligence and Their Potential Solutions in the Healthcare Sector. Biomed Mater Devices 2023;1:731-8. https://doi.org/10.1007/s44174-023-00063-2
- Man M, Chung T, et al. Potentials and implications of ChatGPT in undergraduate medical education: a scoping review. Technology Enhanced Learning.