Valt de Attendi App onder de MDR (Medical Device Regulation)?
Wat is de MDR precies?
De MDR (Medical Device Regulation) is de Europese regelgeving die bepaalt wanneer software als medisch hulpmiddel wordt beschouwd. Dat is het geval als de software bedoeld is (Intended Purpose) voor medische doeleinden, zoals het stellen van een diagnose, ondersteunen van behandelbeslissingen of monitoren van de gezondheidstoestand van een patiënt. Valt de software daarentegen uitsluitend onder administratieve of logistieke ondersteuning — bijvoorbeeld het vastleggen van informatie zonder interpretatie of klinische impact — dan valt deze doorgaans niet onder de MDR. De doorslaggevende factor is altijd de beoogde medische functie van de software.
Meer informatie is te vinden op de officiële EU-website: Medical Devices Regulation (EU 2017/745).
Wat is het Intended Purpose van de Attendi App?
Het Intended Purpose is vrij vertaald: “Wat is de precies de bedoeling van de oplossing?” Bij iets als de Attendi App ga je dan na voor wie de App precies bedoeld is, wat de App doet, waarvoor je het mag gebruiken en waarvoor juist niet.
De Attendi App is bedoeld om zorgprofessionals te ondersteunen bij het samenvatten van gesprekken tussen zorgverlener en patiënt. De app zet audio-opnames om in conceptuele samenvattingen, die ter beoordeling worden voorgelegd aan de zorgprofessional. Het is de bedoeling dat deze samenvattingen bewerkt en gevalideerd worden door de zorgverlener, voordat ze eventueel worden gebruikt binnen het zorgproces of in andere applicaties, zoals een elektronisch cliëntendossier.
De Attendi App is niet bedoeld voor het stellen van diagnoses, doen van behandelvoorstellen of het nemen van klinische beslissingen. De toepassing levert geen medisch oordeel en vervangt geen professionele beoordeling.
Waarom neemt Attendi in de context van de Attendi App de MDR serieus, ook als die formeel mogelijk niet van toepassing is?
Hoewel de Attendi App niet is bedoeld voor medische besluitvorming en daardoor mogelijk buiten de formele reikwijdte van de MDR valt, nemen we de achterliggende principes van deze regelgeving wel degelijk serieus. De reden daarvoor is dat de app wordt ingezet in een medische context, waarbij de gegenereerde samenvattingen uiteindelijk bijdragen aan verslaglegging in het patiëntendossier.
Daarom nemen we verantwoordelijkheid op het gebied van:
- Transparantie over wat de app wel en niet doet.
- Beperking van risico’s op verkeerd gebruik of overinterpretatie
- Afbakening van verantwoordelijkheden richting de zorgprofessional
- Continue kwaliteitsborging van de gegenereerde output binnen zorgomgevingen
Deze aanpak sluit aan bij de aanbevelingen uit het paper van Workum et al. (2025), waarin wordt benadrukt dat leveranciers van LLM-gebaseerde software in de zorg, ook buiten formele MDR-classificatie, verplicht zijn om proactief na te denken over veilig en verantwoord gebruik.
Hoe pakt Attendi die verantwoordelijkheid?
Hoewel de Attendi App mogelijk formeel buiten de MDR valt, nemen wij onze verantwoordelijkheid serieus. We volgen de vier kernprincipes uit Workum et al. (2025) en treffen aanvullende maatregelen om veilig en verantwoord gebruik in de zorg te waarborgen.
1. Kwaliteitsborging van transcriptie (STT)
Een samenvatting is zo goed als het transcript waar het op gebaseerd is. Attendi beheert en traint zijn eigen STT-model op miljoenen medische rapportages. Hierdoor kunnen we transcriptiekwaliteit actief monitoren en lokaal bijsturen, wat de kans op foutieve samenvattingen aanzienlijk verlaagt
2. Validatie in de zorgpraktijk
De app wordt momenteel getest bij tien zorginstellingen. We verzamelen zowel kwantitatieve resultaten als kwalitatieve feedback van zorgprofessionals. Op basis daarvan beslissen we over opschaling, inclusief een plan voor model- of applicatieaanpassingen en noodzakelijke training.
3. Beperking van risico’s
We verbeteren voortdurend het model en de instructies op basis van gebruikersfeedback om hallucinerende of misleidende output te beperken. Daarnaast maken we bij kopiëren zonder wijziging in de output expliciet zichtbaar dat het om AI-gegenereerde tekst gaat, zodat dit herkenbaar is voor de lezer.
Daarnaast implementeren we “guardrails" die automatisch controleren of de samenvatting overeenkomt met het originele gesprek. Daarnaast onderzoeken we of het nodig en wenselijk is om in de samenvatting expliciet te verwijzen naar de bron in het transcript. Dit zou de transparantie en controleerbaarheid van de output verder kunnen versterken.
4. Transparantie over gebruik en grenzen
Gebruikers worden via trainingen, voorwaarden en de interface geïnformeerd over wat de app wel en niet doet. De zorgprofessional blijft verantwoordelijk voor controle en validatie van de gegenereerde tekst vóór opname in het dossier. Het is de verantwoordelijkheid van Attendi om de zorgprofessional hier op te wijzen en de applicatie hierop in te richten.
5. Aansluiting op werkprocessen
Vooralsnog functioneert de Attendi App als een notitieblok waarin samenvattingen van gesprekken in concept worden gepresenteerd. Deze kunnen niet automatisch worden doorgestuurd naar het elektronisch cliëntendossier. Alleen als uit de pilots blijkt dat hiervoor een veilige en controleerbare werkwijze bestaat, zullen we dergelijke functies toevoegen. Ook dan worden eerst nieuwe checks and balances ingericht en getest voordat dit in de praktijk wordt toegepast.
Waarom kiest Attendi ervoor om nu al in de praktijk te testen, terwijl de technologie nog in ontwikkeling is?
Zorgprofessionals gebruiken steeds vaker, met of zonder toestemming van hun organisatie, AI-tools op basis van LLM-technologie. Attendi ziet het als haar verantwoordelijkheid om deze groeiende behoefte op een veilige, effectieve en gecontroleerde manier te ondersteunen — in samenwerking met het zorgveld. Ons doel is niet om generieke technologie aan te bieden, maar om samen met professionals een oplossing te ontwikkelen die past bij de realiteit van het zorgproces.
Deze technologie biedt grote kansen voor administratieve verlichting en werkdrukverlaging, maar is nieuw en potentieel foutgevoelig. Een reëel risico is dat we als Nederlandse aanbieders in onze zorgvuldigheid te terughoudend worden, waardoor zorgprofessionals uitwijken naar ongecontroleerde tools zonder toezicht, validatie of integratie met het dossier.
Daarom zoeken we met het zorgveld actief naar de juiste balans: enerzijds het bewaken van veiligheid en kwaliteit, anderzijds het daadwerkelijk inzetten in de praktijk. Alleen door gecontroleerde implementatie kunnen we leren wat werkt, waar risico’s ontstaan en welke waarborgen nodig zijn. Juist die praktijkervaring is cruciaal om verantwoorde, toekomstbestendige toepassingen te ontwikkelen.
Bronnen
[1] Workum, Jessica and Krijgsman, Sade and Vajda, Ildiko and van Stokkum, Robin and van den Brand, Jan and Gommers, Diederik and Van Genderen, Michel E., Is My LLM Application Considered a Medical Device under the MDR? (March 23, 2025). Available at SSRN: https://ssrn.com/abstract=5202088 or http://dx.doi.org/10.2139/ssrn.5202088