Valt de Attendi App onder de MDR (Medical Device Regulation)?

Wat is de MDR precies?

De MDR (Medical Device Regulation) is de Europese regelgeving die bepaalt wanneer software als medisch hulpmiddel wordt beschouwd. Dat is het geval als de software bedoeld is (Intended Purpose) voor medische doeleinden, zoals het stellen van een diagnose, ondersteunen van behandelbeslissingen of monitoren van de gezondheidstoestand van een patiënt. Valt de software daarentegen uitsluitend onder administratieve of logistieke ondersteuning — bijvoorbeeld het vastleggen van informatie zonder interpretatie of klinisch doel — dan valt deze doorgaans niet onder de MDR. De doorslaggevende factor is altijd de beoogde medische functie van de software.

Meer informatie is te vinden op de officiële EU-website: Medical Devices Regulation (EU 2017/745).

Huidige situatie: de Attendi App is geen medisch hulpmiddel.

Het Intended Purpose is vrij vertaald: “Wat is het beoogd gebruik van de oplossing?” Bij iets als de Attendi App ga je dan na voor wie de App precies bedoeld is, wat de App doet, waarvoor je het mag gebruiken en waarvoor juist niet.

De Attendi App is bedoeld om zorgprofessionals te ondersteunen bij het samenvatten van gesprekken tussen zorgverlener en patiënt. De app zet audio-opnames om in conceptuele samenvattingen, die ter beoordeling worden voorgelegd aan de zorgprofessional. De Attendi App is niet bedoeld voor het stellen van diagnoses, doen van behandelvoorstellen of het nemen van klinische beslissingen. De toepassing levert geen medisch oordeel en vervangt geen professionele beoordeling.

Waarom neemt Attendi in de context van de Attendi App de MDR serieus, ook als die formeel nog niet van toepassing is?

Hoewel de Attendi App niet is bedoeld voor medische doeleinden en daardoor buiten de formele reikwijdte van de MDR valt, nemen we de achterliggende principes van deze regelgeving wel degelijk serieus. Een samenvatting met behulp van AI is niet risicoloos. Daarom meten wij bij Attendi​ nu al​ structureel op omissies, hallucinaties en de door de zorgprofessional beoordeelde kwaliteit.

Daarom nemen we verantwoordelijkheid op het gebied van:

• Transparantie over wat de app wel en niet doet.
• Beperking van risico’s op verkeerd gebruik of overinterpretatie
• Afbakening van verantwoordelijkheden richting de zorgprofessional
• Continue kwaliteitsborging van de gegenereerde output binnen zorgomgevingen

Deze aanpak sluit aan bij de aanbevelingen uit het paper van Workum et al. (2025), waarin wordt benadrukt dat leveranciers van LLM-gebaseerde software in de zorg, ook buiten formele MDR-classificatie, verplicht zijn om proactief na te denken over veilig en verantwoord gebruik. 

Hoe neemt Attendi die verantwoordelijkheid?

We volgen de vier kernprincipes uit Workum et al. (2025) en treffen aanvullende maatregelen om veilig en verantwoord gebruik in de zorg te waarborgen.

1. Kwaliteitsborging van de gegenereerde output

Naast gebruikersfeedback, die waardevolle anekdotische inzichten oplevert, zetten we AI in om de kwaliteit van samenvattingen op schaal te bewaken. Large Language Models beoordelen daarbij de volledigheid: hoeveel kernpunten uit het transcript terugkomen in de samenvatting. En de gegrondheid waarbij elke zin wordt geclassificeerd als laag risico (expliciet of eenvoudig afleidbaar), mild risico (interpretatie) of verhoogd risico (mogelijk tegenstrijdig of ongegrond). Doordat we op zins- en kernpuntniveau meten, zijn de resultaten goed interpreteerbaar en kunnen we gericht gebreken opsporen, wat het mogelijk maakt om via gesimuleerde gesprekken stap voor stap betere samenvattingen in de Attendi App te realiseren.

2. Validatie in de zorgpraktijk

De Attendi App is in samenwerking met 17 verschillende zorgorganisaties ontwikkelt en gevalideerd in de praktijk voordat deze breed beschikbaar is gesteld aan onze klanten. Op basis van kwantitatieve en kwalitatieve feedback blijft de app continu gemonitord en verbeterd.

3. Beperking van risico’s

We verbeteren voortdurend het model en de instructies op basis van gebruikersfeedback om hallucinerende of misleidende output te beperken. Daarnaast maken we bij kopiëren zonder wijziging in de output expliciet zichtbaar dat het om AI-gegenereerde tekst gaat, zodat dit herkenbaar is voor de lezer. Ook implementeren we “guardrails" die automatisch controleren of de samenvatting overeenkomt met het originele gesprek.

4. Transparantie over gebruik en grenzen

Gebruikers worden via trainingen, voorwaarden en de interface geïnformeerd over wat de app wel en niet doet. De zorgprofessional blijft verantwoordelijk voor controle en validatie van de gegenereerde tekst vóór opname in het dossier. Het is de verantwoordelijkheid van Attendi om de zorgprofessional hier op te wijzen en de applicatie hierop in te richten.

5. Aansluiting op werkprocessen

Vooralsnog functioneert de Attendi App als een notitieblok waarin samenvattingen van gesprekken in concept worden gepresenteerd. Deze kunnen niet zonder controle van de zorgprofessional in het elektronisch cliëntendossier komen.

Waarom kiest Attendi ervoor om een functionaliteit die al live staat te laten certificeren conform de MDR?

Twee ontwikkelingen zijn voor ons aanleiding om het certificeringstraject te starten.

• De praktijk loopt voor op het beoogd gebruik. Zorgprofessionals willen de samenvatting in de praktijk gebruiken als bron bij zorginhoudelijk werk, bijvoorbeeld bij het opstellen of bijwerken van een zorgplan. Daarnaast zien we dat in omliggende landen bij inkoop steeds vaker Klasse IIa certificering wordt geëist voor vergelijkbare toepassingen.
  
  Wij vinden die eis logisch. Een samenvatting met behulp van AI is niet risicoloos. Daarom meten wij bij Attendi nu al structureel op omissies, hallucinaties en de door de zorgprofessional beoordeelde kwaliteit. Dat leveranciers, of zorginstellingen die zelf experimenteren met AI, hier ook extern op gecontroleerd worden voordat zij op grote schaal uitrollen, vinden wij meer dan passend.
• De wensen van klanten liggen op MDR-terrein. In gesprekken over de toekomst van de Attendi App vragen zorgorganisaties om functionaliteiten zoals advies over logische vervolgstappen op basis van het gesprek, het combineren van meerdere informatiebronnen in een antwoord, en ondersteuning bij het opstellen van een zorgplan. Dit zijn vormen van beslissingsondersteuning, en beslissingsondersteuning bedoeld voor medische doeleinden valt onder de MDR. Zonder vooruit te lopen op wat onze volgende stap wordt, is voor ons duidelijk: wie ambitieus wil zijn met AI in de zorg, en dat duurzaam wil doen, ontkomt niet aan de MDR.

Tijdlijn en vervolg

De meest actuele informatie over dit traject lees je in onze MDR-blog

Bronnen

[1] Workum, Jessica and Krijgsman, Sade and Vajda, Ildiko and van Stokkum, Robin and van den Brand, Jan and Gommers, Diederik and Van Genderen, Michel E., Is My LLM Application Considered a Medical Device under the MDR? (March 23, 2025). Available at SSRN: https://ssrn.com/abstract=5202088 or http://dx.doi.org/10.2139/ssrn.5202088