AI-assistenten schrijven in steeds meer huisartsenpraktijken een eerste versie van een bericht aan de patiënt. Maar wat als de software dat bericht ook zelf verstuurt? Die vraag staat in de kennisagenda voor AI in de zorg en ondersteuning die ZonMw op 5 november publiceerde. Twintig Nederlandse organisaties werkten eraan mee, onder wie het Nederlands Huisartsen Genootschap en de Patiëntenfederatie Nederland, meldt AI Wereld.

De agenda bevat twaalf onderzoeksvragen. Hij moet het ministerie van VWS en andere financiers helpen om onderzoeksgeld te richten op vragen uit de praktijk. Een standpunt over wat software wel of niet zelf mag versturen, nemen de organisaties er nog niet mee in.

Een afspraak is iets anders dan een medicijninstructie

Het verschil zit in wat er in het bericht staat. Een tijd en plaats van een controleafspraak kan een praktijk eenvoudig naast de agenda leggen. Een instructie over hoe je tot die afspraak een medicijn gebruikt, is lastiger te controleren: heeft de software echt begrepen wat de arts voor deze patiënt besloot? Beide berichten klinken even overtuigend, maar een fout heeft heel andere gevolgen.

Drie momenten van toezicht

De opstellers onderscheiden drie manieren waarop een mens kan meekijken:

  • Goedkeuring vooraf: elk concept wacht tot een medewerker akkoord geeft.
  • Toezicht op uitzonderingen: berichten gaan automatisch, tenzij gegevens ontbreken of elkaar tegenspreken. Dan kijkt eerst een mens.
  • Controle achteraf: de praktijk beoordeelt later wat de agent deed. Dat helpt de volgende patiënt, maar niet degene die al een fout bericht kreeg.

Onderzoekers moeten ook uitzoeken hoe een praktijk afwijkend gedrag opmerkt en wanneer een systeem moet stoppen.

Nu nog: de arts drukt op verzenden

In de praktijk ligt de laatste handeling nu nog bij de zorgverlener. Het UMC Groningen laat AI suggesties schrijven voor antwoorden in mijnUMCG, maar alleen de behandelaar ziet die en verstuurt het antwoord zelf. Een huisarts die met zo'n assistent werkt, vertelt dat vooral de links die de AI toevoegt niet altijd kloppen. Toch staat zijn naam onder het bericht.

Patiënten lijken open te staan voor AI-hulp, mits er een arts meeleest. In onderzoek van de Patiëntenfederatie zei 72 procent van ruim 7.200 deelnemers informatie te willen als dat helpt hun zorgvraag te beantwoorden.

Wat de regels zeggen

De vraag is meer dan theorie. Onder de Europese AI-verordening gelden voor AI in de zorg strenge eisen aan menselijk toezicht, en de AVG geeft patiënten rechten bij geautomatiseerde besluiten. De kennisagenda gaat niet over die wetten zelf, maar wel over de praktische vraag die erachter zit: op welk punt moet een mens ingrijpen? Het antwoord bepaalt hoeveel tijd AI huisartsen werkelijk kan besparen.