AI belooft de zorg slimmer en menselijker te maken. Maar wie innoveert, botst al snel op een kluwen aan regels. GDPR, AI Act, MDR ... de afkortingen stapelen zich op. In deze aflevering van ‘Stemmen tot zorgen’ gingen vier experts in gesprek over de vraag: remt wetgeving innovatie af, of houdt ze juist de zorg op koers?
De innovatie in AI gaat snel, maar de praktijk blijkt vaak stroperiger. “De ontwikkeling van AI zelf wordt niet afgeremd”, zegt Andries. “Er wordt volop geëxperimenteerd en getest. De echte rem zit in de implementatie: zodra je met ziekenhuizen of zorginstellingen aan tafel gaat, bots je op een muur van wetgeving.”
Van GDPR tot MDR, van de AI Act tot de toekomstige European Health Data Space: het is een hele lettersoep, zegt hij. “Iedereen interpreteert die regels anders. Het ene ziekenhuis ziet iets als medisch hulpmiddel, het andere niet. Dat zorgt voor onzekerheid, lange contractrondes en trage adoptie.”
Ook Louis, die andere AI-ondernemer, herkent dat beeld. “Wij waren van bij de start verplicht om met juridische expertise te werken. Anders kwamen we gewoon niet van de grond. Dat kost tijd en geld. Maar het is wel nodig, zeker als je met patiëntendata werkt. Die behoren tot de meest gevoelige data die er zijn.”
De regels zijn dus niet per se de vijand. “Ze beschermen wat essentieel is”, zegt Louis. “Het is goed dat Europa duidelijke rails legt. We willen niet evolueren naar Amerikaanse toestanden waarin alles gedeeld wordt zonder controle.”
De AI Act is daarin volgens Ann een kantelpunt: “Het is een Europese verordening die niet vertaald hoeft te worden naar nationale wetgeving. Ze geldt rechtstreeks in alle lidstaten.”
De wet deelt AI-toepassingen in volgens risico’s. “Medische AI-systemen vallen bijna altijd in de categorie ‘hoog risico’. Dat betekent dat aanbieders verplicht zijn om hun systemen te documenteren, te testen en transparant te zijn over hun werking en beperkingen.”
Daarnaast legt de AI Act ook verantwoordelijkheid bij de zorgverleners. “Een arts moet begrijpen wat de AI doet, hoe betrouwbaar de output is en waar de grenzen liggen. Alleen zo kan hij het systeem verantwoord gebruiken en dat ook uitleggen aan zijn patiënt.”
De AI Act regelt niet alles. “De aansprakelijkheidsregels zitten in andere Europese wetten,” verduidelijkt Ann. “Wanneer een AI-systeem gebrekkig functioneert, kan de aanbieder aansprakelijk worden gesteld. Voor de zorgverlener ligt het complexer: daar bestaat voorlopig nog geen specifiek Europees kader voor.”
Het debat over aansprakelijkheid van de zorgverlener is momenteel ‘on hold’ in Europa. “Sommigen vonden het voorstel te streng, anderen te soepel”, zegt Ann. “De vraag is nu of er een nieuwe verordening komt, of dat men de aansprakelijkheid gewoon nationaal blijft regelen.”
Voor de start-ups van Andries en Louis ligt de moeilijkheid vooral in die grijze zones. “Wanneer is een AI-tool een medisch hulpmiddel en wanneer niet?” vraagt Andries.
“Als je enkel tekst structureert, val je er misschien niet onder. Maar zodra de tool een diagnose suggereert of risico’s berekent wél. En dat maakt een wereld van verschil. Want dan moet je aan de volledige Medical Device Regulation voldoen.”
Louis ziet hetzelfde spanningsveld: “De regels zijn nuttig, maar ze lopen achter op de realiteit. Wetgeving verandert trager dan technologie. We zouden eigenlijk een dynamisch kader nodig hebben dat meegroeit met innovatie, in plaats van dat alles telkens jaren later wordt aangepast.”
Toch wil niemand terug naar een wereld zonder regels. Siegfried is rechtuit: “Kijk wat er gebeurt bij bedrijven als Meta of Google. Daar worden miljarden datapunten verzameld zonder toezicht. Dat wil je toch niet voor je patiënt? Ik ben blij dat Europa streng blijft. Dat is niet conservatief, dat is zorgzaam.”
De experts zijn het opvallend eens: wetgeving mag dan traag zijn, ze zorgt wel voor vertrouwen. “Goede wetgeving hoeft niet alles in detail te regelen”, zegt Ann. “Ze schept een kader. Het is dan aan rechters, toezichthouders en professionals om dat kader correct toe te passen.”
In de praktijk betekent dat: je mag AI enkel gebruiken onder toezicht van een bevoegde zorgverlener. “Als een niet-arts een AI-systeem zou gebruiken zonder medisch toezicht, dan spreken we gewoon van onwettige uitoefening”, zegt Ann. “De eindverantwoordelijkheid blijft dus bij de arts.”
Andries vat het nuchter samen: “We moeten niet bang zijn voor aansprakelijkheid. Artsen hebben nog altijd hun buikgevoel. Ze herkennen snel wanneer een systeem fout zit. AI is er om hen te ondersteunen, niet om hun oordeel te vervangen.”
Het besluit: de AI-revolutie in de zorg kent juridische grenzen, en dat is maar goed ook. De AI Act en andere Europese kaders die innovatie ogenschijnlijk vertragen, zorgen tegelijk voor veiligheid, transparantie en vertrouwen. De boodschap van de experts is duidelijk: laat wetgeving niet de vijand van innovatie zijn, maar haar kompas.
Verder lezen of kijken? Siegfried, Ann, Louis en Andries debatteerden ook over deze stellingen:
• Kunnen zorgprofessionals niet meer zonder AI?
• Patiënten zien liever geen AI bij de dokter.
• Zorgprofessionals hebben twijfels bij AI.
• AI zal het tekort aan zorgprofessionals oplossen.
Of bekijk de volledige roundtable (video).