AI belooft de zorg slimmer en menselijker te maken. Maar wie innoveert, botst al snel op een kluwen aan regels. GDPR, AI Act, MDR ... de afkortingen stapelen zich op. In deze aflevering van ‘Stemmen tot zorgen’ gingen vier experts in gesprek over de vraag: remt wetgeving innovatie af, of houdt ze juist de zorg op koers?
Over ‘Stemmen tot zorgen’
‘Stemmen tot zorgen’ is een reeks gesprekken over de digitalisering van het Belgische zorgsysteem. In de derde videospecial sprak Indra Dewitte met 4 experts over AI:
*Siegfried Van Eygen is senior arts ICT bij Domus Medica, bestuurslid bij Recip-e en huisarts in Bissegem.
- *Ann Dierickx is advocaat-partner bij Dewallens & partners en gastprofessor aan de Universiteit Antwerpen.
- *Louis Verdonckt is medeoprichter van Cavell, een AI-tool die spraak omzet in notities tijdens consultaties.
- *Andries Clinckaert is medeoprichter van Tiro.health, een AI-tool die specialisten helpt bij hun medische verslaggeving.
Een lettersoep van regels
De innovatie in AI gaat snel, maar de praktijk blijkt vaak stroperiger. “De ontwikkeling van AI zelf wordt niet afgeremd”, zegt Andries. “Er wordt volop geëxperimenteerd en getest. De echte rem zit in de implementatie: zodra je met ziekenhuizen of zorginstellingen aan tafel gaat, bots je op een muur van wetgeving.”
Van GDPR tot MDR, van de AI Act tot de toekomstige European Health Data Space: het is een hele lettersoep, zegt hij. “Iedereen interpreteert die regels anders. Het ene ziekenhuis ziet iets als medisch hulpmiddel, het andere niet. Dat zorgt voor onzekerheid, lange contractrondes en trage adoptie.”
Ook Louis, die andere AI-ondernemer, herkent dat beeld. “Wij waren van bij de start verplicht om met juridische expertise te werken. Anders kwamen we gewoon niet van de grond. Dat kost tijd en geld. Maar het is wel nodig, zeker als je met patiëntendata werkt. Die behoren tot de meest gevoelige data die er zijn.”
De regels zijn dus niet per se de vijand. “Ze beschermen wat essentieel is”, zegt Louis. “Het is goed dat Europa duidelijke rails legt. We willen niet evolueren naar Amerikaanse toestanden waarin alles gedeeld wordt zonder controle.”
“Wij waren van bij de start verplicht om met juridische expertise te werken. Anders kwamen we gewoon niet van de grond.”
Louis Verdonckt
Medeoprichter Cavell
De AI Act: geen rem, maar een richting
De AI Act is daarin volgens Ann een kantelpunt: “Het is een Europese verordening die niet vertaald hoeft te worden naar nationale wetgeving. Ze geldt rechtstreeks in alle lidstaten.”
De wet deelt AI-toepassingen in volgens risico’s. “Medische AI-systemen vallen bijna altijd in de categorie ‘hoog risico’. Dat betekent dat aanbieders verplicht zijn om hun systemen te documenteren, te testen en transparant te zijn over hun werking en beperkingen.”
Daarnaast legt de AI Act ook verantwoordelijkheid bij de zorgverleners. “Een arts moet begrijpen wat de AI doet, hoe betrouwbaar de output is en waar de grenzen liggen. Alleen zo kan hij het systeem verantwoord gebruiken en dat ook uitleggen aan zijn patiënt.”
“Wanneer een AI-systeem gebrekkig functioneert, kan de aanbieder aansprakelijk worden gesteld.”
Ann Dierickx
Advocaat / Gastprofessor UA
De AI Act regelt niet alles. “De aansprakelijkheidsregels zitten in andere Europese wetten,” verduidelijkt Ann. “Wanneer een AI-systeem gebrekkig functioneert, kan de aanbieder aansprakelijk worden gesteld. Voor de zorgverlener ligt het complexer: daar bestaat voorlopig nog geen specifiek Europees kader voor.”
Het debat over aansprakelijkheid van de zorgverlener is momenteel ‘on hold’ in Europa. “Sommigen vonden het voorstel te streng, anderen te soepel”, zegt Ann. “De vraag is nu of er een nieuwe verordening komt, of dat men de aansprakelijkheid gewoon nationaal blijft regelen.”
De grijze zones van zorginnovatie
Voor de start-ups van Andries en Louis ligt de moeilijkheid vooral in die grijze zones. “Wanneer is een AI-tool een medisch hulpmiddel en wanneer niet?” vraagt Andries.
“Als je enkel tekst structureert, val je er misschien niet onder. Maar zodra de tool een diagnose suggereert of risico’s berekent wél. En dat maakt een wereld van verschil. Want dan moet je aan de volledige Medical Device Regulation voldoen.”
“Kijk wat er gebeurt bij Meta en Google. Ik ben blij dat Europa het been stijf houdt. Dat is niet conservatief, dat is zorgzaam.”
Siegfried Van Eygen
Huisarts / Domus Medica
Louis ziet hetzelfde spanningsveld: “De regels zijn nuttig, maar ze lopen achter op de realiteit. Wetgeving verandert trager dan technologie. We zouden eigenlijk een dynamisch kader nodig hebben dat meegroeit met innovatie, in plaats van dat alles telkens jaren later wordt aangepast.”
Toch wil niemand terug naar een wereld zonder regels. Siegfried is rechtuit: “Kijk wat er gebeurt bij bedrijven als Meta of Google. Daar worden miljarden datapunten verzameld zonder toezicht. Dat wil je toch niet voor je patiënt? Ik ben blij dat Europa streng blijft. Dat is niet conservatief, dat is zorgzaam.”
Regels als katalysator voor vertrouwen
De experts zijn het opvallend eens: wetgeving mag dan traag zijn, ze zorgt wel voor vertrouwen. “Goede wetgeving hoeft niet alles in detail te regelen”, zegt Ann. “Ze schept een kader. Het is dan aan rechters, toezichthouders en professionals om dat kader correct toe te passen.”
“We moeten niet bang zijn voor aansprakelijkheid. Artsen hebben nog altijd hun buikgevoel. Ze herkennen snel wanneer een systeem fout zit.”
Andries Clinckaert
Mede-oprichter Tiro.health
In de praktijk betekent dat: je mag AI enkel gebruiken onder toezicht van een bevoegde zorgverlener. “Als een niet-arts een AI-systeem zou gebruiken zonder medisch toezicht, dan spreken we gewoon van onwettige uitoefening”, zegt Ann. “De eindverantwoordelijkheid blijft dus bij de arts.”
Andries vat het nuchter samen: “We moeten niet bang zijn voor aansprakelijkheid. Artsen hebben nog altijd hun buikgevoel. Ze herkennen snel wanneer een systeem fout zit. AI is er om hen te ondersteunen, niet om hun oordeel te vervangen.”
Het besluit: de AI-revolutie in de zorg kent juridische grenzen, en dat is maar goed ook. De AI Act en andere Europese kaders die innovatie ogenschijnlijk vertragen, zorgen tegelijk voor veiligheid, transparantie en vertrouwen. De boodschap van de experts is duidelijk: laat wetgeving niet de vijand van innovatie zijn, maar haar kompas.
Verder lezen of kijken? Siegfried, Ann, Louis en Andries debatteerden ook over deze stellingen:
• Kunnen zorgprofessionals niet meer zonder AI?
• Patiënten zien liever geen AI bij de dokter.
• Zorgprofessionals hebben twijfels bij AI.
• AI zal het tekort aan zorgprofessionals oplossen.
Of bekijk de volledige roundtable (video).
Zijn patiënten klaar voor AI bij de dokter?
Kunnen zorgprofessionals niet meer zonder AI?
