Hebben zorgprofessionals schrik van AI?

Ondanks de enorme mogelijkheden wordt AI niet overal even enthousiast onthaald. Is dat ook zo bij zorgprofessionals? Welke bedenkingen hebben ze bij de technologie? En zijn die twijfels ook gegrond? Vier zorgexperts bespraken het in ‘Stemmen tot zorgen’.

Over ‘Stemmen tot zorgen’

‘Stemmen tot zorgen’ is een reeks gesprekken over de digitalisering van het Belgische zorgsysteem. In de derde videospecial sprak Indra Dewitte met 4 experts over AI:

*Siegfried Van Eygen is senior arts ICT bij Domus Medica, bestuurslid bij Recip-e en huisarts in Bissegem.

*Ann Dierickx is advocaat-partner bij Dewallens & partners en gastprofessor aan de Universiteit Antwerpen.

*Louis Verdonckt is medeoprichter van Cavell, een AI-tool die spraak omzet in notities tijdens consultaties.

*Andries Clinckaert is medeoprichter van Tiro.health, een AI-tool die specialisten helpt bij hun medische verslaggeving.

Kop in het zand

Het juridische kluwen rond AI in de zorg  is maar één mogelijke rem op het enthousiasme van zorgverleners. “Maar ik heb helemaal geen twijfels bij AI”, verzekert Siegfried. “Je hebt altijd de early adopters en aan de andere kant van het spectrum dan weer mensen die een nieuwe technologie helemaal niet willen gebruiken.”

“Maar je zal als zorgprofessional binnenkort gewoonweg niet meer zonder AI kunnen. Dan is het beter om je er nu al in te verdiepen. Zo kom je proefondervindelijk te weten of je schrik of wantrouwen al dan niet gegrond is. Je kop in het zand steken is in ieder geval geen optie.”

Siegfried heeft dus wél alle vertrouwen in artificiële intelligentie. Wat houdt sommige van zijn collega’s dan tegen? “Dat de technologie vandaag nog niet altijd even betrouwbaar is”, vermoedt de huisarts. “Een AI-bot geeft soms rare antwoorden. Dan vind ik het terecht dat je er niet zomaar je beslissingen door laat sturen. Al hoor ik zelden dat collega’s AI nooit zullen willen gebruiken.”

“Je zal als zorgprofessional binnenkort gewoonweg niet meer zonder AI kunnen. Dan is het beter om je er nu al in te verdiepen. Je kop in het zand steken is geen oplossing.”

Siegfried Van Eygen

Huisarts / Domus Medica

Leercurve versnellen

Andries deed een bevraging bij meer dan 800 ziekenhuisspecialisten om te horen of zij openstaan voor een AI-gegenereerd consultatieverslag. “Slechts 2% van de respondenten heeft daar absoluut geen vertrouwen in”, vertelt Andries. “Anderzijds zei ook maar 2,5% er blind vertrouwen in te hebben.”

“80% van de zorgprofessionals gaf dan weer aan gemiddeld tot veel vertrouwen te hebben in onze AI-oplossing. Zij willen het wel gebruiken, maar zullen de output altijd checken. Die scepsis zit er dus wel in bij zorgprofessionals, maar er is ook een voorzichtig optimisme.”

“Ik merk wel dat er al speech-to-text gebruikt wordt zonder controle”, vult Siegfried aan. “Ik moet een verwijsbrief vaak meermaals lezen om hem te begrijpen en soms staan er zelfs flagrante fouten in. Zorgprofessionals moeten beseffen dat AI niet foutloos is. Ze moeten daarin getraind worden.”

“80% van de zorgprofessionals wil onze AI-oplossing wel gebruiken, maar zal de output altijd checken. Er is dus scepsis, maar ook een voorzichtig optimisme.”

Andries Clinckaert

Mede-oprichter Tiro.health

Bij huisartsen komt die training grotendeels vanuit Domus Medica, waar Siegfried lid is van het kennisdomein ICT. “Je krijgt als huisarts een premie als je aan bepaalde voorwaarden voldoet qua digitalisering. Daar zullen zeker AI-gerelateerde voorwaarden bijkomen.”

Kunnen ook de ontwikkelaars de leercurve van zorgprofessionals versnellen? “Vroeger zou mijn antwoord ‘nee’ geweest zijn”, geeft Andries toe, “maar vandaag besef ik dat we er alle baat bij hebben dat eindgebruikers ons product helemaal onder de knie hebben. We gaan dus naar de ziekenhuizen om artsen te begeleiden en op te leiden.”

“Met gebruikerstesten zorgen we er bovendien al bij de ontwikkeling voor dat onze tool zo dummy-proof mogelijk is. We maken ook heel duidelijk welke output AI-gegenereerd is en welke van mensen komt. Ik ben arts van opleiding en dat helpt om de noden van onze gebruikers om te zetten naar technische vereisten.”

“Niemand werkt graag met 4 of 5 verschillende softwaresystemen. Het is dus belangrijk dat AI-tools zo diep en intuïtief mogelijk geïntegreerd zijn in de systemen die zorgprofessionals al gebruiken.”

Louis Verdonckt

Mede-oprichter Cavell

Voet in de praktijk

Ook Cavell ontwikkelt zijn AI-tool met input die rechtstreeks uit het werkveld komt. “Wil je vandaag iets in de healthcare ontwikkelen, dan moet je een voet in de praktijk hebben”, vindt Louis. “Een van onze medeoprichters is ook arts. De zorg is zo’n specifieke setting dat je moeilijk tools kan bouwen als je niet weet hoe het er in de sector aan toegaat.”

“Niemand werkt graag met 4 of 5 verschillende softwaresystemen”, gaat Louis verder. “Elke arts heeft al een elektronisch patiëntendossier. Het is dus belangrijk dat AI-tools zo diep en intuïtief mogelijk geïntegreerd zijn in de systemen die zorgprofessionals al gebruiken. Net daarom hebben we partnerships met bijvoorbeeld Corilus en Nexuzhealth.”

“De AI Act eist ook dat AI-systemen zo gebruiksvriendelijk zijn dat je ze bijna niet fout kán gebruiken”, vult Ann aan. “Gebruikers opleiden is cruciaal – ook dat staat in de AI Act. Wel moeten we twee toepassingstypes onderscheiden: tools die helpen om data te verwerken – zoals die van Louis en Andries – en tools die effectief helpen in de medische praktijk. Bij operaties, bijvoorbeeld.” Voor die laatste categorie zijn de eisen logischerwijs strenger.

“Het is niet de bedoeling om een AI-robot voor de patiënt te gaan zetten. We willen de zorgverlener net dichter bij de patiënt krijgen dankzij AI-ondersteuning op administratief vlak.”

Ann Dierickx

Advocaat / Gastprofessor UA

Arts blijft verantwoordelijk

Stel dat je als arts toch een foute beslissing neemt met de hulp van AI. Is aansprakelijkheid iets waar zorgprofessionals van wakker liggen? “Als arts blijf je altijd verantwoordelijk”, stelt Siegfried zonder enige twijfel. “Hoeveel AI je ook inzet: het is jouw patiënt, het is jouw dossier, het is jouw behandeling. Ik zie niet hoe je die verantwoordelijkheid kan afschuiven op een AI-systeem.”

“Het is zoals bij alles in de zorg”, vult Ann aan. “Je bent als zorgprofessional verantwoordelijk voor wat je doet, of je nu AI gebruikt of niet. Gebruik je een AI-tool voor je administratie, lees dan de output na. Maar we moeten niet naïef zijn: ook informatie die niet AI-gegenereerd is, wordt niet altijd gedubbelcheckt. Het is ook niet de bedoeling om een AI-robot voor de patiënt te gaan zetten. We willen de zorgverlener net dichter bij de patiënt krijgen dankzij AI-ondersteuning op administratief vlak.”

“Juiste informatie geven aan de gebruikers is het allerbelangrijkste”, besluit Louis. “En dat geldt zeker niet alleen voor de oudere generaties. Ook de jonge zorgprofessionals hebben soms een broertje dood aan digitale tools. Net voor die mensen zijn AI-tools enorm nuttig, om ook hen efficiënter te helpen werken.”

Het besluit: zorgprofessionals zien over het algemeen het nut van AI wel in. Er zijn wel wat zorgen rond betrouwbaarheid en aansprakelijkheid, maar de basisregel is en blijft: je bent als zorgprofessional verantwoordelijk voor de zorg die je biedt. Of je al dan niet AI-ondersteuning gebruikt, maakt geen verschil.

Verder lezen of kijken? Siegfried, Ann, Louis en Andries debatteerden ook over deze stellingen:

•    Kunnen zorgprofessionals niet meer zonder AI?
•    Patiënten zien liever geen AI bij de dokter.
•    Wetgeving zet een rem op de AI-revolutie.
•    AI zal het tekort aan zorgprofessionals oplossen. 

Of bekijk de volledige roundtable (video).