De Wereld gezondheid organisatie (WHO) benadrukt het Israelische Clalit AI-veiligheidsmodel als wereldwijde maatstaf voor de gezondheidszorg

Visualisatie van Clalit's C-Pi kunstmatige intelligentiesysteem. Foto: Clalit Health Services

Clalit Health Services behoort tot de eerste organisaties wereldwijd die een gestructureerd organisatiemechanisme heeft ontwikkeld voor de evaluatie van kunstmatige intelligentiesystemen voordat deze in de gezondheidszorg worden geïmplementeerd. De Wereldgezondheidsorganisatie (WHO) presenteert haar OPTICA-model als een van de vier toonaangevende benaderingen in een nieuw internationaal rapport waarin het daadwerkelijke gebruik van AI-toepassingen binnen Europese gezondheidszorgsystemen wordt geanalyseerd, schrijft Ynet.

De organisatie publiceerde onlangs een uitgebreid rapport waarin werd onderzocht hoe gezondheidssystemen in Europa kunstmatige intelligentie daadwerkelijk implementeren, in plaats van dit alleen maar te plannen. Het rapport werd opgesteld door een speciale werkgroep in het kader van het strategische initiatief van de WHO inzake data en digitale gezondheid. Het analyseerde elf casestudies uit verschillende landen, waarvan er drie uit Israël kwamen, inclusief twee van Clalit.

De meeste rechtszaken gaan niet zozeer over de vraag of AI in de gezondheidszorg moet worden ingezet, maar over hoe dit kan gebeuren zonder de patiëntveiligheid of het vertrouwen van medisch personeel in gevaar te brengen.

Een van de instrumenten die in het rapport, naast de Israëlische casestudies, worden gepresenteerd, is OPTICA, een raamwerk ontwikkeld door Clalit Health Services. Het model wordt beschreven als een gestructureerde checklist met 77 items, verdeeld over 13 secties en vier evaluatiedomeinen: klinische geschiktheid, gegevensanalyse, ontwikkeling en prestatie-evaluatie, en implementatie- en monitoringplanning.

OPTICA is ontworpen om de veilige implementatie van AI-tools mogelijk te maken en vereist de betrokkenheid van vijf verschillende soorten belanghebbenden, variërend van de klinisch expert tot de persoon die verantwoordelijk is voor de AI-infrastructuur van de organisatie.

Het vereist ook een continu monitoringmechanisme na de implementatie, in plaats van te vertrouwen op een eenmalig goedkeuringsproces.

Prof. Ran Balicer, Chief Innovation Officer en hoofd van de innovatieafdeling bij Clalit, legt de achtergrond van het model uit:

“We hebben een organisatieproces genaamd OPTICA ontwikkeld, waarbij elk AI-product dat bij Clalit geïmplementeerd moet worden, een checklist van maximaal 77 punten doorloopt.

Prof. Ran Balicer, Chief Innovation Officer en hoofd van de innovatieafdeling bij Clalit. Foto: Clalit Health Services

Deze punten hebben betrekking op elk aspect van het product, waaronder veiligheid, privacybescherming, nauwkeurigheid en continue monitoring gedurende de jaren, omdat het product zelf kan veranderen.”

Twee andere Israëlische gevallen die in het rapport worden genoemd, betreffen een model dat is ontwikkeld door onderzoekers van het Clalit Research Institute. Dit model analyseert 25 jaar aan patiëntendossiers om personen te identificeren met een hoog risico op een niet-gediagnosticeerde hepatitis C-infectie.

Bij een grootschalig screeningsonderzoek onder ongeveer 50.000 personen waren voorheen slechts enkele tientallen dragers geïdentificeerd. De gerichte aanpak die in het model werd voorgesteld, identificeerde daarentegen 38 dragers onder ongeveer 500 personen die als risicogroep werden beschouwd, wat een honderdvoudige verbetering van de detectie-efficiëntie betekent.

De auteurs van het rapport benadrukken dat het succes van het initiatief vooral te danken was aan de geleidelijke integratie van het model in klinische werkprocessen en aan de transparantie van de uitleg die het systeem aan artsen gaf.

De derde Israëlische casestudie richt zich op een centraal infrastructuurplatform dat is ontwikkeld door de Israëlische startup Aidoc. Het platform stelt Clalit in staat om gelijktijdig meerdere algoritmes van verschillende leveranciers voor medische beeldvorming uit te voeren, tegen de achtergrond van een tekort aan radiologen.

Ook hier is de centrale conclusie van het rapport eerder organisatorisch dan technologisch van aard. Het benadrukt het belang van het aanstellen van verantwoordelijke klinische belanghebbenden, in combinatie met continue monitoring na elke upgrade van de apparatuur.

Naast de Israëlische gevallen beschrijft het rapport hoe het Universitair Ziekenhuis van Helsinki 60 AI-producten evalueerde, waarvan er slechts 15, ongeveer een kwart, daadwerkelijk werden geïmplementeerd.

De auteurs van het rapport merken op dat slechts een minderheid van de geëvalueerde projecten gebruikmaakte van formele beoordelingskaders die het gebruik van AI koppelen aan daadwerkelijke klinische resultaten. Zij beschouwen dit als een van de belangrijkste uitdagingen voor het vakgebied als geheel.

Volgens het rapport hangt een succesvolle implementatie van een technologie, zelfs wanneer deze effectief blijkt, af van factoren die verder reiken dan de technologie zelf. Denk hierbij aan integratie in bestaande klinische werkprocessen, vroege betrokkenheid van zorgprofessionals en een governance-infrastructuur die continue monitoring na de implementatie mogelijk maakt, in plaats van alleen ervoor.

De bevindingen bevestigen een centraal principe dat naar voren komt bij de inzet van AI in de gezondheidszorg: de uitdaging is niet langer alleen het ontwikkelen van werkende AI, maar het creëren van de organisatorische kaders, klinische processen en toezichtsmechanismen die nodig zijn om te garanderen dat AI veilig en effectief blijft functioneren in de praktijk.