Israëlische arts gebruikt AI om dodelijke fout in leerboek 'Pediatricians Bible' te ontdekken

Dr. Shai Yitzhaki. Foto: Schneider Children's Medical Center

De levensbedreigende overdosis van een peuter op de eerste hulp van het Schneider Children's Medical Center leidde tot de schokkende ontdekking van een gevaarlijke fout in een toonaangevend medisch handboek voor kinderen. Deze fout werd niet ontdekt door experts, maar door kunstmatige intelligentie, aldus Ynet.

Dr. Shai Yitzhaki, een senior kinderarts in het ziekenhuis, gebruikte AI om de fout te onthullen, wat leidde tot een bredere discussie over de rol van taalmodellen in de geneeskunde.

Tijdens een hectische nachtdienst op de spoedeisende hulp arriveerde een tweejarige in kritieke toestand nadat hij een te hoge dosis colchicine had gekregen, een medicijn tegen familiaire mediterrane koorts. "Het kind zou 3 cc krijgen uit een spuit van 10 cc, maar door een tragische menselijke fout kreeg hij in plaats daarvan drie volle spuiten van 10 cc", vertelde dr. Yitzhaki aan Ynet.

Bij het berekenen van de dosis – milligram per kilogram – ontdekte hij dat deze bijna levensbedreigend was, met het risico op ernstige schade aan meerdere lichaamssystemen of, bij een iets hogere drempelwaarde, een zekere dood. De peuter werd met spoed naar de intensive care gebracht voor onmiddellijke tests en behandeling, waarna hij werd overgebracht naar de intensive care, waar hij gelukkig snel stabiliseerde zonder buitengewone ingrepen.

De zaak bleef Dr. Yitzhaki bezighouden, wat hem ertoe aanzette de drempelwaarden voor colchicine-overdoses in het belangrijkste handboek op dit gebied, dat hij "onze Bijbel" noemt, te herzien. Met behulp van een AI-tool analyseerde hij het betreffende hoofdstuk en tot zijn verbazing ontdekte hij dat er een veilige dosering van 1-2 mg per kg in stond, terwijl 0,8 mg per kg 100% dodelijk is.

Aanvankelijk twijfelde hij aan de AI, maar hij controleerde handmatig de tekst van 4000 pagina's en bevestigde de fout. "Het stond er gewoon – een dodelijke dosis," zei hij. Hij nam onmiddellijk contact op met de uitgever, die het hoofdstuk uit online databases verwijderde en de fout binnen enkele dagen corrigeerde.

Geïntrigeerd testte Dr. Yitzhaki een andere AI-tool, uploadde het hoofdstuk en vroeg of het levensbedreigende fouten bevatte. De tool ontdekte dezelfde fout, wat wees op het potentieel van AI om gevaarlijke vergissingen te ontdekken. "We praten veel over de risico's van AI, zoals onjuiste behandelingen, maar te weinig over de gevaren van het niet gebruiken ervan," zei hij.

Het incident benadrukt zowel de belofte als de gevaren van AI in de geneeskunde. Hoewel Dr. Yitzhaki de resultaten van AI altijd controleert aan de hand van betrouwbare bronnen, erkent hij dat zelfs die gebreken kunnen vertonen, zoals deze zaak aantoonde. "AI kan duizenden pagina's scannen op fouten die mensen over het hoofd zien", merkte hij op, en benadrukte daarmee de rol ervan als beveiliging.

Jongere artsen en studenten lopen echter het risico te veel op AI te vertrouwen zonder voldoende klinisch oordeel, wat leidt tot zorgen over blinde afhankelijkheid. Dr. Yitzhaki pleit voor voorzichtige verkenning en spoort artsen aan om AI te testen op hun vakgebied. Ook kunnen ze professionele vragen stellen zonder patiëntgegevens om de nauwkeurigheid te beoordelen en nieuwe ideeën op te wekken.

Hij gelooft dat AI een integraal onderdeel zal worden van de medische praktijk, net zoals ABS-remmen evolueerden van luxe auto's naar standaarduitrusting. "Het niet gebruiken van AI zou binnenkort wel eens als ondermaats voor de zorg kunnen worden beschouwd", zei hij.

De uitdaging ligt in het valideren van modellen aan de hand van echte data en workflows, aangezien snelle ontwikkelingen de tests overtreffen. Dr. Yitzhaki moedigde artsen aan om verantwoord te experimenteren met AI-tools en door ervaring vertrouwen op te bouwen om het potentieel van AI te benutten en tegelijkertijd de beperkingen ervan te voorkomen.