‘Artsen hebben een AI-model nodig dat ze begrijpen’
AI en gezondheid
De Leidse onderzoeker Lincen Yang ontwikkelde met artsen van het LUMC een AI-model dat helpt beoordelen of een patiënt veilig van de intensive care kan worden ontslagen. Samenwerking en transparantie waren de sleutels tot succes.
Het gebruik van kunstmatige intelligentie (AI) en algoritmes komt steeds meer onder een vergrootglas te liggen. Want er kan veel en er wordt nog meer beloofd. Maar wat zit er nou precies onder de motorkap van zo’n AI-model? Voor sommige toepassingen maakt die kennis niet zoveel uit. Maar artsen op de intensive care (IC) moeten beslissingen nemen die uiteindelijk kunnen gaan over leven en dood. Zij willen precies weten hoe een risicoberekening tot stand komt.
Dat speelt bijvoorbeeld bij een model dat voorspelt hoe waarschijnlijk het is dat een patiënt die van de intensive care wordt ontslagen, toch weer opgenomen moet worden.
Zichtbaar maken hoe een model werkt
Leidse informatici en medici hebben een model ontwikkeld dat doet wat medici wensen: een accurate risico-inschatting leveren, en zichtbaar maken op basis van welke criteria die is berekend. Postdoc Lincen Yang is een van de onderzoekers. Hij zag een kans om een model dat hij in 2023 met hoogleraar Explainable Machine Learning Matthijs van Leeuwen al had onderzocht, in de praktijk te toetsen.
‘Het ging er niet zozeer om of mijn model preciezer was dan andere modellen. De belangrijkste vraag was: is de uitkomst logisch en goed onderbouwd?’
Het model gaat, in het kort, uit van ongeordende regels. Een algoritme kan een set regels leren en die gebruiken om voorspellingen te doen. Meestal krijgen die regels een bepaalde volgorde toegekend, zodat de ene regel een voorwaarde wordt voor het toepassen van een andere. Dat maakt de modellen moeilijk te interpreteren voor de eindgebruikers. Want elke beslissing is weer afhankelijk van een voorgaande. De ongeordende regels zijn recht-toe-recht-aan en dus begrijpelijker.
Niet vervangen, maar ondersteunen
‘Het probleem voor medici op de intensive care is dat de meeste beschikbare modellen in twee varianten komen. Ze kunnen patiënten heel goed aanmerken als hoog risico, maar zonder uitleg waarom. Of ze komen wel met een uitleg, maar die klopt volgens de artsen niet.’ Yang vermoedde dat zijn model uitkomst kon bieden. Daarvoor moest hij het van de veilige lab-omgeving naar de praktijk brengen.
Yang: ‘Het ging er niet zozeer om of mijn model preciezer was dan andere modellen. De belangrijkste vraag was: is de uitkomst logisch en goed onderbouwd?’ Yang en zijn collega’s waren niet op zoek naar een model dat het werk van de artsen overneemt, maar naar een model dat medici ondersteunt.
‘Ons algoritme is getraind met tien jaar aan data van IC-patiënten. Een arts kan onmogelijk al die data onthouden en beoordelen. Maar een algoritme ziet de individuele patiënt niet. Artsen kunnen dankzij hun jarenlange ervaring een oordeel mede baseren op wat zij zien aan het bed.’
Wederzijds begrip tussen vakgebieden
‘In het begin dacht ik: dit is makkelijk. Mijn model, hun data. Klaar. Maar interdisciplinair onderzoek vraagt ook om andere dingen. Zoals wederzijds begrip. De mogelijkheid om met elkaars systemen te werken. En dat kost tijd.’ Het viel Yang op dat iedereen die tijd ook nam. ‘Ik vind het geweldig om te zien dat onderzoekers in Leiden dezelfde waarden delen. Ze werken nauwgezet en voorzichtig, omdat dit een kritiek vakgebied is.’
‘Transparantie van algoritmes is niet alleen belangrijk voor de gebruikers, maar ook voor de overheid en de maatschappij.’
Het model dat uit de samenwerking tussen LIACS en LUMC is gekomen, blijkt te werken. Het geeft IC-artsen een risicoberekening die ze kunnen volgen en waarmee ze hun beslissing om een patiënt al dan niet van de afdeling te ontslaan, zelf kunnen nemen.
‘Het is belangrijk dat de gebruikers begrijpen wat er gebeurt. Dat elke stap terug te voeren is. Vroeger had je in de fabriek machines die alleen de techneuten begrepen. Zij wisten aan welke knoppen je moest draaien om de output te veranderen. Ik wilde in dit model af van die “magische parameters”. Transparantie van algoritmes is niet alleen belangrijk voor de gebruikers, maar ook voor de overheid en de maatschappij.’