Een masterstudent van Fontys Hogeschool Eindhoven presenteerde begin mei zijn onderzoek naar veilige AI op een NASA-symposium in Los Angeles. Panagiotis Kalogeropoulos, bijgenaamd Panos, ontwikkelde een methode om te controleren of AI-systemen precies doen wat mensen bedoelen, voordat die systemen in de praktijk worden ingezet. Zijn aanpak richt zich op situaties waar fouten grote gevolgen kunnen hebben: zelfrijdende voertuigen, industriële robots, medische apparatuur.
Het onderzoek werd uitgevoerd binnen de onderzoeksgroep High Tech Embedded Software van Fontys ICT, samen met docent-onderzoeker Herman Jurjus. Op 4 mei presenteerde Kalogeropoulos zijn paper op de RE×AI-workshop (Formal Requirements Engineering and Artificial Intelligence), een co-evenement bij het 18e NASA Formal Methods Symposium aan de University of Southern California. Het symposium wordt jaarlijks georganiseerd door NASA’s Jet Propulsion Laboratory (JPL) en de USC, en brengt internationale onderzoekers in formele verificatie bij elkaar.
Controlekader voor AI-acties
AI-systemen die in veiligheidskritische omgevingen worden ingezet, werken steeds vaker via zogenaamde large language models (LLM’s): AI-systemen die tekst begrijpen en op basis daarvan code of instructies genereren. De centrale vraag van Kalogeropoulos’ onderzoek: hoe weet je of zo’n systeem een opdracht correct heeft begrepen, en of de voorgestelde actie ook veilig uitvoerbaar is?
Zijn framework hanteert een tweedelige controle. De AI genereert eerst code op basis van een menselijke instructie. Vervolgens evalueert een panel van meerdere AI-systemen vanuit verschillende perspectieven de risico’s van die code, en kent aan elk mogelijk faalscenario een risicofactor toe, zoals de kans dat een robot ergens tegenaan botst. Pas als het totale risico onder een vooraf bepaalde drempel blijft, mag de actie doorgaan. Bij twijfel vraagt het systeem om menselijke goedkeuring. “Je kunt niet vertrouwen op een ‘black box’. Je moet kunnen controleren of AI doet wat je denkt dat het doet,” zegt Kalogeropoulos.
Interesse vanuit industrie en NASA
Na zijn presentatie ontving de student constructieve reacties van NASA-medewerkers en industrieonderzoekers, met vragen over zowel zijn experimentele methoden als de bredere toepasbaarheid van het framework in andere contexten. De dag erna had hij gesprekken met senior onderzoekers die werken aan LLM-evaluatie en automatisch testen op wereldschaal. “Ze overwogen serieus om mijn onderzoek in de echte wereld te gebruiken. Dat maakte me erg blij,” zegt Kalogeropoulos. Tijdens het symposium legde hij ook contacten voor mogelijke stages en onderzoekssamenwerking.
Meer dan een gimmick
Kalogeropoulos begon zijn onderzoek in september 2025, zes maanden voor het symposium, als onderdeel van zijn master Applied IT aan Fontys. Zijn drijfveer: de overtuiging dat AI betrouwbaarder moet worden, wil het werkelijk bruikbaar zijn buiten de laboratoriumsetting. “Als een nieuwe technologie niet te vertrouwen is met de informatie die het geeft, is het niet meer dan een gimmick.” Na zijn afstuderen wil hij verder in het vakgebied van formele methoden en duurzame AI. Zijn advies aan medestudenten: “Accepteer dat je veel zult falen. Als je houdt van wat je doet, en je blijft proberen, dan kun je niet anders dan slagen.”
