Nieuw model vermindert onzekerheid bij AI
"Dit kan ons weer een stap verder brengen in de ontwikkelingen van autonome keuzes door computers.”
Hoe kun je onzekerheden in het echte leven een plek geven in theoretische modellen? Een nieuw rekenmodel van onderzoekers van de Radboud Universiteit in Nijmegen en de TU Eindhoven zorgt ervoor dat AI steeds beter rekening kan houden met onzekerheid, waardoor er betere en veiligere oplossingen worden gevonden. Denk bijvoorbeeld aan een zelfrijdende auto die betere keuzes kan maken op een druk kruispunt.
Kunstmatige intelligentie (AI) wordt steeds vaker ingezet om veilige, betaalbare en slimme keuzes te ‘berekenen’. Hoe complexer hoe meer rekencapaciteit daarvoor nodig is. En dan nog blijft de werkelijkheid weerbarstig en vaak moeilijk te voorspellen. “Er zijn tal van onzekere factoren, zoals het gedrag van mensen of de weersomstandigheden. Hoe beter het lukt om de echte wereld te voorspellen in het model, hoe minder onzekerheden er zijn en hoe groter de kans dat de juiste beslissingen worden genomen”, zegt Nils Jansen, hoofdonderzoeker bij Software Science aan de Radboud Universiteit in Nijmegen.
Grote rekenkracht
Dit is precies wat Jansen en andere onderzoekers voor elkaar hebben gekregen. Ze hebben zich gebaseerd op ‘uncertain Partially observable Markov decision processes’, ofwel uPOMDPs. Dit zijn wiskundige modellen die op basis van gebeurtenissen in de echte wereld kansen proberen te berekenen. POMDP’s worden al gebruikt om situaties te simuleren en te modelleren. Ze kunnen bijvoorbeeld helpen om de verspreiding van een epidemie te voorspellen, ze berekenen hoe botsingen tussen vliegtuigen voorkomen kunnen worden en ze kunnen worden gebruikt om bedreigde diersoorten te onderzoeken. Jansen: “We weten dat deze modellen goed zijn in het geven van een realistische weergave van de wereld. Maar door de grote rekenkracht die nodig is om ze te gebruiken, is het gebruik ervan in praktische toepassingen nog beperkt.”
Situaties beter beoordelen
De onderzoekers hebben ervoor gezorgd dat echte data uit de echte wereld in een theoretisch model kan worden verwerkt. Het model leert steeds weer van de werkelijkheid, zodat de onzekerheid kan worden gereduceerd. Het model is onder meer gebruikt bij een systeem om botsingen tussen vliegtuigen te voorkomen, een bewegingsplanner voor satellieten en bij zelfrijdende auto’s. Jansen: “Stel dat de kans dat een zelfrijdende auto de verkeerssituatie goed inschat zo’n 90 procent is. Dan is nog altijd onzeker wat voor risico’s je loopt in de 10 procent die overblijft. En ook in die 90 procent zit nog een onzekerheidsmarge. Al met al is dat een onduidelijke en vage benadering van risico’s. In zo’n situatie wil je iemand niet blootstellen aan de vrij onzekere keuzes die een zelfrijdende auto maakt. Met deze nieuwe aanpak zou een systeem veel meer gedetailleerde uitleg kunnen geven over wat er gebeurt in de praktijk en daarmee rekening houden bij het maken van nieuwe berekeningen. Voor gebruikers betekent dit dat ze specifiekere informatie hebben over wat er mis kan gaan. Garanties zijn er niet, maar het besluit wordt robuuster door bijvoorbeeld de auto wat langer stil te laten staan en de situatie te beoordelen, voordat het besluit wordt genomen om de drukke kruising over te steken. Met adequatere modellen ben je beter in staat om risico’s en onzekerheid te vermijden.”
Open source model
Het werken met uPOMDP’s is eerder door andere onderzoeksgroepen overwogen. Jansen: “Het werd beschouwd als een moeilijk probleem, maar dankzij een interdisciplinaire aanpak met onderzoekers uit verschillende landen, konden we een doorbraak forceren. Voor het eerst hebben we nu eerdere theoretische gedachtenexperimenten kunnen omzetten in een praktische en realistische benadering.” Het onderzoeksteam in Nijmegen en Eindhoven werkte hierbij samen met onderzoekers van de University of Texas (Austin) en de University of California (Berkeley).
Het nieuwe model wordt begin februari op de AAAI Conference on Artificial Intelligence gepresenteerd en is vervolgens vrij te gebruiken door bedrijven die werken met AI-voorspellingen. “Het is op allerlei gebieden toepasbaar. Zo kun je voorspellen wanneer je onderhoud aan je machines of auto moet laten doen”, zegt Jansen. “Je wilt in elk geval op tijd zijn en niet te laat, omdat je auto het niet meer doet. Met dit model kun je de onzekerheid verminderen.”
Mogelijkheden in de praktijk
Arno van der Steen, projectleider Automotive Research en expert bij de minor Advanced Mobility aan de Hogeschool Arnhem Nijmegen (HAN) ziet mogelijkheden voor dit nieuwe model. “Het mooie van dit soort modellen is dat we met minder rekencapaciteit meer verschillende situaties kunnen berekenen en de onzekerheid kunnen verminderen. Als je computermodellen nu alle besluiten op het juiste moment en in de juiste vorm wilt laten nemen, dan is dat qua rekencapaciteit niet te doen. De ontwikkelingen qua rekencapaciteit en opslag gaan snel, maar nog niet zo snel dat we een zelfrijdende auto alle beslissingen kunnen laten nemen. Op een snelweg een auto zelf tussen de lijntjes laten rijden is tegenwoordig goed te doen. En door meer rekencapaciteit en het uitbannen van onzekerheden kun je langzaamaan steeds meer over laten nemen door computers. Maar op een druk kruispunt waar mensen onvoorspelbare keuzes maken de auto zelf laten beslissen, dat gaat nog wel even duren. Ik ken het nieuwe model dat ontwikkeld is door de onderzoekers nog niet, maar ik kan me voorstellen dat dit ons weer een stap verder kan brengen in de ontwikkelingen van autonome keuzes door computers.”