Een astronoom heeft een innovatieve methode ontwikkeld die KI-systemen helpt om te herkennen wanneer voorspellingen onbetrouwbaar kunnen zijn. Deze doorbraak komt uit de filmindustrie.
Stel je voor: een arts vraagt om een routine-scan en vertelt je dat je onmiddellijk met een kankerbehandeling moet beginnen, terwijl je geen andere symptomen hebt. De meeste mensen zouden om een tweede mening vragen. Dit is precies de mogelijkheid die ook voor kunstmatige intelligentie in de toekomst beschikbaar zou kunnen zijn. Een astronoom van de Universiteit van Arizona heeft een revolutionaire methode ontwikkeld die KI-systemen leert te herkennen wanneer hun voorspellingen onzeker zijn.
Peter Behroozi, bijzonder hoogleraar aan het Steward Observatory van de Universiteit van Arizona, pakt met zijn ontwikkeling een van de dringende problemen van moderne kunstmatige intelligentie aan: zogenaamde hallucinaties. “Huidige KI-modellen lijden onder foutieve maar zelfverzekerde uitkomsten,” legt Behroozi uit. “Er zijn veel voorbeelden van neurale netwerken die ‘hallucineren’ of niet-bestaande feiten, onderzoeksartikelen en boeken verzinnen om hun onjuiste conclusies te onderbouwen.”
De gevolgen van deze hallucinaties zijn reëel en soms ernstig: foute medische diagnoses, afgewezen huur aanvragen en onjuiste gezichtsherkenning. “Dit leidt tot echt menselijk lijden,” benadrukt Behroozi. Het probleem ondermijnt ook het vertrouwen in op KI gebaseerde wetenschappelijk onderzoek – van de ontwikkeling van nieuwe medicijnen tot weersvoorspellingen en afbeeldingen van zwarte gaten.
De weg naar Behroozis doorbraak begon niet in een KI-laboratorium, maar in zijn eigen astronomisch onderzoek. Als ontwikkelaar van de “Universe Machine” – een computermodel voor de simulatie van de vorming van sterrenstelsels – stuitte hij op een hardnekkig probleem: “Sterrenstelsels zijn zeer complex en hebben daarom potentieel veel parameters die kunnen beïnvloeden wat ze doen. Voor mij functioneerden de bestaande methoden niet goed genoeg om te onderzoeken hoe deze parameters zich gedragen,” legt de wetenschapper uit.
De beslissende inspiratie kwam uit een totaal onverwachte bron: een huiswerkopdracht van een student van de Universiteit van Arizona over de lichtbreking in de aardse atmosfeer. Het probleem vereiste de simulatie van hoe de lichtsnelheid verandert bij het passeren door de atmosfeer – een klassieke toepassing van Ray Tracing, dezelfde techniek die Pixar en andere animatiestudio’s gebruiken voor realistische belichting in films.
“In plaats van dit in drie dimensies te doen, heb ik ontdekt hoe je het kunt laten draaien in een miljard dimensies,” zegt Behroozi. Deze schijnbaar absurde opschaling is de sleutel: moderne KI-modellen opereren in wiskundige ruimtes met miljarden tot biljoenen parameters.
De nieuwe methode past een techniek toe die Bayesian Sampling wordt genoemd, die al tientallen jaren bij kleine modellen wordt gebruikt, maar tot nu toe te rekenintensief was voor moderne neurale netwerken. “Wat er gebeurt, is dat je in plaats van een enkele expert te raadplegen, de hele breedte van experts raadpleegt,” legt Behroozi het principe uit. “Als het iets is dat de experts nog nooit hebben gezien, dan krijg je een breed scala aan antwoorden. En daaruit kan je opmaken dat je de uitslag niet moet vertrouwen.”
In plaats van zich te verlaten op de voorspelling van een enkel model, traint de methode duizenden verschillende modellen op dezelfde gegevens, met een speciale wiskundige benadering waarmee ze de diversiteit van mogelijke antwoorden kunnen verkennen. Behroozis methode is “ vele malen sneller” dan eerdere benaderingen en kan leiden tot veiligere, veerkrachtigere neurale netwerken met aanzienlijk minder hallucinaties.
De impact van deze ontwikkeling reikt veel verder dan de astronomie. Mensen en organisaties gebruiken steeds vaker KI voor kritische beslissingen in de geneeskunde, financiën, huisvesting, energie, strafrecht en autonome voertuigen. Behroozis methode zou deze systemen in staat stellen om te herkennen wanneer ze onzeker zijn – ze leren begrijpen wanneer ze niets weten. Het onderzoeksdocument dat in afwachting is van peer-review is al beschikbaar op een open-access platform. De bijbehorende code is openbaar toegankelijk, zodat onderzoekers wereldwijd de methode op hun eigen werk kunnen toepassen.
