De vraag hoe de toekomst met AI eruitziet, houdt een aantal wiskundigen, waaronder Fieldsmedaille-winnaars, bezig. In dit korte artikel belicht ik een stukje van die discussie. Ik ga daarbij niet in op de vele nuances die de gebeurtenissen van de afgelopen tijd kennen; dat is beter overgelaten aan al bestaande artikelen over de controverse rondom de Navier-Stokesoplossing (zie ook ons recente artikel hierover) of over de bulkuitgave van artikelen door OpenAI. In plaats daarvan focus ik op de reactie van de theoretici, met name hoe ze vinden dat deze gebeurtenissen verschillen van “onderzoek doen”. Als je dit artikel leest als middelbare scholier en je binnenkort een sudiekeuze te maken hebt, kan het zijn dat je daarin rekening wilt houden met AI. Hopelijk geven deze verwijzingen dan wat gedachtenvoer.
Mocht het je zijn ontgaan, dan is hier een vliegensvlugge samenvatting. Op 8 september van dit jaar werd er door OpenAI een oplossing voorgesteld voor het bestaan en de gladheid van de Navier-Stokesvergelijkingen. Binnen drie dagen formuleerden 28 winnaars van de Fieldsmedaille (het wiskundige equivalent van de Nobelprijs) een antwoord hierop. “A Severe Misalignment of AI in Mathematics”, luidde de titel van hun verklaring van anderhalve pagina lang op mathandai.org. Deze verklaring is inmiddels ongeveer 8500 keer ondertekend door wetenschappers, waaronder ruim honderd Nederlandse wiskundigen. Krap een maand later, op 7 oktober, bracht hetzelfde bedrijf 750 artikelen uit, overigens van wisselende kwaliteit. Er volgden vele reacties en discussies, waaronder de reactie van de “Advisory Group on Mathematics and Artificial Intelligence” (agmai.org) die is gevestigd in het bekende Institute of Advanced Study in Princeton. Deze groep benadrukt hun eerder gevormde aanbevelingen (van drie pagina’s lang), waaronder: “We ask them to stop testing advanced mathematical problems on proprietary models”. [1]
Uit de reacties kan je opmaken dat datgene wat de AI-bedrijven doen, niet valt onder wat de professionals beschouwen als “onderzoek doen”. Waar zit het verschil volgens hen? AI-bedrijven gebruiken het oplossen van moeilijke theoretische problemen als intelligentie-ijkpunt. Volgens de Fieldsmedaillewinnaars is het oplossen van problemen een middel met het uiteindelijke doel om conceptueel begrip op te doen en nieuwe vragen te stellen. Ze waarschuwen zelfs dat deze doelen kunnen lijden onder het steeds sneller produceren van bewijzen, zoals deze bedrijven nu doen. De AGMAI is hier nog concreter in wanneer ze zeggen dat de toekomst van wiskunde niet alleen kan bestaan uit het interpreteren van AI-gegenereerde bewijzen.
Zo dragen de professionals nog meer argumenten aan over bijvoorbeeld hoe de artikelen worden geschreven. Ik denk dat de nuances het best tot hun recht komen wanneer je die zelf leest, dus ik wil je vooral aanmoedigen een kijkje te nemen in de gelinkte stukken. Als alternatief zou je het interview met Terence Tao, een van de bovengenoemde Fieldmedaillewinnaars en een van de bekendste wiskundigen van dit moment, hieronder kunnen bekijken. Het gelinkte moment dekt grofweg de lading van het eerder genoemde argument, maar de hele video is het kijken waard. Hopelijk helpt het om meer perspectief te geven op wat wetenschap in tijden van AI precies inhoudt.
[1] De ontwikkelingen gaan intussen snel: gisteren bracht het bedrijf OpenAI een persbericht uit waarin ze hun standpunt toelichten en een update geven over de stand van zaken in vervolgonderzoek – je kunt dat hier lezen.