Eerst studeren, dan roepen
Iedereen heeft een mening over AI, weinigen doen het huiswerk. Hier is een studeerlijst, te beginnen met het essay dat Demis Hassabis deze week publiceerde.
Ik zie steeds vaker stellige opinies over AI van mensen die de technologie nauwelijks doorgronden. Tegelijkertijd zijn de bouwers en degenen die er dagelijks mee werken, vaak te druk om het publieke debat van inhoud, nuance en begrip te voorzien. Daardoor wordt het gesprek steeds meer bepaald door aannames in plaats van (adequate) kennis. Dat is een serieus probleem voor Nederland. Daarom in dit artikel een studeerlijst voor ‘opiniemakers’, van Hinton tot Hao. Les één: het nieuwe essay van Hassabis, hieronder in vertaling.
Deze week publiceerde Demis Hassabis een essay over de komst van AGI, kunstmatige algemene intelligentie. Hassabis is Nobelprijswinnaar. Oprichter van DeepMind. De man achter AlphaFold, het systeem dat een vijftig jaar oud wetenschappelijk probleem kraakte. Iemand die deze technologie zelf bouwt.
Onderaan dit stuk vind je zijn volledige essay in een Nederlandse vertaling, met korte uitleg bij de technische termen.
Zijn kernboodschap: de snelle vooruitgang in AI vraagt om een nieuwe aanpak voor het testen van de krachtigste modellen, dynamisch, aanpasbaar en rigoureus. Zijn voorstel in drie punten:
Een standaardenorgaan voor AI-modellen, naar het model van de Amerikaanse FINRA: onder overheidstoezicht, maar opgezet en grotendeels betaald door de industrie zelf. Nederland kent geen exacte evenknie; denk aan een kruising tussen de AFM en de APK-keuring.
Een keuring voor frontier-modellen (de frontier: de buitenste grens van wat de krachtigste AI-modellen op dit moment kunnen), eerst vrijwillig en later verplicht, voordat ze de Amerikaanse markt op mogen. De keuring test op onder meer cybersecurity, biologische risico’s en misleiding.
Meetlatten die meebewegen: het orgaan ververst de tests elk kwartaal, zodat de keuring het tempo van de technologie bijhoudt.
Hassabis erkent: niemand weet zeker wat er gaat gebeuren. Zelfs de experts zijn het oneens. De vooruitgang aan de frontier gaat sneller dan ons begrip ervan. De man met het diepste inzicht in deze technologie zegt dus: ik weet het niet zeker.
Maar in Nederland is iedereen met een mening overtuigd van het eigen gelijk. Open X, scroll door LinkedIn, lees de opiniebijlagen van de kranten: stellige stukken over AI waarvan je binnen twee alinea’s ziet dat de schrijver de techniek nauwelijks doorgrondt, nooit een applicatie heeft ge-vibecode, en het huiswerk onvoldoende heeft gedaan. De toon is zelfverzekerd, maar de onderbouwing dun.
Op basis van dat publieke debat stemmen Kamerleden over reguleringskaders. Nemen schoolbesturen beslissingen over AI in de klas. Kiezen directies of ze investeren of afwachten. Nederland bouwt beleid op aannames, terwijl de adequate kennis ver te zoeken lijkt.
De stelligheid komt in diverse smaken, ik noem er hier twee. De doemdenkers die elke ontwikkeling framen als het einde van banen, waarheid of menselijkheid. En de juichers die elke kanttekening wegzetten als angst voor vooruitgang. Beide kampen hebben één ding gemeen: ze hebben hun studeerwerk onvoldoende gedaan.
Terug naar het voorstel van Hassabis. Het is het meest concrete plan dat een CEO van een frontier-lab tot nu toe op tafel heeft gelegd. Een zin die eruit springt: het orgaan zou zo nodig een gecoördineerde vertraging onder de labs kunnen organiseren. De CEO van Google DeepMind schrijft op dat afremmen een optie moet zijn.
Wie goed leest, ziet ook de haken en ogen: De industrie betaalt het orgaan grotendeels zelf. De labs ontwikkelen de eerste tests mee die hun eigen modellen moeten keuren. En wat er niet staat, telt net zo zwaar. Over aansprakelijkheid: geen woord. Over Europa: niets. Een keurmerk als Frontier Lab, met eisen rond rekenkracht, beveiliging en personeel, werpt bovendien drempels op die vooral de gevestigde spelers kunnen nemen. Hassabis heeft een agenda. Natuurlijk heeft hij die.
AI-geletterdheid is precies dit: zien wat er staat, zien wat er ontbreekt en zien welk belang meespeelt. Wie dat kan, hoeft geen enkele expert klakkeloos te volgen. Ook Hassabis niet.
Intermezzo: Zelf AI FiT worden?
Met een team bouwde ik AI FiT, de sportschool voor de AI-economie: online workouts, vibecoden samen met Personal AI Trainers, leren agents bouwen, en live trainingssessies in o.a. De Koepel in Haarlem waar je zelf aan de slag gaat met de nieuwste AI-tools en werkwijzen. Meer weten of meedoen > AI FiT. Nu €500 voordeel, geldig t/m 1 augustus 2026 met kortingscode: EARLYFRIEND.
[vervolg artikel] Eén passage verdient een plek op elke Nederlandse bestuurstafel. De vragen over nieuwe economische modellen, over waarden en zingeving in een wereld met AGI, kunnen we volgens Hassabis niet aan technologen alleen overlaten. Dat schrijft de technoloog zelf. Hij nodigt ons uit aan tafel.
Wie aan die tafel wil zitten, moet studeren. Daarmee bedoel ik niet de krant lezen of de talkshows volgen. Ik bedoel de bronnen zelf. Luister naar Geoffrey Hinton en Yoshua Bengio, twee grondleggers van deep learning die nu waarschuwen. Naar Yann LeCun, de derde grondlegger, die juist relativeert, net als Andrew Ng. Lees Fei-Fei Li over mensgerichte AI, Dario Amodei over de economische impact, Stuart Russell over de controlevraag, Andrej Karpathy over hoe deze systemen echt werken, Mustafa Suleyman over de golf die op ons afkomt. En dus Hassabis. Wie deze mensen volgt, ontdekt iets ongemakkelijks: de grootste experts spreken elkaar tegen. Daarom wordt wie studeert vanzelf voorzichtiger met stelligheid.
Een informatica-diploma heb je niet nodig. Wel een paar uur per week, intellectuele eerlijkheid en de bereidheid om “ik weet het niet” te zeggen als dat de waarheid is.
De studeerlijst (voor tijdens de vakantie:))
Hier is een startpunt, allemaal gratis toegankelijk:
Demis Hassabis (Nobelprijswinnaar, CEO Google DeepMind): het essay zelf en The Thinking Game, de documentaire die vijf jaar lang achter de schermen bij DeepMind filmde hoe AlphaFold ontstond.
Geoffrey Hinton (grondlegger van deep learning, Nobelprijs Natuurkunde 2024): dit lange interview waarin hij uitlegt waarom hij Google verliet om vrijuit over de risico’s te kunnen spreken.
Yoshua Bengio (grondlegger van deep learning, meest geciteerde computerwetenschapper ter wereld): zijn TED-talk over de risico’s van zelfstandig handelende AI.
Yann LeCun (grondlegger van deep learning, Turing Award-winnaar): drie uur met Lex Fridman over waarom hij de doemscenario’s niet gelooft en wat taalmodellen volgens hem fundamenteel niet kunnen.
Andrew Ng (oprichter Google Brain en DeepLearning.AI): zijn Stanford-lezing Opportunities in AI over AI als algemene technologie, vergelijkbaar met elektriciteit.
Fei-Fei Li (Stanford, bedenker van ImageNet): haar TED-talk over spatial intelligence, de volgende stap na taalmodellen. En als bonus: haar gesprek met Geoffrey Hinton in Toronto, twee grondleggers samen op een podium over de geschiedenis en de risico’s van hun eigen vakgebied.
Dario Amodei (CEO Anthropic): Machines of Loving Grace, zijn essay over hoe de wereld eruitziet als het goed gaat.
Stuart Russell (Berkeley, auteur van het standaard AI-studieboek): de BBC Reith Lectures, Living With Artificial Intelligence, vier colleges over de controlevraag.
Andrej Karpathy (medeoprichter OpenAI, oud-hoofd AI bij Tesla): Deep Dive into LLMs, drieënhalf uur over hoe deze systemen echt werken, gemaakt voor een algemeen publiek.
Mustafa Suleyman (CEO Microsoft AI, medeoprichter DeepMind): zijn TED-talk What Is an AI Anyway? en zijn boek The Coming Wave.
Karen Hao (onderzoeksjournalist, in 2019 de eerste journalist die binnen mocht bij OpenAI): Empire of AI, haar kritische boek over de macht achter de frontier labs, winnaar van de National Book Critics Circle Award. En haar interview van twee uur met Steven Bartlett in The Diary of a CEO. Zij is de enige buitenstaander op deze lijst, en juist daarom onmisbaar.
Roman Yampolskiy (hoogleraar computerwetenschap, bedacht in 2010 de term AI safety): zijn gesprek met Steven Bartlett, een van de meest bekeken AI-afleveringen van The Diary of a CEO.
Mo Gawdat (voormalig Chief Business Officer van Google X): zijn terugkeer bij The Diary of a CEO en zijn boek Scary Smart.
Eliezer Yudkowsky (grondlegger van het AI-alignment-onderzoek): If Anyone Builds It, Everyone Dies, geschreven met Nate Soares. De meest radicale waarschuwing op deze lijst.
Brian Christian (wetenschapsjournalist en auteur): The Alignment Problem: Machine Learning and Human Values. Een toegankelijke en grondige introductie tot de vraag hoe we AI-systemen in lijn brengen met menselijke waarden.
Mijn voorstel, voor iedereen die deze week een mening over AI wil delen: lees eerst het essay van Hassabis. Helemaal. Daarom staat het hieronder, vertaald en toegelicht. Ben je het na lezing met hem oneens, prima. Dan weet je tenminste waarmee.
De toekomst is nog niet geschreven, besluit Hassabis. Hij heeft gelijk.
Maar wie niet studeert, schrijft niet mee.
Tot de volgende Window, Ruben!
Een raamwerk voor frontier-AI en de dageraad van een nieuw tijdperk
Essay van Demis Hassabis, in Nederlandse vertaling
De cursieve toelichtingen tussen haakjes zijn van mij en verklaren technische termen. Het origineel staat op de Substack van Hassabis.
Dit is een kantelpunt in de menselijke geschiedenis. Kunstmatige algemene intelligentie, AGI (een systeem dat alle cognitieve vermogens van het menselijk brein bezit), is waarschijnlijk nog maar een paar jaar van ons verwijderd. Als we in de komende decennia terugkijken op deze tijd, denk ik dat we zullen beseffen dat we aan de voet stonden van de singulariteit (het punt waarop AI zichzelf sneller verbetert dan mensen kunnen bijbenen), niets minder dan het aanbreken van een nieuw tijdperk voor de mensheid.
Ik heb mijn hele leven aan AGI gewerkt vanuit de diepe overtuiging dat het, mits verantwoord gebouwd en ingezet, een van de meest waardevolle en transformerende technologieën ooit zal blijken. AGI laat zich niet vergelijken met gewone technologische doorbraken, zelfs niet met ingrijpende zoals het internet of de mobiele telefoon. Het lijkt veel meer op de ontdekking van elektriciteit of vuur. Sta er even bij stil: we hebben in essentie een manier gevonden om zand te laten denken (computerchips worden gemaakt van silicium, gewonnen uit zand). Dat is wonderbaarlijk.
De impact van deze technologie zal ongekend zijn, misschien wel tien keer die van de Industriële Revolutie, op tien keer de snelheid. Ze gaat ons helpen bij het oplossen van enkele van de grootste maatschappelijke problemen, van het versnellen van medicijnontwikkeling tot het ontwikkelen van nieuwe schone energiebronnen en geavanceerde materialen. We kunnen zelfs een punt bereiken waarop grondstoffen niet langer de beperkende factor zijn voor menselijke vooruitgang, het begin van een nieuw tijdperk van overvloed.
De uitdagingen van de frontier (de frontier: de buitenste grens van wat de krachtigste AI-modellen op dit moment kunnen)
AI levert nu al concrete voordelen op, maar om de enorme belofte waar te maken moeten we deze kritieke ontwikkelfase doordacht en zorgvuldig doorlopen. Er is dringend actie nodig om risico’s aan te pakken die kunnen ontstaan naarmate we dichter bij AGI komen. We hebben al gezien welke uitdagingen frontier-modellen opleveren voor cybersecurity, en andere dreigingen, waaronder nucleaire en biologische risico’s, kunnen zich aandienen naarmate de capaciteiten verder toenemen. Aan de horizon hebben we robuuste waarborgen nodig om de controle te behouden over steeds meer agentische (zelfstandig handelende) systemen die zichzelf recursief verbeteren (AI die zichzelf slimmer maakt, en met die extra slimheid zichzelf nog sneller verbetert), en om onbekende problemen aan te pakken die pas gaandeweg duidelijk worden.
Ik heb altijd geloofd in de kracht van menselijke vindingrijkheid en creativiteit om elk probleem op te lossen. Ik ben ervan overtuigd dat we de technische risico’s van AI gezamenlijk kunnen beperken, maar alleen als we onszelf de tijd en ruimte geven om deze cruciale volgende stap goed te zetten. Op dit moment doen we dat niet, niet als vakgebied en niet als samenleving.
We zitten gevangen in een extreem intense, gelaagde commerciële en geopolitieke race. Die concurrentie jaagt snelle vooruitgang aan en versnelt de geweldige voordelen, maar de ontwikkelingen aan de frontier gaan sneller dan ons begrip van de technologie. Niemand ter wereld weet zeker wat er vanaf hier gaat gebeuren, en zelfs de experts zijn het oneens. Bij zoveel onzekerheid en zulke hoge inzetten is voorzichtig optimisme de verstandige en juiste strategie. Dat vraagt om overheidsbeleid dat innovatie stimuleert en tegelijk verantwoordelijkheid en veiligheid beloont, om internationale samenwerking op de belangrijkste veiligheidsvraagstukken, en om zorgvuldige afwegingen over hoe we AI inzetten ten dienste van de samenleving.
Een raamwerk voor een Frontier AI Standards Body (een standaardenorgaan: een instituut dat normen vaststelt en bewaakt, zoals een keuringsinstantie)
De snelle vooruitgang in AI vraagt om een nieuwe aanpak voor het testen van de capaciteiten van frontier-modellen: dynamisch, aanpasbaar en rigoureus. De VS is, gezien haar economische en technische positie, goed gepositioneerd om de eerste stap te zetten. Het land zou een nieuw standaardenorgaan kunnen oprichten in de vorm van een publiek-privaat partnerschap onder federaal toezicht of een zelfregulerende organisatie, vergelijkbaar met FINRA (de Amerikaanse instantie waarmee de financiële sector zichzelf reguleert, onder toezicht van de overheid), met een bestuur van onafhankelijke technische topexperts en vertegenwoordigers van de open source-gemeenschap (ontwikkelaars die hun AI-modellen vrij beschikbaar stellen). De financiering moet substantieel zijn en zal waarschijnlijk grotendeels uit de industrie komen, om technisch toptalent aan te trekken en de rekenkracht te leveren die grootschalig testen vereist.
Het standaardenorgaan zou beoordelingsprotocollen ontwikkelen en samenwerken met de relevante federale instanties en de Amerikaanse National Labs om tests uit te voeren op gebieden die de nationale veiligheid raken. Een model kwalificeert als frontier-class wanneer het bepaalde drempels haalt op een set benchmarks (gestandaardiseerde tests die meten wat een model kan) die het orgaan vaststelt en regelmatig bijwerkt om gelijke tred te houden met de zich ontwikkelende AI-capaciteiten. Organisaties met frontier-modellen volgens die benchmarks gelden dan als Frontier Labs en worden aangemoedigd best practices te hanteren, zoals het publiceren van model cards (een soort bijsluiter met de technische details van een model), sterke interne cybersecurity, het screenen van sleutelpersoneel en voldoende budget voor veiligheids- en beveiligingsonderzoek.
In eerste instantie delen Frontier Labs hun modellen vrijwillig met het standaardenorgaan, tot dertig dagen voor release. Zodra het beoordelingsprotocol effectief en robuust blijkt, kan formalisering snel volgen: frontier-modellen moeten de toets dan doorstaan om op de Amerikaanse markt te mogen worden ingezet. Labs werken ook met het orgaan samen om kritieke kwetsbaarheden na release aan te pakken.
Modelbeoordelingen moeten rigoureuze wetenschappelijke evaluaties bevatten van capaciteiten op het gebied van cybersecurity, biologische dreigingen en andere hoog-risicodomeinen. Specifieke tests voor agentische AI kunnen zoeken naar pogingen om veiligheidsmaatregelen te omzeilen of naar tekenen van misleiding, en toezien op best practices zoals het digitaal watermerken van AI-gegenereerde beelden (een onzichtbaar merkteken waaraan je kunt herkennen dat een beeld door AI is gemaakt) en het genereren van voor mensen leesbare redeneerstappen, zodat we kunnen volgen hoe een model tot zijn antwoord komt.
Deze evaluaties worden regelmatig bijgewerkt, om te beginnen misschien elk kwartaal, waarbij verouderde of verzadigde benchmarks (tests waarop alle modellen inmiddels de hoogste score halen, zodat ze niets meer onderscheiden) worden vervangen. Aanvankelijk ontwikkelt het orgaan ze in overleg met de Frontier Labs, maar uiteindelijk moet het de technische capaciteit opbouwen om eigen geheime tests te maken, onafhankelijk van de labs, om overfitting te voorkomen (dat modellen gericht trainen op de test zelf in plaats van werkelijk beter te worden). Samen met de Amerikaanse overheid kan het een ecosysteem van onafhankelijke auditors stimuleren dat helpt bij de beoordelingen en de ontwikkeling van nieuwe benchmarks en evaluaties.
De kracht van deze aanpak is dat ze technisch gefocust is en tegelijk innovatie ondersteunt en verantwoord gedrag beloont. Ze is ontworpen om de versnelling van het veld bij te houden en zich aan te passen aan de grootste risico’s zodra die zich aftekenen, en kan worden aangescherpt als de ernst van de situatie daarom vraagt, inclusief het coördineren van een vertraging in de ontwikkeling onder de Frontier Labs als dat nodig wordt geacht. De aanduiding Frontier Lab draagt aanzienlijk prestige en staat open voor elke organisatie die modellen bouwt die aan de benchmarkcriteria voldoen. Het raamwerk kan gelden voor frontier-class modellen ongeacht het land van herkomst en ongeacht of ze open of gesloten zijn, maar niet-frontier-modellen, bijvoorbeeld van startups of universiteiten, zijn van dit proces vrijgesteld.
Dit Amerikaanse initiatief zou een sterk startpunt vormen voor gedeelde internationale standaarden voor frontier-AI. Omdat deze technologie de hele planeet gaat raken, zou dit raamwerk de internationale gemeenschap idealiter aanzetten tot consensus over het beheersen van de ernstigste risico’s, terwijl iedereen toegang houdt tot de kansen die AI biedt en ervan kan profiteren.
De toekomst is nog niet geschreven
AGI kan het ultieme instrument worden voor de vooruitgang van wetenschap en geneeskunde, en enorme productiviteitswinst en economische groei aanjagen. Maar om dat te bereiken moeten we de technische fundamenten op orde krijgen: coördineren rond een gedeeld mondiaal raamwerk, de meest rigoureuze wetenschappelijke methoden gebruiken en de beste denkers samenbrengen rond de uitdagingen waar we voor staan.
Zelfs als we deze harde technische uitdagingen oplossen, wachten er complexe economische en filosofische vragen: welke nieuwe economische modellen zijn nodig om iedereen te laten floreren in een wereld zonder schaarste? Volgens welke waarden willen we leven, wat wordt betekenis en zingeving, en hoe verandert misschien zelfs de menselijke conditie? Het beantwoorden van deze vragen kunnen en mogen we uiteraard niet alleen aan technologen overlaten. Het vraagt dat elk deel van de samenleving meebouwt aan dit nieuwe hoofdstuk.
Er is enorme opwinding en onzekerheid rond AI, en beide zijn terecht. Maar de toekomst is nog niet geschreven. We moeten dit kostbare venster voordat AGI arriveert gebruiken om deze technologie vorm te geven ten gunste van de hele mensheid. Wat we nu gezamenlijk doen, bepaalt hoe de volgende fase van de beschaving zich ontvouwt. Door AGI veilig de wereld in te loodsen kunnen we een nieuwe gouden eeuw van wetenschappelijke ontdekking en vooruitgang binnengaan, en een stralende toekomst van menselijke bloei inluiden.
Demis Hassabis, 14 juli 2026