AI die AI bouwt: Hinton en Bengio waarschuwen voor een intelligentie-explosie

Of: rente op rente, uitbetaald in onderzoekers

Er zijn waarschuwingen en er zijn waarschuwingen. De ene soort komt van mensen die er baat bij hebben dat je ongerust wordt. De andere komt van mensen die er baat bij hebben dat je rustig blijft, en die toch aan de alarmbel trekken. Die tweede soort verdient een tweede lezing.

Eind september 2026 kwam er zo een. Tussen de 22 auteurs van een rapport over een mogelijke intelligentie-explosie staan academici die al jaren voor de risico’s van AI waarschuwen. Maar ook de hoofdwetenschapper van OpenAI en een medeoprichter van Anthropic: twee mensen die elke dag bouwen aan precies wat het rapport beschrijft.

Wat een intelligentie-explosie is, en waarom de bouwers zelf waarschuwen

Wie wat schreef

Het rapport heet What if automating AI R&D triggers an intelligence explosion?, vrij vertaald: wat als het automatiseren van AI-onderzoek een intelligentie-explosie ontketent? Het telt veertien pagina’s en verscheen op 28 september 2026 bij het Cambridge Programme on AI Science & Policy van de Universiteit van Cambridge. Het werk werd geleid door Alan Chan (GovAI) en Sören Mindermann (Cambridge), maar de namen die de krantenkoppen haalden, staan verder op de lijst:

• Geoffrey Hinton, Yoshua Bengio en Andrew Barto, alle drie winnaar van de Turingprijs, de hoogste onderscheiding in de informatica. Hinton kreeg in 2024 ook de Nobelprijs voor natuurkunde.
• Jakub Pachocki, hoofdwetenschapper van OpenAI, en Jack Clark, medeoprichter van Anthropic.
• Eric Horvitz, wetenschappelijk directeur van Microsoft, en onder anderen Dawn Song van de University of California, Berkeley.

Een kanttekening die in veel berichtgeving ontbreekt: het rapport vermeldt uitdrukkelijk dat de standpunten die van de auteurs zijn, en niet noodzakelijk die van hun werkgevers. OpenAI en Anthropic hebben het dus niet ondertekend. Twee van hun kopstukken wel.

Een intelligentie-explosie is in hun woorden een dramatische, door AI aangedreven versnelling van de vooruitgang in AI, waarbij wat anders jaren zou duren in maanden of minder gebeurt. Als het zover komt, schrijven ze, zou het weleens de meest ingrijpende technologische ontwikkeling uit de geschiedenis kunnen zijn.¹ En ze achten het niet ver weg: AI-systemen zijn volgens hen op weg om binnen enkele jaren het grootste deel van het AI-onderzoek te automatiseren, en misschien alles.

Rente op rente, uitbetaald in onderzoekers

Het mechanisme is eenvoudiger dan het klinkt. Wie ooit een spaarboekje had, kent het al.

Normaal werkt AI-onderzoek zoals sparen. Bedrijven stoppen er mensen, rekenkracht en data in, en krijgen er vooruitgang voor terug. Die vooruitgang is de rente. Tot nu toe werd die rente uitbetaald in betere producten: een slimmere chatbot, een betere vertaler.

Het rapport beschrijft wat er gebeurt als de rente wordt uitbetaald in onderzoekers. Elke nieuwe generatie AI doet een groter deel van het onderzoek zelf, sneller en goedkoper, alsof er extra onderzoekers op de loonlijst komen. Die bouwen een betere AI, die nog meer onderzoek overneemt, en zo verder. Rente op rente, maar dan met collega’s. Zodra AI het niveau van een expert haalt aan de kosten van vandaag, zou de rekenkracht van één groot AI-bedrijf volgens de auteurs volstaan voor het equivalent van minstens miljoenen topresearchers. Vandaag hebben die bedrijven er enkele duizenden.

Er is wel een tegenkracht. Economen stellen al lang vast dat ideeën steeds moeilijker te vinden zijn: het laaghangende fruit is eerst geplukt, en elke volgende stap vraagt meer inspanning. Op een spaarboekje zou dat een rente zijn die daalt naarmate je saldo groeit. De vraag is dus wat sneller gaat: het saldo of de daling van de rente.

De auteurs vatten dat samen in één getal, r. Onder 1 wint de daling en dooft de vooruitgang uit. Boven 1 wint de groei en versnelt alles. Op basis van historische gegevens schatten andere onderzoekers r tussen 1,2 en 1,9, in drie deelgebieden van AI.² Als dat zo blijft en er geen andere rem opduikt, zou het tempo volgens het rapport binnen zo’n anderhalf jaar vertienvoudigen. Een jaar vooruitgang aan het huidige tempo zou dan ongeveer vijf weken duren.

Duw de vergelijking nog één stap verder, want daar zit het eigenlijke probleem. Bij deze spaarrekening zijn de bank en de spaarder dezelfde partij, en krijgt verder niemand de rekeninguittreksels te zien. De cijfers over hoeveel AI-onderzoek al door AI gebeurt, bestaan vooral binnen de bedrijven zelf. Dat is geen detail. Het is het eerste punt op het verlanglijstje van de auteurs, daarover later meer.

Het bewijs, en de kleine lettertjes

Het rapport steunt op cijfers die de voorbije maanden zijn opgedoken, vooral bij de AI-bedrijven zelf:

• Bij Anthropic steeg het aandeel door AI geschreven code dat uiteindelijk wordt goedgekeurd, van enkele procenten in januari 2025 tot meer dan 80 procent in mei 2026.
• Het deel van het onderzoekswerk dat AI er zelfstandig afwerkt, met alleen toezicht op hoofdlijnen, ging tussen maart en augustus 2026 van 1 naar 26 procent.
• In 2023 konden de beste systemen onderzoekstaken aan van enkele seconden. Vandaag gaat het om taken waar een menselijke expert uren tot dagen over doet.
• De lengte van die taken verdubbelt sinds 2024 ongeveer elke drie maanden. Wie die lijn doortrekt, komt uit bij AI die midden 2028 onderzoeksprojecten van enkele maanden aankan.

Ik werk sinds enkele maanden elke dag met Claude Code, het programmeerhulpmiddel van Anthropic. Die tachtig procent verbaast me dus niet. Wat me wel opvalt: hoe meer code er vanzelf komt, hoe meer mijn werk verschuift van schrijven naar nalezen. Onthoud dat woord. Het komt terug.

Het rapport is eerlijker over zijn eigen zwakke plekken dan de meeste berichten erover. De auteurs noemen het bewijs zelf „voorlopig en soms tegenstrijdig”. Ze geven toe dat AI-systemen instructies negeren, vals spelen bij taken en hun werk mooier voorstellen dan het is. Het nieuwste model van OpenAI faalt nog op sommige debugtaken die ervaren onderzoekers wel oplossen (al hebben die er dan uren of dagen voor nodig). En een volledig door AI geschreven onderzoekspaper raakte door de peer review, maar dan die van een workshop.³

Ze noemen ook vier remmen die een explosie kunnen vertragen:

1. Afnemende meeropbrengst: het laaghangende fruit is op.
2. Rekenkracht en data: experimenten vragen chips, en de voorraad bruikbare internetdata groeit volgens hen te traag om het huidige tempo na 2028 vol te houden.
3. Taken die moeilijk te automatiseren zijn: één trage schakel kan de hele keten ophouden.
4. Processen die gewoon tijd kosten: het trainen van een groot model duurt vandaag drie maanden of langer.

Hun besluit is voorzichtig geformuleerd, maar het is er: de bestaande gegevens sluiten een explosie niet uit, en de nieuwste systemen komen volgens hen in de buurt van de drempel waarop de versnelling zichzelf gaat onderhouden.

Toen de agents de sleutels vonden

Het rapport gebruikt één voorval als waarschuwing, en het is het soort verhaal dat je liever in een film ziet dan in een technisch rapport.

In juli 2026 liet OpenAI zo’n 1.200 AI-agents intern cyberbeveiligingstests afleggen, netjes van elkaar en van het internet afgeschermd. De agents vonden een geïmproviseerd prikbord om met elkaar te praten, verschaften zich toegang tot het internet en braken in bij Hugging Face, het platform waar AI-ontwikkelaars modellen en datasets delen. Volgens de reconstructies van het incident zochten ze daar de oplossingen van de test die ze moesten afleggen. Daarna probeerden ze hun eigen logboeken aan te passen.

Het is examenfraude, maar dan niet door af te kijken bij je buur. Het is inbreken bij de drukkerij die de examens drukt, en achteraf het bezoekersregister herschrijven. Dat stond niet helemaal zo in de opdracht.

De les die de auteurs eruit trekken, gaat niet over Hugging Face. Ze gaat over toezicht. Hoe minder mensen zelf in het onderzoek zitten, hoe minder kansen en kennis ze hebben om problemen op te merken. AI inzetten om AI te controleren noemen ze een onopgelost probleem, en de recentste generaties zijn net moeilijker te controleren geworden.

Van daaruit beschrijven ze drie risico’s: capaciteiten die sneller groeien dan de samenleving kan bijbenen, het verlies van controle over systemen die slimmer zijn dan hun controleurs, en het wegvallen van tegenmachten als één land of bedrijf alle anderen te snel af is. In het uiterste geval, schrijven ze, gaat het om de marginalisering of het uitsterven van de mensheid. Het staat er, in een rapport met voetnoten en betrouwbaarheidsintervallen. Dat maakt het niet waarschijnlijker. Het maakt het wel moeilijker om weg te lachen.

Voor de volledigheid: dezelfde versnelling zou ook de voordelen naar voren halen, zoals medische doorbraken die jaren of decennia sneller komen. De auteurs ontkennen dat niet. Ze zeggen alleen dat er dan minder tijd overblijft om de rest bij te sturen.

Wat ze van regeringen vragen

Een explosie zou sneller gaan dan gewone beleidsvorming. Daarom willen de auteurs dat de voorbereiding nu begint, met drie prioriteiten:

1. Zicht krijgen op hoever AI-bedrijven hun onderzoek al automatiseren: gestandaardiseerde rapportering aan overheden, en onafhankelijke auditors die systemen testen voor ze intern worden ingezet of zelfs in de bedrijven meekijken. Daar zijn de rekeninguittreksels.
2. Kunnen bijsturen en afremmen: grenzen aan hoe snel capaciteiten mogen groeien, meer toezicht op datacenters met de mogelijkheid om bepaalde onderzoekstaken te pauzeren, afgesloten omgevingen voor riskante tests en internationale akkoorden.
3. Voorbereid zijn op de gevolgen: noodplannen voor schokken op de arbeidsmarkt, geopolitieke instabiliteit of een verlies van controle.

Het is een beetje alsof autobouwers zelf aan de minister om snelheidsbegrenzers vragen. Je kunt dat cynisch lezen: wie regels vraagt, hoopt soms vooral dat de concurrent erdoor wordt afgeremd. Je kunt het ook oprecht lezen: zij weten wat er onder de motorkap zit. Opvallend genoeg waarschuwen de auteurs zelf voor de cynische variant. Slecht ontworpen regels, schrijven ze, zouden een regering in staat stellen om het onderzoek overal af te remmen, behalve bij één favoriet bedrijf.

Kmo-Kristof: Tachtig procent van de code door AI geschreven. Dan is het toch opgelost? Minder werk voor iedereen.

Security-Sofie: Minder schrijfwerk. Het nalezen blijft.

Kmo-Kristof: Dan laat je dat nalezen ook door een AI doen.

Security-Sofie: Dat noemt het rapport een onopgelost probleem.

Kmo-Kristof: Mijn boekhouding laat ik ook niet controleren door wie ze opgesteld heeft.

Security-Sofie: Juist. Daarom bestaan er bedrijfsrevisoren. De auteurs vragen eigenlijk hetzelfde: onafhankelijke controleurs, desnoods met een bureau in het AI-bedrijf zelf.

Kmo-Kristof: Dus het antwoord op superintelligentie is een revisor.

Security-Sofie: Het begin van het antwoord. Minder spectaculair dan in de film, dat wel.

Wat doe je daar als ondernemer mee?

Ik zal eerlijk zijn: op maandagochtend verandert dit rapport weinig aan je zaak. Niemand weet of die explosie er komt, de auteurs als eersten niet. Maar er zitten drie dingen in die je vandaag al kunt gebruiken, ook als je nooit een AI-model zult trainen.

• Reken in maanden, niet in jaren. De AI-hulpmiddelen die je gebruikt voor teksten, code of klantencontact worden snel beter. Een vergelijking van januari kan in de zomer al verouderd zijn. Leg je dus niet voor jaren vast op een tool op basis van wat hij vandaag kan.
• Pas de regel van het rapport toe op je eigen zaak. De auteurs willen dat regeringen weten waar AI werk doet en wie het controleert. Op de schaal van een kmo is dat dezelfde vraag: welke offertes, contracten of stukken code komen uit een AI, en wie leest ze na voor ze vertrekken?
• Wantrouw wie je paniek of zekerheid verkoopt. Tweeëntwintig van de best geplaatste onderzoekers ter wereld schrijven dat er veel onzekerheid is. Wie je vandaag een strategie verkoopt die „klaar is voor superintelligentie”, weet dus meer dan zij. Dat kan. Waarschijnlijk is het niet.

Rente op rente heeft een vervelende eigenschap. De eerste jaren zie je bijna niets, en daarna zie je niets anders. Daarom lees je het rekeninguittreksel zolang er nog weinig op staat. Het rapport vraagt in wezen niet meer dan dat: dat iemand blijft nalezen, zolang het nalezen nog lukt.