Eric Lopes Cardozo
Dat AI zich soms onvoorspelbaar gedraagt, is geen nieuw fenomeen. Het is ook niet specifiek voor AI. Charles Perrow beschreef in 1984, in zijn boek Normal Accidents, hoe complexe, sterk gekoppelde systemen onvermijdelijk falen op manieren die hun eigen testprotocollen niet konden voorzien. Dit is geen nalatigheid, maar een gevolg van de onmogelijkheid om alle interacties tussen componenten van een systeem vooraf in kaart te brengen. Hij onderbouwde dit met voorbeelden van de kernramp in 1979 op Three Mile Island en met ongelukken in petrochemische fabrieken en in de luchtvaart. Hij concludeerde dat het zelden aan menselijke falen lag, maar vooral aan de architectuur van het systeem zelf. Hij stelde niet dat zulke systemen verboden moeten worden, maar dat de samenleving eerlijk moet zijn over de risico’s en over wie die risico’s draagt.
De AI Act van de EU erkent dit risico wél, maar behandelt het ongelijk, al naar gelang waar het systeem zich bevindt. Een AI-component dat in een fysiek product zit (voertuig, medisch hulpmiddel, machine) dat al onder bestaande productwetgeving een toetsing door een onafhankelijke partij vereist, wordt automatisch als ‘hoog-risico’ beschouwd. Het moet daarom diezelfde externe toetsing doorstaan die de onderliggende productwetgeving al vereist voor datzelfde product zonder AI-component.
Een AI-systeem dat meer op zichzelf staat en niet als product wordt gezien, kent een dergelijke keuring in de meeste gevallen niet. Voorbeelden hiervan zijn systemen voor werving, kredietbeoordeling en onderwijsbeoordeling. Het inschakelen van een onafhankelijke partij is daarbij niet vereist, met als enige uitzondering biometrische identificatie op afstand. De Europese Commissie motiveerde die keuze in 2021 met het argument dat de regelgeving zich nog in een vroege fase bevond, de sector zeer innovatief was en de expertise om audits uit te voeren nog moest worden opgebouwd.
Die genoemde enkele uitzondering is veelzeggend. Kennelijk woog de maatschappelijke gevoeligheid van biometrische identificatie zwaar genoeg om van het uitgangspunt af te wijken dat zelfcontrole volstaat. Voor kredietbeoordeling, werving of onderwijsbeoordeling gold die afweging kennelijk niet, ondanks hun vergelijkbare impact op individuele levens.
Het onderscheid tussen toepassingsgebied en productclassificatie is niet triviaal. Het betekent dat een AI-systeem dat een auto aanstuurt strenger wordt gecontroleerd dan een AI-systeem dat beslist of iemand een lening, een baan of een uitkering krijgt. Beide hebben echter te kampen met dezelfde ‘evaluation gap’. De wetgever schrijft voor het ene een keuring voor waarvan de uitkomst voor een lerend systeem sowieso onzeker is. Voor het andere schrijft hij geen enkele keuring voor. Niet omdat het tweede risico kleiner is, maar omdat er toevallig geen fysiek product omheen zit waarop de bestaande regelgeving kan worden toegepast. Naar schatting van juridische adviseurs die de AI Act voor bedrijven hebben geanalyseerd, valt zo’n 85% van alle AI-systemen in de EU buiten de hoog-risico-categorie, en dus buiten iedere interne of externe keuringsplicht.
Voor voertuigen is zo’n keuring er al wel. EU-Verordening 2019/2144, aangevuld met het internationale reglement voor geautomatiseerde rijstrookbewaking (UN R157), vereist dat een goedkeuringsinstantie een geautomatiseerd rijsysteem test en certificeert vóórdat het op de markt komt. Dat is precies het soort externe toetsing die de AI Act aan product-gebonden systemen oplegt. Maar de norm is geschreven voor systemen waarvan het gedrag vooraf goed valt te specificeren en te verifiëren. Bij een neuraal netwerk van AI is dat aantoonbaar niet het geval. Zelfs waar de keuring wel verplicht is, kan het dossier voor het AI-onderdeel formeel niet worden afgetekend. Niet omdat niemand de moeite neemt, maar omdat het bewijs dat de norm eist structureel niet kan worden geleverd.
De Nederlandse Belastingdienst gebruikte vanaf 2013 een risicoclassificatie-model om aanvragen voor kinderopvangtoeslag te beoordelen op frauderisico. Journalistieke en academische bronnen omschrijven het consistent als een zelflerend algoritme. Het onderzoeksrapport van de Autoriteit Persoonsgegevens zelf spreekt van een algoritme dat automatisch aanvragen selecteert. Het model kende aanvragen een risicoscore toe op basis van indicatoren als nationaliteit en inkomen. Een hogere score leidde tot extra, handmatige controle. De Autoriteit Persoonsgegevens oordeelde dat het gebruik van nationaliteit als indicator discriminerend en onrechtmatig was, en legde een boete op. Het model is sinds juli 2020 niet meer in gebruik. Dit is een voorbeeld van een geval bij een overheidsdienst, binnen een lidstaat die notabene zelf mede aan de wieg stond van de AI Act. Er is geen sprake van een fysiek product en dus is er ook geen externe keuring vooraf. Er was alleen een interne beoordeling door de dienst zelf, jarenlang, tot een externe toezichthouder alsnog ingreep. Het type systeem is precies wat in de EU onder de tweede route zou vallen; geen fysiek product. Bij een fysiek systeem als een voertuig biedt de bestaande wetgeving, die externe keuring vereist, nog iets van een vangnet. Voor deze categorie systemen was dat niet het geval.
De technocratische reflex op dit probleem is voorspelbaar: meer evaluatie, diepere benchmarks en meer lagen toezicht. Het Bletchley-rapport beveelt precies dat aan, ondanks een eigen bevinding die dat advies ondermijnt. Sommige AI-modellen lijken namelijk contextuele kenmerken van testomgevingen te hebben leren herkennen, met als gevolg dat ze tijdens een evaluatie ‘gewenst’ gedrag vertonen. Functioneel is dat identiek aan een systeem dat zich in de praktijk anders gedraagt dan onder testcondities. De test is daarmee onderdeel van het probleem geworden. Meer testen is niet verkeerd, maar ook niet voldoende, omdat het het probleem van onvoorspelbaar gedrag niet oplost.
Behalve onvoorspelbaar gedrag, impliceert Perrows analyse dat een bouwende organisatie de structurele prikkel heeft om testresultaten optimistisch te interpreteren; de kosten van uitstel zijn meteen zichtbaar, de kosten van een toekomstig incident nog niet. Bij interne controle, zonder externe partij die meekijkt, is er niemand die deze prikkel corrigeert.
Ook waar de AI Act wél een externe keuring voorschrijft, is de uitvoering hiervan nog broos. De eerste compliance-deadline is in augustus van dit jaar, en dat de Europese standaardisatieorganisaties (CEN en CENELEC) hun eigen deadline – in 2023 gesteld op april 2025, later verschoven naar augustus 2025 – niet hebben gehaald, is veelzeggend. De volledige verplichtingen voor de niet-productsystemen gaan pas in op 2 december 2027. Voor AI in voertuigen en andere producten is dat op 2 augustus 2028. Farmaceutische bedrijven en fabrikanten van medische hulpmiddelen kregen, na onderhandeling tussen de Europese co-wetgevers, zelfs tot 2028 de tijd om hun AI-systemen in lijn te brengen met de wet. Een uitzondering binnen de uitzondering. Systemen die nu al worden ingezet, draaien in het vacuüm daartussen. De precieze afbakening van wie straks onder welke route valt, ligt zelf nog in openbare consultatie bij de Europese Commissie.
De Europese Unie heeft erkend dat de inzet van AI risico’s met zich mee kan brengen die vragen om externe toetsing en een toetsingskader. Vervolgens heeft men die toetsing beperkt tot systemen die toevallig in een fysiek omhulsel zitten, en liet de rest over aan de markt. Niet omdat er minder op het spel staat, maar omdat de bestaande regelgeving daar toevallig al op aansloot. En zelfs voor de systemen die wél worden getoetst, is er nog geen oplossing gevonden voor de vraag die het Bletchley-panel zichzelf stelde: of een test ooit kan bewijzen hoe een lerend systeem zich in de praktijk zal gaan gedragen. Het rapport concludeert dat dit vooralsnog onbetrouwbaar blijft, hoewel dat tot nu toe geen belemmering is gebleken voor de inzet van AI.
Stroomopwaarts
De energiehonger van datacenters lijkt niet te stoppen. In een stad als Dublin zijn datacenters inmiddels goed voor tachtig procent van het energieverbruik. In Texas en Virginia stijgt de energierekening van gewone huishoudens mee met elke nieuwe serverhal. AI-bedrijven sluiten omvangrijke energiecontracten af. Meta sloot in januari 2026 drie stroomdeals, samen goed voor meer dan 6 gigawatt aan nucleaire capaciteit voor haar Amerikaanse datacenters. Op mondiaal niveau raamde Goldman Sachs in april 2026 dat de mondiale vraag naar datacenterstroom richting 2030 met 220% zal stijgen.
Amerika en Europa laten hun burgers meebetalen aan deze stijgende energievraag. Enerzijds direct via de energierekening en anderzijds indirect via toenemende verdringing, waarbij datacentra voorrang krijgen op bedrijven en burgers, die daardoor moeten wachten op een aansluiting. Ook Rusland en China hebben te maken met een stijgende energievraag. Zij varen echter een andere koers dan de VS en Europa.
Het oplossen van de energiehonger past in het Amerikaanse beleid van ‘energy dominance’; zoveel mogelijk eigen energie produceren en geopolitiek inzetten. Eén uitvoeringsbesluit stelt als doel de nucleaire capaciteit te verviervoudigen naar 400 gigawatt in 2050, met als symbolische mijlpaal urgentie voor drie pilotreactoren vóór 4 juli 2026. Deze deadline werd op 30 juni gehaald, maar opschalen naar vol vermogen, netaansluiting en een commerciële vergunning moeten nog volgen. De eerste stroomlevering is op zijn vroegst in 2027. Aardgas blijft volgens het IEA (Internationaal Energieagentschap) de grootste stroombron voor Amerikaanse datacenters, en het beleid leunt op één gecertificeerd ontwerp: de NuScale 77-megawatt-module.
De rem zit hem in de fysieke beperkingen. Het personeelsbestand moet groeien van 100.000 naar 375.000 werknemers, en de binnenlandse brandstofketen voor laagverrijkt uranium is nog niet toereikend. De morrende burger wordt geacht dit gat te financieren, hetgeen in Texas en Virginia heeft geleid tot ‘datacenter-rebellie’.
Terwijl de eigen bevolking meebetaalt, verhuist het Amerikaanse kapitaal naar waar het probleem al is opgelost. X8 Cloud uit Los Angeles kondigde eind 2025 een investering van $ 10 tot $ 50 miljard aan in Paraguay, de grootste buitenlandse investering ooit in het land. Paraguay beschikt over de Itaipú-stuwdam, die drie keer meer stroom levert dan Paraguay zelf verbruikt. Het Canadese HIVE Digital breidt zijn datacenter in Yguazú om dezelfde reden uit naar 400 megawatt.
Europa’s versie van de Amerikaanse energiedominantie-retoriek staat in het AI Continent Action Plan en de Cloud and AI Development Act: de datacentercapaciteit moet binnen vijf tot zeven jaar verdrievoudigen. Von der Leyen noemde dit in juni 2026 “technologische soevereiniteit”. De Europese energieprijzen liggen volgens het IEA gemiddeld echter dubbel zo hoog als in de VS en vijftig procent hoger dan in China.
Verdringing is in Europa al meetbaar. Niet zozeer op landelijk niveau, maar regionaal. Amsterdam liep in 2019 al tegen de grenzen van het net aan. Sinds 2023 laat de stad geen nieuwe datacenters meer toe, een verbod dat in 2025 is verlengd tot 2035. Het probleem is daarmee niet verdwenen, maar verplaatst naar de regio Haarlemmermeer, waar burgers en bedrijven tot 2033-2035 op een aansluiting wachten.
China kent geen verdringingsprobleem, vanwege overcapaciteit. Het land voegde in 2024 alleen al 429 gigawatt aan opwekcapaciteit toe, meer dan een derde van het Amerikaanse net, en haalde zijn doelstelling van 1.200 gigawatt zon- en windcapaciteit voor 2030 al medio 2024. China staat garant voor bijna de helft van alle kernreactoren wereldwijd in aanbouw. De Linglong One, ’s werelds eerste commerciële onshore small modular reactor, gaat naar verwachting begin 2027 in bedrijf.
Waar Washington en Brussel de rekening bij de burger leggen, omdat de bouw niet snel genoeg gaat, bouwt Peking zo veel, dat verdeling onnodig is. In maart 2026 tekende het land een internationale belofte om de mondiale nucleaire capaciteit te verdrievoudigen. De China General Nuclear Power Group ontwikkelt drijvende reactoren voor kunstmatige eilanden en boorplatforms in de Zuid-Chinese Zee. Kolen blijven, ondanks een groter geïnstalleerd vermogen aan zon en wind, de belangrijkste bron van daadwerkelijk geleverde stroom. De kloof zit niet tussen belofte en levering, maar tussen geïnstalleerd en daadwerkelijk beschikbaar vermogen.
Ook Rusland kent geen verdringing, maar om een andere reden dan China’s overcapaciteit, al merkt de burger daar wel degelijk iets van. De drijvende kerncentrale Akademik Lomonosov, sinds mei 2020 commercieel in bedrijf voor de havenstad Pevek, leverde begin 2025 al 60 procent van de regionale energiebehoefte; de bouwkosten liepen op van 6 tot 9 naar 37 miljard roebel, rechtstreeks geabsorbeerd door de staatsbegroting. De bevolking betaalde dus wel mee, zij het voor een havenstad van vijfduizend inwoners en niet voor een datacenter. Rosatom bouwt daarnaast exportcentrales in Egypte, Turkije en Oezbekistan, commercieel gedreven en ouder dan de AI-energiewedloop.
Het onderscheid tussen de vier zit uiteindelijk niet in wie het hardst aankondigt, maar in wie zichtbare weerstand van de eigen burger weet te vermijden, en tegen welke prijs. Rusland vermijdt weerstand, omdat er niemand te verdringen valt. China vermijdt het door overcapaciteit. De VS vermijdt weerstand niet, vandaar de rebellie in Texas en Virginia. Europa tracht het te vermijden, door steden als Amsterdam preventief op slot te zetten. De rekening daarvoor is niet de burger die in opstand komt, maar een belofte van technologische soevereiniteit, die vastloopt voordat het ooit opgebouwd kan worden.
– einde artikel –
Je las een Premium artikel uit Gezond Verstand
Volg ons op social media
Kijk en beluister Gezond Verstand via
Gerelateerde berichten
