Hinton wil AI-modellen keuren als medicijnen

Behandel elke veiligheidsclaim van een AI-modelaanbieder als onvolledig totdat je modelversie, evaluatiescope, onafhankelijke testresultaten en onopgeloste bevindingen schriftelijk hebt vastgelegd. Vrijwillige review is geen formele toelating.

De aanleiding is een analyse van 7 oktober 2026 van medicijn-achtige goedkeuring voor AI-modellen, die betoogt dat geavanceerde AI-modellen vóór uitgifte een onafhankelijk goedkeuringsproces zouden moeten doorlopen vergelijkbaar met geneesmiddelentoelatingen. De analyse gebruikt incidenten bij externe evaluaties als casus waarin zwakke isolatie en ontoereikende monitoring risico's blootlegden die een modelbenchmark alleen niet zou hebben opgemerkt. In onze inschatting markeert dit voorstel een kritiek verschil tussen de huidige praktijk — waarin aanbieders zelf bepalen welke veiligheidsclaims zij publiceren — en een systeem waarin onafhankelijke instanties risicomitigatie vooraf moeten aantonen. Voor wie AI-modellen inkoopt of inzet, betekent dit dat het vrijwillige Amerikaanse kader geen formele toelating biedt en dat je zelf moet vastleggen wat is getest en wat niet.

Waar ligt het verschil tussen vrijwillige review en medicijn-achtige keuring?

Hinton stelt voor dat een onafhankelijke instantie elk geavanceerd AI-model beoordeelt voordat het bij gebruikers terechtkomt, net zoals een geneesmiddelenautoriteit een medicijn toelaat. De ontwikkelaar zou via testen, externe evaluatie en openheid over incidenten moeten aantonen dat de risico's beheerst zijn. De kern van die vergelijking is de omgedraaide bewijslast: niet de samenleving moet aantonen dat een model schade aanricht; de ontwikkelaar moet vooraf aantonen dat de risico's beheersbaar zijn.

Dat onderscheid is naar onze inschatting het belangrijkste. In het huidige model bepalen aanbieders zelf welke veiligheidsclaims zij publiceren en wanneer. Een medicijn-achtige keuring zou dat omdraai: een onafhankelijke instantie zou moeten controleren voordat het model wordt uitgebracht.

Hanteert de Amerikaanse regelgeving al zo'n verplichte keuring?

Nee. De Verenigde Staten kent via Executive Order 14409 wel een pre-release reviewconcept voor bepaalde frontier-modellen, maar dat kader is nadrukkelijk vrijwillig en sluit verplichte licenties of preclearance expliciet uit. Een medicijn-achtige, afdwingbare keuring bestaat op dit moment nergens. Ook de EU AI Act (Verordening (EU) 2024/1689) kent risicogebaseerde verplichtingen maar geen individuele toelatingsprocedure die elk frontier-model vóór uitgifte keurt.

Het Witte Huis beschrijft in de uitvoeringsorder een geclassificeerd benchmarkproces en een vrijwillig kader voor beperkte overheidstoegang vóór uitgifte. De order stelt uitdrukkelijk dat zij geen verplichte overheidsvergunning of -toestemming voor het ontwikkelen, publiceren of verspreiden van AI-modellen autoriseert. Zolang deelname vrijwillig is, kan een model met onvoldoende beheerste risico's alsnog worden uitgebracht, simpelweg doordat de ontwikkelaar afziet van review of doordat de criteria tekortschieten.

Wat zou een geloofwaardige goedkeuring moeten controleren?

Een medicijn-achtige keuring zou meer moeten toetsen dan de benchmarkscore van een model. Zij zou het volledige operationele systeem moeten beoordelen: het model, de testomgeving, de monitoring en de omstandigheden waaronder het wordt ingezet. Externe evaluatie-incidenten hebben aangetoond dat zwakke isolatie en ontoereikende monitoring in de testopstelling zelf risico's kunnen scheppen die een modelbenchmark niet zou opvangen. Een keuring die alleen naar modelprestaties kijkt, zou zulke tekortkomingen missen.

Naar onze analyse zou een geloofwaardige goedkeuring minimaal het volgende moeten vastleggen:

1. Documenteer de modelversie en de testscope — welk model is getest, door wie, en onder welke omstandigheden.
2. Eis onafhankelijke evaluatie met openbare criteria — niet alleen interne benchmarks van de aanbieder.
3. Leg onopgeloste bevindingen vast — welke risico's zijn geïdentificeerd maar nog niet gemitigeerd.
4. Controleer de testomgeving zelf — isolatie, monitoring, autorisatiecontroles en de mogelijkheid om tool-aanroepen te blokkeren.
5. Eisen incidenthistorie en monitoring na uitgifte — hoe worden problemen in productie opgemerkt en hoe snel kan de aanbieder reageren.

Wat moet je zelf doen als je een AI-model inkoopt?

Omdat het Amerikaanse kader vrijwillig blijft, staat een claim dat een model "goedgekeurd" of "veilig" is niet gelijk aan onafhankelijke, formele toelating. Daarom laat je in het contract vastleggen welke modelversie is getest, door wie, binnen welke scope en met welke onopgeloste bevindingen. Omdat een vrijwillig reviewvenster dekkingsgaten laat wanneer een ontwikkelaar afziet van deelname, draag je dit risico zelf; daarom vraag je vóór ingebruikname om het concrete bewijs van externe evaluatie en incidenthistorie, niet om een algemene geruststelling.

Omdat testopstellingen kunnen falen en niet alleen het model, controleer je de aannames over de inzetomgeving, de monitoring en de bevoegdheid om tool-aanroepen te blokkeren voordat gevoelige werkstromen op het model worden aangesloten. Omdat een goedkeuring naar onze analyse niet standhoudt na een update of fine-tuning, leg je een clausule vast die de leverancier verplicht om wijzigingen aan modelversie, tools of trainingsdata te melden en die je het recht geeft toegang op te schorten.

Wat tooling kan doen — benchmarkscore controleren, versiehistorie bijhouden, monitoring instellen — is duidelijk. Wat je zelf moet beoordelen is of de testomgeving waarin die scores zijn behaald werkelijk representatief is voor jouw inzetcontext, en of de risico's die niet zijn gemitigeerd aanvaardbaar zijn voor jouw werkstroom. Dat oordeel kan geen tool voor je nemen.