GLM-5.3: open-weight modellen bieden inspectie

U moet kunnen aantonen dat elke audit van een AI-model geldt voor de exacte versie die in productie draait, niet voor een upstream-variant die later is aangepast of gefinetuned.

De prompt is een analyse van 18 oktober 2026 van de auditbaarheid van open-weight versus gesloten AI-modellen, die stelt dat de keuze tussen beide niet op prestatie moet berusten, maar op wat u onafhankelijk en reproduceerbaar kunt controleren. Het onderzoek gebruikt het open-weight model GLM-5.3 als casus, waarvan het Amerikaanse normalisatie-instituut NIST en het bedrijf Anthropic de capaciteiten hebben gemeten. In onze inschatting betekent dit dat een eenmalige leveranciersaudit zijn waarde verliest zodra u het model lokaal aanpast; u moet daarom vastleggen welke exacte modelhash en configuratie u hebt getoetst, en die toets herhalen na elke wijziging.

Wat maakt open-weight modellen anders voor audit?

Bij een open-weight model ontvangt u de modelparameters zelf. Die kunnen lokaal worden gedraaid, aangepast en gefinetuned zonder tussenkomst van de maker. Dit biedt inspectie en lokale controle, maar betekent ook dat de veiligheidslagen die de maker meelevert, door u kunnen worden verwijderd of veranderd. Een beoordeling van het oorspronkelijke model bewijst dus niet dat een lokaal gefinetunede of gequantiseerde versie zich hetzelfde gedraagt.

Dat verschil is niet theoretisch. Anthropic voerde in september 2026 een red-teamanalyse uit op GLM-5.3 en stelde vast dat het model in gesimuleerde, geïsoleerde tests end-to-end exploits kon ontwikkelen en beschermingslagen kon omzeilen. Belangrijk is dat dit testomstandigheden waren, niet een vastgestelde praktijk. Maar het toont aan dat open gewichten modificatie van safeguards mogelijk maken.

Hoe verschilt dit van gesloten modellen?

Bij een gesloten model via een API blijft de veiligheidslaag bij de aanbieder. Die kan safeguards afdwingen en updaten zonder uw tussenkomst. Dit vergroot de controle van de leverancier, maar beperkt uw externe controle en vergroten uw afhankelijkheid van die aanbieder.

Voor gesloten modellen ontstaat echter een ander auditprobleem: vertrouwelijke prompts en gegevens gaan naar een externe dienst. Voor advocaten, artsen en andere beroepen met geheimhoudingsplicht moet dit vóór ingebruikname contractueel zijn geregeld. U moet weten waar uw data heen gaat, hoe lang deze wordt bewaard, welke subverwerkers betrokken zijn en wat er per verwerkingsstap gebeurt.

Welke risico's ontstaan bij open-weight modellen?

• Gewichtsmanipulatie — trainingsgewichten kunnen worden aangepast voordat het model lokaal draait.
• Verwijdering van safeguards — ingebouwde beschermingslagen kunnen door de gebruiker worden uitgeschakeld.
• Onvolledige provenance — herkomst van trainingsdata en wijzigingsgeschiedenis kunnen ontbreken of onduidelijk zijn.
• Onvoldoende documentatie — trainingsproces, evaluatieharnas en finetuning-stappen zijn niet altijd reproduceerbaar vastgelegd.
• Dataset poisoning — trainingsdata kan vooraf zijn aangetast.

Welke stappen moet u documenteren voor een verdedigbare audit?

1. Registreer de exacte modelhash en versie — leg vast welk model u hebt getoetst en wanneer.
2. Documenteer de configuratie en omgeving — noteer waar het model draait, welke parameters actief zijn en welke safeguards ingeschakeld zijn.
3. Traceer de herkomst van trainingsdata — vraag de leverancier om informatie over datasources, schoonmaakstappen en mogelijke vervuiling.
4. Herhaal de audit na elke wijziging — fine-tuning, quantisatie en toolwijzigingen vereisen nieuwe validatie.
5. Controleer de finetuning-geschiedenis — vraag om volledige documentatie van aanpassingen die na publicatie zijn gedaan.

Hoe kiest u tussen open en gesloten op basis van controleerbaarheid?

NIST en Anthropic hebben in september 2026 alleen testresultaten gepubliceerd, geen universele rangorde die open modellen onveilig of gesloten modellen veilig maakt. Een bestuurder mag een leverancier daarom niet afrekenen op "open is onveilig" of omgekeerd.

De modelkeuze moet worden onderbouwd met de concrete auditbaarheid die past bij de gevoeligheid van uw gegevens. Voor gevoelige informatie moet u kunnen aantonen dat u het model, de configuratie, de dataherkomst en het feitelijke gedrag hebt gevalideerd. Bij open-weight modellen betekent dit dat u de gewichten zelf kunt inspecteren en lokaal testen; bij gesloten modellen betekent dit dat u contractuele garanties hebt over dataretentie, logging en subverwerkers.

Een literatuurstudie van de Britse ministeries voor digitale zaken en wetenschap maakt duidelijk dat "open-source" geen eenduidige categorie is. Code, gewichten, trainingsdata, pijplijnen en tooling moeten afzonderlijk worden beoordeeld. Open-weight is niet hetzelfde als volledig open-source. Daarom mag u niet leunen op het label; u moet afzonderlijk om gewichten, code, trainingsdata-informatie, provenance, finetuning-geschiedenis, evaluatieharnas en licentie vragen voordat u een contract tekent.

Werktuigen kunnen u helpen bij het vastleggen van modelhashes, configuraties en auditresultaten, maar de keuze welke gegevens gevoelig genoeg zijn voor lokale verwerking en welke risico's u kunt accepteren, blijft uw eigen professionele oordeel. Geen tool vervangt de vraag: wat kan ik onafhankelijk en reproduceerbaar controleren?