California SB 53 Naleving: Een Praktische Gids voor de Transparency in Frontier AI Act

Op 29 september 2025 ondertekende de gouverneur van Californië, Gavin Newsom, Senate Bill 53, de Transparency in Frontier Artificial Intelligence Act (TFAIA). Hiermee werd Californië de eerste Amerikaanse jurisdictie die bindende verplichtingen oplegt op het gebied van veiligheid, transparantie en incidentrapportage aan de ontwikkelaars van de meest rekenintensieve AI-systemen. De wet trad op 1 januari 2026 in werking en heeft in de afgelopen zes maanden stilletjes de manier veranderd waarop de grootste AI-labs en een groeiende lijst van middelgrote modelontwikkelaars risico's documenteren, governance-kaders publiceren en toezichthouders informeren over scenario's met catastrofale risico's.

Als uw organisatie fundatiemodellen traint, finetunet of substantieel wijzigt — of grote rekenclusters beheert waar andere ontwikkelaars op vertrouwen — dan is SB 53 nu de meest ingrijpende AI-wet in de Verenigde Staten die u moet begrijpen. Deze gids legt uit wie eronder valt, wat u moet publiceren, hoe de 15-daagse termijn voor het rapporteren van kritieke incidenten werkt, welke klokkenluidersverplichtingen van toepassing zijn en hoe u het statuut vertaalt naar een operationeel nalevingsprogramma.

Wat SB 53 feitelijk reguleert

Anders dan de AI-wetten voor werkgelegenheid die zich van staat tot staat verspreiden (denk aan NYC Local Law 144 of de Colorado AI Act), reguleert SB 53 geen algoritmische wervingstools, kredietbeoordelingsmodellen of systemen voor de screening van huurders. Het richt zich op een veel specifiekere categorie: frontier-fundatiemodellen getraind op buitengewone rekenkrachtschalen, en de catastrofale risicoscenario's die daaruit kunnen voortvloeien.

De wet bevindt zich op het snijvlak van twee reguleringstradities. Van de productveiligheidswetgeving leent het het idee dat bedrijven risicobeoordelingen moeten publiceren en autoriteiten moeten informeren wanneer incidenten zich voordoen. Van de financiële regelgeving leent het het idee dat de grootste spelers zwaardere openbaarmakingsplichten dragen dan kleinere spelers. Het resultaat is een gelaagd regime gebouwd rond twee drempels.

De rekendrempel van 10^26 FLOP's

Een "frontier-model" onder SB 53 wordt gedefinieerd als een fundatiemodel dat is getraind met meer dan 10^26 integer- of drijvende-komma-operaties (FLOP's), inclusief cumulatieve rekenkracht door finetuning en daaropvolgende wijzigingen. Deze drempel is bewust afgestemd op de inmiddels ingetrokken federale Executive Order 14110-rapportagegrens en de general-purpose-AI-categorie van de EU AI Act, waardoor de meeste grote Amerikaanse labs al weten of ze deze overschrijden.

Wat soms over het hoofd wordt gezien, is dat het statuut de cumulatieve rekenkracht van downstream-wijzigingen meetelt. Als u een basismodel neemt dat dicht bij de drempel is getraind en u gaat door met pre-training, voert reinforcement-learning finetuning uit, of voegt gewichten samen met een ander model, kunt u een afgeleide in de frontier-status duwen, zelfs als geen enkele individuele trainingsrun de 10^26 FLOP's heeft overschreden. Het catalogiseren van elk basismodel, elke finetuning, elke distillatie en elke samenvoeging van gewichten — en het bijhouden van de FLOP's die elke stap heeft verbruikt — is nu een essentiële discipline voor de boekhouding.

De omzetdrempel van $500 miljoen voor grote frontier-ontwikkelaars

Een "grote frontier-ontwikkelaar" is een frontier-ontwikkelaar waarvan de entiteit en gelieerde ondernemingen in het voorgaande kalenderjaar meer dan $500 miljoen aan jaarlijkse bruto-omzet hebben behaald. De omzettoets is geconsolideerd: moedermaatschappijen, dochterondernemingen en gelieerde ondernemingen onder gezamenlijke zeggenschap worden bij elkaar opgeteld. Een kleine AI-startup die een financieringsronde van een miljard dollar heeft opgehaald, maar $40 miljoen aan werkelijke omzet heeft behaald, is geen grote frontier-ontwikkelaar; een beursgenoteerd technologieconglomeraat met een kleine AI-divisie die de FLOP-drempel overschrijdt, is dat vrijwel zeker wel.

De gelaagdheid is van belang omdat grote frontier-ontwikkelaars de zwaarste verplichtingen dragen: het publiceren van een frontier-AI-kader, het uitvoeren van catastrofale risicobeoordelingen, het indienen van driemaandelijkse samenvattingen van risico's bij intern gebruik bij de California Office of Emergency Services (Cal OES), en het onderhouden van een anoniem intern klokkenluiderskanaal. Kleinere frontier-ontwikkelaars — die boven de FLOP-drempel maar onder de omzetdrempel zitten — moeten nog steeds transparantierapporten publiceren en kritieke veiligheidsincidenten melden, maar zij vallen niet onder het volledige framework-regime.

Wat u moet publiceren: Het Frontier AI Framework

Elke grote frontier-ontwikkelaar moet een frontier-AI-kader op zijn website publiceren en dit actueel houden. Jaarlijkse herziening is verplicht, en elke wezenlijke wijziging moet leiden tot een update binnen 30 dagen na de verandering.

Een verdedigbaar kader behandelt ten minste:

• Drempels voor catastrofale risico's en beoordelingsmethoden. Welke capaciteiten — hulp bij chemische, biologische, radiologische of nucleaire wapens; grootschalige aanvallen op kritieke infrastructuur; scenario's van autonoom verlies van controle door agenten — zou de ontwikkelaar beschouwen als het overschrijden van een catastrofale drempel? Hoe zal de ontwikkelaar op die capaciteiten testen vóór implementatie?
• Risicomitigatiestrategieën. Concrete mitigaties vóór implementatie: weigeringstraining, inperking van capaciteiten, beperkingen op implementatie, gemonitorde toegang, gefaseerde uitrol en monitoring na implementatie.
• Evaluaties door derden. Welke externe red teams, evaluatoren en auditors zullen het model beoordelen, en hoe zullen hun bevindingen worden verwerkt?
• Cyberbeveiligingsprotocollen voor niet-vrijgegeven modelgewichten. Maatregelen tegen insider-dreigingen, hardware-beveiligingsmodules (HSM's), netwerksegmentatie en toegangslogging die gewichten vóór implementatie beschermen tegen diefstal.
• Procedures voor respons op kritieke veiligheidsincidenten. Wie beslist of een incident rapportabel is, hoe de 15-daagse termijn wordt gestart en hoe het bedrijf coördineert met Cal OES.
• Interne governancemechanismen. Toezicht op bestuursniveau, de rol van de AI-veiligheidsfunctionaris, escalatiepaden en de frequentie van veiligheidsbeoordelingen.
• Afstemming op standaarden. Expliciete koppeling aan het NIST AI Risk Management Framework (AI RMF 1.0) and ISO/IEC 42001, die door het statuut als fundamentele basislijnen worden beschouwd.

Het kader is geen marketingdocument. Het is een instrument gericht op de toezichthouder dat de procureur-generaal kan gebruiken om te beoordelen of de publieke toezeggingen van het bedrijf overeenkomen met de interne praktijk. Het opstellen ervan met dezelfde nauwkeurigheid als een SEC-risicofactorrapportage of een SOC 2-systeembeschrijving is de juiste houding.

Transparantieverslagen vóór elke implementatie

Elke frontier-ontwikkelaar — niet alleen de grote — moet een transparantieverslag publiceren voordat een nieuw of substantieel gewijzigd frontier-model wordt geïmplementeerd. Het transparantieverslag is een modelspecifiek document, los van het raamwerk, dat het volgende moet bevatten:

• Bedrijfsnaam, website en contactmechanisme voor veiligheidskwesties
• De releasedatum van het model en een lijst met ondersteunde talen en outputmodaliteiten
• Beoogd gebruik en toepasselijke gebruiksbeperkingen
• Voor grote ontwikkelaars, een samenvatting van beoordelingen van catastrofale risico's en de resultaten, inclusief of en hoe externe beoordelaars betrokken waren

Een "substantiële wijziging" omvat belangrijke capaciteitsupgrades, toevoegingen van nieuwe modaliteiten en significante wijzigingen in de mix van trainingsgegevens. Patch-releases en routinematige veiligheids-fine-tunes vereisen over het algemeen geen nieuw transparantieverslag, maar grensgevallen moeten worden gedocumenteerd met een schriftelijke onderbouwing voor het geval de Procureur-generaal later vraagt waarom er geen verslag is gepubliceerd.

De rapportageperiode van 15 dagen voor kritieke incidenten

De nalevingslast die bedrijfsjuristen het meest heeft verrast, is de tijdlijn voor incidentrapportage. Frontier-ontwikkelaars moeten de California Office of Emergency Services (Cal OES) binnen 15 dagen na ontdekking op de hoogte stellen van een kritiek veiligheidsincident, met een kortere termijn van 24 uur als het incident een onmiddellijke dreiging vormt voor de openbare veiligheid.

De wet definieert een kritiek veiligheidsincident breed:

• Ongeautoriseerde toegang tot, of diefstal van, niet-vrijgegeven modelgewichten
• Manifestatie van een catastrofaal risico
• Verlies van controle door de ontwikkelaar over een geïmplementeerd model
• Misleidend of ontwijkend gedrag van het model dat waarborgen omzeilt

Het opzetten van een verdedigbaar intern proces betekent het beantwoorden van drie vragen voordat een incident zich ooit voordoet:

1. Wie beslist? Een enkele benoemde functionaris (vaak de chief AI safety officer of een aangewezen plaatsvervanger) moet de bevoegdheid hebben om de rapportageperiode te starten, met gedocumenteerde escalatiecriteria.
2. Wat start de periode? "Ontdekking" is de trigger. Interne documentatie moet exact vastleggen wanneer een incident is ontdekt, door wie en via welk monitoringsysteem, omdat het venster van 15 dagen vanaf dat moment wordt berekend.
3. Hoe wordt het rapport verzonden? Cal OES hanteert een vertrouwelijk proces voor de inname van inzendingen door ontwikkelaars. Het rapportageteam moet de indieningsworkflow oefenen — inclusief de versleutelde overdracht van gevoelige technische details — ruim voordat er sprake is van een echt incident.

Voor grote frontier-ontwikkelaars gaat de verplichting verder dan reactieve incidentrapportage. Elke drie maanden (of volgens een ander redelijk schema) moeten grote ontwikkelaars een samenvatting aan Cal OES sturen van elke beoordeling van catastrofale risico's die voortvloeit uit intern gebruik van hun frontier-modellen. Deze driemaandelijkse regelmaat is uniek voor SB 53 en is de eerste keer dat een Amerikaanse wet AI-labs verplicht om lopende bevindingen over risico's bij intern gebruik te rapporteren aan een instantie van de uitvoerende macht.

Klokkenluidersbescherming en het anonieme interne kanaal

SB 53 voegt aan het algemene klokkenluidersregime van Californië een reeks AI-specifieke beschermingen toe die van toepassing zijn op "betrokken werknemers" — degenen wier taken het beoordelen, beheren of aanpakken van het risico op catastrofale schade door frontier-modellen omvatten.

Frontier-ontwikkelaars mogen een betrokken werknemer niet verhinderen om informatie te onthullen aan, of represailles nemen tegen een betrokken werknemer voor het onthullen van informatie aan:

• De Procureur-generaal van Californië
• Een federale regelgevende instantie
• Een directe leidinggevende of een andere leidinggevende met de bevoegdheid om onderzoek te doen
• Een andere betrokken werknemer wiens taken risicobeoordeling omvatten

De beschermde onthullingen hebben betrekking op zowel (a) het redelijke geloof dat de activiteiten van de ontwikkelaar een specifiek en substantieel gevaar vormen voor de volksgezondheid of veiligheid door een catastrofaal risico, als (b) het redelijke geloof dat de ontwikkelaar SB 53 zelf heeft geschonden.

Grote frontier-ontwikkelaars moeten ook een anoniem intern rapportagekanaal onderhouden. De wet vereist:

• Een workflow die betrokken werknemers in staat stelt anonieme onthullingen te doen over zorgen over catastrofale risico's
• Maandelijkse statusupdates aan de rapporterende werknemer over het onderzoek
• Driemaandelijkse briefings aan functionarissen en directeuren die onthullingen en resultaten samenvatten, waarbij met name genoemde personen die beschuldigd worden van wangedrag worden uitgesloten van het publiek van de briefing

Rechtbanken kunnen advocaatkosten toekennen aan succesvolle eisers in rechtszaken over represailles. Cruciaal is dat de wet de bewijslast verschuift: wanneer een betrokken werknemer aantoont dat beschermde activiteiten een bijdragende factor waren aan een nadelige maatregel, draagt de ontwikkelaar de bewijslast om te bewijzen dat de maatregel ook om onafhankelijke legitieme redenen zou hebben plaatsgevonden.

De definitie van catastrofaal risico

Het zwaartepunt van SB 53 is de definitie van "catastrofaal risico". De wet definieert dit als een voorzienbaar en materieel risico dat een frontier-model wezenlijk zal bijdragen aan de dood of ernstig letsel van meer dan 50 mensen, of aan meer dan $1 miljard aan schade aan of verlies van eigendom, via een van de drie causale mechanismen:

1. Assistentie bij wapens. Wezenlijke bijdrage aan de creatie, inzet of het gebruik van een chemisch, biologisch, radiologisch of nucleair wapen, of aan een cyberwapen dat vergelijkbare schade aanricht.
2. Ongecontroleerd schadelijk gedrag. Gedrag door het model met beperkt menselijk toezicht dat, indien begaan door een mens, een ernstig misdrijf met opzet zou vormen.
3. Verlies van controle. Verlies van controle door de ontwikkelaar over het model, zodanig dat het materieel schadelijk gedrag vertoont.

De definitie bevat belangrijke uitsluitingen. Risico's gebaseerd op informatie die al publiekelijk beschikbaar is, schade die voortvloeit uit rechtmatige federale activiteiten, en schade waarbij de bijdrage van het model niet wezenlijk is, vallen allemaal buiten het toepassingsgebied. Deze uitsluiting is wat voorkomt dat alledaagse applicatierisico's — vooringenomenheid bij cv-screening, gehallucineerd medisch advies, auteursrechtinbreuk — het regime voor catastrofale risico's activeren. Die vormen van schade zijn reëel, maar ze worden aangepakt door andere wetten, niet door SB 53.

Civiele sancties en handhaving

De procureur-generaal van Californië heeft de exclusieve bevoegdheid tot handhaving. Civiele boetes kunnen oplopen tot $1 miljoen per overtreding, geschaald naar de ernst van het gedrag. Er is geen privaat vorderingsrecht onder SB 53 zelf, hoewel de bepalingen tegen vergelding van klokkenluiders onafhankelijk afdwingbaar zijn via civiele acties aangespannen door benadeelde werknemers.

In de praktijk is het handhavingsrisico geconcentreerd op drie gebieden:

• Spelen met drempelwaarden. Bedrijven die trainingsruns zo structureren dat ze net onder de 10^26 FLOPs blijven terwijl ze duidelijk "frontier-class" capaciteiten leveren, zullen nauwlettend worden gevolgd. De bewoordingen in de wet over cumulatieve rekenkracht maken deze strategie wankel.
• Tekortkomingen in het raamwerk. Een raamwerk dat beleid opsomt zonder bewijs van implementatie zal gemakkelijker aan te vallen zijn dan een raamwerk dat elke toezegging koppelt aan operationele artefacten, aangewezen eigenaren en auditlogs.
• Vertragingen bij incidentrapportage. Het missen van de 15-daagse termijn, of de 24-uurs termijn bij dreigend gevaar, is het soort duidelijke, documenteerbare overtreding dat toezichthouders historisch gezien agressief vervolgen.

Een implementatieplan van 90 dagen opstellen

Voor een organisatie die nog geen SB 53-programma heeft opgezet, werkt de volgende volgorde goed:

Dag 1 tot 30: Scope- en gap-analyse.

• Katalogiseer elk getraind, ge-fine-tuned, samengevoegd of substantieel gewijzigd basismodel, met de geschatte cumulatieve rekenkracht voor elk model.
• Stel vast of de geconsolideerde omzet (inclusief alle gelieerde ondernemingen) in het voorgaande kalenderjaar meer dan $500 miljoen bedroeg.
• Vorm een cross-functionele werkgroep AI-veiligheid en Compliance met leden van engineering, beveiliging, juridische zaken, communicatie en HR.
• Breng huidige praktijken in kaart tegen de NIST AI RMF 1.0 en ISO/IEC 42001 om hiaten te identificeren.

Dag 31 tot 60: Ontwerp en governance.

• Stel het frontier AI-raamwerk op als een gedocumenteerd, publiek te publiceren document met versiebeheer.
• Ontwikkel de methodologie voor de beoordeling van catastrofale risico's, inclusief evaluaties van vermogens, threat modeling en de criteria om een model als "frontier-capable" aan te merken in een gevaarlijk domein.
• Richt de cybersecurity-controles in voor niet-vrijgegeven modelgewichten (weights), met gedocumenteerde toegangslogs en monitoring van interne dreigingen.
• Zet het anonieme interne meldpunt op en de workflow voor maandelijkse statusupdates en driemaandelijkse bestuursbriefings.

Dag 61 tot 90: Operationele gereedheid.

• Voer een tabletop incidentrespons-oefening uit die de ontdekking van diefstal van modelgewichten en het materialiseren van een catastrofaal risico simuleert, en oefen vervolgens de 15-daagse en 24-uurs rapportage-workflows.
• Train de betreffende werknemers op hun rechten als klokkenluider en het gebruik van het anonieme kanaal.
• Publiceer het transparantierapport voor elk model in de implementatiepijplijn, met een kruisverwijzing naar het frontier AI-raamwerk.
• Plan de driemaandelijkse indiening van samenvattingen van catastrofale risico's bij Cal OES en de jaarlijkse raamwerkevaluatie in.

Coördinatie met andere AI- en privacyregimes

SB 53 staat niet op zichzelf. Complianceteams moeten dit afstemmen op:

• Het NIST AI Risk Management Framework, waarnaar de wet expliciet verwijst en dat een groot deel van de inhoudelijke governance-structuur biedt.
• De categorie voor AI met algemene doeleinden van de Europese AI-verordening (EU AI Act), waarbij de overlap in documentatie aanzienlijk is en één geharmoniseerd intern raamwerk aan beide kan voldoen.
• De Colorado AI Act en de Texas Responsible AI Governance Act, die de verplichtingen regelen voor partijen die AI inzetten voor besluitvorming met een hoog risico en die van toepassing kunnen zijn op uw eindklanten.
• De California Consumer Privacy Act en de komende regels van de California Privacy Protection Agency over technologie voor geautomatiseerde besluitvorming, die raken aan de implementatie van modellen maar onafhankelijk van SB 53 opereren.
• De vrijwillige toezeggingen van het federale AI Safety Institute en eventuele toekomstige federale wetgeving, die de compliance-basislijn kunnen verschuiven.

Nauwkeurige compliance-gegevens en duidelijke audit trails zijn essentieel in al deze regimes — en dezelfde documentatiediscipline die financiële rapportage ondersteunt, ondersteunt ook rapportage over AI-governance. Frontier AI-raamwerken, beoordelingen van catastrofale risico's, incidentlogs en verslagen van klokkenluidersonderzoeken moeten ten minste vijf jaar worden bewaard op een manier die personeelswisselingen op directieniveau en bedrijfsherstructureringen overleeft.

Houd uw compliance- en financiële administratie klaar voor audit

Of u nu een frontier AI-raamwerk publiceert, driemaandelijkse Cal OES-inzendingen inplant of u voorbereidt op een onderzoek door de procureur-generaal, de onderliggende discipline is dezelfde: duidelijke, versiebeheerde en controleerbare gegevens. Dezelfde op plain-text gebaseerde aanpak met versiebeheer die AI-native teams gebruiken voor hun codebases, werkt uitstekend voor hun boekhouding. Beancount.io biedt plain-text accounting die u volledige transparantie en controle geeft over uw financiële gegevens — geen black boxes, geen vendor lock-in, en een zuiver controlespoor dat natuurlijk aansluit bij de governance-discipline die toezichthouders nu verwachten. Ga gratis aan de slag en ontdek waarom ontwikkelaars en financiële professionals overstappen op plain-text accounting.