De Californische frontier-AI-wet (SB 53): de eerste Amerikaanse transparantiewet voor de grootste modellen

Terwijl Washington nog debatteert óf AI gereguleerd moet worden, heeft de staat die de meeste frontier-laboratoria ter wereld huisvest het al gedaan. Californië's Transparency in Frontier Artificial Intelligence Act (SB 53), ondertekend op 29 september 2025 als Chapter 138 van de Statutes of 2025, geldt sinds 1 januari 2026. Het is de eerste Amerikaanse wet die specifiek is geschreven voor de bedrijven die de krachtigste modellen trainen — en omdat die bedrijven de systemen leveren die in Europa en de rest van de wereld worden gebruikt, is dit geen ontwikkeling die organisaties buiten de Verenigde Staten als puur binnenlands kunnen wegzetten.

Wie de wet raakt

SB 53 reguleert AI niet in het algemeen. De wet richt zich op een smalle laag, afgebakend door pure trainingsrekenkracht. Een frontier-model is een foundationmodel getraind met meer dan 10²⁶ integer- of zwevendekommabewerkingen — inclusief fine-tuning, reinforcement learning en andere wezenlijke aanpassingen. Een frontier-ontwikkelaar is wie zo'n model heeft getraind of de training ervan heeft gestart. De zwaarste plichten rusten op de large frontier developer: een frontier-ontwikkelaar met een jaaromzet (inclusief gelieerde ondernemingen) van meer dan 500 miljoen dollar in het voorgaande kalenderjaar.

De drempel van 10²⁶ ligt een orde van grootte boven de 10²⁵ FLOP-lijn die de EU trekt voor AI-modellen voor algemene doeleinden met systeemrisico: beide jurisdicties mikken op de allergrootste modellen, maar California's net is het smallere van de twee. Wat telt is de gedeelde logica — een trainingsdrempel in rekenkracht als trigger voor de zwaarste verplichtingen — ook waar de exacte getallen verschillen.

Wat de wet eist: kader, rapport, incident

De wet rust op drie openbaarmakingsplichten.

Ten eerste een frontier-AI-kader. Large frontier developers moeten een schriftelijk kader publiceren en actueel houden waarin staat hoe zij catastrofaal risico onderkennen, beoordelen en mitigeren — inclusief hoe zij nationale en internationale normen verwerken, welke drempels zij voor risico hanteren, hun beoordelingsproces vóór uitrol, beoordelingen door derden, cyberbeveiliging, governance en de risico's van hun eigen interne gebruik van het model.

Ten tweede een transparantierapport vóór uitrol. Voordat zij een nieuw of wezenlijk gewijzigd frontier-model uitbrengen, moeten ontwikkelaars een rapport publiceren met het model, de uitbrengdatum, ondersteunde talen en uitvoermodaliteiten, beoogde toepassingen en beperkingen. Large developers voegen samenvattingen toe van de uitgevoerde catastrofaal-risicobeoordelingen en de uitkomsten.

Ten derde melding van ernstige veiligheidsincidenten. Ontwikkelaars moeten kritieke veiligheidsincidenten binnen 15 dagen na ontdekking melden aan het Californische Office of Emergency Services — of binnen 24 uur wanneer het incident een dreigend risico op overlijden of ernstig lichamelijk letsel met zich brengt.

Wat "catastrofaal risico" betekent

Het zwaartepunt van de wet ligt in de definitie van catastrofaal risico: een voorzienbaar en wezenlijk risico dat het frontier-model van een ontwikkelaar wezenlijk bijdraagt aan de dood van of ernstig letsel bij meer dan 50 personen, of aan meer dan één miljard dollar schade aan eigendom, voortvloeiend uit één incident. De kwalificerende schades zijn smal en specifiek — een model dat expertniveau-hulp biedt bij het maken van een chemisch, biologisch, radiologisch of nucleair wapen; dat zonder betekenisvol menselijk toezicht handelt op een wijze die een cyberaanval is of, als een mens het had gedaan, moord, mishandeling, afpersing of diefstal zou zijn; of dat ontsnapt aan de controle van zijn ontwikkelaar of gebruiker.

Dit is een ander reguleringsobject dan dat van Colorado en Texas. De staatswetten van Colorado en Texas gaan over alledaagse algoritmische beslissingen — werving, krediet, deepfakes, manipulatie. SB 53 reikt voorbij gewone schade naar de staartrisico's van de krachtigste systemen, hetzelfde register als de systeemrisicolaag van de AI Act.

Klokkenluiders en handhaving

SB 53 verbiedt frontier-ontwikkelaars te beletten dat betrokken werknemers — wie verantwoordelijk is voor het beoordelen of beheersen van catastrofaal risico — informatie over zulk risico of over overtredingen van de wet delen met de Attorney General, toezichthouders of interne auditors. Large developers moeten bovendien een redelijk, anoniem intern kanaal bieden om zorgen te uiten. Handhaving ligt bij de Californische Attorney General, die civiele boetes tot één miljoen dollar per overtreding kan vorderen. Daarnaast draagt de wet een consortium op CalCompute te ontwerpen, een publieke cloudrekencluster binnen de University of California, met een kader dat vóór 1 januari 2027 gereed moet zijn.

De federale schaduw over de wet

SB 53 treedt in werking op precies het moment dat de federale overheid wetten als deze wil indammen. Op 20 maart 2026 publiceerde het Witte Huis A National Policy Framework for Artificial Intelligence, een set wetgevingsaanbevelingen aan het Congres. De zevende en laatste sectie roept het Congres op om staats-AI-wetten die onnodige lasten opleggen te preempten ten gunste van één "minimaal belastende" nationale standaard, en stelt onomwonden dat "states should not be permitted to regulate AI development". Het kader is geen wet — het bindt niemand en schept geen verplichting — maar het zet de federale koers, en een transparantieplicht voor frontier-ontwikkelaars uitgevaardigd door één staat is precies het soort maatregel waarop het mikt. Voorlopig geldt SB 53 onverkort; of de wet een toekomstige federale wet overleeft, is de open vraag.

Waarom dit buiten Californië telt

De praktische lezing voor een Europese of andere niet-Amerikaanse organisatie is tweeledig. De frontier-laboratoria waarvan de meeste AI-uitrol uiteindelijk afhangt, maken nu openbaar — publiek — de veiligheidskaders en incidentgeschiedenis van hun grootste modellen bekend; een transparantiebodem die een jaar geleden niet bestond en die rechtstreeks doorwerkt in leveranciersonderzoek. En het gedeelde gebruik van een trainingsdrempel in rekenkracht — zij het op verschillende niveaus — naast het EU-regime voor GPAI bevestigt het patroon uit onze analyse van internationale AI-governance: op de vraag van de krachtigste modellen verenigen jurisdicties zich op een gedeelde maatstaf, ook al loopt de rest van hun AI-recht uiteen.