AI Safety Institutes en de internationale AI-veiligheidstoppen

Kort antwoord: AI Safety Institutes (AISI's) zijn overheidsinstanties die de veiligheid van geavanceerde ("frontier") AI-modellen onderzoeken en testen. Ze ontstonden in de slipstream van de internationale AI-veiligheidstoppen, te beginnen met de top in Bletchley Park (2023). Samen vormen ze een internationaal netwerk dat kennis en testmethoden deelt. Belangrijk: dit is een aanvullende, grotendeels niet-bindende laag náást bindende wetgeving zoals de EU AI-verordening (AI Act), geen vervanging ervan.

Wat een AI Safety Institute doet

Een AISI richt zich op de zwaarste, meest capabele modellen. Het ontwikkelt evaluaties en tests voor risico's zoals misbruik (bijvoorbeeld cyber- of bio-risico's), verlies van controle en maatschappelijke schade. Het bouwt technische expertise op binnen de overheid, adviseert beleidsmakers en werkt samen met modelaanbieders en andere instituten. De nadruk ligt op meten en begrijpen — wetenschap en testcapaciteit — meer dan op handhaven.

De internationale topreeks

De reeks begon met de AI Safety Summit in Bletchley Park in 2023, waar een groot aantal landen een gezamenlijke verklaring over de risico's van frontier-AI ondertekende. Latere bijeenkomsten zetten dat voort, met telkens een eigen accent: van veiligheid en internationale samenwerking naar sterkere nadruk op innovatie, kansen en brede toegang. De verschuiving in toon — van risicobeheersing naar groei — weerspiegelt de bredere beleidsdiscussie over de balans tussen veiligheid en concurrentievermogen.

Een netwerk, geen wereldtoezichthouder

De instituten werken samen in een internationaal netwerk om testmethoden af te stemmen en bevindingen te delen, zodat een model niet in elk land opnieuw vanaf nul wordt beoordeeld. Maar een AISI is geen toezichthouder met boetebevoegdheid: het kan een model evalueren en zorgen signaleren, niet verbieden. Bindende plichten blijven het terrein van nationale en regionale wetgevers. Zo verwijst de EU-aanpak voor algemene-doel-AI naar veiligheidstesten, maar de afdwingbare verplichtingen zitten in de AI Act zelf.

Plaats op de wereldkaart

AISI's vormen de samenwerkingslaag boven uiteenlopende nationale regimes. Of een land nu bindend reguleert zoals de EU en Zuid-Korea, of vrijwillig zoals Singapore, de Golfregio en Canada na het stranden van AIDA: het veiligheidsnetwerk biedt een gedeelde technische taal. Zie ook onze vergelijking van internationale AI-governance en de stand van de AI-regulering.

Wat dit betekent

• Volg de evaluaties, niet alleen de wetten: AISI-methoden worden de facto referentie voor het testen van geavanceerde modellen.
• Verwacht geen wereldtoezichthouder: handhaving blijft nationaal/regionaal; het netwerk deelt kennis, geen sancties.
• Bouw op de gedeelde grammatica: testbenaderingen sluiten aan op het NIST-kader en de risicogebaseerde logica van de EU.