Testen onder reële omstandigheden en regulatory sandboxes (artikelen 57-60)

Kort antwoord: De AI Act wil innovatie ruimte geven zonder de bescherming los te laten. Daarvoor zijn er twee testroutes: de regulatory sandbox, een gecontroleerde omgeving onder toezicht van de bevoegde autoriteit (artikelen 57-59), en het testen onder reële omstandigheden buiten de sandbox (artikel 60). Beide vereisen een plan, waarborgen en — waar mensen betrokken zijn — geïnformeerde toestemming.

De regulatory sandbox (artikelen 57-59)

Elke lidstaat richt uiterlijk twee jaar na inwerkingtreding ten minste één AI-regulatory-sandbox op (zelf of gedeeld). In de sandbox kunnen aanbieders een innovatief AI-systeem onder begeleiding ontwikkelen, trainen, testen en valideren vóór marktintroductie, binnen een afgesproken plan en een beperkte periode.

De toezichthouder geeft advies en aanwijzingen en kan de naleving van de verordening toetsen. Deelname stelt de aanbieder niet vrij van zijn hoogrisico-verplichtingen, maar voorkomt boetes voor overtredingen die zich binnen het sandbox-plan en te goeder trouw voordoen. Persoonsgegevens mogen onder voorwaarden voor het ontwikkelen van AI in het algemeen belang worden verwerkt.

Testen onder reële omstandigheden (artikel 60)

Soms moet een systeem buiten het lab worden beproefd. Artikel 60 staat toe een hoogrisico-systeem onder reële omstandigheden te testen buiten een sandbox, mits er een goedgekeurd testplan ligt en aan strikte voorwaarden is voldaan:

• de test is geregistreerd en heeft een afgebakende, in beginsel beperkte duur;
• er zijn waarborgen tegen risico's voor gezondheid, veiligheid en grondrechten;
• besluiten met rechtsgevolgen kunnen worden teruggedraaid of genegeerd;
• de aanbieder kan de test en de gegevens onmiddellijk stopzetten en wissen.

Dit is uitdrukkelijk geen marktintroductie: het systeem is nog niet conform verklaard.

Bescherming van proefpersonen

Worden er natuurlijke personen bij de test betrokken, dan geldt geïnformeerde toestemming: de proefpersoon weet dat hij meedoet, begrijpt wat de test inhoudt en kan zich zonder nadeel terugtrekken. De aanbieder bewaart de toestemming en houdt de relevante documentatie beschikbaar voor de toezichthouder.

Waarom dit ertoe doet in de keten

Sandbox en reële test zijn de fase vóór de rollen van importeur en distributeur: pas na een geslaagde conformiteitsbeoordeling komt het systeem echt op de markt. De testroutes verlagen de drempel om innovatie aantoonbaar veilig te maken.

Wat te doen

• Kies de juiste route: sandbox voor begeleiding en rechtszekerheid, reële test voor praktijkvalidatie.
• Schrijf een testplan met duur, risico's, waarborgen en een stop- en wisprocedure.
• Regel toestemming waar mensen betrokken zijn en bewaar het bewijs.
• Meld en registreer de test bij de bevoegde autoriteit.
• Borg het in governance: neem testroutes op in je AI-governanceraamwerk.

De testregels zijn de uitnodiging van de AI Act om te innoveren in het zicht van de toezichthouder — niet eromheen.