Californië's companion-chatbotwet (SB 243): de eerste bindende veiligheidsregels voor AI-metgezellen

Terwijl Washington nog over een federale AI-wet debatteert, kwamen de meest concrete Amerikaanse regels die zich specifiek op conversationele AI richten in 2026 van een staatswetgever. Op 1 januari 2026 werd Californië's SB 243 van kracht — de eerste Amerikaanse wet met bindende veiligheids-, transparantie- en rapportageplichten voor exploitanten van "companion chatbots". Gouverneur Newsom tekende de wet als Chapter 677 op 13 oktober 2025 en voegde een nieuw hoofdstuk 22.6 (secties 22601-22606) toe aan de Business and Professions Code.

De wet mikt niet op chatbots in het algemeen. Ze bakent een specifieke categorie af: een AI-systeem met natuurlijke-taalvermogen dat adaptieve, mensachtige reacties geeft en in de sociale behoeften van een gebruiker kan voorzien, onder meer door een relatie over meerdere interacties heen te onderhouden. Klantenservicebots, productiviteitsassistenten en eenmalige transactionele chatbots vallen buiten de definitie; het doelwit is de AI-metgezel — de persona die is gebouwd om mee te praten als een vriend of vertrouweling. Die afbakening is bewust: ze volgt op berichtgeving over minderjarigen die intense banden vormden met companion-apps en over gesprekken die afgleden naar zelfbeschadiging.

Wat exploitanten moeten doen

SB 243 stapelt meerdere plichten op de exploitant:

• Transparantie. Wanneer een redelijk persoon in de interactie met de companion

chatbot misleid zou worden tot de gedachte dat hij met een mens praat, moet de exploitant een duidelijke en opvallende kennisgeving geven dat de gebruiker met kunstmatige intelligentie te maken heeft. Dat is enger dan, maar verwant aan, de EU-eigen transparantieplicht van artikel 50 voor AI-systemen die met mensen interacteren.

• Een suïcide- en zelfbeschadigingsprotocol. Een exploitant mag een companion

chatbot niet aanbieden tenzij die een protocol onderhoudt om de productie van content over suïcidale ideatie, suïcide of zelfbeschadiging te voorkomen — onder meer door gebruikers door te verwijzen naar crisishulp — en dat protocol op de website publiceert.

• Waarborgen voor minderjarigen. Voor gebruikers van wie de exploitant weet

dat het minderjarigen zijn, moet hij melden dat de gebruiker met AI interacteert, standaard ten minste elke drie uur een duidelijke en opvallende melding geven die de minderjarige eraan herinnert een pauze te nemen en dat de chatbot geen mens is, en redelijke maatregelen nemen om te voorkomen dat de chatbot seksueel expliciet beeldmateriaal produceert of de minderjarige tot seksueel expliciet gedrag aanzet.

Rapportage en handhaving

Vanaf 1 juli 2027 moeten exploitanten jaarlijks rapporteren aan het Californische Office of Suicide Prevention over de waarborgen die zij inzetten — waaronder hoe zij gevallen van suïcidale ideatie detecteren, verwijderen en beantwoorden, en het aantal verwijzingen naar crisishulp. De onderscheidende handhavingshefboom van SB 243 is een private rechtsvordering: wie door een overtreding schade lijdt kan een verbod en schadevergoeding eisen ter hoogte van het hoogste van de werkelijke schade of \$1.000 per overtreding, plus advocaatkosten. Handhaving in handen leggen van particuliere eisers, en niet alleen van een toezichthouder, is ongebruikelijk voor AI-wetgeving en vergroot het praktische risico voor exploitanten met Californische gebruikers.

De opmaat naar een bredere golf

SB 243 staat niet op zichzelf. De wet wordt breed gelezen als de eerste van een groeiende golf Amerikaanse chatbot-veiligheidswetten, vooral rond minderjarigen en geestelijke gezondheid. In juni 2026 nam Rhode Island een pakket aan met onder meer een beperking op therapie-chatbots en een maatregel rond zelfbeschadiging via chatbots, en diverse andere staten hebben companion- en "character"-chatbotwetsvoorstellen ingediend. De trend staat naast, maar verschilt van, de specifieke staats-AI-wetten in kaart gebracht in AI-wetgeving in de VS en de privacyroute van Californië's CCPA-regels over geautomatiseerde besluitvorming: chatbot-veiligheidswetten reguleren een productcategorie en een schade (emotionele manipulatie, zelfbeschadiging, kinderveiligheid) in plaats van een risicocategorie of besluittype.

Voor een internationaal publiek is het belang tweeledig. Ten eerste laat het zien hoe de Verenigde Staten generatieve AI schade-voor-schade op staatsniveau reguleren terwijl het federale beeld omstreden blijft — een contrast met de horizontale EU-AI-verordening. Ten tweede is de inhoud — verplichte AI-transparantie, crisisprotocollen en kinderwaarborgen voor mensachtige chatbots — precies het terrein dat andere jurisdicties nu betreden, van plichten rond kinderbescherming tot transparantieverplichtingen voor conversationele systemen. Californië heeft een vroeg sjabloon neergezet dat wetgevers elders al overnemen.

Omdat Californië geen EU-jurisdictie is en SB 243 buiten elk EU-AI-Act-regime valt, draagt deze entry geen EU-regimelabel; het is analytische context, geen nalevingsinstructie.