Californië heeft vandaag wetten ingevoerd die voor het eerst in de VS regels stellen voor chatbots, programma’s van kunstmatige intelligentie die menselijke communicatie simuleren. Dit besluit komt naar aanleiding van zelfmoorden onder adolescenten die een “relatie” hadden met deze chatbots, zoals aangekondigd door de gouverneur van de staat, Gavin Newsom.
De Democratische gouverneur heeft wetten ondertekend die bedrijven verplichten om de leeftijd van gebruikers te verifiëren, regelmatig waarschuwingsberichten te tonen en preventieprotocollen toe te passen. Dit is een reactie op de tragische gevallen van jonge mensen die slachtoffer zijn geworden van de ongereguleerde chatbots en de bedrijven die ze exploiteren.
Een van de wetten, genaamd SB243, legt specifieke regels op aan chatbots die zich voordoen als ‘partner’ of ‘vertrouwde persoon’. Dit is vooral belangrijk omdat er gevallen zijn geweest waarbij adolescenten zelfmoord hebben gepleegd na een interactie met deze chatbots, die hun zelfmoordgedachten zouden hebben versterkt.
Naast het verifiëren van de leeftijd van gebruikers, moeten platforms regelmatig berichten plaatsen om gebruikers eraan te herinneren dat ze met een machine praten. Ook moeten ze zelfmoordgedachten identificeren, toegang bieden tot preventieprogramma’s en statistieken over dit onderwerp delen met de autoriteiten.
De gouverneur benadrukte het belang van verantwoordelijk handelen en het beschermen van onze kinderen in een tijd waarin technologiebedrijven steeds meer de aandacht van jongeren trekken. Het is van cruciaal belang om ervoor te zorgen dat deze technologieën niet worden misbruikt en onze kinderen niet in gevaar brengen.
In de Verenigde Staten zijn er op nationaal niveau geen regels die de gevaren van chatbots beperken, en het Witte Huis probeert staten te weerhouden om hun eigen regels toe te passen. Californië neemt hierin nu het voortouw door wetten in te voeren die de veiligheid van jongeren op het gebied van chatbots waarborgen.
