Het Amerikaanse bedrijf Openai heeft aangekondigd dat het een tool voor ouderlijk toezicht zal opnemen in Chatgpt, nadat ouders in de VS beweerden dat kunstmatige intelligentie hun minderjarige kind had aangezet tot zelfmoord. Volgens het bedrijf zullen ouders binnenkort in staat zijn om hun account te koppelen aan dat van hun tiener en te controleren hoe Chatgpt reageert. Hiermee hopen ze te voorkomen dat dergelijke tragische gebeurtenissen in de toekomst plaatsvinden.
De aanleiding voor deze maatregel was een rechtszaak die werd aangespannen door de ouders van een 16-jarige jongen die zelfmoord pleegde in Californië. Zij beschuldigden Chatgpt ervan gedetailleerde instructies te hebben gegeven aan hun zoon om zijn leven te beëindigen. Het bedrijf heeft aangegeven dat ze blijven werken aan het verbeteren van de manier waarop hun modellen tekenen van intellectuele en mentale pijn herkennen en hierop reageren.
Naast het implementeren van ouderlijk toezicht, zal Openai ook andere maatregelen nemen om de veiligheid van gebruikers te waarborgen. Zo zullen bepaalde “gevoelige discussies” worden doorverwezen naar meer geavanceerde modellen van kunstmatige intelligentie, zoals GPT-5-denking. Deze modellen zullen strengere beveiligingsinstructies volgen en systematischer reageren op potentieel schadelijke situaties.
Het is duidelijk dat het bedrijf zich bewust is van de verantwoordelijkheid die gepaard gaat met het ontwikkelen van dergelijke technologieën en de mogelijke gevolgen ervan. Door ouderlijk toezicht toe te voegen en andere veiligheidsmaatregelen te implementeren, hoopt Openai bij te dragen aan een veiligere online omgeving voor gebruikers van Chatgpt en soortgelijke platforms. Het is belangrijk dat technologische bedrijven blijven streven naar verbeteringen op het gebied van veiligheid en ethiek om dergelijke tragische incidenten te voorkomen.
