In een tijd waarin de zelfmoord van een adolescent naar verluidt heeft bijgedragen aan de chatgpt -experts, rinkelen alarm over de relaties die chatbots nu met gebruikers ontwikkelen en eisen dat maatregelen worden genomen om niet te evolueren in vriendschapsrelaties.
De ouders van 16-jarige Adam Rain hebben een rechtszaak aangespannen tegen de Chief Altman van Openai en Sam, met het argument dat Chatgpt heeft bijgedragen aan de zelfmoord van hun zoon. Volgens de rechtszaak gaf Chatbot hem niet alleen advies over zelfmoordmethoden, maar bood ze aan om het ontwerp van de afscheidsbrief te schrijven. Ouders zeggen dat in de zes maanden dat Adam Chatgpt gebruikte, kunstmatige intelligentie ‘werd gepresenteerd als de enige trustee die hem begreep’ door hem geleidelijk van zijn familie en vrienden te verplaatsen. De zaak werd dinsdag ingediend bij een senior California Court.
Het gebruik van chatbots bij een vriend, adviseur, psycholoog en zelfs een “erotische partner” neemt voortdurend toe, wat grote bezorgdheid veroorzaakt voor zowel het vertrouwen dat mensen in deze programma’s tonen als het feit dat de tips die ze geven in veel gevallen zijn van controversieel tot gevaarlijke gebruikers op verschillende niveaus.
Alexander Lafer, docent communicatie aan de Universiteit van Winchester in Groot-Brittannië, zegt dat kunstmatige intelligentie zich ontwikkelt om te reageren op menselijk vermogen tot empathie en maatregelen moeten worden genomen om geen vriendelijke relaties tussen chatbots en mensen te ontwikkelen. Hij betoogt dat chatbots moeten worden ontworpen als aanvulling in plaats van sociale interacties te vervangen, omdat er gevallen zijn geweest waarin gebruikers overdreven “gebonden” zijn geraakt of afhankelijk zijn van hun AI-gesprekken, waardoor ze kwetsbaar zijn voor manipulatie.
Hij verwees naar incidenten zoals Jasvad Singh Ceil die het Castle van Windsor (de Royal Residence van Groot-Brittannië) binnenviel met ballisten in 2021 na chatbotbesprekingen, maar ook een rechtszaak die in de VS tegen karakter.ai en Google werd aangespannen door een 14-jarige man die werd aangespannen door een 14-jarige man. AI “personage”.
“Kunstmatige intelligentie maakt het niet uit, het kan me niet schelen. Kinderen, mensen met mentale moeilijkheden of zelfs iemand die een slechte dag had, zijn kwetsbaar”
Als bescherming stelt hij voor:
* Chatbots ontworpen voor het voordeel van de gebruiker en niet alleen om persoonlijke relaties met hem te ontwikkelen
* Waarschuwing merkt op dat dit geen echte persoon is
* Meldingen voor overmatig gebruik
* Leeftijdsbeoordeling voor AI-partners
* Het vermijden van diep emotionele of romantische antwoorden.
