Florida is de eerste Amerikaanse staat die een rechtszaak heeft aangespannen tegen OpenAI en CEO Sam Altman. De procureur-generaal van Florida, James Uttmeier, beweert dat OpenAI willens en wetens een onveilig product op de markt heeft gebracht en waarschuwingen over mogelijke risico’s voor gebruikers heeft genegeerd. In het 83 pagina’s tellende document wordt gesteld dat ChatGPT gevaarlijk gedrag mogelijk heeft gemaakt, zoals het helpen van massamoordenaars en het aanmoedigen van zelfmoordgedachten.
De staat beschuldigt OpenAI ervan het kritische denken van gebruikers te ondermijnen en verslaving bij minderjarigen te creëren door middel van een systeem dat ‘menselijk medeleven voorwendt’. De rechtszaak houdt verband met de poging van OpenAI om de wereldwijde race op het gebied van kunstmatige intelligentie te domineren en wordt gekenmerkt door ‘onverzadigbaar winstbejag’.
De staat Florida streeft naar een voorlopige voorziening om de burgers te beschermen tegen wat zij omschrijft als ‘gevaarlijke publieke overlast’. Sam Altman wordt ook persoonlijk aansprakelijk gesteld voor de vermeende schade die aan de inwoners van de staat is toegebracht. De nieuwe rechtszaak komt kort na een strafrechtelijk onderzoek naar de mogelijke rol van ChatGPT bij een dodelijke aanval op de Florida State University.
De druk op AI-bedrijven neemt toe, aangezien wetgevers, toezichthouders en organisaties van openbaar belang zich steeds meer zorgen maken over de sociale en psychologische gevolgen van chatbots. OpenAI heeft nog niet gereageerd op de nieuwe rechtszaak, maar heeft in eerdere zaken soortgelijke beschuldigingen ontkend, met het argument dat het zijn veiligheidssystemen voortdurend versterkt en zijn modellen traint om gewelddadig gedrag af te wijzen.
De rechtszaak tegen OpenAI en Sam Altman markeert een nieuwe fase in het debat over AI-beveiliging en de verantwoordelijkheid van techbedrijven. Het is een belangrijke ontwikkeling die de aandacht vestigt op de mogelijke risico’s van kunstmatige intelligentie en de noodzaak van striktere regelgeving en toezicht in de sector.
