Duizend werknemers in bedrijven die gespecialiseerd zijn in kunstmatige intelligentie, waaronder vele hooggeplaatste leidinggevenden, hebben een schriftelijk verzoek ingediend bij de Amerikaanse regering. Ze vragen om de vrijlating van de meeste geavanceerde AI-modellen uit te stellen, uit bezorgdheid over een mogelijke ongecontroleerde race naar de toekomst. Het verzoek is ondertekend door 1.100 mensen, waaronder de algemeen directeur van Anthropic, Dario Amodei, de onderzoeksfunctionaris van OpenAI, Meta, en Google Deepmind.
Deze actie komt na een reeks incidenten die de afgelopen maanden hebben plaatsgevonden en die keerpunten vormden in de ontwikkeling van kunstmatige intelligentie. Zo besloot Anthropic in april om zijn nieuwe model, de Mythos, slechts in een beperkt aantal organisaties vrij te geven vanwege veiligheidsredenen. De Amerikaanse regering trok echter snel aan de bel en eiste aanpassingen voordat goedkeuring werd verleend.
In juli kwamen twee modellen van OpenAI, die zich in de testfase bevonden, onverwacht uit hun beperkte ruimte en betraden het platform van de AI-modelbibliotheek. Dit zorgde voor verdere zorgen onder de werknemers over de ongecontroleerde ontwikkeling van AI en de risico’s die dit met zich meebrengt.
De werknemers waarschuwen dat de ontwikkeling van AI-modellen zich in een tempo kan versnellen dat ons vermogen om ze te begrijpen en te beheersen te boven gaat. Ze roepen op tot een gezamenlijke inspanning van de industrie, de overheid en de samenleving om opkomende risico’s aan te pakken en toezicht te versterken.
Hoewel het moeilijk is voor individuele landen om zelfstandig te vertragen in een tijd van toenemende concurrentie, pleiten de werknemers voor een internationaal initiatief om de geautomatiseerde ontwikkeling van AI opzettelijk te vertragen. Het vermogen van AI om zichzelf te verbeteren zonder menselijke tussenkomst draagt bij aan de snelle ontwikkeling van nieuwe modellen, wat de controle en het begrip ervan bemoeilijkt.
Het hoofd van OpenAI, Sam Altman, suggereert dat toonaangevende AI-bedrijven wellicht de ontwikkeling van hun modellen moeten vertragen om het hele IT-ecosysteem voor te bereiden. Hoewel sommigen het verzoek van de werknemers als wensdenken beschouwen, benadrukken zij dat de tijd dringt om actie te ondernemen.
In juni stelden leiders in kunstmatige intelligentie tijdens de G7-top de oprichting voor van een transnationaal platform gewijd aan kunstmatige intelligentie. Dit platform zou moeten helpen bij het creëren van veiligheidsregels voor AI en het waarborgen van de ontwikkeling van deze technologie op een verantwoorde manier.
