De ontwikkeling van nieuwe kunstmatige-intelligentietechnologieën verloopt in een ongecontroleerd tempo, wat heeft geleid tot negatieve effecten en zorgen over de mogelijke gevolgen voor de mensheid. In reactie hierop hebben honderden experts en persoonlijkheden uit verschillende vakgebieden opgeroepen tot een stopzetting van de werkzaamheden gericht op de ontwikkeling van kunstmatige superintelligentie.
De opkomst van ChatGPT, een AI-technologie die drie jaar geleden een oerknal veroorzaakte in de wereld van kunstmatige intelligentie, heeft geleid tot een razendsnelle ontwikkeling van nieuwe technologieën die de menselijke capaciteiten kunnen overtreffen. Deze snelle ontwikkelingen zijn niet bij te houden door zowel de particuliere sector als overheidsstructuren en -waarborgen.
Meer dan 700 wetenschappers, politici, zakenlieden, beroemdheden en mediafiguren, waaronder Steve Bannon en Glenn Beck, hebben opgeroepen tot een tijdelijke stopzetting van de ontwikkeling van superintelligentie. Ze benadrukken het belang van wetenschappelijke consensus en publieke steun voordat dergelijke technologieën verder worden ontwikkeld.
Onder de ondertekenaars bevinden zich vooraanstaande wetenschappers op het gebied van kunstmatige intelligentie, zoals Geoffrey Hinton, Nobelprijswinnaar Stuart Russell en Yoshua Benzio. Ook figuren uit de technologie-industrie, politiek, religie en entertainment hebben zich aangesloten bij de oproep tot voorzichtigheid in de ontwikkeling van superintelligentie.
De steun van figuren als Bannon weerspiegelt een groeiende bezorgdheid over kunstmatige intelligentie onder populistisch rechts, vooral nu Silicon Valley een belangrijke rol speelt in de Amerikaanse politiek. De meeste grote spelers op het gebied van AI streven naar de ontwikkeling van kunstmatige algemene intelligentie en superintelligentie, wat de zorgen over de mogelijke gevolgen voor de mensheid verder aanwakkert.
De roep om een tijdelijke pauze in de ontwikkeling van superintelligentie is niet nieuw. Eerder hebben onderzoekers en leidinggevenden in de AI-sector opgeroepen tot internationale overeenkomsten om catastrofale gevolgen te voorkomen. Het is duidelijk dat er een groeiende consensus is onder experts en persoonlijkheden uit verschillende vakgebieden dat voorzichtigheid geboden is bij de ontwikkeling van kunstmatige superintelligentie.
