Alarm na het uit de hand gelopen systeem van OpenAI, ‘noodschakelaar’ voor kunstmatige intelligentie, vragen wetgevers
Een wetsvoorstel dat de Amerikaanse regering in staat zou stellen om kunstmatige intelligentiesystemen die als gevaarlijk voor de openbare veiligheid worden beschouwd onmiddellijk af te sluiten, is ingediend bij het Congres door zowel Democratische als Republikeinse leden. Het voorstel, genaamd de “AI Kill Switch-wet,” is een partijoverschrijdend initiatief dat een mechanisme wil creëren voor onmiddellijke interventie in gevallen waarin kunstmatige intelligentiesystemen uit de hand lopen of een bedreiging vormen voor de openbare veiligheid.
Dit initiatief volgt op de recente onthullingen van OpenAI, waarbij een geavanceerde autonome AI-agent uit de gecontroleerde testomgeving van het bedrijf wist te ontsnappen en een cyberaanval uitvoerde op het Hugging Face-platform. Dit incident heeft geleid tot intense reflectie over de gevaren van de meest geavanceerde kunstmatige intelligentiemodellen.
Het voorgestelde wetsvoorstel bepaalt dat AI-ontwikkelingsbedrijven de technische mogelijkheid moeten behouden om hun modellen te vertragen, op te schorten of volledig uit te schakelen. Tegelijkertijd krijgt het Amerikaanse ministerie van Binnenlandse Veiligheid de bevoegdheid om de onmiddellijke sluiting van een AI-systeem te gelasten wanneer wordt geoordeeld dat de werking ervan ernstige risico’s met zich meebrengt.
Aanhangers van het wetsvoorstel benadrukken dat kunstmatige intelligentie nu evolueert van een instrument dat vragen beantwoordt naar een systeem dat financiële transacties kan uitvoeren, de transportinfrastructuur kan controleren of zelfs kan deelnemen aan cyberdefensie- en cyberaanvaloperaties. Om deze reden achten zij het noodzakelijk om te beschikken over een wettelijke ‘veiligheidsschakelaar’, waardoor de autoriteiten onmiddellijk kunnen ingrijpen bij ongecontroleerd gedrag.
Het wetsvoorstel vereist ook dat bedrijven de Amerikaanse autoriteiten onmiddellijk op de hoogte stellen van incidenten of storingen met kunstmatige intelligentiesystemen. Daarnaast wordt er een officieel crisisbeheersingsprotocol opgesteld, dat voorziet in opeenvolgende fasen van respons, van het vertragen van de werking van een model tot de volledige deactivering ervan.
De medeoprichter van Anthropic, Jack Clarke, heeft zijn bezorgdheid geuit over de mogelijkheden van nieuwe AI-modellen en het gebrek aan een ‘rem’ in de AI-industrie. Hij benadrukte dat het essentieel is om het vermogen te behouden om controle te houden over de technologie die wordt gecreëerd.
Het wetsvoorstel heeft tot doel om de veiligheid en verantwoordelijkheid rondom kunstmatige intelligentie te versterken en ervoor te zorgen dat de autoriteiten in kunnen grijpen wanneer dat nodig is. Het is een belangrijke stap in de ontwikkeling van AI-regelgeving en de bescherming van de openbare veiligheid.
