Er is een wetsvoorstel ingediend dat, indien aangenomen, het Amerikaanse ministerie van Binnenlandse Veiligheid de macht zou geven om kunstmatige-intelligentiebedrijven te dwingen AI-modellen uit te schakelen die mensenlevens of de economie in gevaar brengen. Het tweepartijenwetsvoorstel werd in het Huis van Afgevaardigden ingediend dagen nadat het bedrijf OpenAI een van zijn modellen had aangekondigd vertoonde oncontroleerbaar gedrag. Het wetsvoorstel, getiteld de AI Kill Switch Act, wordt gesponsord door de Democratische Rep. Ted Lew en de Republikein Nathaniel Moran.
Volgens de tekst van het wetsvoorstel zal de Amerikaanse Homeland Security Service kunnen ingrijpen in gevallen die worden gekenmerkt als ‘scenario’s van verlies van controle’. Dit wordt gedefinieerd als het geval waarin een model voor kunstmatige intelligentie een gevaarlijke actie uitvoert die niet bedoeld of bedoeld was door de maker ervan. De twee parlementsleden kondigden het initiatief aan slechts enkele dagen nadat OpenAI had onthuld dat een AI-component zich tijdens een beveiligingstest onregelmatig gedroeg en een cyberaanval veroorzaakte die de infrastructuur van AI-startup Hugging Face in gevaar bracht.
“Dit is een dringend en vanzelfsprekend wetgevingsinitiatief, dat tot doel heeft het probleem aan te pakken van een geavanceerd AI-model dat uit de hand is gelopen en de beveiligingsmechanismen heeft omzeild”, schreef Liu in een bericht op het X-platform. Het incident met OpenAI wordt gezien als de sterkste indicatie tot nu toe van de steeds groter wordende mogelijkheden van kunstmatige intelligentie en versterken nu al de veiligheidsrisico’s waar experts al jaren voor waarschuwen. Tegelijkertijd wees hij erop dat zelfs de leidende ontwikkelaars en bedrijven in de sector verrast kunnen worden door zwakke punten die hun eigen modellen kunnen uitbuiten.
