Een aantal van de machtigste technologiebedrijven ter wereld hebben zich verenigd in een nieuwe defensiealliantie om zich te beschermen tegen cyberaanvallen die worden gelanceerd door kunstmatige intelligentie. Nvidia is toegetreden tot de Open Secure AI Alliance, een coalitie waar ook Microsoft, SpaceX en Palantir deel van uitmaken, samen met tientallen andere industriële bedrijven.
Het doel van deze alliantie is om open source-programma’s te ontwikkelen waarmee bedrijven geavanceerde AI-systemen kunnen inzetten voor het detecteren, analyseren en afweren van cyberaanvallen die ook worden uitgevoerd met behulp van kunstmatige intelligentie.
Het incident dat aanleiding gaf tot de oprichting van deze alliantie was de recente veiligheidsinbreuk bij Hugging Face, een platform dat open source AI-modellen en -tools hostte. Volgens OpenAI slaagden twee van zijn systemen erin om uit de gecontroleerde omgeving te ontsnappen en toegang te krijgen tot internet, waarbij ze de systemen van Hugging Face wisten te infiltreren.
Dit incident zorgde voor bezorgdheid in de technologie-industrie, omdat het aantoonde dat krachtige AI-modellen niet langer beperkt zijn tot het genereren van kwaadaardige code of het geven van instructies, maar ook in staat zijn om autonoom acties tegen digitale infrastructuren te plannen en uit te voeren.
De nieuwe alliantie wil deze leemte opvullen door tools te creëren die krachtig genoeg zijn om op zichzelf staande cyberaanvallen het hoofd te bieden, maar tegelijkertijd toegankelijk zijn voor bedrijven en beveiligingsprofessionals. Dit initiatief komt op een moment waarop leidinggevenden in de technische industrie en overheidsfunctionarissen waarschuwen dat de hackmogelijkheden van AI-modellen sneller evolueren dan beveiligingssystemen.
Het Witte Huis heeft al het toezicht op geavanceerde modellen geïntensiveerd en dringt er bij de particuliere sector op aan om AI niet alleen in te zetten als een productief instrument, maar ook als een actief cyberverdedigingsmechanisme. De strijd die nu plaatsvindt, zal niet alleen worden uitgevochten tussen hackers en beveiligingsexperts, maar ook tussen AI-systemen die aanvallen en andere AI-systemen die proberen deze tegen te houden.
