De CEO van OpenAI, Sam Altman, heeft toegegeven dat het bedrijf geen controle heeft over hoe het Pentagon zijn kunstmatige intelligentieproducten gebruikt bij militaire operaties. Dit nieuws komt op een moment dat er steeds meer kritiek is op het gebruik van kunstmatige intelligentie in oorlogsvoering en dat AI-werknemers ethische zorgen uiten over het gebruik van hun technologie.
Altman vertelde zijn werknemers dat ze niet het recht hebben om operationele beslissingen te nemen, zoals bijvoorbeeld het goedkeuren van aanvallen op Iran of het binnenvallen van Venezuela. Hij benadrukte dat het bedrijf geen controle heeft over hoe het Pentagon hun technologie inzet.
De kunstmatige intelligentie-industrie is de afgelopen weken het onderwerp geweest van verhitte debatten en onderhandelingen, omdat het Pentagon eist dat AI-bedrijven bepaalde beveiligingsbeperkingen uit hun modellen verwijderen om ze breder in militaire toepassingen te kunnen gebruiken. Op AI gebaseerde systemen worden al gebruikt bij operaties van het Amerikaanse leger, zoals het gevangennemen van de Venezolaanse leider Nicolas Maduro en het nemen van beslissingen in de oorlog tegen Iran.
Een concurrent van OpenAI, Anthropic, heeft onlangs een deal met het Pentagon afgewezen vanwege zorgen dat hun model gebruikt zou kunnen worden voor massale surveillance of autonome wapens. Dit leidde ertoe dat de Amerikaanse minister van Defensie het bedrijf bestempelde als een ‘toeleveringsketenrisico’.
Na kritiek en weerstand binnen het bedrijf, probeerden Altman en OpenAI te benadrukken dat hun technologie legaal en ethisch verantwoord gebruikt zal worden. De deal met het Pentagon werd als opportunistisch en vaag bestempeld.
Anthropic CEO Dario Amoday heeft Altman bekritiseerd voor het prijzen van Donald Trump en beschuldigde hem ervan samen te werken met het Pentagon voor ‘veiligheidstheater’. Hij viel ook het Pentagon en Trump aan en beweerde dat het gebrek aan samenwerking met Trump de reden was dat het Pentagon en de regering hem niet mochten.
Het is duidelijk dat OpenAI en andere AI-bedrijven geen volledige controle hebben over hoe hun technologie door het Pentagon wordt gebruikt. Dit roept ethische en juridische vragen op over de verantwoordelijkheid van technologiebedrijven bij het leveren van hun producten aan militaire instanties.
