Antropisch, een technologiebedrijf, neemt drastische maatregelen om te voorkomen dat hun AI-systemen worden misbruikt voor destructieve doeleinden. Het bedrijf vreest dat hun eigen technologie het einde van de wereld zou kunnen veroorzaken en daarom huren ze experts in met salarissen die in de honderdduizenden dollars lopen. Deze experts hebben als taak om te voorkomen dat AI wordt gebruikt voor het vervaardigen van explosieven, het ontwikkelen van kernwapens, het uitvoeren van cyberaanvallen en zelfs het voorbereiden van aanslagen met miljoenen slachtoffers.
Volgens Axios.com lijken de vacatures van Anthropic meer op een mondiale dreigingslijst dan op typische functies bij een technologiebedrijf. Het bedrijf werft in totaal 32 functies aan met als gemeenschappelijk doel om in een vroeg stadium te ontdekken hoe AI-systemen kunnen worden misbruikt om echte schade aan te richten.
Van het vervaardigen van explosieven tot het ontwikkelen van kernwapens, Anthropic huurt analisten in met expertise op het gebied van chemische stoffen, nucleaire en radiologische wapens, financiële fraude, cybercriminaliteit en andere vormen van kwaadwillig gebruik van kunstmatige intelligentie. Een van de advertenties benadrukt het belang van het beschermen tegen misbruik van kunstmatige intelligentiesystemen voor radiologische en nucleaire schade.
Het bedrijf is bereid om hoge salarissen te betalen voor deze expertise, met salarissen variërend van midden tot hoog $ 200.000 per jaar. Dit toont aan hoe serieus AI-bedrijven het risico nemen dat hun krachtigste modellen in verkeerde handen vallen.
Anthropic benadrukt dat een belangrijke vereiste voor verantwoorde ontwikkeling is ervoor te zorgen dat de modellen geen potentieel gevaarlijke informatie verschaffen. Daarom worden experts ingehuurd die zowel de aard van bedreigingen kennen als hoe AI deze kan verbeteren. Deze specialisten testen systemen voordat ze live gaan en proberen beveiligingsmechanismen te omzeilen en mazen in de wet te identificeren die door kwaadwillende gebruikers kunnen worden uitgebuit.
Dario Amodei, CEO van Anthropic, heeft herhaaldelijk gewaarschuwd voor de mogelijke gevaren van kunstmatige intelligentie en de dramatische vergroting van de capaciteiten van kwaadwillende actoren. Het bedrijf heeft al honderden werknemers in dienst die zich uitsluitend bezighouden met veiligheidskwesties en voortdurend de modellen testen en zwakke punten repareren.
Anthropic is echter niet het enige bedrijf dat zich richt op het versterken van beveiligingsteams. OpenAI is ook op zoek naar een onderzoeker die gespecialiseerd is in biologische en chemische gevaren, met een jaarlijks basissalaris van $295.000 tot $445.000.
Het gebrek aan een samenhangend internationaal regelgevingskader betekent dat bedrijven zoals Anthropic en OpenAI hun eigen regels moeten schrijven en beslissen welke risico’s acceptabel zijn en welk gebruik verboden moet worden. Deze bedrijven ontwikkelen krachtige systemen die de wereld kunnen veranderen, maar huren tegelijkertijd experts in om ervoor te zorgen dat dezelfde systemen niet worden gebruikt om de wereld te vernietigen.
