Het agentschap voor digitale technologieën van de Verenigde Naties heeft onlangs een nieuw initiatief gelanceerd om het vertrouwen in kunstmatige-intelligentieagenten te verbeteren. Deze kunstmatige-intelligentieagenten zijn ontworpen om autonoom namens gebruikers te handelen en taken uit te voeren variërend van planning en inkoop tot complexe bedrijfsprocessen.
Hoewel deze AI-agenten de productiviteit kunnen verbeteren, brengen ze ook risico’s met zich mee, zoals het nabootsen van menselijk gedrag en het nemen van ongeoorloofde beslissingen. Om deze risico’s aan te pakken, heeft de Internationale Telecommunicatie Unie (ITU) aangekondigd dat zij een focusgroep zal oprichten tijdens de AI for Good-top in Genève.
De focusgroep zal raamwerken ontwikkelen die tot doel hebben ervoor te zorgen dat AI-agenten identificeerbaar en betrouwbaar blijven en onderworpen blijven aan substantiële menselijke controle, vooral op gevoelige gebieden zoals financiële transacties en kritieke infrastructuur. Het team van technische, politieke en juridische experts zal zijn eerste bijeenkomst in november in Parijs houden en de tweede in januari in Genève.
De medevoorzitter van de Focus Group, Deborah Kobarin, benadrukte het belang van gemeenschappelijke internationale normen om te identificeren wie de AI-agenten zijn en hoe en wanneer ze kunnen worden vertrouwd. Ze benadrukte ook dat AI-agenten binnenkort namens ons zullen onderhandelen, transacties uitvoeren en beslissingen nemen, waardoor het cruciaal is om het vertrouwen in deze technologie te versterken.
Het initiatief van het VN-agentschap voor digitale technologieën is een belangrijke stap in de richting van het verbeteren van het vertrouwen in kunstmatige-intelligentieagenten en het waarborgen van verantwoordelijkheid en menselijk toezicht in deze snel evoluerende technologische omgeving. Het is noodzakelijk om deze systemen transparant en ethisch verantwoord te maken om de voordelen van kunstmatige intelligentie ten volle te benutten.
