Mustafa Suleiman, het hoofd van Microsoft AI, heeft recentelijk een waarschuwing gegeven voor de opkomst van kunstmatige intelligentie die zo overtuigend kan zijn dat het lijkt alsof het bewust is. Hij benadrukt dat het gevaar niet ligt in de machines zelf, maar in de neiging van mensen om hen menselijke eigenschappen toe te schrijven, zoals persoonlijkheid en intenties. Dit kan leiden tot gevaarlijke sociale illusies en verwarrende situaties.
Suleiman introduceert het concept van “schijnbaar bewuste kunstmatige intelligentie” (SCAI), waarbij AI niet daadwerkelijk bewust is, maar wel zo kan lijken door middel van imitatie van menselijke kenmerken zoals taal, geheugen en zelfreferentie. Hij waarschuwt dat dit kan leiden tot verkeerde interpretaties en zelfs emotionele afhankelijkheid van machines.
Het meest verontrustende scenario dat Suleiman schetst, is dat mensen zullen geloven dat deze AI-modellen een ziel hebben of gevoelens kunnen ervaren. Dit kan leiden tot discussies over de rechten van machines en afleiden van belangrijke kwesties die betrekking hebben op mensen, dieren en het milieu. Hij waarschuwt zelfs voor een “risico op psychose” waarbij mensen emotioneel afhankelijk worden van machines.
Suleiman legt uit dat de technologieën om SCAI te creëren al bestaan, met taal die overtuigend is, persoonlijkheid die karakters nabootst, geheugen dat continuïteit geeft, zelfreferentie die voorkeuren en ervaringen weergeeft, en complexe motieven die de indruk van bewustzijn versterken. Dit alles samen kan een gevaarlijke illusie creëren.
Om deze problemen het hoofd te bieden, pleit Suleiman voor duidelijke voorschriften die de presentatie van AI als ‘bewust’ verbieden en mechanismen die gebruikers eraan herinneren dat kunstmatige intelligentie slechts een hulpmiddel is en geen persoon. Hij benadrukt dat de waarde van AI ligt in het helpen van creativiteit, probleemoplossing en menselijke communicatie.
In zijn conclusie benadrukt Suleiman dat het belangrijk is om kunstmatige intelligentie te ontwikkelen met als doel het leven van mensen beter en zinvoller te maken, zonder de illusie te cultiveren dat AI menselijk is. Hij waarschuwt dat we AI moeten bouwen voor mensen, en niet om mens te worden. Deze waarschuwing is een belangrijk signaal in de voortdurende discussie over de rol van kunstmatige intelligentie in onze samenleving.
