Technologiebedrijven zouden binnenkort in staat kunnen zijn onze beslissingen te verkopen en zelfs te beïnvloeden voordat we ze bewust nemen, als onderdeel van een ‘intentie-economie’ waarin kunstmatige intelligentie onze verlangens in kaart kan brengen en manipuleren. Dat is de waarschuwing van AI-technologie-experts, die een ‘verontrustende’ toekomst van ‘gepersonaliseerde overtuiging op grote schaal’ hebben voorspeld, waarin jouw motivaties worden uitgebuit voor commerciële doeleinden.
Momenteel is een groot deel van de interneteconomie gebaseerd op gepersonaliseerde advertenties. Websites vechten om uw aandacht en bedrijven als Google geven advertenties weer op basis van uw zoektermen volgens uw aangegeven wensen. In een artikel gepubliceerd in de Harvard Data Science Review zeggen onderzoekers van het Leverhulme Center for the Future of Intelligence van de Universiteit van Cambridge dat dit op het punt staat te veranderen. Voorlopig weet Google wat je wilt. Met de komst van kunstmatige-intelligentieprogramma’s die met ons kunnen praten, is er het potentieel, zeiden ze, om te weten wat je in de toekomst wilt, wat je niet weet dat je wilt, of zelfs om je iets te laten willen wat je niet wilt op dit moment.
“AI-programma’s vinden nu al subtiele manieren om je motivaties te manipuleren en te beïnvloeden, onder meer door te schrijven hoe je schrijft (zodat het bekend voorkomt) of door te voorspellen wat je waarschijnlijk zult zeggen (gezien wat anderen zoals jij zouden zeggen). “Welke organisatie deze pijplijn het beste beheert, kan een fortuin verdienen door uw incentives, of het nu om een hotel, autoverhuur of politieke kandidaat gaat, aan de hoogste bieder te verkopen”, beweren de onderzoekers in hun artikel.
Bedrijven als OpenAI hebben al verklaard dat een belangrijk doel van hun producten is om de intenties van mensen af te leiden, los van de expliciete verzoeken die ze doen. Daar zijn goede redenen voor, omdat ze hierdoor beter kunnen begrijpen wat mensen echt willen in een zoekopdracht en zo meer op maat gemaakte resultaten kunnen leveren. Maar tegelijkertijd werken deze bedrijven aan tools die op strategische en overtuigende wijze met mensen kunnen communiceren. Een mooi voorbeeld is het programma van Meta, het moederbedrijf van Facebook, dat kan deelnemen aan het bordspel Diplomacy waarbij spelers onderhandelen, manipuleren en uiteindelijk elkaar verraden.
De onderzoekers zeiden dat de kracht van AI is dat programmagebaseerde systemen die met ons in een natuurlijk gesprek betrokken zijn, manieren kunnen vinden om zowel intenties af te leiden als te vormen. ‘In een economie van intentie kunnen dergelijke programma’s, zelfs tegen lage kosten, ritme, politiek, woordenschat, leeftijd, geslacht en voorkeuren exploiteren om verwarring te veroorzaken of om doelen te bereiken zoals om een bioscoopkaartje te verkopen’ Ze zouden kunnen zeggen: ‘Je zei dat je je overweldigd voelde, moet ik dat bioscoopkaartje voor je boeken waar we het over hadden?’
Er zit onvermijdelijk een politiek aspect aan. “Het vermogen om individuen en groepen te manipuleren gaat veel verder dan de eenvoudige methoden op basis van Facebook-likes die zorgen baarden tijdens het Cambridge Analytica-schandaal. Wij schatten dat de komst van dergelijke programma’s de democratische normen op de proef zal stellen door gebruikers te onderwerpen aan geheime manieren om gecommercialiseerde intentiesignalen te ondermijnen, om te leiden en te verstoren”, schrijven de onderzoekers, die zeggen dat het hun bedoeling is om mensen bewust te maken van wat gaat komen. Ze zeggen dat we in deze intentie-economie ook moeten nadenken over de intenties van de bedrijven zelf en hun behoefte om winst te maken.
“Op dit moment vindt er een zeer intensieve ontwikkeling plaats om de meest geavanceerde, op agenten gebaseerde kunstmatige intelligentiesystemen te realiseren. Tegelijkertijd worden al deze werken uitgevoerd voor de aanleg van de noodzakelijke infrastructuur. Vanwege de vereiste kapitaalinvesteringen zouden bedrijven niet aan al deze gebouwen beginnen zonder een duidelijk plan. Eén duidelijke manier waarop geavanceerde kunstmatige intelligentie waarde kan bieden, is het begrijpen van klanten. Gebruikers zijn zich vaak niet bewust van het niveau van gegevensverzameling dat mogelijk is via chatinterfaces”, zei hij, wijzend op het vermogen om een werkelijk genuanceerd beeld te krijgen van iemands psychologie. Dit heeft zeer verontrustende mogelijkheden. Naarmate deze systemen zich blijven ontwikkelen, zei hij, moeten we geavanceerder zijn en meer nadenken over het tweerichtingskarakter van onze interacties. Als we vragen: in hoeverre gaat het systeem achteruit? In hoeverre doorzoekt het systeem onze geest als we zoeken?’ zegt Yakub Chohandri, lid van het onderzoeksteam.
Dr. Johnny Penn, een technologiehistoricus en hoofdredacteur van het tijdschrift waarin het onderzoek werd gepresenteerd, voorspelde dat er een verandering zou komen in de manier waarop bedrijven geld aan ons allemaal verdienden, en dat het publiek zich daarop moest voorbereiden. “Al tientallen jaren is aandacht de munteenheid van internet geweest. Het delen van uw aandacht met sociale mediaplatforms zoals Facebook en Instagram heeft de online economie gestimuleerd. Tenzij gereguleerd, zal de intentie-economie uw motivaties als de nieuwe valuta behandelen. Het zal een gouden kans zijn voor degenen die menselijke intenties targeten, sturen en verkopen. We moeten beginnen na te denken over de potentiële impact die een dergelijke markt zou hebben op de menselijke ambities, inclusief vrije en eerlijke verkiezingen, een vrije pers en eerlijke concurrentie op de markt, voordat we ten prooi vallen aan de onbedoelde gevolgen ervan.”
