Techgiganten vormen een bedreiging voor de vrije wil — of was die er nooit?

Onlangs keek ik naar de Netflix-documentaire 'The Great Hack', over het Cambridge Analytica-schandaal en dataverzameling in het algemeen. Omdat ik de afgelopen twee maanden ook een stage liep bij BR-ND, viel me op dat er enkele overeenkomsten zijn tussen wat wij doen en wat grote techbedrijven zoals Facebook doen. In onderstaande blog probeer ik een aantal van mijn gedachten hierover te verwoorden.

Of je het nu hebt over marketeers, psychologen, diëtisten of influencers — op de één of andere manier is het doel altijd het gedrag van mensen te beïnvloeden. Iedereen die ooit een McDonald's-reclame heeft gezien of een diëtist heeft bezocht, weet dat dit de bedoeling is. Maar wat gebeurt er als deze subtiele (of soms niet zo subtiele) pogingen om iemands gedrag te sturen, niet algemeen bekend zijn bij degenen die worden beïnvloed? Dit is wat ik de grijze zone zou willen noemen. Denk aan het ontwikkelen van apps om een consument te binden aan wat je verkoopt, maar ook aan het plaatsen van memes op Facebook om iemands stemgedrag te beïnvloeden. Of gaat dat eigenlijk een stap verder?

Marketing, psychologie en beïnvloeding zijn allemaal gebaseerd op het principe dat mensen overtuigbaar zijn, maar dat degenen die worden overtuigd uiteindelijk zelf de beslissing nemen. Dat is een noodzakelijke toevoeging, want daarmee blijft het fundamentele liberale idee intact: dat we allemaal autonome individuen zijn die zichzelf het beste kennen.

In het verleden was dit een volkomen normale conclusie, omdat de meeste mensen jou inderdaad minder goed kenden dan jijzelf. In onze hedendaagse samenleving echter stellen de enorme hoeveelheden datapunten die over iedereen worden verzameld — van welke plekken je vaak bezoekt tot de grappige kattenkostuums die je kocht — grote techbedrijven in staat om jou beter te kennen dan jijzelf. En hier wordt het liberale ideaal gevaarlijk.

Als we er nog steeds van overtuigd zijn dat we autonoom zijn, moeten we de invloed van deze bedrijven onbewust negeren, omdat 'we toch onze eigen beslissingen nemen'. Hoe verleidelijk dat ook klinkt, het verandert helaas niets aan de zeer reële impact die deze bedrijven op je dagelijks leven hebben.

Laten we even terugstappen naar marketing. Vergelijk je de praktijken van marketeers met die van Facebook-algoritme-schrijvers, dan lijken de twee in hun dagelijkse werk ver uit elkaar te liggen. Toch streven ze naar iets vergelijkbaars: het maximaliseren van dataverkeer in een bepaalde richting. Marketeers proberen mensen een bepaalde winkel in te laten lopen; Facebook-algoritme-schrijvers proberen gebruikers zo lang mogelijk op het platform te laten klikken en scrollen.

Maar er is nog een opvallend verschil. Marketeers gebruiken het echte leven en het digitale speelveld om hun doelgroepen te bereiken. Facebook — dat ís zijn eigen digitale speelveld waarop marketing plaatsvindt. Dit verschil is enorm belangrijk, omdat het de techgigant in staat stelt elke gewenste boodschap volledig aan te passen naarmate het data verzamelt over al zijn gebruikers (wat het probeert te maximaliseren via zaken als persoonlijkheidstests).

Tot nu toe heb ik het voornamelijk over Facebook gehad, maar het moge duidelijk zijn dat dit alles geldt voor elk bedrijf dat gebruikmaakt van grote datasets over individuele gedragspatronen.

Om de potentiële impact van dataverwerking te schetsen, is Cambridge Analytica een uitstekend voorbeeld. Wat begon als een organisatie die werkte met gouvernementele speciale eenheden in conflictgebieden, schokte uiteindelijk de wereld met betrekking tot de impact van datagebruik.

Zonder te veel in detail te treden: Cambridge Analytica werkte samen met legeronderdelen zoals de CIA om conflicten op te lossen zonder te vechten. Het idee was eenvoudig: gebruik gepersonaliseerde berichten om de lokale bevolking weg te sturen van een ongewenst regime of milities en naar de eigen kant, zonder één schot te lossen. Briljant.

De techniek was zo effectief dat het bedrijf zijn aandacht snel verlegde van conflictgebieden naar het helpen van politieke kandidaten bij het winnen van verkiezingen. Niet door het ontwerpen van conventionele 'Yes We Can'-slogans — maar door diep in de psyche van de doelgroep te duiken met alle beschikbare datasets en daarop gebaseerde campagnes te creëren.

Eerst paste Cambridge Analytica haar tactieken toe ver buiten de westerse wereld, want de meeste mensen maakten zich niet druk om welke Ethiopische president of welk Sri Lankaans regime er won. Pas toen het haar methode toepaste in de VS en het VK — met succes, voeg ik toe — begon het grote publiek het te merken.

Niet dat het grote publiek dit zelf doorhad; daarvoor hadden we mensen nodig zoals David Carroll, die vragen begon te stellen. Niet voordat het bedrijf indrukwekkende resultaten had geboekt: toen de naam Cambridge Analytica de krantenkoppen haalde en de deuren moest sluiten vanwege titels als 'The Cambridge Analytica Scandal: Who owns your data owns you', had het geholpen — nadruk op geholpen — bij het presidentschap van Donald Trump en Brexit.

Hier wordt het voor mij een soort filosofisch dilemma. In essentie werkte deze organisatie naar hetzelfde doel als de meeste presidentiële campagnes vóór hen. Bovendien is het gebruik van data over de kiezer om zijn stem te beïnvloeden ook niet nieuw. Maar Cambridge Analytica ging een stap verder door toegang te krijgen tot — niet illegaal, voeg ik toe — brede datasets om te begrijpen wat specifieke kiezers drijft. Hoewel je je afvraagt: gaat dit verder, of is het gewoon slimmer werken?

Wanneer marketeers een nieuw product promoten, wordt ook dat product en zijn doelgroep tot in detail geanalyseerd om de hoogste marge te behalen. Het essentiële verschil is dat techbedrijven zoals Cambridge Analytica niets aan het toeval overlaten, maar streven naar wiskundige precisie.

Je zou kunnen zeggen dat ze het vak van marketeers of psychologen hebben geperfectioneerd door succes te garanderen.

Er is echter een essentieel verschil. Waar marketeers en influencers voornamelijk het commerciële landschap vormgeven, of diëtisten en psychologen het leven van individuen, zijn techgiganten in staat ook het politieke en sociaal-economische landschap te vormen. En omdat dat je omgeving op veel meer manieren beïnvloedt dan alleen de beschikbare producten, zou je kunnen stellen dat er een grens is overschreden.

Maar hebben reclames die vrouwen en mannen in geseksualiseerde settings portretteerden, niet veranderd hoe we elkaar zien?

De antwoorden op deze vragen zijn niet eenvoudig en hebben waarschijnlijk meer dan één antwoord, afhankelijk van welk perspectief je inneemt.

Toch geloof ik dat één les kan worden getrokken uit het Cambridge Analytica-schandaal en de onderliggende wereld van datagebruik: het heeft aangetoond dat mensen inderdaad overtuigbaar zijn — zo niet ronduit kwetsbaar voor manipulatie — zonder dat ze per se weten dat ze beïnvloed zijn en hoe dat hun handelen heeft beïnvloed.

Zeker, dit klinkt logisch als je erover nadenkt, maar begrijpen we als samenleving echt wat het impliceert?

Een manier om te denken over het feit dat we overtuigbaar zijn, is dat we kunnen veranderen — wat ik een goede zaak vind. Maar een andere manier is dat wij, en iedereen om ons heen, kunnen worden veranderd en gemanipuleerd, zodat we meer gefragmenteerd en gepolariseerd raken — met kloven tussen ons die we misschien niet meer kunnen overbruggen. En dat is, voor mij, een angstaanjagende gedachte.

Want mensen zoals jij en ik, die het gedrag of de keuzes van anderen willen beïnvloeden, houden dezelfde macht in handen als grote techbedrijven zoals Google of Facebook. Maar waar wij die macht kunnen benutten en die op zijn slechtst kunnen omvormen tot iets dat vergelijkbaar is met een pistool of een mes, kunnen de Googles en Facebooks er misschien iets van maken dat meer lijkt op een atoombom…

Als je de documentaire nog niet hebt gezien, raad ik je ten zeerste aan hem te kijken en te delen wat je ervan vindt. Omdat ik geen expert ben op de besproken onderwerpen, hoor ik graag andere perspectieven om mijn begrip te verdiepen.

Als je erover wilt praten, stuur dan gerust een e-mail of reageer op deze blog!