Whatever the truth of Cambridge Analytica’s claims, the very existence of such companies tells us something important about the weight that unconscious influence, relative to reasoned argument, now plays in political campaigns.

Gedrag: duwen, kiezen en doen

Behavioral economics is in de mode. Minder bekend is dat Amos Tversky and Daniel Kahneman de peetvaders zijn van de onderliggende psychologie1. Hun onderzoek naar mensen die in onzekere omstandigheden beslissingen nemen, bracht aan het licht dat niet rationaliteit -waarop de economische theorie en haar utiliteitsconcept is gebaseerd- maar intuitie of gevoel de pijlers aan de meeste beslissingen ten grondslag ligt. Maar denk nou niet dat mensen zomaar wat doen; er zit een patroon in het door de intuitie of gevoel geleide gedrag. Kleine kansen worden stelselmatig te hoog ingeschaft, zekerheden wegen zwaarder dan kansen en verlies telt harder aan dan winst. Wie dit weet staat al op voorsprong tegenover de consument. Daarom worden er bijvoorbeeld verzekeringen aangeboden voor dure apparaten zoals computers, want mensen schatten de kosten en baten “onrealistisch” in. Hier ligt een groot terrein braak voor “dienstverlening” die commercieel voordeel haalt uit de systematische vertekening van het oordeel over belangrijke aspecten van een situatie; de verzekeraar weet dat, de verzekerde niet.

You can’t understand the success of digital platforms like Amazon, Facebook, Farmville, Nike Plus, and Groupon if you don’t understand behavioral economic principles…. Behavioral economics will increasingly be providing the behavioral insight that drives digital strategy

Richard Thaler en Cass Sunstein publiceerden in 2008 het boek Nudge, vrij vertaald: duwtje (in de goede richting), dat snel werd omarmd door de gedragseconomen2. Daarin wordt gepleit voor een libertair paternalisme, waarin de staat en andere instellingen mensen mogen helpen of sturen met behulp van een soort keuze-architectuur om beslissingen te nemen die in hun eigen belang op lange termijn zijn. Dat nudgen kan ook door framen: de presentatie of formulering van de zaak waarover wordt besloten. Vleeswaren 90% vrij van vet zijn aantrekkelijker dan vleeswaren met 10% vet. [zie artikel in NRB,

Het lovenswaardige doel dat Thaler en Sunstein zich voor ogen stellen maakt de technieken waarvan zij zich bedienen natuurlijk niet ongevaarlijk. Het zijn effectieve propaganda- of manipulatiemiddellen; het verschil met de klassieke propaganda is dat het voor de ontvangers van de wervende boodschap steeds minder doorzichtig wie met welke middelen hem of haar welke kant op wil duwen.

Gevoel. Geluk en welzijn

In de jaren negentig van de vorige eeuw betrok Kahneman nog iets anders in zijn onderzoek: hoe goed zijn we eigenlijk in het beoordelen van ons eigen welzijn, onze genoegens, voorkeuren en voorliefdes? Je kunt je natuurlijk afvragen hoe zinvol een dergelijke vraag is. Maar goed, eenmaal gesteld bleek volgens Kahneman dat de terugblikkende persoon geen betrouwbaar of objectief oordeel velde over zijn of haar ervaringen; ook de kokerillusie3 maakt het beoordelen van beleefd genoegen of welzijn er niet gemakkelijker op. Inmiddels is er veel aandacht voor dit onderwerp, bloeit een hedonic psychology en houdt het World Well-Being Project4 de welzijnstemperatuur van de hele wereld in de gaten. Het nudgen stopt dus niet bij het nemen van beslissingen, maar strekt zich gemakkelijk uit tot de eigen kijk op welzijn en geluk 5. Maar ook hier opent psychologisch onderzoek de mogelijkheid naar -ideeel, commercieel of crimineel- sleutelen aan subjectieve preferenties. Dat was al gestart in het begin van de vorige eeuw, toen bedrijven de psychologie hadden ontdekt om de reclame- en marketinginspanningen succesvoller te maken. De aandacht voor deze subtiele vormen van beïnvloeding werden in de jaren twintig van de vorige eeuw -toen men op adem kwam van de de Eerste Wereldoorlog- echter overschaduwd door het effect dat de “machine” op de “moderne” mens zou hebben. Het nieuwe medium film liet zich er graag door inspireren met al resultaat een aantal klassiekers in diverse genres: Metropolis van Fritz Lang, Modern Times van Chaplin of Frankenstein met Boris Karlof. Hoe onschuldig oogt die bedreiging bij die van de “postmoderne”, digitale, internet- en Big Data wereld, de surveillancesamenleving, waarin de permanent geobserveerde mens slechts een bundel datapunten is die met nudges en frames als een flipperbal in de gewenste richting wordt gedreven. Blader nog maar eens door Huxleys Brave New World -in het Nederlands vertaald met Het soma-paradijs– en zie welke proporties the advancement of science as it affects human individuals6 inmiddels heeft aangenomen.

OURS is the first age in which many thousands of the best-trained individual minds have made it a full-time business to get inside the collective public mind. To get inside in order to manipulate, exploit, control is the object now. And to generate heat not light is the intention. To keep everybody in the helpless state engendered by prolonged mental rutting is the effectof many ads and much entertainment alike.
Marshal McLuhan, The mechanical bride.

Invloed. Internet en Big Data

In 2007 (in 2008 was een vervolg) gaf Kahneman, inmiddels winnaar van de Nobelprijs voor economie in 2002, een masterclass op uitnodiging van Edge. Onder de toehoorders: Jeff Bezos (Amazon), Larry Page (Google), Sergey Brin (Google), Nathan Myhrvold (Microsoft), Sean Parker (Facebook), Elon Musk (Space X, Tesla), Evan Williams (Twitter), Jimmy Wales (Wikipedia). Edge vond het tijd om Kahnemans 80ste verjaardig te vieren met lofzang op zijn bijdrage aan de psychologie: Entirely new economic structures and pathways have come into existence in the past few years: New ideas in psychology, cognitive science, behavioral economics, law, and medicine that take a new look at risk, decision-making, and other aspects of human judgment. Opvallend genoeg ontbreekt in dit lijstje wat genoemde aanwezigen gemeen hebben: internet en Big Data. In 2011 vatte Kahneman zijn ideeën nog eens samen in de bestseller Ons feilbare denken (Thinking, Fast and slow).

In een brief aan zijn aandeelhouders schreef Bezos in 2015 dat “through our Selling Coach program, we generate a steady stream of automated machine-learned ‘nudges’ (more than 70 million in a typical week).” Inmiddels heeft nudging zich als een epidemie door de wereld van het webwinkelen verspreid en wordt de klant opgejut met mededelingen dat hij naar het laatst beschikbare product kijkt of wordt de klant gewezen op persoonlijke aanbiedingen en speciale, geheime prijzen. Zelfs de term hypernudging is al gevallen.
Ook bij Facebook vond het werk van Kahneman, Thaler en Sunstein gehoor. Met onderzoekers van twee universiteiten werd geëxperimenteerd met “emotional priming“: was het zien van positief of negatief nieuws van invloed op de berichten van de gebruikers. Die wisten natuurlijk niets van wat Facebook uitspookte en ongewild waren zij dus proefpersoon in een groot psychologisch onderzoek.7

Maar data worden niet alleen massaal op internet verzameld. Ook de autobouwers registreren alle handelingen in de wagen en slaan die gegevens op. Daarmee is het persoonlijke rijgedrag volledig reconstrueerbaar. En natuurlijk zijn er allerlei “andere dienstverleners” die verlekkerd naar die data kijken. To nudge or not to nudge, that the question.

Big Data en propaganda. Facebook als manipulatieplatform

Maar niet alleen de grote internetbedrijven, autobouwers en banken om een paar sectoren te noemen waarin het mogelijk is dagelijkse handelingen te volgen, maken gebruik van Big Data. Op Youtube is nog steeds de video te bekijken waarop Alexander Nix van Cambrigde Analytica hun methode aanprijst: de combinatie van Big Data en psychografica.

Facebook en persoonlijkheidsonderzoek

Het idee was afkomstig van psychologen van het al eerder genoemde World Well-Being Project en de psychologen Kosinski and Stillwell, beiden verbonden aan Cambridge’s Psychometrics Centre. Stillwill had in 2007 myPersonality ontwikkeld: een Facebook applicatie om een persoonlijkheidstest, de Big Five, af te nemen. Het idee: de persoonlijkheidsscores combineren met de grote hoeveelheid persoonlijke informatie uit de Facebook omgeving; bijna de helft van de gebruikers gaf inderdaad toestemming hun profielen te raadplegen. Daarmee was Facebook omgetoverd in een groot, onuitputtelijk psychologisch laboratorium. De onderzoekers hebben in 2012 wegens tijdgebrek myPersonality gesloten. Zij beschikten toen over een dataverzameling van ongeveer 6 miljoen Facebookers. In 2018 stopten zij ook het delen van deze data met andere onderzoekers.

Meerdere keren hebben Kosinksi -wiens promotie over dit onderwerp overigens financieel werd gesteund door Boeing- en Stillwell gewezen op de risico’s van dit soort dataverzameling voor de privacy van gebruikers8 en de commerciële en politieke uitbating van hun persoonlijke kenmerken9.

Uit de lucratieve aanbiedingen die Stillwell en Kosinski kregen voor hun app en hun dataverzameling, waarop zij overigens naar eigen zeggen nooit zijn ingegaan, bleek dat de wetenschappelijke waarde verbleekte bij de commerciële en politieke potentie van deze van gegevensverzamelingen.

Van wetenschap naar politieke praktijk

Hoe interessant dit materiaal werd gevonden blijkt uit de informatie van klokkenluider Christopher Wylie cruciaal10. Afkomstig uit Canada, waar hij meewerkte aan campagnes voor de Liberal Party, handig in computercode en dataverzameling, kwam hij in 2010 naar London om rechten te studeren aan de London School of Economics. In 2013 was hij begonnen aan zijn promotie over het voorspellen van modetrends; actief voor de Liberaal democraten in Groot Britannië vroeg hij zich af waarom die er niet in slaagden politiek succes te behalen. Dan stuit hij op een artikel van Stillwell en Kosinski en ziet daarin het antwoord op zijn vraag:

“I wanted to know why the Lib Dems sucked at winning elections when they used to run the country up to the end of the 19th century,” Wylie explains. “And I began looking at consumer and demographic data to see what united Lib Dem voters, because apart from bits of Wales and the Shetlands it’s weird, disparate regions. And what I found is there were no strong correlations. There was no signal in the data.
“And then I came across a paper about how personality traits could be a precursor to political behaviour, and it suddenly made sense. Liberalism is correlated with high openness and low conscientiousness, and when you think of Lib Dems they’re absent-minded professors and hippies. They’re the early adopters… they’re highly open to new ideas. And it just clicked all of a sudden.” 11

De Lib Dems bleken niet geïnteresseerd in zijn idee, maar iemand uit hun gelederen wees hem op de SCL groep, met onderdelen als SCL Elections en Cambridge Analytica. Wylie besprak zijn ideeën met Alexander Nix van Cambrigde Analytica die hem aanbood dit allemaal in de praktijk uit te testen. Wylie werd research director bij de SCL groep en belandde zonder het te weten in de wereld van geheime operaties. “When he turned up at SCL’s offices in Mayfair, he had no clue that he was walking into the middle of a nexus of defence and intelligence projects, private contractors and cutting-edge cyberweaponry.” Achter de SCL groep zat Robert Mercer, de miljardair die ook rechtsradicaal gedachtengoed financieel steunt, onder meer met Breitbart waar Steve Bannon enige tijd de scepter zwaaide.

Via Steve Bannon kwam Wylie in gesprek met vader en dochter Mercer. Het idee werd besproken en dan komt de cruciale vraag: werkt het in de praktijk? Om dat uit te vinden heb je data nodig. Waar haal je die vandaan?

Op 4 juni 2014 sluit SCL, waar Cambridge Analytica onder valt, een contract met Global Science Research, het bedrijf van Aleksandr Kogan12. Uit emails in het bezit van Wylie wordt duidelijk dat hij zelf eerst contact heeft gezocht met Michael Kosinski van MyPersonality met de vraag om hun data te mogen gebruiken. Kosinski vroeg $500.000 voor het gebruik (staat op gespannen voet met hun eigen verklaringen). Toen deze weg niet tot een overeenkomst leidde, bood een Cambrigde collega, Kogan dus, aan het onderzoek opnieuw te doen en zo de data zelf te verzamelen. Voor dit doel richtte Kogan Global Science Research op. Het werk kon beginnen.

Kogan adverteerde op Amazon wie tegen betaling wilde deelnemen aan een persoonlijkheidsquiz. Aan het einde van de app, die Kogan thisisyourdigitallife had genoemd, werd toestemming gevraagd om het Facebookprofiel te mogen raadplegen. Maar in de praktijk bleken ook “vrienden” van degenen die toestemming gaven in de dataverzameling terecht kwamen. Per quiz of vragenlijst leverde dat gemiddeld 160 profielen op. Bij een totaal van rond 320.000 betaalde deelnemers resulteerde dat in meer dan 50 miljoen gebruikersprofielen. Kogan had toestemming om data te verzamelen op Facebook, maar louter voor wetenschappelijk gebruik; wat hier gebeurde was dus in vele opzichten illegaal. Facebook zag door hun veiligheidsprotocollen dat Kogan veel dataverkeer genereerde, maar omdat hij voor wetenschappelijke doeleinden data mocht verzamelen gingen bij Facebook geen bellen rinkelen. Binnen een paar weken had Kogan al miljoenen gebruikers bij elkaar gesprokkeld.

Cambridge Analytica had de data en Wylie kon aan de slag. Uit de profielen van de betaalde dataleveranciers werden psychologisch relevante aspecten gedistilleerd en gekoppeld met hun gedragskenmerken. Vervolgens werden er algoritmes gebouwd om de “bijvangst” te profileren.

Microtargetting kreeg met deze aanpak een nieuwe dimensie. Naast leeftijd of geslacht, opleiding of woonplaats etc. kon nu ook gebruik worden gemaakt van gedragskenmerken die zouden wijzen op psychologische eigenschappen. De politieke boodschap kan dan worden aangepast aan die “mindset”, zodat het effect op de ontvanger groter wordt. De psychografische profielen zijn het eerst ingezet in de campagne van Ted Cruz in 2015. Nix geeft hieronder uitleg aan “collega’s” over wat hij presenteerde als hun baanbrekende aanpak: psychographics in the electoral proces.

Alexander Nix over de nieuwe methode van Cambridge Analytica

Cruz wint de Republikeinse voorverkiezingen niet. Trump bemachtigde de Rupublikeinse nominatie. Cambrigde Analytica stapte over naar de presidentscampagne van Trump, wat de firma volgens Arno Wellens in Follow The Money geen windeieren heeft gelegd13. In de campagne rondom een Engelse uittreding uit de Europese Unie heeft Cambrige Analytica (en AggregateIQ14) ook een -mogelijk doorslaggevende- rol gespeeld.
Maar er waren ook andere geïnterresseerden. Er blijkt contact te zijn geweest tussen Cambridge Analytica en de russische oliemaatschappij Lukoil. Uit een email van Nix aan Wylie bijkt dat de Russen het spel dat Nix speelde al aardig, maar nog niet helemaal doorhadden: “they understand behavioural microtargeting in the context of elections” but that they were “failing to make the connection between voters and their consumers”. The work, he said, would be “shared with the CEO of the business”, a former Soviet oil minister and associate of Putin, Vagit Alekperov.15

Inmiddels hebben de ontwikkelaars van het basisidee de schaduwzijde van hun vinding ook ontdekt. In het artikel Psychological targeting as an effective approach to digital mass persuasion wijzen zij erop dat “nudgen” niet het enige doel van psychologische massabeïnvloeding is. On the one hand, this form of psychological mass persuasion could be used to help people make better decisions and lead healthier and happier lives. On the other hand, it could be used to covertly exploit weaknesses in their character and persuade them to take action against their own best interest, highlighting the potential need for policy interventions. Met de combinatie van digitale platformen en psychologische massabeïnvloeding is een ware doos van Pandora opengegaan16, die, gelet op het gemak van de verspreiding van nepnieuws via sociale media, niet alleen een einde heeft gemaakt aan de illusie van de calculerende consument en rationele burger waarop de economische theorie en het politieke bestel berusten, maar ook de deur naar onethisch gedrag wagewijd heeft opengezet. Wat rest is hoop, hoop dat de rechtsstaat en het democratische stelsel hier een antwoord op weten te vinden. Tot slot de documentaire van Zoom over de manipulatie van het Brexitreferendum.