Whatever the truth of Cambridge Analytica’s claims, the very existence of such companies tells us something important about the weight that unconscious influence, relative to reasoned argument, now plays in political campaigns.

Gedrag: duwen, kiezen en doen

Behavioral economics is in de mode. Minder bekend is dat Amos Tversky and Daniel Kahneman de peetvaders zijn van de onderliggende psychologie1Voor de liefhebbers: Daniel Kahneman, Amos Tversky, Prospect Theory: An Analysis of Decision under Risk, Econometrica, Vol. 47, No. 2. (Mar., 1979). Zie Vanity Fair voor een levendige schets van de ontstaansgeschiedenis van de prospect theory.. Hun onderzoek naar mensen die in onzekere omstandigheden beslissingen nemen, bracht aan het licht dat niet rationaliteit -waarop de economische theorie en haar utiliteitsconcept is gebaseerd- maar intuitie of gevoel aan de meeste beslissingen ten grondslag ligt. Maar denk nou niet dat mensen zomaar wat doen; er zit een patroon in het door de intuitie of gevoel geleide gedrag. Kleine kansen worden stelselmatig te hoog ingeschaft, zekerheden wegen zwaarder dan kansen en verlies telt harder aan dan winst. Wie dit weet staat al op grote voorsprong tegenover degene die moet kiezen (de consument). Daarom worden er bijvoorbeeld verzekeringen aangeboden voor dure apparaten zoals computers, want mensen schatten de kosten en baten “onrealistisch” in. Hier ligt een groot terrein braak voor “dienstverlening” die commercieel voordeel haalt uit de systematische vertekening van het oordeel over belangrijke aspecten van een situatie; de verzekeraar weet dat, de verzekerde niet.

You can’t understand the success of digital platforms like Amazon, Facebook, Farmville, Nike Plus, and Groupon if you don’t understand behavioral economic principles…. Behavioral economics will increasingly be providing the behavioral insight that drives digital strategy

Richard Thaler en Cass Sunstein publiceerden in 2008 het boek Nudge, vrij vertaald: duwtje (in de goede richting), dat snel werd omarmd door de gedragseconomen2Thaler en Sunstein recenseerden in 2003 Moneyball van Micheal Lewis in New Republic vanuit het door Kahneman en Tversky aangereikte perspectief . “Lewis also raises some serious puzzles that he does not resolve, and his account has some large and perhaps profound implications that he does not much explore. [..] Lewis is actually speaking here of a central finding in cognitive psychology. In making judgments, people tend to use the “availability heuristic.” As Daniel Kahneman and Amos Tversky have shown, people often assess the probability of an event by asking whether relevant examples are cognitively “available.” [..] The problem is not that baseball professionals are stupid; it is that they are human. Like most people, including experts, they tend to rely on simple rules of thumb, on traditions, on habits, on what other experts seem to believe. Even when the stakes are high, rational behavior does not always emerge. It takes time and effort to switch from simple intuitions to careful assessments of evidence.. Daarin wordt gepleit voor een libertair paternalisme, waarin de staat en andere instellingen mensen mogen helpen of sturen met behulp van een soort keuze-architectuur om beslissingen te nemen die in hun eigen belang op lange termijn zijn. Dat nudgen kan ook door framen: de presentatie of formulering van de zaak waarover wordt besloten. Vleeswaren 90% vrij van vet zijn aantrekkelijker dan vleeswaren met 10% vet.

Het lovenswaardige doel dat Thaler en Sunstein zich voor ogen stellen maakt de technieken waarvan zij zich bedienen natuurlijk niet ongevaarlijk. Het zijn effectieve propaganda- of manipulatiemiddellen; het verschil met de klassieke propaganda is dat het voor de ontvangers van de wervende boodschap steeds minder doorzichtig wie met welke middelen hem of haar welke kant op wil duwen.

Gevoel. Geluk en welzijn

In de jaren negentig van de vorige eeuw betrok Kahneman nog iets anders in zijn onderzoek: hoe goed zijn we eigenlijk in het beoordelen van ons eigen welzijn, onze genoegens, voorkeuren en voorliefdes? Je kunt je natuurlijk afvragen hoe zinvol een dergelijke vraag is. Maar goed, eenmaal gesteld bleek volgens Kahneman dat de terugblikkende persoon geen betrouwbaar of objectief oordeel velde over zijn of haar ervaringen; ook de kokerillusie3Kahneman: Niets in het leven is zo belangrijk als je denkt dat het is wanneer je erover denkt maakt het beoordelen van beleefd genoegen of welzijn er niet gemakkelijker op. Inmiddels is er veel aandacht voor dit onderwerp, bloeit een hedonic psychology en houdt het World Well-Being Project4De missie: Ultimately, we hope that our insights and analyses will help individuals, organizations, and governments choose actions and policies that are not just in the best economic interest of the people or companies, but which truly improve their well-being. de welzijnstemperatuur van de hele wereld in de gaten. Het nudgen stopt dus niet bij het nemen van beslissingen, maar strekt zich gemakkelijk uit tot de eigen kijk op welzijn en geluk 5Zie ook artikel van Cody Delistraty in Aeon. Maar ook hier opent psychologisch onderzoek de mogelijkheid naar -ideeel, commercieel of crimineel- sleutelen aan subjectieve preferenties. Dat was al gestart in het begin van de vorige eeuw, toen bedrijven de psychologie hadden ontdekt om de reclame- en marketinginspanningen succesvoller te maken. De aandacht voor deze subtiele vormen van beïnvloeding werden in de jaren twintig van de vorige eeuw -toen men op adem kwam van de de Eerste Wereldoorlog- echter overschaduwd door het effect dat de “machine” op de “moderne” mens zou hebben. Het nieuwe medium film liet zich er graag door inspireren met al resultaat een aantal klassiekers in diverse genres: Metropolis van Fritz Lang, Modern Times van Chaplin of Frankenstein met Boris Karlof. Hoe onschuldig oogt die bedreiging bij die van de “postmoderne”, digitale, internet- en Big Data wereld, de surveillancesamenleving, waarin de permanent geobserveerde mens slechts een bundel datapunten is die met nudges en frames als een flipperbal in de gewenste richting wordt gedreven. Blader nog maar eens door Huxleys Brave New World -in het Nederlands vertaald met Het soma-paradijs– en zie welke proporties the advancement of science as it affects human individuals6 inmiddels heeft aangenomen.

OURS is the first age in which many thousands of the best-trained individual minds have made it a full-time business to get inside the collective public mind. To get inside in order to manipulate, exploit, control is the object now. And to generate heat not light is the intention. To keep everybody in the helpless state engendered by prolonged mental rutting is the effect of many adds and much entertainment alike.
Marshal McLuhan, The mechanical bride.

Invloed. Internet en Big Data

In 2007 (in 2008 was een vervolg) gaf Kahneman, inmiddels winnaar van de Nobelprijs voor economie in 2002, een masterclass op uitnodiging van Edge. Onder de toehoorders: Jeff Bezos (Amazon), Larry Page (Google), Sergey Brin (Google), Nathan Myhrvold (Microsoft), Sean Parker (Facebook), Elon Musk (Space X, Tesla), Evan Williams (Twitter), Jimmy Wales (Wikipedia). 7Zuckerberg van Facebook, het is niet zo bekend, studeerde niet alleen computerwetenschap, maar ook psychologie. En waarschijnlijk ligt daar ook een verklaring voor de manier waarop Facebook in de markt is gezet. Het merk Facebook zet aanvankelijk in op exclusiviteit: The initial launch of Facebook was limited to people with a Harvard email address; the intention was to make access to the site seem exclusive and aspirational. (And also to control site traffic so that the servers never went down. Psychology and computer science, hand in hand.) Then it was extended to other elite campuses in the US. When it launched in the UK, it was limited to Oxbridge and the LSE. The idea was that people wanted to look at what other people like them were doing, to see their social networks, to compare, to boast and show off, to give full rein to every moment of longing and envy, to keep their noses pressed against the sweet-shop window of others’ lives.(John Lanchaster in de London Review of Books, Één van de belangrijkste investeerders in Facebook was de filosofisch geschoolde Thiel. Die was gefascineerd door het werk van Réné Girard en zijn concept van het “mimetisch verlangen”. Als de fundamentele behoeften van mensen zijn bevredigd en verveling en sleur op de loer liggen, kijken mensen om zich heen, vergelijken zich met elkaar vergelijk en copiëren elkaar. Facebook was in zijn ogen het Girardiaanse medium bij uitstek. Dit inzicht heeft hem geen windeieren gelegd.Edge vond het tijd om Kahnemans 80ste verjaardig te vieren met een lofzang op zijn bijdrage aan de psychologie: Entirely new economic structures and pathways have come into existence in the past few years: New ideas in psychology, cognitive science, behavioral economics, law, and medicine that take a new look at risk, decision-making, and other aspects of human judgment. Opvallend genoeg ontbreekt in dit lijstje wat genoemde aanwezigen gemeen hebben: internet en Big Data. In 2011 vatte Kahneman zijn ideeën nog eens samen in de bestseller Ons feilbare denken (Thinking, Fast and slow).

In een brief aan zijn aandeelhouders schreef Bezos in 2015 dat “through our Selling Coach program, we generate a steady stream of automated machine-learned ‘nudges’ (more than 70 million in a typical week).” Inmiddels heeft nudging zich als een epidemie door de wereld van het webwinkelen verspreid en wordt de klant opgejut met mededelingen dat hij naar het laatst beschikbare product kijkt of wordt de klant gewezen op persoonlijke aanbiedingen en speciale, geheime prijzen. Zelfs de term hypernudging is al gevallen.
Ook bij Facebook vond het werk van Kahneman, Thaler en Sunstein gehoor. Met onderzoekers van twee universiteiten werd geëxperimenteerd met “emotional priming“: was het zien van positief of negatief nieuws van invloed op de berichten van de gebruikers. Die wisten natuurlijk niets van wat Facebook uitspookte en ongewild waren zij dus proefpersoon in een groot psychologisch onderzoek.8Zie Shaw, Tamsin, Invisible Manipulators of Your Mind, New York Review of Books, 20 april 2017

Maar data worden niet alleen massaal op internet verzameld. Ook de autobouwers registreren alle handelingen in de wagen en slaan die gegevens op. Daarmee is het persoonlijke rijgedrag volledig reconstrueerbaar. En natuurlijk zijn er allerlei “andere dienstverleners” die verlekkerd naar die data kijken. To nudge or not to nudge, that is the question.

Big Data en propaganda. Facebook als manipulatieplatform

Maar niet alleen de grote internetbedrijven, autobouwers en banken om een paar sectoren te noemen waarin het mogelijk is dagelijkse handelingen te volgen, maken gebruik van Big Data. Op Youtube is nog steeds de video te bekijken waarop Alexander Nix van Cambrigde Analytica hun methode aanprijst: de combinatie van Big Data en psychografica.

Facebook en persoonlijkheidsonderzoek

Het idee was afkomstig van psychologen van het al eerder genoemde World Well-Being Project en de psychologen Kosinski and Stillwell, beiden verbonden aan Cambridge’s Psychometrics Centre. Stillwill had in 2007 myPersonality ontwikkeld: een Facebook applicatie om een persoonlijkheidstest, de Big Five, af te nemen. Het idee: de persoonlijkheidsscores combineren met de grote hoeveelheid persoonlijke informatie uit de Facebook omgeving; bijna de helft van de gebruikers gaf inderdaad toestemming hun profielen te raadplegen. Daarmee was Facebook omgetoverd in een groot, onuitputtelijk psychologisch laboratorium. De onderzoekers hebben in 2012 wegens tijdgebrek myPersonality gesloten. Zij beschikten toen over een dataverzameling van ongeveer 6 miljoen Facebookers. In 2018 stopten zij ook het delen van deze data met andere onderzoekers.

Meerdere keren hebben Kosinksi -wiens promotie over dit onderwerp overigens financieel werd gesteund door Boeing- en Stillwell gewezen op de risico’s van dit soort dataverzameling voor de privacy van gebruikers9Likes van gebruikers waren standaard publiek, maar na een rapport over wat uit al die Likes te halen was, heeft Facebook zijn beleid aanpast en zijn Likes sinds 2014 standaard privé en de commerciële en politieke uitbating van hun persoonlijke kenmerken10“More recently, we investigated the efficiency of psychologically tailored advertising, of the kind used by Cambridge Analytica (but without their involvement; again, we had nothing to do with them). We found that it is, indeed, effective, boosting the efficiency of online advertising by up to 50%. We warned that it “… might be used to exploit “weaknesses” in a person’s character,” and that it “… challenges the extent to which existing and proposed legislation can protect individual privacy in the digital age. While … having direct access to an individual’s digital footprint makes it possible to accurately predict intimate traits, … such inferences can be made even without having direct access to individuals’ data.””.

Uit de lucratieve aanbiedingen die Stillwell en Kosinski kregen voor hun app en hun dataverzameling, waarop zij overigens naar eigen zeggen nooit zijn ingegaan, bleek dat de wetenschappelijke waarde verbleekte bij de commerciële en politieke potentie van deze van gegevensverzamelingen.

Van wetenschap naar politieke praktijk

Hoe interessant dit materiaal werd gevonden blijkt uit de informatie van klokkenluider Christopher Wylie.11Het volgende is geheel gebaseerd op dit artikel uit The Guardian. Opgegroeid in Canada -waar hij nog had meegewerkt aan campagnes voor de Liberal Party- en handig in computercode en dataverzamelen, kwam hij in 2010 naar London om rechten te studeren aan de London School of Economics. In 2013 was hij begonnen aan zijn promotie over het voorspellen van modetrends. Actief voor de Liberaal democraten in Groot Britannië vroeg hij zich af waarom die er niet in slaagden politiek succes te behalen. Dan stuit hij op een artikel van Stillwell en Kosinski en ziet daarin het antwoord op zijn vraag:

“I wanted to know why the Lib Dems sucked at winning elections when they used to run the country up to the end of the 19th century,” Wylie explains. “And I began looking at consumer and demographic data to see what united Lib Dem voters, because apart from bits of Wales and the Shetlands it’s weird, disparate regions. And what I found is there were no strong correlations. There was no signal in the data.
“And then I came across a paper about how personality traits could be a precursor to political behaviour, and it suddenly made sense. Liberalism is correlated with high openness and low conscientiousness, and when you think of Lib Dems they’re absent-minded professors and hippies. They’re the early adopters… they’re highly open to new ideas. And it just clicked all of a sudden.” 12in: Carole Cadwalladr in The Guardian, 18 maart 2018.

De Lib Dems bleken niet geïnteresseerd in zijn idee, maar iemand uit hun gelederen wees hem op de SCL groep, met onderdelen als SCL Elections en Cambridge Analytica. Wylie besprak zijn ideeën met Alexander Nix van Cambrigde Analytica die hem aanbood dit allemaal in de praktijk uit te testen. Wylie werd research director bij de SCL groep en belandde zonder het te weten in de wereld van geheime operaties. “When he turned up at SCL’s offices in Mayfair, he had no clue that he was walking into the middle of a nexus of defence and intelligence projects, private contractors and cutting-edge cyberweaponry.” Achter de SCL groep zat Robert Mercer, de miljardair die ook rechtsradicaal gedachtengoed financieel steunt, onder meer met Breitbart waar Steve Bannon enige tijd de scepter zwaaide.

Via Steve Bannon kwam Wylie in gesprek met vader en dochter Mercer. Het idee werd besproken en dan komt de cruciale vraag: werkt het in de praktijk? Om dat uit te vinden heb je data nodig. Waar haal je die vandaan?

Op 4 juni 2014 sluit SCL, waar Cambridge Analytica onder valt, een contract met Global Science Research, het bedrijf van Aleksandr Kogan13naar later bleek ook verbonden aan de universiteit van St. Petersburg. Uit emails in het bezit van Wylie wordt duidelijk dat hij zelf eerst contact heeft gezocht met Michael Kosinski van MyPersonality met de vraag om hun data te mogen gebruiken. Kosinski vroeg $500.000 voor het gebruik (staat op gespannen voet met hun eigen verklaringen). Toen deze weg niet tot een overeenkomst leidde, bood een Cambrigde collega, Kogan dus, aan het onderzoek opnieuw te doen en zo de data zelf te verzamelen. Voor dit doel richtte Kogan Global Science Research op. Het werk kon beginnen.

Kogan adverteerde op Amazon wie tegen betaling wilde deelnemen aan een persoonlijkheidsquiz. Aan het einde van de app, die Kogan thisisyourdigitallife had genoemd, werd toestemming gevraagd om het Facebookprofiel te mogen raadplegen. Maar in de praktijk bleken ook “vrienden” van degenen die toestemming gaven in de dataverzameling terecht kwamen. Per quiz of vragenlijst leverde dat gemiddeld 160 profielen op. Bij een totaal van rond 320.000 betaalde deelnemers resulteerde dat in meer dan 50 miljoen gebruikersprofielen. Kogan had toestemming om data te verzamelen op Facebook, maar louter voor wetenschappelijk gebruik; wat hier gebeurde was dus in vele opzichten illegaal. Facebook zag door hun veiligheidsprotocollen dat Kogan veel dataverkeer genereerde, maar omdat hij voor wetenschappelijke doeleinden data mocht verzamelen gingen bij Facebook geen bellen rinkelen. Binnen een paar weken had Kogan al miljoenen gebruikers bij elkaar gesprokkeld.

Cambridge Analytica had de data en Wylie kon aan de slag. Uit de profielen van de betaalde dataleveranciers werden psychologisch relevante aspecten gedistilleerd en gekoppeld met hun gedragskenmerken. Vervolgens werden er algoritmes gebouwd om de “bijvangst” te profileren.

Microtargetting kreeg met deze aanpak een nieuwe dimensie. Naast leeftijd of geslacht, opleiding of woonplaats etc. kon nu ook gebruik worden gemaakt van gedragskenmerken die zouden wijzen op psychologische eigenschappen. De politieke boodschap kan dan worden aangepast aan die “mindset”, zodat het effect op de ontvanger groter wordt. De psychografische profielen zijn het eerst ingezet in de campagne van Ted Cruz in 2015. Nix geeft hieronder uitleg aan “collega’s” over wat hij presenteerde als hun baanbrekende aanpak: psychographics in the electoral proces.

Cruz wint de Republikeinse voorverkiezingen niet. Trump bemachtigde de Rupublikeinse nominatie. Cambrigde Analytica stapte over naar de presidentscampagne van Trump, wat de firma volgens Arno Wellens in Follow The Money geen windeieren heeft gelegd14Omdat Mercer één van de grootse campagnefinanciers van Trumps was en eigenaar van SCL pompt hij zijn eigen geld invloedrijk rond.. In de campagne rondom een Engelse uittreding uit de Europese Unie heeft Cambrige Analytica (en AggregateIQ15It was with AggregateIQ that Vote Leave (the official Leave campaign) chose to spend £3.9m, more than half its official £7m campaign budget. Carole Cadwalladr, The great British Brexit robbery in The Guardian, ) ook een -mogelijk doorslaggevende- rol gespeeld.
Maar er waren ook andere geïnterresseerden. Er blijkt contact te zijn geweest tussen Cambridge Analytica en de russische oliemaatschappij Lukoil. Uit een email van Nix aan Wylie bijkt dat de Russen het spel dat Nix speelde al aardig, maar nog niet helemaal doorhadden: “they understand behavioural microtargeting in the context of elections” but that they were “failing to make the connection between voters and their consumers”. The work, he said, would be “shared with the CEO of the business”, a former Soviet oil minister and associate of Putin, Vagit Alekperov.16Uit het al eerder geciteerde artikel van Cadwalldr in The Guardian

Inmiddels hebben de ontwikkelaars van het basisidee de schaduwzijde van hun vinding ook ontdekt. In het artikel Psychological targeting as an effective approach to digital mass persuasion wijzen zij erop dat “nudgen” niet het enige doel van psychologische massabeïnvloeding is. On the one hand, this form of psychological mass persuasion could be used to help people make better decisions and lead healthier and happier lives. On the other hand, it could be used to covertly exploit weaknesses in their character and persuade them to take action against their own best interest, highlighting the potential need for policy interventions. Met de combinatie van digitale platformen en psychologische massabeïnvloeding is een ware doos van Pandora opengegaan17Our empirical experiments were performed without collecting any individual-level information whatsoever on our subjects yet revealed personal information that many would consider deeply private. Consequently, current approaches are ill equipped to address the potential abuse of online information in the context of psychological targeting.
As more behavioral data are collected in real time, it will become possible to put people’s stable psychological traits in a situational context. For example, people’s mood and emotions have been successfully assessed from spoken and written language (30), video (31), or wearable devices and smartphone sensor data (32).
S.C. Matz, M.Kosinski, G.Nave, and D.J. Stillwell, Psychological targeting as an effective approach to digital mass persuasion , die, gelet op het gemak van de verspreiding van nepnieuws via sociale media, niet alleen een einde heeft gemaakt aan de illusie van de calculerende consument en rationele burger waarop de economische theorie en het politieke bestel berusten, maar ook de deur naar onethisch gedrag wagewijd heeft opengezet. Wat rest is hoop, hoop dat de rechtsstaat en het democratische stelsel hier een antwoord op weten te vinden. Tot slot de documentaire van Zoom over de manipulatie van het Brexitreferendum.