Over het belang van een politieke data-ethiek

Gijs van Maanen

 

Krisis 41 (1): 191-196.

 

Recensie van Miriam Rasch (2020) Frictie: Ethiek in tijden van dataïsme. Amsterdam: De Bezige Bij.  

 

Keywords

Data ethiek, Dataïsme, Data politiek, Harari, Beauvoir

DOI

10.21827/krisis.41.1.37356

 

Licence

This work is licensed under a Creative Commons Attribution 4.0 International License (CC BY 4.0). © 2021 The author(s).

 

In het recent verschenen boek over de groeiende invloed van de techsector presenteert Miriam Rasch haar ‘ethiek in tijden van dataïsme’. Rasch zet zich af tegen techno-optimisten die pogen de wereld volledig te reduceren tot data, om die wereld vervolgens tot in het kleinste detail vorm te geven middels die data. Haar op Simone De Beauvoirs geïnspireerde antwoord kenmerkt zich door individueel verzet, waarbij wordt geput uit het fundamenteel onzekere karakter van het menselijk handelen. Een recensie in Trouw stelt terecht dat in Rasch’ werk een ‘afgebakende discussie’ ontbreekt, maar dat het tegelijkertijd de lezer bedient van een brede waaier van denkers en perspectieven (Dobbelaar 2020). Ze laat zien, volgens de recensent, op welke manieren data onze levens beheersen – een boodschap die in tijden van etnisch profilerende belastingdiensten niet moet worden vergeten.[1] Mij beklijft echter de vraag wat iemand die niet aan het kortste eind heeft getrokken bij de belastingdienst, uit Rasch’ boek zou kunnen halen.  Of, anders gesteld, wat behelst Rasch’ ethiek precies? Die vraag is relevant omdat de rol van ethiek aan inflatie onderhevig lijkt te zijn in deze context. Denk hierbij, bijvoorbeeld, aan de korte levensduur van de ethische commissie van Google, of de groeiende trend met ethiek en ethici bedrijfsbeleid schoon te wassen.[2]

Om te begrijpen wat Rasch bedoelt met haar ethiek van ‘frictie’ is het eerst nodig in te gaan op het tweede kernbegrip uit de titel: ‘dataïsme’. Rasch omschrijft dataïsme als een dominant stelsel van normen en waarden – als een geloof, met allerlei ‘geloofsartikelen’ die betrekking hebben op data en technologie (14). Deze ‘leer’ omvat ideeën als dat data neutraal zijn, de opvatting dat je nooit genoeg data kan hebben en dat in de toekomst alles volledig ‘gedataficeerd’ zal zijn. Het begrip dataïsme is al wat ouder, zoals Rasch uitlegt in hoofdstuk twee, maar verkreeg wereldwijde bekendheid toen Yuval Noah Harari er gewag van maakte in zijn Homo Deus (2016). Twee belangrijke componenten van het dataïsme waar Rasch op ingaat zijn de meer epistemologische vraagstukken over hoe data kunnen helpen de toekomst te voorspellen, en de ontologische vragen die betrekking hebben op het dataïstische mensbeeld.

Het dataïsme, als ‘predistinatieleer’, probeert aan de hand van onze tot getallen getransformeerde wereld de toekomst te voorspellen. Alles wordt verondersteld zo meetbaar te zijn dat zelfs het ‘zijn’ te digitaliseren valt. Een voorbeeld hiervan dat Rasch noemt is de zogenoemde quantified self-beweging van mensen die proberen met slimme horloges en apps hun fysieke gesteldheid tot ver achter de komma bij te houden en te verbeteren (88). Rasch trekt deze trend om met behulp van data tot kennis te komen terug tot Ian Hackings werk over de geschiedenis van de statistiek. Hacking laat zien hoe de meetwaarden en classificatieschema's ingebouwd in je slimme horloge altijd een contingent karakter zullen hebben. Wat volgens zo’n app doorgaat voor ‘gezond’ is niet alleen tijdgebonden, maar ook sociaal-politiek bepaald. Het is niet voor niets dat statistiek een van oorsprong politieke (want: ‘staat’) methode was gericht op de beheersing van de groep of populatie. Dataïsten proberen met data het nu en de toekomst in een digitale ‘mal’ te plaatsen om zo hun ideaal van een volledig gedataficeerde samenleving te verwezenlijken.

Wanneer alles in potentie gereduceerd kan worden tot data, is dit ook van invloed op hoe de mens moet worden begrepen. Harari is daar stellig in: organismes zijn algoritmes. “Dat houdt in,” legt Rasch goed uit, “dat elk organisme, van bacterie via banaan en baviaan helemaal tot de mens aan toe, terug te voeren zou zijn tot een stappenplan” (26). Wanneer het mogelijk is de wereld om te zetten tot getallen waarmee men kan (be)rekenen en voorspellen, en wanneer ook de mens reduceerbaar blijkt tot een getallenreeks, opent dit de mogelijkheid van het radicaal herprogrammeren van de homo sapiens tot de vergoddelijkte mens, de homo deus. Harari voorspelt met andere woorden het einde van het tijdperk van de moderne mens. Rasch neemt met deze voorspelling, terecht, geen genoegen. Zo laat Harari’s startpunt – organismes zijn algoritmen – geen ruimte over voor alternatieve toekomsten. Alles valt terug te voeren, weg te verklaren en te voorspellen met behulp van deze wat simpele vergelijking. Verder is er in de dataïstische utopie geen ruimte voor “werkelijk ethische vragen” (29). Dat is het moment waar Rasch’ verhaal aanvangt. De eerste stap is hier, kort gezegd, het aanvaarden van het onvolmaakte karakter van de (morele) handeling. De vervolgstap: daar desondanks verantwoordelijkheid voor te nemen.

Net als Harari start ook Rasch simpel: “zonder mislukking geen moraal” (50). Rasch citeert hier Simone de Beauvoir die ethiek verbond met de “fundamentele onoplosbaarheid” van de goede handeling.[3] “Je hebt nooit voldoende overzicht en nooit genoeg kennis, simpelweg omdat volledig overzicht of uitputtende kennis van een situatie die zich afspeelt in het hier en nu, op weg naar de toekomst, onmogelijk is,” aldus Rasch (51). Vanwege deze fundamentele onzekerheden over de gronden waarop keuzes verantwoord kunnen worden en de gevolgen die met deze keuzes gepaard gaan, zal elke gemaakt beslissing gedoemd zijn te mislukken. De Beauvoirs theorie, in Rasch’ lezing, staat daarmee diametraal tegenover die van de dataïsten. Van reduceerbaarheid en determinisme zijn we overgestapt in een existentialistisch universum gedomineerd door onzekerheid en een nog volledig onbepaalde toekomst. De imperatief die Rasch aanhaalt, in navolging van De Beauvoir, is het bewust aanvaarden van dit morele ‘echec’ (52). Je moet accepteren dat het niet mogelijk is ooit volledige wetenschappelijke of morele objectiviteit te verkrijgen. Onverlet dat morele keuzes gedoemd zijn uit te lopen op een mislukking, draag je er desondanks volledig verantwoordelijk voor.[4] En die verantwoordelijkheid, gekozen of niet, zul je moeten nemen (72).

Hoe dan die verantwoordelijkheid te nemen? Rasch bespreekt vele voorbeelden van methoden die ruimte pogen te scheppen in het reductionistische en deterministische wereldbeeld van de dataïsten. De Beauvoirs nadruk op de mislukking als basisvoorwaarde voor de ethiek herformuleert Rasch tot een oproep tot het creëren van weerstand, of frictie. Met behulp van het personage van de ‘idioot’ legt Rasch uit wat dit kan betekenen in de praktijk. De idioot (denk futurisme, denk dada) is iemand die zich niet laat meeslepen in de sleur van de alledaagse digitale dag. In volkomen ondoelmatigheid weigert de idioot “zomaar te doen wat gevraagd wordt, te kopen wat wordt aangeboden, te antwoorden zodra iemand zijn aandacht vraagt” (78), om zo de in het dataïsme aanwezige neiging al het handelen kapot te rationaliseren, te frustreren. De idioot is een voorbeeld van een vorm van ‘verbeeldingsverzet’ om aan te tonen dat er wel degelijk nog andere toekomstscenario’s open staan.

Een bron van inspiratie voor een dergelijk verzet is het van John Cheney-Lippold geleende idee van het ‘else’. Rasch omschrijft het else als de ervaring van een confrontatie met je gedigitaliseerde ‘ik’ (137). Denk aan het zien van een ‘verkeerde’ digitale advertentie of wanneer je, zoals Rasch zelf schrijft, wordt gecategoriseerd als ‘verdacht element’ of ‘wanbetaler’. Hoewel ook Rasch beseft dat zij die dergelijke labels krijgen opgeplakt hier nadeel van ondervinden, volgt zij Cheney-Lippold in het toedichten van een zekere ‘kritische potentie’ aan dergelijke vervreemdende ervaringen. Want, de wijze waarop jij jezelf nooit volledig terug kunt vinden in de aan jou teruggevoerde datastromen roept allerlei ethische vragen op. “Wat vind ik er zelf eigenlijk van? Wie ben ik? Hoe verhoud ik me tot de wereld? En wat ga ik eraan doen?” (138). De ervaring van het else wordt door Rasch dus begrepen als aanleiding om kritisch na te denken over de manier waarop het dataïsme onze lichamen, vrijheden en toekomsten voor ons invult. Het else is met andere woorden de start van het proces van acceptatie en verantwoording nemen dat zo belangrijk is voor Rasch’ existentialistische ethiek. Een ervaringsgestuurd beginpunt op de weg naar de vrijheid.

Dat gezegd hebbende is een belangrijk onderdeel van Rasch’ betoog mij nog steeds niet helder: wat is dat dataïsme nou precies en hoe groot is het probleem dat het veroorzaakt? Is het een profetie gepropageerd door een Israëlische historicus? Een wetenschappelijke theorie teruggaande tot zeventiende-eeuwse verlichtingsdenkers? Een praktijk min of meer samenvallend met Shoshanna Zuboffs ‘surveillance capitalism’ (Zuboff 2019)? Of een mengelmoes van dit alles? Een antwoord op deze vraag ontbreekt. Dat is niet alleen problematisch voor het verkrijgen van een goed beeld van het probleem waar Rasch een antwoord op zegt te bieden, maar ook voor haar reactie zelf. Het maakt uit voor het type ethiek waar je voor kiest of je te maken hebt met een wetenschappelijke theorie, een politiek-economische structuur, een profetie, of dominante religie. Dit mede omdat de kwaliteit van je ethische response afhangt van of je behandelt wordt als gelijkwaardige discussiepartner, onproductieve loser, of een uit de publieke ruimte te verwijderen ketter.

In het verlengde daarvan dienen er ten minste drie vervolgvragen te worden gesteld. Rasch stelt dat de frictie, veroorzaakt door het verzet van het dappere individu, “de droom van het monopolie op werkelijkheidsproductie” doet verstoren (47). Vraag één is dan in hoeverre het stellen van vragen, het reflecteren op details en het bedenken van andere toekomsten een passende reactie is op het ‘werkelijkheidsmonopolie’ van de techsector? Het plegen van verzet als filosofische idioot mag dan wel een ander toekomstscenario schetsen, als je handeling en scenario door de dataïst als statistische outlier wordt gezien en behandelt, dan was je verzet van korte duur.

Vraag twee: voor wie is deze ethiek eigenlijk bedoeld? Is Rasch’ existentialistische ethiek niet vooral iets voor kunstenaars, schrijvers en filosofen? Rasch’ antwoord op deze vraag is dat de vervreemding die een contactmoment met je digitale evenknie veroorzaakt ook voor hen in een zwakkere positie waardevol is (138). De verwondering leert ons een nieuwe ervaring die onze capaciteit om nieuwe vormen van vrijheid te ontwikkelen vergroot. Rasch valt hier dus terug op haar begrip van De Beauvoirs ethische imperatief: de digitale vervreemding draagt bij aan je vermogen volledig verantwoordelijk voor je zijn te zijn. Rasch’ antwoord moet de met advertenties bestookte kunstenaar met de capaciteit en tijd deze ervaring tot vrijheid om te vormen aanspreken. De als ‘wanbetaler’ gecategoriseerde burger heeft hier echter weinig aan en zoekt eerder een op rechtvaardigheid geënte schadeloosstelling, dan een vergroting van haar vrijheid.

Vraag drie: in hoeverre is er bij Rasch ruimte voor individu-overstijgende vormen van ethisch of politiek handelen? Rasch’ ethiek lijkt toch vooral gericht te zijn op het individu. Dit terwijl de problemen die de data-industrie veroorzaken ons allen aangaan. Ook gaat de verschuiving die Rasch beschrijft in haar hoofdstuk over statistiek en het werk van Hacking in essentie over het ontstaan van de categorie van de groep en de populatie. De vraag naar hoe een individualistische ethiek van verzet zich daartoe verhoudt, wordt niet gesteld.

Rasch kan goed schrijven en krijgt het voor elkaar een wijd pallet aan auteurs, ideeën en theorieën met elkaar in verband te brengen. Haar ethiek acht ik echter onvoldoende in staat om te gaan met het daar haar gepresenteerde probleem van dataïsme. Dat ligt deels aan de omschrijving van het probleem, maar vooral ook door haar beperkende ethische response. Een politiek probleem verdient een politieke aanpak en niet een gestoeld op contemplatie en aanvaarding.[5] Het bevorderen van het else en frictie in het dataïstische universum:

(…) may be morally praiseworthy but cannot be more than a palliative measure, and will certainly not be sufficient to deal with the deep-rooted and systematic social and economic sources of suffering.[6] 

 


 

 

Referenties

Beraldo, Davide, and Stefania Milan. 2019. “From Data Politics to the Contentious Politics of Data.” Big Data & Society 6 (2): https://doi.org/10.1177/2053951719885967.

D’Ignazio, Catherine, and Lauren F. Klein. 2020. Data Feminism. Cambridge: The MIT Press.

Dobbelaar, Tanny. 2020. “In dit boek ontdek je wat je digitale profiel níet over je zegt.” Trouw, 6 mei, 2020. https://www.trouw.nl/gs-be82c7df.

Geuss, Raymond. 2005. “Suffering and Knowledge in Adorno.” In Outside Ethics, 111–30. Princeton: Princeton University Press.

Green, Ben. 2018. “Data Science as Political Action: Grounding Data Science in a Politics of Justice.” ArXiv:1811.03435 [Cs], November. http://arxiv.org/abs/1811.03435.

Harari, Yuval N. 2016. Homo Deus: A Brief History of Tomorrow. London: Harvill Secker.

Maanen, Gijs van. “Ethics Washing: Een Introductie.” Algemeen Nederlands Tijdschrift Voor Wijsbegeerte 112 (4): 462–67. https://doi.org/10.5117/ANTW2020.4.020.VANM.

Oenen, Gijs van. 2018. Overspannen Democratie. Amsterdam: Boom.

Terzis, Petros. 2020. “Onward for the Freedom of Others: Marching beyond the AI Ethics.” Preprint. SocArXiv. https://doi.org/10.31235/osf.io/3xzaf.

Zuboff, Shoshana. 2019. The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. London: Profile Books Ltd.

 

 

Biografie

Gijs van Maanen werkt als promovendus aan Tilburg University aan een proefschrift over open data-beleid in Nederland. Naast zijn proefschrift werkt houdt hij zich bezig met de representatieve kwaliteiten van algoritmes en data ethiek en politiek.  Hij heeft een achtergrond in de geschiedenis en de politieke filosofie.



[1]] In 2019 bleek dat de belastingdienst burgers hun (tweede) nationaliteit gebruikte bij het controleren en onterecht stopzetten van kinderopvangtoeslag. Vele ouders moesten duizenden euro's (onterecht, nogmaals) terugbetalen en belandden in de schulden.

[2]] Zie Rasch pagina 13. Zie daarnaast (Maanen 2020).

[3]] Zie voor een vrijwel identitiek argument (Terzis 2020).

[4]] Zie voor het uitbesteden van politieke beslissingen aan algoritmes ook (Oenen 2018).

[5]] Meer politiek georiënteerde alternatieven zijn (D’Ignazio and Klein 2020; Green 2018; Beraldo and Milan 2019).

[6]] Theodor Adorno, zoals geciteerd door Raymond Geuss in (Geuss 2005, 113).