Democratie versus innovatie: de noodzaak om kritisch te kijken naar technologische beloftes

[For the English version of this post click here]

Terwijl allerlei nieuwe technologieën onze wereld in hoge mate zullen beïnvloeden is er eigenlijk geen deugdelijke democratische discussie over de wenselijkheid van die nieuwe technologieën. Dat komt vooral omdat er in het publieke debat geen goed idee is over hoe technologische ontwikkeling werkt, waarmee men dus geen notie heeft van de manier waarop je die technologie zou kunnen sturen. Als we ons eerst beseffen dat innovatie mensenwerk is, dan kunnen gaan nadenken over hoe we de keuzes van de mensen die technologie ontwikkelen kunnen beïnvloeden. Belangrijk daarbij is de rol van beloftes die technologie-ontwikkelaars maken, deze beloftes hebben als doel de resources te verwerven die nodig zijn om een technologie verder te ontwikkelen. De geloofwaardigheid en wenselijkheid van zulke beloftes worden vrijwel nooit kritisch benaderd, terwijl een democratisch debat over innovatie juist mogelijk gemaakt kan worden door zo’n kritische benadering.

Als het over nieuwe technologie gaat dan lijkt het vaak alsof de komst van die technologie onvermijdelijk is. Crispr-Cas 9, slimme algoritmes, zelfrijdende auto’s, robots, nanotechnologie en ga zo maar door, ze worden allemaal gezien als uitvindingen waarmee de maatschappij het maar te doen heeft. Ja, de maatschappij kan wel eens heel hard ‘nee’ roepen, maar dat wordt dan weer als achterlijk gezien. De onvrede van romantici die geen vooruitgang willen.

Deze manier om naar technologie te kijken is zowel incorrect als frustrerend. Ten eerste komt het gewoon niet overeen met de feiten en ten tweede weerhoudt het ons er van betere technologieën te maken.

Waar komt dit foute beeld vandaan? Een eerste reden is het idee dat technologie toegepaste wetenschap is. Alsof je er niets aan kan doen dat een wetenschappelijke ontdekking wordt omgevormd tot een nieuwe innovatie. Dat is natuurlijk onzin, er zijn talloze ontdekkingen die nooit hebben geleid tot een nieuwe technologie. Eerst moet iemand maar eens op het idee komen of zo’n ontdekking ergens een toepassing heeft – de stap van quantummechanica naar cd’s ligt echt niet voor de hand. Ook zijn er tal van technologieën gebaseerd op fenomenen die nog door niemand begrepen worden, maar hé, als het werkt, dan werkt het.

(Even tussen haakjes, het is veel zinniger om juist wetenschap als toegepaste technologie te zien. Ga maar na, al die laboratoriumopstellingen, die computermodellen, tele- en microscopen, het zijn deze instrumenten die ons nieuwe inzichten brengen. Wat we met een blote oog waarnemen vertrouwen niet genoeg om de status van een feit toe te kennen.)

Een tweede reden waarom het foute beeld van een onvermijdelijke technologie in stand wordt gehouden is dat het lekker makkelijk is. Als er iets fout gaat, dan hoeft niemand de schuld op zich te nemen. Dat is niet alleen te wijten aan denkluiheid of het neoliberale (en zeer kwalijke) mantra dat wetgeving innovatie hindert, het is simpelweg ook moeilijk om iemand verantwoordelijkheid te geven voor de eventuele negatieve gevolgen van nieuwe technologie: meestal zijn die onbedoeld en bovendien hangen de gevolgen van een innovatie van zoveel factoren af dat je er bijna nooit alleen de ontwikkelaar de schuld voor kunt geven. Kortom, bij gebrek aan slechte intenties en onmogelijkheid de uiteindelijke gevolgen in te schatten is het al te belastend om een individuele innovator verantwoordelijk te houden voor als het mis gaat met een technologie.

We moeten een ander beeld van innovatie ontwikkelen, een correct beeld dat ons helpt inzicht te bieden over hoe technologieën ontwikkeld worden zodat het proces van innovatie gedemocratiseerd kan worden en bovendien ons in staat stelt om tot op zekere hoogte technologie-ontwikkelaars verantwoordelijk te houden voor hun handelingen.

Dit correcte beeld is gebaseerd op het eenvoudige gegeven dat een technologie altijd het resultaat van bepaalde keuzes die gemaakt worden door mensen – een technologie maakt zich immers niet zelf. Om specifiek te zijn, het gaat om de keuze ergens resources aan te besteden. Een van de belangrijkste resources daarbij is tijd: iemand moet zo gek zijn om een technologie te gaan ontwikkelen. Daarin verschilt de uitvinder die in zijn schuurtje decennialang aan de zoveelste perpetuum mobile werkt niet van de nerd uit Silicon Valley die komt met een nieuwe app. Een andere belangrijke resource is geld. Of het nu gaat om bedrijven die financiële middelen moeten vrijmaken voor R&D of het gaat om start-ups die investeerders nodig hebben om hun product verder te ontwikkelen – er moet ergens geld vandaan komen. Een andere resource is kennis. Technologie is dan wel geen toegepaste wetenschap, maar dat betekent natuurlijk niet dat er geen kennis nodig om de hedendaagse technologie mogelijk te kunnen maken. Sterker, de hedendaagse techniek wordt alleen maar complexer en vraagt daarom om steeds meer kennis, net zoals het vraagt om meer tijd en geld. Maar er zijn meer resources, zoals de instituties die de verdere introductie van de nieuwe techniek mogelijk moeten maken (of in ieder geval niet moeten tegenwerken). Wetten, beleid, de regels van de markt, netwerken van actoren die het succes van je technologie ondersteunen, maatschappelijk draagvlak en ga zo maar door.

Als je technologieontwikkeling wilt onderzoeken dan moet je vooral kijken naar de resources die er aan besteed worden. Waar je ook naar moet kijken zijn de motivaties van diegenen die hun schaarse resources besteden aan een nieuwe technologie waarvan je altijd maar moet afwachten of die wel enig succes oplevert. Er is het geloof van de eenzame uitvinder en er is het loon van de professional die werkt bij een R&D-afdeling van een bedrijf. Maar wat vooral interessant is, is te kijken naar de manier waarop iemand erin slaagt dit geloof te verkopen aan anderen.

Dat betekent dat we moeten kijken naar de beloftes die een technologie-ontwikkelaar maakt om de resources te verwerven die hij nodig heeft om zijn technologie tot een succes te maken. Een eerste soort belofte is dat een nieuwe technologie een investeerder geld op gaat leveren of een bedrijfskundig probleem gaat oplossen. Het gaat dan bijvoorbeeld om een nieuw product of een nieuw administratief systeem. Een ander soort belofte, die een grotere rol speelt bij meer fundamentele vormen van technologieontwikkeling zoals genetische modificatie of nanotechnologie, is dat een nieuwe technologie gaat helpen bij de oplossing van een groot maatschappelijk probleem. Zo worden genetische technologie en nanotechnologie ondersteund door de medische en sociale doorbraken die ze tot stand kunnen brengen. Ook het klimaatprobleem leent zich voor allerlei technische oplossingen.

Je kunt dus daarom al te vaak van de beloftemakers horen dat er geen ban moet komen op genetische modificatie, want je wilt toch dat de wereld geen honger meer lijdt? Toe, investeer in nanotechnologie want misschien leidt dat wel tot de genezing van kanker. En trouwens, als Nederland het niet doet, dan zullen de Chinezen het wel doen. Dus vertrouw vooral op ons.

Wat ook werkt is het verwijzen naar successen uit het verleden. Ik noemde al dat zonder quantummechanica we geen cd’s zouden hebben, een graag geuit argument om nieuwe investeringen in fundamentele natuurkunde te legitimeren. Want je weet maar nooit welk hebbeding we er in de toekomst aan te danken zullen hebben.

Iemand die beloftes maken tot business model heeft gemaakt is Elon Musk. Eén succes, de Tesla, wordt gebruikt om investeerders te overtuigen geld te stoppen in tal van andere technologieën – zelfs als die tamelijk mal zijn. Zo is er een missie naar Mars die de oplossing zou moeten zijn voor het klimaatprobleem op Aarde, er is het verbeterde brein, wat een oplossing zou moeten zijn voor ons beperkte denkvermogen, en er is de Hyperloop die congestie zou tegen moeten gaan, maar toch vooral lijkt op een rioolsysteem waarmee je mensen mee kunt doorspoelen.

Beloftes die grote verwachtingen creëren lijken dus essentieel bij het verwerven van de resources die nodig zijn om de technologie daadwerkelijk tot stand te brengen. Er is dus sprake van een cyclische dynamiek waarin beloftes kunnen leiden tot het uitkomen van die beloftes, waarmee de legitimiteit van nieuwe beloftes kan worden ondersteund. Overigens, is er eens een technologie niet succesvol dan ligt het juist aan het tekort aan resources: te weinig geld, te veel wetgeving, de maatschappij was er nog niet aan toe en ga zo maar door. Beloftemakers hebben weinig moeite met zulke argumenten aan te komen zonder dat hun geloofwaardigheid in twijfel wordt getrokken.

Maar is het allemaal wel zo wenselijk dat we niet twijfelen aan grote technologische beloftes? Immers, van welke beloftes zouden we eigenlijk moet vinden dat ze nastrevenswaardig zijn. En hoe geloofwaardig zijn die beloftes eigenlijk? Zijn de probleemdefinities die in een belofte besloten liggen wel correct en sluiten ze alternatieve definities niet uit?

We kunnen naar Mars, maar is dat de oplossing voor het klimaatprobleem? Lijkt me niet. Zelfs als we het klimaat op Mars zodanig kunnen manipuleren dat er mensen kunnen wonen, dan nog blijft het klimaat op Aarde vele malen aantrekkelijker, zelfs bij een zeespiegelstijging van een metertje of zes. In plaats van naar Mars te gaan, stellen anderen geo-engineering als oplossing voor. Het klimaat zelf controleren, is dat dan een oplossing? Misschien als je klimaatverandering als het probleem ziet, maar is het probleem niet eerder dat we te veel vervuilen en zou het dan niet zinniger zijn om daar een oplossing voor te vinden?

Een rioolsysteem voor mensen zodat we niet meer in de file staan. Werkt dat? Als het om één Tesla gaat, dan lost die buis de congestie wel op, maar als we allemaal ondergronds staan, dan is er toch maar weinig gewonnen. Wat we wel hebben met zo’n buis zijn problemen met seismische risico’s, een goed doelwit voor terroristische aanslagen en een eindeloze reeks rechtszaken over grondrechten.

Het probleem is dat we wel discussies hebben over de wenselijkheid van technologieën, maar nooit over de wenselijkheid en geloofwaardigheid van technologische beloftes – terwijl die doorslaggevend lijken. Als we echt gaan nadenken over een democratisch debat over de technologie die we willen hebben en over de verantwoordelijkheden die we toe willen kennen aan technologieontwikkelaars, dan moeten we het vooral hebben over de beloftes die gemaakt worden, over de verwachtingen die gekweekt worden, over welke maatschappelijke problemen opgelost dienen te worden en over de vraag in hoeverre je beloftemakers aansprakelijk kunt en wilt houden voor hun beloftes.

Verder lezen:

Bijker, Wiebe E (1997) Of bicycles, bakelites, and bulbs: Toward a theory of sociotechnical change: MIT press).

Borup, Mads, Nik Brown, Kornelia Konrad & Harro Van Lente (2006) ‘The sociology of expectations in science and technology’, Technology Analysis & Strategic Management 18(3-4):285-98.

Latour, Bruno (1987) Science in action: How to follow scientists and engineers through society: Harvard university press).

Rip, Arie & René Kemp (1998) ‘Technological change’, in S. Rayner & E.L. Malone (eds), Human Choice and Climate Change (Columbus: Battelle Press): 327-99.

 

Be Sociable, Share!
Dit bericht is geplaatst in Uncategorized met de tags , , , , , , . Bookmark de permalink.