We zijn eraan gewend geraakt dat nieuwe technologieën veel van de dingen die we kennen sneller, lichter, kleiner, goedkoper, of slimmer maken. Onze wasmachine kunnen we nu met een smartphone bedienen, terwijl de prijs van zonnepanelen in 15 jaar met een factor 5 is verminderd. Maar wat als er meer aan de hand is? Wat als technologie ons leven op een fundamentelere manier gaat beïnvloeden? Ook dat kennen we: het Internet heeft ons leven zodanig veranderd dat we ons niet meer kunnen voorstellen hoe het zou zijn zonder Internet. Informatie ophalen, communiceren, leren, navigeren, besturen, bekijken, bewaken: alles is inmiddels in een netwerk aan elkaar geknoopt en toegankelijk, zelfs vanaf een mobiele telefoon.

Eén ding is zeker: de nieuwe generatie technologieën gaat niet meer over de volgende smart gadget. Op een nog veel fundamentelere manier dan het Internet zal technologie gaan ingrijpen in de kern van ons leven. En dat heeft te maken met het feit dat door die nieuwe technologie centrale begrippen ter discussie komen te staan waarmee we de wereld om ons heen én onszelf begrijpen en betekenis geven. Dit vraagt om een nadere uitleg.

Nieuwe technologieën veranderen ons beeld van de mens en de natuur
We zien onszelf graag als personen die vrij en zelfstandig kunnen handelen en die daarvoor verantwoordelijkheid kunnen nemen; die gevoel en verstand hebben; die intermenselijke relaties kunnen onderhouden; die leven in een democratische samenleving waar rechten, plichten, rechtvaardigheid en solidariteit bestaan en waar gezamenlijke beslissingen kunnen worden genomen; en leven die in een wereld die deels gemaakt is en deels natuurlijk.

Dit beeld begint onder invloed van moderne technologie te wankelen. Ik geef voorbeelden die ontleend zijn aan het persoonlijke domein, het sociale domein en het domein van de natuur.

Het eerste voorbeeld gaat over menselijke relaties. Gezichtsherkenning is een technologie die inmiddels behoorlijk geperfectioneerd is. Daardoor is het mogelijk om mensen met grote nauwkeurigheid te herkennen, niet alleen bij een paspoortcontrole, maar ook in een menigte. Alle mensen in een menigte kunnen inmiddels in real time worden herkend en gevolgd. Camera’s zijn in de publieke ruimte volop aanwezig en de software hiervoor, bijvoorbeeld van het Amerikaanse bedrijf Clearview AI, is beschikbaar voor overheden en bedrijven.  Deze kan worden ingezet voor de opsporing van misdadigers, maar ook voor de analyse van individueel koopgedrag, van individuele menselijke (liefdes)relaties, van gezond en ongezond gedrag, of voor de politieke controle van burgers door de staat zoals in China nu gebeurt. Het is een ontwikkeling die onze privacy, anonimiteit en autonomie in sterke mate ondermijnt. Wij kunnen hierdoor niet meer zelf beslissen welke informatie we over onszelf prijsgeven en wanneer. Tegelijkertijd is het kunnen beheren van deze informatie een fundamentele voorwaarde voor het kunnen aangaan van verschillende soorten menselijke relaties. Wat ik bijvoorbeeld over mijzelf vertel aan mijn baas is iets anders dan wat ik vertel aan mijn partner.

Het tweede voorbeeld gaat over democratie. Ons begrip van democratie veronderstelt dat kiezers in vrijheid kunnen uitmaken op welke partij ze stemmen en dat ze toegang hebben tot de informatie die nodig is om die keuze te kunnen maken. Die twee voorwaarden lijken in toenemende niet meer vervuld. Sociale media hebben in korte tijd een dominante positie verworven in de informatievoorziening. In de Verenigde Staten bijvoorbeeld is Facebook voor meer dan 50% van de burgers de belangrijkste bron van nieuws. Het nieuws dat zij te zien krijgen is gebaseerd op een profiel dat door hun Internetgedrag en allerlei andere bronnen in de loop van de tijd is opgebouwd. Dat profiel bevat hun interesses, belangen, voorkeuren en afkeuren, (ziekte) geschiedenis, maar ook hun kwetsbaarheden (zoals angsten). Die kwetsbaarheden kunnen worden uitgebuit door slimme micro-targeting technieken, waarbij samenzweringstheorieën en fake-news een belangrijke rol spelen. De effectiviteit van die technieken hebben we kunnen zien bij de Amerikaanse presidents­verkiezingen, bij het Brexit referendum en bij de oorlog in de Oekraïne. Het oorspronkelijke ideaal van het Internet – een vrije en pluriforme nieuwsvoorziening, niet gecontroleerd door de staat – is hierdoor omgeslagen in het tegendeel. Is een democratie onder deze technologische vorm van manipulatie van kiezers nog wel mogelijk, of moeten we concluderen dat democratie een achterhaald concept is omdat burgers in onze tijd niet meer vrij en goed geïnformeerd kunnen kiezen?

Een derde voorbeeld betreft het onderscheid tussen wat natuurlijk is en wat kunstmatig (door mensen gemaakt). Dit onderscheid is in toenemende mate aan het vervagen door technologische ontwikkelingen. We kennen van oudsher de aanpassing van dieren en planten door het fokken en kruisen van soorten, met als doel een hogere opbrengst of hogere resistentie tegen ziektes en schimmels. Met de introductie van genome editing technologieën zoals CRISPR-Cas wordt deze ‘verbetering’ een grote stap verder gebracht. Door het DNA selectief te veranderen kunnen eigenschappen van organismen worden gemanipuleerd. En dat geldt niet alleen voor planten en dieren, maar ook voor mensen. Die manipulatie kan tot doel hebben om erfelijke ziektes te voorkomen, maar ook het ‘verbeteren’ van mensen op cognitief of sportief gebied. Dat is geen science fiction. In 2019 was er het CRISPR-baby schandaal, toen een Chinese onderzoeker claimde het genome te hebben veranderd van een pasgeboren tweeling. Wat oorspronkelijk natuurlijk was, is hierdoor het resultaat geworden van technologische ontwikkeling en ontwerp.

Een laatste voorbeeld gaat over artificiële intelligente (AI). Wij zijn geneigd om de mens te zien als de enige actor die voor zijn handelen (morele) verantwoordelijkheid kan dragen. Maar deze mens krijgt steeds meer concurrentie van AI-systemen. In de rechtspraak adviseren AI-systemen op dit moment al bij het bepalen van de strafmaat, of bij het vervroegd op vrije voeten stellen van een delinquent. In ziekenhuizen adviseren AI-systemen artsen bij de analyse van MRI-beelden en het stellen van diagnoses, of bij de beslissing of een patiënt van de intensive care kan worden ontslagen. En dat is nog maar het begin. AI-systemen zullen in de toekomst niet alleen adviseren maar ook beslissingen gaan nemen. Dat kunnen ook morele beslissingen zijn, bijvoorbeeld over de toewijzing van schaarse medicijnen, of over het inzetten van een wapen op het slagveld.

De toets van het goede leven
Deze en andere ontwikkelingen raken ons leven en ons zelfbeeld als mens op een fundamentele manier. Daar praten we veel te weinig over. Het lijkt alsof de technologie over ons heen komt, zoals het weer. Maar ook technologie is mensenwerk – iets wat wijzelf ontwikkelen en maken – en we moeten beter nadenken over wat voor soort technologie we eigenlijk willen. Natuurlijk is het voorspellen van de effecten van een nieuwe technologieën ontzettend moeilijk: wie had bijvoorbeeld de effecten van het Internet kunnen voorzien? Maar als we de ontwikkeling van nieuwe technologieën niet willen overlaten aan ingenieurs of aan de vrije markt, dan zullen we die ontwikkeling actief moeten willen meesturen en koppelen aan een ideaal van het leven dat wij voorstaan en de centrale waarden die daarbij horen. De ontwikkeling van een nieuwe technologie zal daaraan getoetst moeten worden.

Maar welk ideaal van het goede leven is dat in een samenleving die pluriform is? Hoe kunnen we daaraan een normatief kader ontlenen? Het is ontegenzeggelijk zo dat er een veelheid van opvattingen is over wat een goed leven inhoudt. Of het nu gaat over geluk, deugdzaamheid, zelfrealisatie, of de ideale samenleving: er wordt heel verschillend over gedacht in verschillende tijden, plaatsen en culturen. Het ideaal van het goede leven is dus niet rechtstreeks te gebruiken om technologieontwikkeling mee te sturen. Maar wat wel kan is centrale elementen gebruiken die elke opvatting over het goede leven zal moeten respecteren, omdat ze een noodzakelijke voorwaarde daarvoor vormen. Ik noem er drie.

Ten eerste het respecteren van de menselijke waardigheid: de mens als vrij handelend en denkend persoon, die in staat is zijn/haar leven zelf vorm te geven (autonomie). Elke technologie die deze waardigheid ondermijnt, zoals in het voorbeeld van gezichtsherkenning het geval was, is daarom problematisch. Maar dat geldt ook voor allerlei vormen van gedragsbeïnvloeding die gebruik maken van onbewuste processen in ons brein om ons aan te zetten tot een bepaald soort koopgedrag.

Ten tweede het respecteren van de vrijheid van mensen om gemeenschappen te vormen en gezamenlijk beslissingen te nemen. Dat veronderstelt onder meer betrouwbare informatie, dialoog en respect voor elkaar. Technologie die die dit ondermijnt is problematisch. Het voorbeeld van de manipulatie van kiezers door sociale media liet zien dat betrouwbare informatie soms ver te zoeken is, burgers niet in vrijheid kunnen kiezen maar gemanipuleerd worden en dat een betekenisvolle dialoog in een samenleving min of meer onmogelijk wordt als burgers in een informatiebubbel verkeren die door hun eigen Internetgedrag wordt bepaald. Respect voor elkaar is dan ver te zoeken omdat deze bubbel juist polarisatie in de hand werkt.

Ten derde moeten het ecosysteem gerespecteerd worden waarvan wij onderdeel zijn. Door grote veranderingen aan dat systeem zal menselijk leven op de lange termijn in grote delen van de wereld niet meer mogelijk zijn. Technologie die bijdraagt aan deze veranderingen is zonder meer problematisch. Maar de klimaatcrisis is natuurlijk niet een kwestie van technologie alleen, als veroorzaker of als deel van de oplossing. Menselijk gedrag speelt hierin een hoofdrol.

Anthonie Meijers

Anthonie Meijers is emeritus-hoogleraar Filosofie en Ethiek van de Techniek aan de Technische Universiteit Eindhoven.

In de Waagschaal, jaargang 51, nr. 6. 28 mei 2022