Supermens

1862

Er is tenslotte een rangorde van psychische toestanden die correspondeert met de rangorde van de problemen; en de hoogste problemen stoten zonder pardon iedereen terug die hen durft te naderen zonder door het niveau en de macht van zijn geest tot hun oplossing voorbeschikt te zijn. Wat baat het of lenige doorsneebreinen en stijve brave ingenieurs en empirici zich, zoals tegenwoordig zo vaak gebeurt, met hun plebejische eerzucht in dit ‘hof der hoven’ proberen in te dringen! Grove voeten mogen deze tapijten nimmer betreden: dat is al in de oerwet van de dingen zo geregeld; de deuren blijven gesloten voor deze opdringerige lieden, ook al stoten ze er hun hoofd tegen kapot!

Die alinea is niet van mij, maar van Friedrich Nietzsche, die haar opschreef in ‘Voorbij goed en kwaad’, een van de boeken waarin hij, na de constatering dat God dood is in de harten van de zijn tijdgenoten, zich afvraagt welke moraal de christelijke zal moeten vervangen. In bovenstaande alinea sorteert hij voor dat je een mentaal supermens moet zijn om moreel overeind te blijven in tijden van leegte. Ingenieurs, zo mag duidelijk zijn, hebben volgens Nietzsche weinig kans om tot de klasse der supermensen toe te treden, hoe graag ze dat ook zouden willen.

Nietzsches diskwalificatie van de ingenieur is opmerkelijk, omdat vernuftelingen de helden van zijn tijd waren. De negentiende eeuw markeerde het begin van de enorme opmars der techniek als drijvende kracht in de samenleving. Techniek stelde de mens in staat tot dingen die voorheen buiten zijn bereik lagen, niet zozeer op moreel als wel op fysiek gebied. Productie, transport, oorlogsvoering – alles kon op een voorheen ondenkbare schaal plaatsvinden, culminerend in de atoombom, waarmee de mensheid de macht verwierf om zichzelf te vernietigen.

Met name sinds de opkomst van de ict grijpt de techniek ook steeds vaker in als begrenzer van moreel handelen. Denk aan automatische piloten in vliegtuigen, allerhande medische apparatuur, wachtwoordsystemen tot databases, drones die doelen opsporen, enzovoort. Dat ingenieurs zich verdiepen in de morele consequenties van hun ontwerpen is dan ook geen overbodige luxe.

Het huidige onderwijs in ethiek van de techniek leert ingenieurs niet in de eerste plaats morele keuzes te maken. Dat past niet in deze tijd. De hedendaagse ingenieur moet met zijn ontwerpen anderen in staat stellen die keuzes te maken. Die insteek past enerzijds in de lijn van Nietzsche, die immers iedereen tot schepper van zijn eigen moraal verklaarde (maar ernstig twijfelde aan het vermogen van de meeste individuen om een fatsoenlijke keuze te maken). Anderzijds neemt de ingenieur zo een dienstbare positie in waar Nietzsche zo’n bloedhekel aan had in het christendom. De ingenieur is te braaf om een supermens te zijn.

De revanche van de ingenieur nadert echter. Hij mag dan geen supermens zijn, hij is wel meer en meer in staat er een te maken. Autonome technologie is immers de ultieme, onafhankelijke morele beslisser. Ze laat zich aan niets of niemand gelegen liggen. Alleen haar eigen wil telt. Juist dat maakt de machine als morele agent zo beangstigend: een apparaat heeft geen sociale context die hem tot fatsoen zou moeten aanzetten.

Het liefst hebben we dan ook machines met een dienstbare, christelijke moraal. De robotwetten van Isaac Asimov zijn een mooie poging zo’n moraal te definiëren. Autonome technologie is fijn, maar ze moet zich wel ondergeschikt weten aan de mens.

Hier zit een spanningsveld voor het onderwijs in ethiek van de techniek. Zo lang ingenieurs zaken ontwerpen die direct door mensen bestuurd worden, kunnen ze zich verschuilen achter de gedachte dat zij hun moraal niet aan anderen mogen opdringen. Als ze autonome technologie ontwerpen, wordt dat anders. Dan worden ze wel degelijk verantwoordelijk voor robotacties met morele consequenties. Dat vraagt van ingenieurs dat ze hun braafheid afschudden.

Eerder verschenen in De Ingenieur nr 15, 2012