Wetenschappers dragen verantwoordelijkheid voor de gevolgen van hun onderzoek. Dat klinkt logisch, maar de praktijk is veel weerbarstiger, omdat die gevolgen vooraf vaak niet te voorzien zijn.
‘Een poos geleden hebben wij de ontwikkeling van een nieuwe rioolwaterzuivering begeleid’, vertelt dr.ir. Ibo van de Poel. ‘Het ging om een technologie waarbij de bacteriën in bolletjes zaten. Dat beloofde zuiver water met minder grondbeslag. Wij waren erbij gehaald om mee te denken hoe je omgaat met de risico’s die bij de invoering van een nieuwe technologie horen. Omdat het water sneller gezuiverd werd, bestond bijvoorbeeld de kans dat de secundaire emissies hoger zouden zijn. Dit zijn emissies, zoals hormonen, waarvoor geen wettelijke normen bestaan, maar die je wel in de hand wilt houden.’
‘Al snel bleek dat er weinig expliciet geregeld was. De ontwerpers vonden dat dit probleem in de gebruiksfase moest worden opgelost, omdat de effecten zich moeilijk lieten voorspellen. De gebruikers wilden echter dat de risico’s al in de ontwerpfase waren afgedekt.’
Hiërarchie
Dit concrete voorbeeld geeft aan hoe ingewikkeld het kan zijn in een ontwerpomgeving ethische afwegingen te maken, niet omdat mensen niet willen, maar omdat iedereen zijn eigen insteek heeft. Het kan dus bepaald geen kwaad om hier dieper over na te denken, meent Van de Poel.
‘In ontwerpomgevingen speelt het probleem van de vele handen’, legt hij uit. ‘Er zijn zoveel mensen mee bezig, dat het moeilijk is om aan te wijzen wie waarvoor verantwoordelijkheid draagt. Vaak zijn er zoveel partijen bij betrokken dat je niet eens iemand als bovenste in de hiërarchie kunt aanwijzen die de verantwoordelijkheid in formele zin draagt, zoals een minister voor alles wat op zijn ministerie gebeurt. Daar komt nog eens bij dat er een heleboel stappen zitten tussen de ontwerpbeslissingen en de maatschappelijke gevolgen, en dat het lastig te voorzien valt hoe die gevolgen uitvallen.’
De maatschappij eist dat er verantwoordelijke mensen zijn aan te wijzen, zeker als het mis gaat, maar die verantwoordelijkheid moet wel eerlijk verdeeld zijn: je kunt niet iemand iets verwijten dat hij niet voorzien kon. Er moet, met andere woorden, een manier zijn om verantwoordelijkheid te verdelen over een groot aantal mensen zonder dat ze zo oneindig verdund wordt dat niemand zich meer verantwoordelijk voelt.
Bloeddruk
‘Wij proberen organisaties te ondersteunen bij het verdelen van verantwoordelijkheden’, vertelt Van de Poel. ‘We kijken nu mee bij een project waarin nieuwe technologie wordt uitgetest in een medische omgeving, waarbij bijvoorbeeld continu iemands bloeddruk gemeten kan worden en het systeem het doorgeeft als er iets mis is. Daar zijn verschillende universiteiten en bedrijven bij betrokken, dus het is zaak de verantwoordelijkheden goed te doordenken. Bloeddruk is privacygevoelige informatie, dus wie mag die allemaal inzien? Als de sensor een fout maakt, wiens verantwoordelijkheid is dat dan?’
Organisaties die verantwoordelijkheidsvragen serieus willen aanpakken, zullen hun structuur daarop moeten aanpassen. Strict hiërarchisch denken, bijvoorbeeld, werkt het nemen van verantwoordelijkheid door individuele werknemers niet in de hand. Van de Poel: ‘We proberen inzicht te bieden hoe je een organisatie zo inricht dat de verantwoordelijkheden helder zijn.’
