Artikelen over technologie en ethiek

De Super aEgis II is een slim kanon dat volautomatisch personen kan detecteren en ze naar een andere wereld helpen. Hij is vooral populair in het Midden-Oosten, waar hij wordt ingezet om militaire bases te bewaken. Alle opdrachtgevers tot nu toe hebben een aanpassing gevraagd van het Zuid-Koreaanse bedrijf dat ze maakt: niet schieten zonder menselijke tussenkomst. Maar de killer robot is dus een feit – al spreekt de branche liever van lethal autonomous weapons. Dat klinkt minder confronterend.

Logisch dat tijdens de controversiële wapenbeurs DSEI van 2017 een conferentie gewijd werd aan de mogelijkheden en risico’s van robots op het slagveld. Zelfs wanneer je om ethische redenen zelf geen robots zou willen inzetten, moet je als leger immers rekening houden met een vijand die dat wel doet.

Lees meer De ethiek van een robotleger (2)

Twee schijnbaar tegengestelde bewegingen zijn zichtbaar in de militaire technologie: enerzijds nemen robots meer taken van militairen over, anderzijds neemt het morele gewicht van door militairen te nemen beslissingen toe.

Volgens de planning beschikken de Verenigde Staten in 2034 over een autonoom opererend robotleger. Dat klinkt als science fiction, maar de ontwikkelingen gaan snel. In Irak worden zo’n 20.000 robots ingezet, de meeste vliegend. Deze worden nog op afstand bestuurd, maar de eerste autonome apparaten worden in 2015 verwacht.

‘Een van de vragen die dit opwerpt is of dit soort wapens – want dat zijn het – voldoen aan de beginselen van het internationaal humanitair oorlogsrecht’, zegt mr.dr.ir. Lambèr Royakkers. Het is immers de vraag of zelfstandig opererende robots niet de verleiding groter maken om onnodige schade en slachtoffers te maken, en of ze betrouwbaar het onderscheid kunnen maken tussen burgers en militairen. ‘Bij onbewapende robots, die bijvoorbeeld een ruimte verkennen voor soldaten binnengaan, zie ik geen probleem. Maar bewapende robots, die zelf beslissingen over leven en dood nemen, zouden verboden moeten zijn. De risico’s die verbonden zijn aan bewapende robots zijn namelijk zo groot dat ze onaanvaardbaar zijn. Niemand kan voorspellen hoe ze zich gedragen in dynamische en complexe omgevingen, en bijvoorbeeld bij een defect.’

Lees meer De ethiek van een robotleger (1)

Talloze computersystemen, bijvoorbeeld in ziekenhuizen, nemen tegenwoordig beslissingen met een ethisch aspect. De vraag is hoe je dat soort beslissingen verantwoord implementeert in software.

Nederland is goed voorbereid op rampen. Brandweer, politie en andere hulpdiensten beschikken over uitgebreide draaiboeken hoe met calamiteiten om te gaan. In onoverzichtelijke situaties raken mensen echter snel grip kwijt, omdat ze gebombardeerd worden met informatie, of juist een gebrek eraan hebben. Bovendien kunnen er honderden voortdurend veranderende factoren zijn, die mensen simpelweg niet overzien kunnen. Daarom is het goed dat ze worden ondersteund door informatiesystemen, die van tevoren zo geprogrammeerd zijn dat ze (onder meer) informatie op de juiste plek doen belanden.

‘Wanneer computersystemen mede waken over cruciale informatie-uitwisseling, over privacy en andere verantwoordelijke zaken, is de vraag hoe je die morele waarden op een deugdelijke manier in computertermen vertaalt’, zegt prof.dr. Jeroen van den Hoven. ‘Er kan sprake zijn van ingewikkelde politieke, juridische en ethische overwegingen, maar de computer kent slechtst enen en nullen.’

Lees meer Logica voor ethische software

Synthetische biologie is, vanwege de mogelijkheid met het leven te ‘knutselen’, een technologie met sterke ethische connotaties. Filosofen proberen de argumenten helder te krijgen en partijen bij elkaar te brengen.

Synthetische biologie gaat net een stapje verder dan traditionele biotechnologie. Waar de laatste knipt en plakt met bestaande genetische informatie, probeert de eerste die informatie bijna atoom voor atoom zelf in elkaar te zetten. Op die manier is het al gelukt het genoom van een gist na te bouwen en je hoeft geen helderziende te zijn om te vermoeden dat de technologie steeds verder in de richting van de mens zal opschuiven. Doordenken wat de ethische consequenties daarvan zijn, kun je beter tijdig doen.

Lees meer De vooruitgeworpen schaduw van de designer baby

Iemands brein bepaalt zijn persoonlijkheid. Als je op wat voor manier dan ook technologie gebruikt om iets aan die hersenen te veranderen, beïnvloed je zijn persoon en misschien ook zijn verantwoordelijkheidsbesef.

‘Stel je voor dat ik verdacht word van moord’, vertelt dr. Nicole Vincent. ‘Mijn advocaat laat een scan van mijn hersenen maken, legt die naast die van anderen en betoogt op grond daarvan dat mijn hersenen zo afwijkend zijn dat ik niet toerekeningsvatbaar ben. De officier van justitie beweert echter op grond van dezelfde scan echter dat dit een typisch crimineel brein is en laat ter ondersteuning een aantal scans van veroordeelden zien. Maar wat zegt die scan eigenlijk?’

Lees meer Hersenscans als inzicht in verantwoordelijkheid

De mens heeft zijn eigen lot steeds beter in handen. Dat brengt echter ook meer verantwoordelijkheden met zich mee, die vragen om een nieuwe moraal.

Biotechnologie en nanotechnologie zijn twee wetenschappen die oude morele waarden aan het wankelen brengen, niet zozeer doordat ze ethische grenzen overschrijden, maar doordat ze nieuwe terreinen betreden waar de mens vroeger niets te vertellen had. Daarmee ontstaan technisch-ethische dilemma’s op vlakken die ooit het exclusieve domein van religie en levensbeschouwing waren.

‘Je kunt tegenwoordig een ongeboren kind testen op verschillende genetische afwijkingen die een hoge kans op een handicap geven’, legt Tsjalling Swierstra uit. ‘Vroeger was een gehandicapt kind iets dat je overkwam. Een deel van de bestaande ethiek stelt dat er een schoonheid ligt in het omgaan met tegenslag. In die zin kan een gehandicapt kind je bestaan verrijken. Maar dat is natuurlijk geen reden om voor een gehandicapt kind te kiezen. Dankzij de technologie kunnen we nu steeds vaker kiezen om zo’n kind niet geboren te laten worden. Maar betekent het bewust negeren van die mogelijkheid dat je dus voor een gehandicapt kind kiest?’

Lees meer Morality fiction bestudeert ethische consequenties

Door de eeuwen heen verandert niet alleen de techniek, maar ook de manier waarop de mens ernaar kijkt – zeker nu de technologie onderdeel is geworden van het lichaam.

‘Honderdvijftig jaar geleden was het gebruik van anesthesie bij operaties absoluut not done; tegenwoordig is het immoreel als je het niet doet’, vertelt Peter-Paul Verbeek. ‘Een restje van die omslag zie je in de discussie over de ruggenprik bij bevallingen. Daarmee kun je veel pijn bestrijden, maar het verandert ook de beleving van de bevalling en van het moederschap. Daarom kiezen sommige vrouwen er bewust voor geen ruggenprik te nemen. Het is een mooi voorbeeld van hoe mensen hun eigen identiteit vormgeven door middel van technologie.’

Lees meer Maakbare mens zoekt nieuwe zekerheden

Dankzij medische technologie is de mens meer dan ooit meester over zijn eigen lot. Dat brengt echter ook meer verantwoordelijkheid over leven en dood met zich mee – ook als ze uitbesteed is aan apparaten.

‘Nieuwe technologieën brengen nieuwe implicaties met zich mee’, vertelt dr. Felicitas Kraemer. ‘Over het algemeen zijn we het er bijvoorbeeld over eens dat je iemand laat sterven als je beademingsapparatuur uitschakelt, maar hem actief doodt als je zijn pacemaker stopzet. Dat heeft ermee te maken dat de beademing, ook door de patiënt zelf, als iets externs gezien wordt, terwijl de pacemaker als een deel van het lichaam geldt. Tegenwoordig bestaat er echter ook zoiets als een left ventricle assist device (lvad), een hartpomp die deels geïmplanteerd wordt, maar ook voor een groot deel buiten het lichaam zit. Als je die uitzet, is het dan doden of laten sterven?’

Lees meer Medische technologie maakt mensen meer verantwoordelijk

Sommige ziekten zijn in een steeds vroeger stadium te ontdekken en te behandelen. Zulke vroege diagnostiek is mooi, maar het verandert ook de manier waarop mensen die ziekte – of hun gezondheid – beleven.

Via bloedonderzoek is het tegenwoordig mogelijk om te screenen op de aanwezigheid van genen die duiden op een verhoogd risico op borstkanker. Als een bepaald gen wordt aangetroffen, is er een kans van vijftig tot tachtig procent dat je ooit borstkanker krijgt.

‘Ik heb onderzocht wat dit doet met vrouwen’, vertelt dr. Marianne Boenink. ‘Via het centrum voor klinische genetica heb ik contact gelegd met vrouwen die overwogen zo’n test te doen. Voor zij naar een geneticus gingen heb ik met hen gesproken en daarna heb ik hen gedurende het proces gevolgd. De test is echter onvolmaakt, zodat de testresultaten dubbelzinnig zijn. Meer zekerheid kunnen de vrouwen krijgen door een familielid dat borstkanker gehad heeft, te vragen ook zo’n test te laten doen.’

Lees meer Vroege diagnostiek verandert je ziekte

Mensen kunnen een innige band opbouwen met dieren, dus waarom ook niet met robots, als die hen bijvoorbeeld bijstaan aan hun ziekbed? Anderzijds zijn er genoeg redenen te verzinnen waarom een zorgrobot menselijk contact niet kan vervangen.

Vanwege de vergrijzing zal de vraag naar zorg de komende decennia snel toenemen. Dat vraagt om dure arbeid, dus ligt automatisering voor de hand. Er zijn al robots die in ziekenhuizen het eten rondbrengen of pillen doseren. In de zorg wordt ook de knuffelrobot Paro ingezet, als kameraad voor ouderen om voor te zorgen. Je mag ervan uitgaan dat dit nog maar het begin is.

‘De logische angst is dat door de inzet van robot de bekommernis om mensen verdwijnt’, zegt dr. Mark Coeckelbergh. ‘Maar in werkelijkheid zitten zorgverleners nu al zo krap in de tijd, dat aandacht voor de mens er vaak bij inschiet. Inzet van robots voor routineklussen kan de kwaliteit van de zorg dan juist verbeteren.’

Lees meer Robots nemen de zorg op zich