U gebruikt een verouderde browser. Om die reden werkt deze site wellicht niet naar behoren.Direct naar hoofdinhoud

Blogs in de categorie Ethiek

Nepnieuwsbestrijding en zelfrijdende auto’s hebben op het eerste gezicht weinig gemeen, tot je je realiseert dat aan beide software ten grondslag ligt die morele beslissingen neemt. Het ene stuurt de vrijheid van meningsuiting bij, het andere besluit mogelijk over leven en dood. Ontwerpmethoden die de morele kant van kunstmatige intelligentie meenemen, bestaan nauwelijks. Daar moet verandering in komen, aldus de IEEE.

De nadrukkelijk eerste versie van een document dat moet leiden tot normen voor ethische software-ontwikkeling, verscheen eind vorig jaar. ‘Ethically aligned design’ stelt zich ten doel een aanzet te zijn voor een wereldwijde discussie. ‘We hebben het hier in feite over de totstandkoming van een nieuwe vorm van due diligence, gepaste zorgvuldigheid’, zegt projectleider John Havens namens het IEEE Global Initiative for Ethical Considerations in Articifial Intelligence and Autonomous Systems. Hij legt uit dat de standaard niet bedoeld is om bepaalde ethische normen af te dwingen. Het gaat erom dat de ontwerper alle ethische aspecten zorgvuldig afweegt.

Lees meerBewust kunstmatig intelligent ontwerpen

Artsen, verkeersleiders en anderen die als professional andermans leven in handen hebben, worden steeds vaker persoonlijk aansprakelijk gesteld voor de gevolgen van fouten die ze onvermijdelijk wel eens maken bij de uitoefening van hun beroep. Ingenieurs raakt dat nu nog niet, omdat technische ontwerpfouten doorgaans slechts indirect fatale gevolgen hebben. Maar dat is een kwestie van tijd.

Toen de politie haar vond in de kofferbak van haar stiefvader, had het meisje een prop in haar mond, die met een verband om haar hoofd op zijn plek werd gehouden. Onderzoek wees uit dat haar moeder de prop drie dagen daarvoor had ingebracht. Ze had het kind vervolgens onder het bed geschoven en alleen gelaten. Daar in het donker was ze overleden, drie jaar oud en zwaar ondervoed. De stiefvader was op weg om het lijkje in de bossen te dumpen.

De moeder kreeg zes jaar cel en gedwongen behandeling. Daarmee was de Amerikaanse justitie nog niet tevreden. Er was een medeplichtige. De stiefvader, zou je misschien denken, maar die ging vrijuit. In plaats daarvan ging de officier van justitie achter een sociaal werker aan.

Lees meerDe criminalisering van het menselijk tekort

Met ‘De grens van de mens’ schreef de Twentse hoogleraar filosofie Peter-Paul Verbeek een toegankelijk boek over de wisselwerking tussen ethiek en technologie. Tegelijkertijd is het een kritiek op beide werelden. Ingenieurs denken onvoldoende na over de consequenties van hun werk, terwijl veel ethici niet verder komen dan bezwaren mopperen. Techniekfilosofie zou de brug moeten slaan – vandaar een boek voor het grote publiek.

Het is een warme dag, dus prof.dr. Peter-Paul Verbeek loopt in een fleurig overhemd door het doolhof van het Cubicus gebouw op de UT-campus. In voorkomende gevallen trekt hij daar een min of meer passend colbertje bij aan – het uniform van een generatie die zich aantoonbaar niet wil laten leiden door oude conventies. Een visitatiecommissie die enige tijd geleden de door hem geleide opleiding kwam beoordelen, bevestigde dat beeld. Ze oordeelde dat er weliswaar niets mis was, maar constateerde ook dat de Twentse benadering van de filosofie zich, tegen de traditie in, wel heel erg liet leiden door de praktijk in plaats van de theoretische beschouwing. De opleiding droeg als het ware onvoldoende stropdas.

Verbeek, begeesterd: ‘Maar dat is toch juist het prachtige van de techniekfilosofie! Filosofen hebben de neiging om eerst een abstracte theorie op te stellen en die dan toe te passen op de werkelijkheid. In het geval van technologie dringt de werkelijkheid zich op aan de filosofie. Technologie stuurt het debat. Wij passen vaak geen bestaande filosofie toe op techniek, maar ontwikkelen nieuwe kaders omdat de oude kaders niet altijd voldoen voor nieuwe technologieën. Techniekfilosofie is per definitie pionierswerk, omdat je steeds voor nieuwe uitdagingen gesteld wordt.’

‘De kritiek luidt dan vaak: de ethiek hobbelt achter de techniek aan. Als ethici zich zo opstellen, komen ze inderdaad terecht in de rol van Waldorf en Statler, de oude mannetjes uit de Muppets, die steeds achteraf mopperen dat het niet deugt. Ik vind dat de ethiek naast de techniek moet lopen, niet erachteraan. Ethici moeten medeontwerper zijn van technische systemen. Ja, dan maak je vuile handen, maar dat is nou juist het mooiste van mijn werk. Het is niet alleen interessant of een stuk technologie ethisch verantwoord is of niet. Het gaat erom helder te maken wat die technologie betekent in het leven van mensen en om op grond daarvan besluiten te kunnen nemen over de toepassing.’

Lees meerPeter-Paul Verbeek: Ethiek moet naast de techniek lopen

Bij alle privacybedenkeningen over het EPD vergeet een mens licht dat het in de huidige situatie ook niet best is met de beveiliging van patiëntendata. Een recent onderzoek naar de situatie in de Verenigde Staten en het Verenigd Koninkrijk laat zien dat ongeveer een derde van de dossiers slecht beveiligd is.

Artsen zetten gevoelige informatie uit de centrale systemen op persoonlijke laptops, geheugensticks en pda’s, zonder noemenswaardige bescherming. In het VK vonden alleen al deze maand twee geruchtmakende gevallen van stickverlies plaats, al ging het daarbij even niet om medische informatie. Als gevolg van alle incidenten is het beleid aangescherpt: meer data wordt centraal opgeslagen.

In Nederland onderzocht het College Bescherming Persoonsgegevens twintig ziekenhuizen en concludeerde dat geen van hen patiëntendata veilig opslaat. In reactie daarop – u voelt hem al aankomen – heeft de Vereniging van Nederlandse Ziekenhuizen gesteld dat juist het vermaledijde EPD de oplossing is. Wat valt immers consequenter te beveiligen dan een centraal systeem waar alles in zit? (gc)


×