Ethiek & technologie : er beweegt iets…

Hoe meer technologie deel uitmaakt van ons leven, hoe meer vragen we ons (zouden moeten) stellen over de impact op onze autonomie, onze privacy en ons leven. Dr. Katleen Gabriels, Assistant Professor aan de Universiteit van Maastricht en moraalfilosofe gespecialiseerd in computerethiek schreef er het boek: 'Onlife, hoe de digitale wereld je leven bepaalt' over.

Gemak, efficiëntie en entertainment mogen ons niet blind maken voor de schaduwzijden van technologie. We weten allemaal dat onze gegevens massaal opgeslagen worden, en dat onze gesprekken thuis achteraf beluisterd worden door Amazon (Alexa), Apple (Siri) en Google, zoals bleek uit de onthullende VRT-reportage over Google Assistant. Ook al zeggen de betrokken bedrijven dat ze op die manier hun algoritmes oefenen en hun dienstverlening willen verbeteren, feit is dat die data opgeslagen worden.

Aandacht vasthouden

Gabriels: “Het businessmodel van gratis platformen zoals Facebook, Twitter enz. is verschoven naar distraction by design. Hun uiteindelijke bedoeling is om onze aandacht zo lang mogelijk vast te houden. We moeten hen daarop aanspreken, want zij maken keuzes met ethisch problematische gevolgen. Ook ontwikkelaars dragen verantwoordelijkheid, maar staan te weinig stil bij de gevolgen van wat ze doen. Daarom moet je hen handvaten aanreiken tijdens hun opleiding en een verplichte gedragscode opstellen. De ontwikkelaars van de smartphone bijvoorbeeld realiseren zich dat ze zich toen geen vragen stelden. Als twintigers ontwierpen ze die smartphone voor zichzelf zonder eraan te denken dat ze ooit een gezin met kinderen zouden hebben die ook die smartphone gebruikten. Ondertussen pleiten ze voor een Eed van Hippocrates voor ingenieurs en ontwerpers, analoog aan die voor artsen.”

Kritisch denken

Gabriels : “Het is problematisch dat we door onze afhankelijkheid van grote Amerikaanse techreuzen en van het internet, niet meer kunnen uitloggen. We kunnen a.h.w. continu gevolgd worden, want onze smartphone hebben we altijd bij en onze data worden opgeslagen via onlineplatformen, klantenkaarten, het IoT, domotica enz. Het probleem is dat die tracking onzichtbaar is. Stel dat in het zwart geklede mannen met een donkere zonnebril ons voortdurend zouden volgen, dan zouden we dat griezelig vinden en de gordijnen dichtdoen. Nu echter vinden mijn studenten WhatsApp zo’n belangrijk communicatiekanaal dat de reclame hen niet deert. Alleen een Turkse studente merkte tijdens een groepsdiscussie op dat je in Turkije problemen krijgt door iets online te zetten. Het is dus ontzettend belangrijk om jongeren kritisch denken mee te geven, want door zo verbonden te zijn, geven wij veel persoonlijke gegevens vrij. Beslissingen nemen, moet vrij en anoniem kunnen gebeuren.”

Niet goed, niet slecht

“Wat moet je bijvoorbeeld denken van deze vorm van thuiszorg waarbij een Nederlandse startup op basis van AI zorgbehoevenden thuis met een camera volgt? Dat systeem wordt verkocht als zorg- en kostenbesparend en omwille van veiligheid en zorg word je voortdurend gefilmd. Zo’n camera als middel om te vermijden dat ouderen naar een rusthuis moeten, kan een argument zijn, maar het moet wel een en-en-verhaal zijn. Je kan niet alleen naar efficiëntie kijken, want welzijn en levenskwaliteit zijn even belangrijk. Als maatschappij moet je daar een debat over voeren.“

Data en onze gezondheid

“Ook in de gezondheidssector is er sprake van dataverzameling. De vraag is wat er met al die data gebeurt. Als de app gratis is, weet je dat je data doorverkocht worden: je krijgt gratis gebruik in ruil voor je gegevens. Ook al is er de AVG- of de GDPR-regelgeving, bedrijven zoeken ook de grenzen van de wetgeving op en het grote publiek vindt de weg naar de informatie niet altijd.”
Ook het overheidsinitiatief Vitalink, ‘een systeem waarmee zorgverleners digitale gegevens over hun patiënten eenvoudig en veilig met elkaar kunnen delen’, moet volgens Gabriels de burger duidelijker informeren waarvoor hij toestemming geeft. Het is niet voldoende dit aan de arts over te laten of een folder mee te geven aan de patiënt.

Gabriels : “Neen, want wat doen mensen in de praktijk? Ze vragen wat anderen doen en volgen zonder zich te informeren. Het klinkt misschien belachelijk, maar je zou in de populaire soaps Thuis en Familie een verhaallijn kunnen inbouwen om de kijkers op een empathische, creatieve manier bewust te maken van privacyproblemen en zo het maatschappelijk debat in gang zetten.”

Ethiek en onderwijs

“Het probleem is ook dat het onderwijs niet mee is, pas vanaf dit jaar maken digitale competenties deel uit van het leerpakket. Niet te verwonderen dat we achterophinken! Ook de opleidingen van apothekers en artsen moeten aangepast worden om hen voor te bereiden op hun later beroep waar ze met data en nieuwe technologieën, zoals AI, robotchirurgie enz. moeten omgaan. Ethiek zou een verplicht vak moeten zijn in alle richtingen.“

Onbekend is onbemind

“Er is wel meer bewustwording, helaas ook door de schandalen. Het probleem is dat je, ondanks het feit dat er een aantal goede initiatieven zijn, niet altijd de mensen bereikt bij wie het terecht zou moeten komen. Mediawijs, het Vlaams Kenniscentrum Mediawijsheid, dat educatieve tools uitwerkt en jongeren o.a. met de Databuzz wil bewust maken van de voor-en nadelen van big data, is te weinig bekend. Net zoals de site gezondheid en wetenschap die betrouwbare medische info op mensenmaat geeft in plaats van een Dr. Google. Ook heeft niet iedereen weet van de door Minister De Block gelanceerde website mhealthbelgium.be waar je kan checken of een gezondheidsapp betrouwbaar is. Mediaraven, dat naast digitale workshops voor jongeren ook vormingen organiseert, is nog zo’n mooi initiatief. Er komt ook een Kenniscentrum Data & Maatschappij dat zich richt op de uitdagingen van AI.“

Internationaal

Het gaat traag, maar er gebeurt iets. Zo startte de Nederlandse overheid een project van 20 miljoen euro rond ethiek en AI. Gabriels: “Daarnaast is de AVG natuurlijk het resultaat van een internationale samenwerking en publiceerde de Europese expertengroep rond AI eerder dit jaar ethische richtlijnen. Er beweegt dus wel wat.“

Wij kijken intussen uit naar Gabriels volgende boek, Regels voor robots. Ethiek in tijden van artificiële intelligentie, dat dit najaar verschijnt.

Foto : © Karel Duerinckx