Partnerbijdrage
Deepfakes, hyperrealistische stemmen en slimme algoritmes die precies weten wat jou triggert: de grens tussen echt en nep vervaagt razendsnel. Maar wat betekent dat voor onze rechten, onze mensenrechten en vooral: onze innerlijke denkwereld? Onderzoeker Sjors Ligthart onderzoekt precies dat: hoe beschermen we de onzichtbare, kwetsbare ruimte van ons eigen brein?
“Mentale vrijheid gebruik ik als verzamelterm voor verschillende persoonlijke vrijheden die betrekking hebben op onze innerlijke mentale binnenwereld,” legt Sjors Ligthart uit. “Denk aan de vrijheid om te denken of te verlangen wat je wilt zonder dat anderen dat voor je bepalen. Of aan de vrijheid om gevoelens en gedachten niet met anderen te delen. Die vrijheden staan onder druk.”
We hebben in principe genoeg rechten die onze mentale vrijheid beschermen, maar die zijn betrekkelijk onderontwikkeld. “Voor veel mensen is het duidelijk wanneer een ander een inbreuk maakt op jouw lichamelijke integriteit,” zegt Ligthart. “Maar wanneer maakt een ander eigenlijk inbreuk op jouw mentale integriteit? De juridische contouren van de geest zijn veel vager dan van ons lichaam.”
Technologische beïnvloeding van opvattingen en gedrag
“Op steeds meer verschillende manieren kunnen AI en neurotechnologie onze keuzes en gedrag beïnvloeden. Denk aan sociale media, die continue data van gebruikers analyseren om op basis daarvan gepersonaliseerde informatie voor te schotelen die bepaalde denkbeelden kunnen creëren of bekrachtigen. Daarnaast bestaat ook steeds meer aandacht voor ‘directe’ vormen va mentale beïnvloeding, waarbij gedachten of gevoelens worden beïnvloed door neurale processen te veranderen, zoals met neurotechnologie. Een onderzoeksgroep van Erasmus University Rotterdam toonde bijvoorbeeld aan dat elektronische stimulatie van een bepaald hersengebied agressie bij forensische patiënten kan verlagen. Dat is super interessant, maar roept ook juridische vragen op. Onder welke voorwaarden mag je zo’n behandeling aanbieden? En mag dat in ruil voor een kortere straf?”
De smartphone die je gedachten stuurt
Moderne technologieën die gedachten lezen of sturen, is dat vooral toekomstmuziek? “Als je om je heen kijkt, zie je dat massa’s mensen hele dagen vastgeklampt zitten aan hun smartphone. Wat zij denken of vinden wordt continu via slimme algoritmes beïnvloed,” waarschuwt Ligthart. “Draagbare EEG-sets zijn al te koop, bijvoorbeeld om mobile games mee te spelen, en bedrijven zoals Elon Musks Neuralink werken aan hersenchips om mensen direct met hun apparaten te verbinden. Bovendien wordt in sommige landen, zoals in India, al gebruikgemaakt van een soort herinneringen detector in strafrechtelijk onderzoek, die werkt via EEG-metingen van hersenactiviteit. Hoewel er nog allerlei wetenschappelijke en normatieve vragen bestaan over de werking van dit soort technieken, worden zij desalniettemin al gebruikt in de strafpraktijk.”
Wat kunnen we doen?
Ligtharts advies: “Stel jezelf kritische vragen en praat over dit thema met anderen. Waarom maak ik de keuzes die ik maak? Hoe objectief is de informatie die mijn opvattingen vormt?” En realiseer je: als een dienst gratis is, ben jij waarschijnlijk het product. “De winst van Big Tech zit vooral in het verkrijgen van jouw data, waarmee jouw keuzes door anderen kunnen worden beïnvloed.”
Europa ontwaakt, maar de wereld is groter
“Ik ben van nature optimistisch, maar krijg het de laatste tijd wel een beetje benauwd,” bekent Ligthart. “Het recht, de rechtstaat en mensenrechten staan onder druk, onder meer vanuit grootmachten die bevriend zijn met grote techbedrijven. In Europa neemt het bewustzijn toe: de AI Act beschermt bijvoorbeeld tegen manipulatieve beïnvloeding, en verschillende landen reguleren nu de toegang tot sociale media voor kinderen. Maar we moeten ons realiseren dat de wereld groter is dan Europa.” Het is daarom goed om te zien dat ook bij de Verenigde Naties de aandacht voor opkomende (neuro)technologieën en mensenrechten toeneemt.
Voor de inhoud en organisatie van onze Academy bijeenkomsten, masterclasses en communities voor ondernemers en bij de uitvoering van bepaalde dossiers werken we samen met vaste partners. Door deze samenwerking kunnen we gebruikmaken van de kennis, ervaring en faciliteiten van deze bedrijven. Meer informatie over Tilburg University en andere partners >>
