Algoritmes bepalen steeds vaker de grote beslissingen in ons leven. Want algoritmes zijn sneller en efficiënter dan mensen. Maar nemen ze altijd betere beslissingen dan mensen? En hoe ziet een samenleving eruit waarin we gestuurd worden door big data en computercode?
Bedrijven, en in toenemende mate ook overheden, zetten algoritmes in om bureaucratische processen te automatiseren. Deze algoritmes, sets van instructies en regels die gevoed worden door big data, bepalen ongemerkt meer en meer ons leven. Zo bepaalt het algoritme van Facebook welke (politieke) advertenties we te zien krijgen en zien grote groepen werknemers in de on-demand-economie zelfs nooit meer een baas. Zij worden van sollicitatieprocedure tot ontslagaanvraag aangestuurd door een algoritme. Waar moeten ze klagen als er iets niet loopt zoals het hoort?
Ook in de rechtspraak zijn algoritmes in opkomst. Zo moest een Amerikaanse gevangene langer vast zitten dan vergelijkbare gevangenen omdat het algoritme, dat een risicoscore vaststelt, hem een onverklaarbaar hoge uitkomst gaf. En anders dan de beslissingen die een rechter maakt, blijkt het zo goed als onmogelijk om de beoordeling van een algoritme aan te vechten. Onlangs bleek hoe het Britse bedrijf Cambridge Analytica, aan de hand van grote hoeveelheden Facebookdata, modellen te hebben ontwikkeld waarmee kiezers konden worden beïnvloed hoe te gaan stemmen. Deze psychographics laten zien dat algoritmes niet alleen individuele levens kunnen sturen, maar ook de democratie.
Onder wiskundigen en programmeurs begint het besef te ontstaan dat de algoritmes, die onder al deze geautomatiseerde beslissingssystemen liggen, niet neutraal zijn en mogelijk fouten bevatten. Want de slimme code mag dan weliswaar sneller kunnen beslissen dan mensen, de uitkomsten zijn niet alleen soms gebrekkig, maar soms ronduit gevaarlijk. Moeten we ons wel blind laten leiden door de beslissingen van het algoritme?
Regie: Martijn Kieft
Met: Cathy O’Neil (voormalig quant, auteur ‘Weapons of Math Destruction’). Jaron Lanier (tech pionier, auteur ‘You are not a Gadget’ en ‘Who Owns the Future’), Meike Zehlike (data scientist), Michal Kosinski (psycholoog en data scientist Stanford University) en Cynthia Conti Cook (advocaat).
VPRO Tegenlicht: Verslaafd aan het algoritme is te zien op zondag 22 april om 21.05 uur op NPO 2.
Geef als eerste een reactie