Nautilus   | New York

Algoritmes bepalen in toenemende mate ons leven. Niet alleen door apparaten die we zelf gebruiken, maar ook door overheden en bedrijven die steeds meer van ons weten. Niettemin bestaat er geen enkele regelgevende instantie die hier toezicht op houdt. Dat moet anders, vindt de Britse wiskundige Hannah Fry.

In de inleiding van haar nieuwe boek merkt 
Hannah Fry iets interessants op over de tekst ‘Hello world’. Die frase vormt vaak de complete output van het eerste programma dat leerlingen in een programmeertaal leren schrijven.

Maar volgens haar is nooit helemaal duidelijk of je dat zinnetje 
nou moet toeschrijven aan het programma dat 
tot leven komt en de wereld groet, of aan de triomfantelijke programmeur die zijn of haar eerste 
maaksel aan de wereld voorstelt. Vandaar wellicht dat je bij ‘Hello world’ al snel aan een dialoog tussen mens en machine denkt – een gedachte die actueler is dan ooit.

In haar boek Hello World [in het Nederlands vertaald als Algoritmes aan de macht] leidt Fry ons rond door een in hoog tempo gedigitaliseerde wereld. Fry is even optimistisch en enthousiast – met haar promovendi aan het Londense University College sleutelt ze zelf ook veel aan algoritmes – als bezorgd. In ons gesprek zowel als in haar boek doet ze een dringende oproep: we moeten algoritmes transparanter maken en aan regelgeving onderwerpen, en meer begrip hebben voor de feilbare mensen die ermee moeten omgaan.

Ik sprak haar telefonisch toen ze in New York was voor de promotie van haar boek.

Waarom moet er een geneesmiddeleninspectie voor algoritmes komen?

Vroeger kon je een willekeurige gekleurde vloeistof in een flesje stoppen, als geneesmiddel verkopen en daar schatrijk mee worden. Zonder erom te malen of het misschien giftig was. Daar hebben we een eind aan gemaakt, allereerst omdat het moreel verwerpelijk is, maar ook omdat het schadelijk is. Met data en algoritmes verkeren we nu in dezelfde situatie. Je kunt over iedereen alle gegevens verzamelen die je maar wilt. Die mag je analyseren zoals je wilt en gebruiken om die mensen ermee te manipuleren zoals je wilt. En je kunt algoritmes bedenken die een werkelijk gigantische invloed hebben op het leven van mensen, zowel in positieve als in negatieve zin, zonder dat daar enige vorm van controle op zit. Dat vind ik totaal krankjorum. Dus ik vind het hoog tijd voor zoiets als een geneesmiddeleninspectie, maar dan voor algoritmes. Een toezichthouder die de intellectuele eigendom van algoritmes beschermt, maar er ook op toeziet dat de maatschappelijke 
voordelen opwegen tegen de nadelen.