Elisabeth IJmker: “Het is al een lang gekoesterde wens van GroenLinks om deze mensenrechtentoets te verplichten. Eigenlijk gek dat dat nog niet zo was. Met het algoritmeregister werkt Amsterdam aan het transparant maken van onze algoritmen, maar transparantie is niet het eindstation. Het gaat erom dat algoritmen alleen worden ingezet als het geen inbreuk doet op belangrijke waarden zoals privacy en gelijkheid.”
Amsterdam maakt het uitvoeren van een Impact Assessment Mensenrechten en Algoritmes (IAMA) nu verplicht. Deze toets is ontwikkeld door de Universiteit Utrecht en wordt dankzij GroenLinks ook landelijk ingezet om risico’s en mogelijke bias in algoritmen in kaart te brengen. De toets helpt ambtenaren om een afweging te maken of een algoritme al dan niet ingezet wordt, en zo ja, hoe dat op een verantwoorde manier te doen. De toets is vanaf nu verplicht voor algoritmen ingezet door de gemeente Amsterdam en zal ook worden gepubliceerd via het algoritmeregister.