Een ruime meerderheid van de gemeenteraad steunt de oproep van GroenLinks raadslid Elisabeth IJmker om meer aandacht te besteden aan culturele- en genderdiversiteit in onderzoek naar Artificiële Intelligentie (AI). Op dit moment heeft AI een bias-probleem. Dat wil zeggen dat de data die erin gestopt worden vaker dan eens vooroordelen bevatten: bijvoorbeeld over huidskleur en geslacht. Logischerwijs bevat de output van AI dan ook vooroordelen. “Totaal onwenselijk,” aldus IJmker.
Via de Strategie Innovatiedistricten steunt de gemeente Amsterdam verschillende kennisinstellingen in hun onderzoek naar Artificiële Intelligentie (AI). “Die steun moet ingezet worden om meer aandacht te vragen voor diversiteit in wetenschappelijk onderzoek,” zegt ons raadslid Elisabeth IJmker. Wethouder Sofyan Mbarki van Economische Zaken steunde haar oproep en zegde toe om betrokken partijen te vragen om in hun onderzoek extra aandacht te besteden aan culturele- en genderdiversiteit. Dit moet ervoor zorgen dat onderzoek naar AI een bijdrage kan leveren aan het oplossen van het bias-probleem dat AI nog altijd heeft.
Amsterdam heeft een goede naam in de wereld van onderzoek naar kunstmatige intelligentie. Vanuit de gemeente Amsterdam gaat komende jaren meer dan 7 miljoen euro naar verschillende zogenaamde AI-ontwikkelingslabs, onder andere naar het onderzoeksinstituut Innovation Center for Artificial Intelligence (ICAI). Dit soort ‘AI-labs’ ontvangen jaarlijks voor honderden miljoenen euro’s aan Nederlandse en Europese subsidies.
Uit onderzoek van de Groene Amsterdammer blijkt dat de groep die beslist over toekenning en besteding van financiering voor AI-onderzoek zeer eenzijdig is samengesteld, waarbij oudere, mannelijke techneuten met een achtergrond in het bedrijfsleven zwaar oververtegenwoordigd zijn. En dat terwijl we weten dat aan de inzet van AI serieuze risico’s kleven als het gaat om bias en profilering, bijvoorbeeld rondom huidskleur en gender. De gemeente zal de komende tijd met verschillende kennisinstellingen in gesprek gaan die onderzoek doen naar AI om het ecosysteem rondom AI onderzoek te versterken in de stad.
“We hebben de wethouder gevraagd om in die gesprekken op te roepen om in AI onderzoek extra aandacht te geven aan culturele en genderdiversiteit,” zegt IJmker. Ook vraagt ze de wethouder om in gesprekken met de Rijksoverheid/EZK (waar veel van de subsidies voor AI onderzoek vandaan komen) te pleiten voor mogelijke regelgeving om culturele en genderdiversiteit binnen AI onderzoek te bevorderen, bijvoorbeeld door criteria vast te stellen voor de samenstelling van commissies die deze onderzoeksgelden verdelen.
“We moeten zorgen dat iedereen van wetenschappelijk onderzoek profiteert en in ieder geval dat er meer aandacht komt voor het tegengaan van ongelijkheid en voorkomen van racisme en discriminatie door toepassing van AI. Het gaat namelijk nog te vaak mis, met alle gevolgen van dien,” aldus IJmker