Schoonheid AI-algoritmen zijn beladen met vooroordelen – deze computerwetenschapper wil dat veranderen

Afbeeldingsbron: met dank aan Joy Buolamwini

Te vaak worden de beste schoonheidsverhalen Untold, uitsluitend gebaseerd op iemands huidskleur, religie, genderexpressie, handicap of sociaaleconomische status. Hier geven we de microfoon door aan enkele van de meest ambitieuze en getalenteerde stemmen in de industrie, zodat ze, in hun eigen woorden, het opmerkelijke verhaal kunnen delen over hoe ze zijn ontstaan ​​- en hoe ze schoonheid gebruiken om te veranderen de wereld ten goede. Volgende: Joy Buolamwini, computerwetenschapper en oprichter van de Algorithmic Justice League (AJL).

Van jongs af aan was ik geïnteresseerd in manieren om computers te gebruiken om mensen te helpen. Toen ik opgroeide, nam mijn vader, een professor in medicinale chemie en farmaceutische wetenschappen, me altijd mee naar zijn laboratorium om kankercellen te voeden. Hij zou me ook laten zien hoe hij computers gebruikte om medicijnen te ontwikkelen om kanker te bestrijden.

Ik ben opgegroeid met waardering voor het zoeken naar waarheid, zowel met kunst als met wetenschap, dankzij het feit dat mijn moeder een kunstenaar is. Ik wist eerst niet zeker of ik in staat zou zijn om zowel het artistieke deel van wat ik deed te combineren met de algoritmische auditing, maar ik nam de kans om mezelf af te vragen, hoe het eruit zou zien om een ​​dichter van code te zijn, iemand die combineert beide werelden om te doen wat dichters doen, namelijk ongemakkelijke waarheid of verborgen inzichten verlichten in de dagelijkse interacties die we hebben?

Ik heb ook altijd een ondernemersgeest gehad. Op de middelbare school had ik een klein bedrijf voor webdesign, waarmee ik wat geld kon verdienen, zodat ik apparatuur voor basketbal, atletiek en crosscountry kon betalen. analyseer het haartype en geef mensen persoonlijke productaanbevelingen.

Daarna had ik het geluk dat ik een Fulbright-beurs kreeg om naar Zambia te gaan, en ik begon een organisatie die meisjes leerde coderen. Tegen de tijd dat ik afstudeerde, had ik de ervaring en het vertrouwen om de Algorithmic Justice League op te richten, een organisatie die kunst, academisch onderzoek en belangenbehartiging combineert om te vechten voor mensen die schade ondervinden van AI, die ik graag noem de “ex-gecodeerd.”

Ik begon te onderzoeken of AI-systemen anders presteren, afhankelijk van het type gezicht dat wordt geanalyseerd, en wat uit mijn onderzoek bleek, is dat ze dat ook doen.

Toen ik als afgestudeerde student aan het MIT aan een kunstinstallatie werkte, was een deel van de installatie bedoeld om de locatie van mijn gezicht met software te volgen, maar het werkte niet zo goed op mijn gezicht totdat ik een wit masker opzette. Dit leidde in 2017 tot mijn onderzoek naar gezichts- en analysetechnologie die kon proberen het geslacht van een gezicht te raden. Die ervaring van het opzetten van een wit masker om zichtbaar te worden gemaakt voor een machine, is wat me echt deed afvragen: zijn deze machines zo neutraal?

Ik begon te onderzoeken of AI-systemen anders presteren, afhankelijk van het type gezicht dat wordt geanalyseerd, en wat uit mijn onderzoek bleek, is dat ze dat ook doen. Toen ik keek naar AI-systemen van een aantal grote technologiebedrijven, ontdekte ik dat de systemen beter presteren op gezichten van mannen dan die van vrouwen als het gaat om het raden van geslacht, en ze presteerden beter op gezichten met een lichtere huid dan gezichten met een donkere huid. Dat deed me denken, als die resultaten waren teruggedraaid, zouden deze computers dan überhaupt op de markt zijn? Het was die ervaring met coderen in een wit masker, en toen ik de kans kreeg om enkele van de grootste nauwkeurigheidsverschillen in commercieel verkochte AI-producten op dat moment te laten zien, die me ertoe bracht om verder te kijken naar problemen met gecodeerde vooringenomenheid, wat echt het begin was voor het starten van de Algorithmic Justice League.

Afbeeldingsbron: met dank aan Olay

Als we in schoonheids-AI denken aan het analyseren van gezichten of het laten verwerken van gezichten door een machine, zie je dit met de soorten filters die worden gebruikt die je huid lichter kunnen maken of je neus dunner kunnen maken als een manier om te beweren schoonheid te verbeteren – dat is gebaseerd op eurocentrische schoonheidsnormen en marginaliseert gekleurde vrouwen. Door mijn onderzoek realiseerde ik me dat ik dit belangrijke perspectief heb vanuit mijn geleefde ervaring van niet gezien worden, van ex-gecodeerd zijn. Het is iets dat niet alleen mij raakt, maar het is iets dat in onze grotere samenleving voorkomt, omdat we steeds meer AI-systemen hebben die alle gebieden binnenkomen.

Iets anders om over na te denken in de schoonheidsruimte is het gebruik van AI in de werkgelegenheid – beslissen wie wordt aangenomen, wie wordt ontslagen, wie een promotie krijgt. De schoonheidsindustrie heeft zoveel mensen in dienst en het is begrijpelijk dat bedrijven de nieuwste technologieën willen gebruiken, maar we moeten echt nadenken over de manieren waarop AI als poortwachter dient voor wie zelfs binnen de branche mag participeren.

Een belangrijk onderdeel van wat we doen met de Algorithmic Justice League is de vraag hoe we naar een wereld gaan met meer rechtvaardige en verantwoordelijke AI? Een deel daarvan is het vergroten van het bewustzijn, omdat je een probleem niet kunt oplossen waarvan je niet eens weet, en veel mensen zijn zich niet bewust van gecodeerde vooringenomenheid. Daarom was ik zo blij om samen te werken met Olay aan de Decode the Bias-campagne om vooroordelen in schoonheidsalgoritmen te bestrijden. Nadenken over wie codeert en hoe we coderen, is zo’n essentieel onderdeel van het maken van een verandering. Het initiatief van het merk om 1.000 meisjes naar het Black Girls CODE-kamp te sturen om hen te helpen een STEM-carrière na te streven, helpt ervoor te zorgen dat de mensen die de technologieën creëren die de samenleving vormgeven, de samenleving weerspiegelen. De vooroordelen laten zien wat er gebeurt als we niet in de kamer zijn.

Als we in schoonheids-AI denken aan het analyseren van gezichten of het laten verwerken van gezichten door een machine, zie je dit met de soorten filters die worden gebruikt die je huid lichter kunnen maken of je neus dunner kunnen maken als een manier om te beweren schoonheid te verbeteren .

Toen ik voor het eerst met mijn onderzoek begon, kreeg ik ontmoedigende opmerkingen, maar dat weerhield me er niet van om iets na te streven dat volgens mij buitengewoon belangrijk was. Omdat ik een vrouw was en een donkere huid had, kreeg ik een doorleefde ervaring die leidde tot impactvol onderzoek dat meer reguliere leeftijdsgenoten op dat moment gewoon niet nastreefden of prioriteit gaven. En dus is mijn ervaring met het coderen in een wit masker de aanleiding voor dit onderzoek geweest.

Als je in een veld bent waar je perspectief niet centraal staat, moet je echt een gemeenschap van steun vinden. Ik heb een zeer sterk ondersteuningssysteem en geweldige mentoren en een echt solide basis gehad, en dus denk ik dat dat vanaf het begin erg nuttig voor me is geweest. Dat heeft me laten zien hoe belangrijk het is om zo’n gemeenschap te hebben, vooral als jonge vrouw van kleur en voor gekleurde meisjes. Ik zou iedereen die ideeën heeft en deze ruimte wil betreden, maar bang is dat ze te maken zullen krijgen met pushback, willen aanmoedigen om toch vooruit te gaan. We hebben je nog steeds nodig.

Afbeeldingsbron: Olay