Joy Buolamwini - Joy Buolamwini
Joy Buolamwini | |
|---|---|
 | |
| narozený | 1989/1990 (věk 30–31) |
| Vzdělávání |
Georgia Institute of Technology ( BS ) Jesus College, Oxford ( MS ) Massachusetts Institute of Technology ( MS ) |
| Známý jako | Algoritmická spravedlnost |
| Ocenění |
Rhodes stipendium Fulbright Fellow |
| Vědecká kariéra | |
| Pole |
Informatika Algoritmická předpojatost |
| Instituce | MIT Media Lab |
| Teze | Genderové odstíny: průřezové fenotypové a demografické hodnocení obličejových datových souborů a klasifikátorů pohlaví (2017, magisterské) |
| Doktorský poradce | Ethan Zuckerman |
| webová stránka |
www 
|
Joy Adowaa Buolamwini je ghansko -americký počítačový vědec a digitální aktivista se sídlem v MIT Media Lab . Založila Algorithmic Justice League , organizaci, která se snaží zpochybnit zaujatost v rozhodovacím softwaru. Organizace to dělá spojením umění a výzkumu, aby zdůraznila sociální důsledky a poškození AI.
raný život a vzdělávání
Buolamwini se narodil v Edmontonu v Albertě , vyrostl v Mississippi a navštěvoval střední školu Cordova . Ve věku 9, ona byla inspirována Kismet , na MIT robota, a naučila XHTML , JavaScript a PHP . Byla závodní tyčkařka.
Jako vysokoškolačka studovala Buolamwini informatiku na Georgia Institute of Technology , kde zkoumala zdravotní informatiku. Buolamwini promoval jako stipendista prezidenta Scholar z Georgia Tech v roce 2012 a byl nejmladším finalistou Georgia Tech InVenture Prize v roce 2009.
Buolamwini je Rhodes Scholar , Fulbrightův kolega , Stamps učenec, Astronaut Scholar a Anita Borg Institute učenec. Jako Rhodes Scholar studovala učení a technologie na Jesus College v Oxfordu . Během svého stipendia se zúčastnila prvního formálního služebního roku a pracovala na projektech zaměřených na komunitu. V roce 2017 získala magisterský titul z MIT za výzkum pod dohledem Ethana Zuckermana .
Kariéra a výzkum
V roce 2011 se spojila s programem Trachoma v Carter Center , aby vyvinula systém hodnocení pro Etiopii založený na Androidu a pomohl celosvětově vymýtit tuto nemoc.
Jako Fulbrightův kolega v roce 2013 spolupracoval Buolamwini s místními počítačovými vědci v Zambii , aby se zambijská mládež zmocnila stát se tvůrci technologií. 14. září 2016 se Buolamwini objevil na summitu Bílého domu o informatice pro všechny.
Je výzkumnou pracovnicí MIT Media Lab , kde identifikuje zkreslení algoritmů a vyvíjí postupy pro odpovědnost při jejich návrhu; V laboratoři Buolamwini je členem Ethan Zuckerman ‚s Center for Civic Media skupiny. Během svého výzkumu Buolamwini ukázala systémům rozpoznávání obličejů 1 000 tváří a požádala je, aby identifikovaly, zda jsou tváře ženy nebo muži. Zjistila, že software těžko identifikuje ženy tmavé pleti. Její projekt Gender Shades přilákal významnou pozornost médií a stal se součástí její diplomové práce. Její papír Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification vyzval k odpovědím IBM a Microsoft , kteří svůj software rychle vylepšili. Vytvořila také Aspire Mirror, zařízení, které vám umožní vidět odraz sebe sama na základě toho, co vás inspiruje. Její program Algorithmic Justice League má za cíl upozornit na zkreslení v kódu, které může vést k diskriminaci nedostatečně zastoupených skupin. Vytvořila dva filmy „Code4Rights“ a „Algorithmic Justice League: Unmasking Bias“. Je hlavní technologickou ředitelkou technologické společnosti Techturized Inc.
Výzkum společnosti Buolamwini je citován jako vliv společnosti Google a společnosti Microsoft na řešení genderové a rasové předpojatosti v jejich produktech a procesech.
Aktivismus
Joy Buolamwini založila Algoritmickou ligu spravedlnosti (AJL) v roce 2016, aby se ujala vedení při získávání spravedlivé a odpovědné umělé inteligence (AI). Organizace AJL kombinuje umění a výzkum, aby osvětlila společenské důsledky a poškození AI. Posláním společnosti je zvýšit povědomí veřejnosti o dopadech AI, vybavit společnost výzkumem, dát hlas nejzranitelnějším komunitám a povzbudit technologický průmysl a kongres.
Web AJL funguje jako místo pro vyhledávání informací a jako živý blog. Na webu je několik sekcí, kde mohou lidé sdílet své příběhy a podniknout kroky k darování nebo psaní zástupcům Kongresu.
Vymazání vymazání
Voicing Erasure je jednou z novějších sekcí výzkumu na webových stránkách AJL. Joy Buolamwini, Allison Koenecke, Safiya Noble, Ruha Benjamin , Kimberle Crenshaw , Megan Smith a Sasha Costanza-Chock produkovaly mluvené slovo o předpojatosti v hlasových systémech. Buolamwini a Koenecke jsou vedoucí výzkumníci, kteří odhalují předpojatosti hlasových systémů. Zjistili, že systémy rozpoznávání řeči mají největší potíže s mluvčími afroamerické lidové angličtiny , a to navzdory znepokojivému faktu, že tyto systémy tajně poslouchají naše konverzace. Poslední řešenou otázkou jsou škodlivé genderové stereotypy udržované podřízenou povahou Siri , Alexa a Cortona.
The Coded Gaze: Unmasking Algorithmic Bias
The Coded Gaze je mini dokumentární film, který debutoval v Muzeu výtvarných umění v Bostonu v roce 2016 a v současné době je k dispozici na YouTube. Buolamwini se pomocí mini dokumentu soustředí na předpojatost, která spočívá ve funkci umělé inteligence. Inspirace pro mini dokument a její výzkum přišla, když byla na MIT a vytvořila její umění „Aspire Mirror“, které pomocí rozpoznávání tváře odráží na vaši tvář jinou osobu, která vás inspiruje. Buolamwini očekával, že se Serena Williamsová, další žena tmavé pleti, odrazí na její tváři. Technologie však nepoznala její tvář. Buolamwiniho výzkum zkoumá, proč k tomu došlo, a následně vedl Buolamwini k závěru, že vyloučení lidí, kteří vypadají jako ona, je výsledkem termínu, který nazvala, „Kódovaný pohled“. Tento koncept dále rozebírá v mini dokumentu „The Coded Gaze“. Dokument zkoumá, jak je AI vystavena rasovým a genderovým předsudkům, které odrážejí názory a kulturní pozadí těch, kdo ji rozvíjejí.
Kódovaná předpojatost
The Coded Bias je dokumentární film režírovaný Shalini Kantayya, který uvádí výzkum Joy Buolamwini o nepřesnostech AI v technologii rozpoznávání obličejů a softwaru pro automatické hodnocení. Zaměřuje se na nedostatečnou regulaci nástrojů pro rozpoznávání obličejů prodávaných společnostmi IBM , Microsoft a Amazon, které udržují rasovou a genderovou předpojatost. Film vypráví příběh o bitvě mezi brooklynskými nájemníky a společností zabývající se správou budov, která se pokusila zahájit rozpoznávání tváře při vstupu do budovy. Film představoval patří Weapons of Math Destruction autor Cathy O'Neill a členové Big Brother Watch , včetně Silkie Carlo , který se nachází v Londýně. 5. dubna 2021 byl dokument zpřístupněn streamování na Netflixu .
Ocenění a uznání
V roce 2017 získala Buolamwini hlavní cenu v profesionální kategorii v soutěži Hledání skrytých figur, která byla spojena s uvedením filmu Skryté figury v prosinci 2016. Soutěž sponzorovaná společnostmi PepsiCo a 21st Century Fox měla za cíl „pomoci Odhalte novou generaci ženských lídrů ve vědě, technologii, strojírenství a matematice, “a přilákalo 7 300 příspěvků od mladých žen z celých Spojených států.
Buolamwini přednesl na Beacon Street přednášku TEDx s názvem Jak bojuji se zkreslením v algoritmech . V roce 2018 se objevila na TED Radio Hour . V roce 2018 byla uvedena ve filmu Chytré dívky Amy Poehlerové. Časopis Fast Company ji zařadil mezi čtyři „hrdiny designu, kteří hájí demokracii online“. V roce 2018 byla uvedena jako jedna ze 100 žen BBC .
V roce 2019 byl Buolamwini uveden na seznamu největších světových lídrů časopisu Fortune Magazine na rok 2019. Časopis ji také nazval „svědomím revoluce AI“. V roce 2019 také vytvořila inaugurační seznam Time 100 Next. V roce 2020 se Joy Buolamwini představila v kampani Leviho ženy na posílení postavení 8. března na Mezinárodní den žen. Byla také uvedena v dokumentu Coded Bias .
Osobní život
Buolamwini žil v Ghaně; Barcelona, Španělsko; Oxford, Spojené království; a v USA Memphis, Tennessee a Atlanta, Georgia.