Джой Буоламвини | |
---|---|
Родился | 1989/1990 (30–31 лет) Эдмонтон, Альберта |
Образование | Технологический институт Джорджии ( BS ) Колледж Иисуса, Оксфорд ( MS ) Массачусетский технологический институт ( MS ) |
Известен | Алгоритмическое правосудие |
Награды | Стипендия Родса, стипендиат программы Фулбрайта |
Научная карьера | |
Поля | Информатика Алгоритмический уклон |
Учреждения | MIT Media Lab |
Тезис | Гендерные оттенки: межсекционная фенотипическая и демографическая оценка наборов данных о лицах и гендерных классификаторов (2017, магистратура) |
Докторант | Итан Цукерман |
Веб-сайт | www.poetofcode.com |
Джой Адоваа Буоламвини - ганский ученый - компьютерщик и активист в области цифровых технологий, работающий в MIT Media Lab. Она основала Лигу алгоритмической справедливости, организацию, которая стремится бросить вызов предвзятости в программном обеспечении для принятия решений. Организация делает это, сочетая искусство и исследования, чтобы подчеркнуть социальные последствия и вред ИИ.
Буоламвини родился в Эдмонтоне, Альберта, вырос в Миссисипи и учился в Средней школе Кордовы. В 9 лет ее вдохновил Кисмет, робот из Массачусетского технологического института, и она выучила XHTML, JavaScript и PHP. Она была конкурентоспособной прыгуном с шестом.
Будучи студенткой, Буоламвини изучала информатику в Технологическом институте Джорджии, где изучала информатику здоровья. Buolamwini закончил в качестве стипендиата Марки президента из Джорджии в 2012 году и был самым молодым финалистом Georgia Tech Inventure премии в 2009 году.
Буоламвини - стипендиат Родса, стипендиат программы Фулбрайта, стипендиат почтовых марок, стипендиат астронавтов и стипендиат Института Аниты Борг. Будучи стипендиатом Родса, она изучала обучение и технологии в колледже Иисуса в Оксфорде. Во время стипендии она приняла участие в первом официальном году службы, работая над проектами, ориентированными на сообщества. В 2017 году она получила степень магистра Массачусетского технологического института за исследования под руководством Итана Цукермана.
В 2011 году она объединилась с программой Trachoma в Центре Картера, чтобы разработать систему оценки на базе Android для Эфиопии и помочь искоренить болезнь во всем мире.
Джой Буоламвини на Викимании 2018 в КейптаунеБудучи стипендиатом программы Фулбрайта, в 2013 году Буоламвини работал с местными компьютерными учеными в Замбии, чтобы дать возможность замбийской молодежи стать создателями технологий. 14 сентября 2016 года Буоламвини выступил на саммите Белого дома по компьютерным наукам для всех.
Она является исследователем в MIT Media Lab, где выявляет предвзятость в алгоритмах и разрабатывает методы обеспечения подотчетности во время их разработки; в лаборатории, Buolamwini является членом Этана Zuckerman «s Центра гражданской медиа группы. Во время своего исследования Буоламвини показала системам распознавания лиц 1000 лиц и попросила их определить, были ли лица женскими или мужскими. Она обнаружила, что программному обеспечению трудно идентифицировать темнокожих женщин. Ее проект Gender Shades привлек значительное внимание средств массовой информации и стал частью ее диссертации в Массачусетском технологическом институте. Ее статья 2018 года Gender Shades: Intersectional Accuracy Disparcies in Commercial Gender Classification вызвала отклик со стороны IBM и Microsoft, которые быстро улучшили свое программное обеспечение. Она также создала Aspire Mirror, устройство, которое позволяет вам увидеть свое отражение на основе того, что вас вдохновляет. Ее программа «Лига алгоритмической справедливости» направлена на выявление предвзятости в коде, которая может привести к дискриминации в отношении недостаточно представленных групп. Она создала два фильма: «Code4Rights» и «Лига алгоритмической справедливости: разоблачение предвзятости». Она является техническим директором Techturized Inc, компании, занимающейся технологиями ухода за волосами.
Считается, что исследование Буоламвини повлияло на Google и Microsoft в устранении гендерных и расовых предубеждений в их продуктах и процессах.
Джой Буоламвини основала Лигу алгоритмической справедливости (AJL) в 2016 году, чтобы возглавить деятельность по созданию справедливого и подотчетного искусственного интеллекта (AI). Организация AJL объединяет искусство и исследования, чтобы пролить свет на социальные последствия и вред ИИ. Миссия компании - повышать осведомленность общественности о влиянии ИИ, вооружать общество исследованиями, высказывать мнение наиболее уязвимых сообществ и стимулировать технологическую индустрию и конгрессы.
Веб-сайт AJL работает как место для поиска информации и как живой блог. На сайте есть несколько разделов, где люди могут поделиться своими историями и принять меры, чтобы пожертвовать или написать представителям Конгресса.
Озвучивание Erasure - один из новых разделов исследований, представленных на веб-сайте AJL. Джая Buolamwini, Allison Koenecke, Сафия Noble, Ruha Benjamin, Kimberle Крений, Меган Смит, и Саша Костанец-Чок произвели разговорное слово о смещении в речевых системах. Буоламвини и Коенеке - ведущие исследователи, раскрывающие предвзятость голосовых систем. Они обнаружили, что у систем распознавания речи больше всего проблем с афроамериканскими носителями английского языка, несмотря на тревожный факт, что эти системы тайно слушают наши разговоры. Последний вопрос, который решается, - это вредные гендерные стереотипы, увековеченные подчиненным характером Siri, Alexa и Cortona.
«Закодированный взгляд» - это документальный мини-фильм, дебютировавший в Музее изящных искусств Бостона в 2016 году и в настоящее время доступный на YouTube. Буоламвини использует мини-документальный фильм, чтобы сосредоточиться на предвзятости, лежащей в основе функции искусственного интеллекта. Вдохновение для мини-документального фильма и ее исследования пришло, когда она работала в Массачусетском технологическом институте, создав свое искусство «Aspire Mirror», в котором используется распознавание лиц, чтобы отразить на вашем лице другого человека, который вас вдохновляет. Буоламвини ожидал, что Серена Уильямс, еще одна темнокожая женщина, отразится на ее лице. Однако технология не распознала ее лицо. Исследование Буоламвини исследует, почему это происходит, и, следовательно, привело Буоламвини к выводу, что исключение людей, похожих на нее, было результатом использования термина, который она назвала «закодированным взглядом». Далее она обсуждает эту концепцию в документальном мини-фильме «The Coded Gaze». Документальный фильм исследует, как ИИ подвержен расовым и гендерным предубеждениям, которые отражают взгляды и культурные особенности тех, кто его развивает.
Закодированная Предвзятость является документальным фильмом режиссера Шалини Kantayya, который показывает исследование Джой Buolamwini по поводу неточностей ИИ в технологии распознавания лица и автоматизированное программном обеспечении оценки. Он фокусируется на отсутствии регулирования инструментов распознавания лиц, продаваемых IBM, Microsoft и Amazon, которые увековечивают расовые и гендерные предубеждения. В фильме рассказывается история битвы между бруклинскими арендаторами и управляющей компанией, которая пыталась использовать распознавание лиц для входа в здание. В фильме снимались автор « Оружия математического разрушения» Кэти О'Нил и члены организации Big Brother Watch, в том числе Силки Карло, которая находится в Лондоне. 5 апреля 2021 года документальный фильм был доступен для потоковой передачи на Netflix.
В 2017 году Буоламвини был удостоен главного приза в профессиональной категории конкурса « Поиск скрытых фигур », приуроченного к выпуску фильма « Скрытые фигуры» в декабре 2016 года. Конкурс, спонсируемый PepsiCo и 21st Century Fox, был призван «помочь» раскрыть следующее поколение женщин-лидеров в области науки, технологий, инженерии и математики "и привлекло 7300 заявок от молодых женщин из Соединенных Штатов.
Буоламвини выступил на TEDx на Бикон-стрит с докладом « Как я борюсь с предвзятостью в алгоритмах». В 2018 году она появилась на TED Radio Hour. В 2018 году она была представлена в фильме Эми Полер «Умные девушки ». Журнал Fast Company назвал ее одним из четырех «героев дизайна, защищающих демократию в Интернете». В 2018 году она была включена в список 100 женщин BBC.
В 2019 году Буоламвини был включен в список величайших лидеров мира журнала Fortune Magazine за 2019 год. Журнал также назвал ее «совестью революции искусственного интеллекта». Она также вошла в первый список Time 100 Next в 2019 году. В 2020 году Джой Буоламвини участвовала в кампании Levi's по расширению прав и возможностей женщин, приуроченной к Международному женскому дню 8 марта. Она также была показана в документальном фильме Coded Bias.
Буоламвини жил в Гане; Барселона, Испания; Оксфорд, Соединенное Королевство; а в США - Мемфис, Теннесси и Атланта, Джорджия.