Сандра Вахтер | |
---|---|
Сандра Вахтер выступает в Центре Интернета и общества Беркмана Кляйна в 2018 году | |
Родился | Австрия |
Alma mater | Венский университет. Оксфордский университет |
Научная карьера | |
Учреждения | Оксфордский Интернет-институт. Институт Алана Тьюринга. Королевская инженерная академия |
Сандра Вахтер - доцент и старший научный сотрудник в области этики данных, искусственного интеллекта, робототехники и регулирования Интернета в Оксфордском институте Интернета, Оксфордский университет. Она также является научным сотрудником Института Алана Тьюринга.
Вахтер вырос в Австрии. Она изучала право в Венском университете. Вахтер сказала, что на работу в области технологий ее вдохновила бабушка, которая была одной из трех женщин, поступивших в австрийский технический университет. Она получила степень магистра права в 2009 году, прежде чем начать работу в качестве юрисконсульта в Федеральном министерстве здравоохранения Австрии. В это время она поступила на факультет Венского университета, где получила степень доктора технологий, интеллектуальной собственности и регулирования. Она защитила докторскую диссертацию в 2015 году и одновременно получила степень магистра социальных наук в Оксфордском университете. После получения докторской степени Вахтер поступила в Королевскую инженерную академию, где работала в сфере государственной политики. Она вернулась в Венский университет, где занималась этическими аспектами инноваций.
Ее работа охватывает правовые и этические вопросы, связанные с большими данными, ИИ, алгоритмами и защитой данных.. Она считает, что необходим баланс между техническими инновациями и личным контролем над информацией. Вахтер стала научным сотрудником в Институте Алана Тьюринга в 2016 году. В этом качестве она занималась оценкой этических и правовых аспектов науки о данных. Она утверждала, что искусственный интеллект должен быть более прозрачным и подотчетным, и что люди имеют «право на разумные заключения». Она выделила случаи, когда непрозрачные алгоритмы становились расистскими и сексистскими; такие как дискриминация при обращениях в больницу и медицинскую школу Святого Георгия в 1970-х годах и завышенные оценки повторных преступлений чернокожих обвиняемых при использовании программы КОМПАС. Хотя Вахтер понимает, что трудно устранить предвзятость из наборов обучающих данных, она считает, что можно разработать инструменты для их выявления и устранения. Она изучила способы проверки искусственного интеллекта для борьбы с дискриминацией и обеспечения справедливости. В этом качестве она утверждала, что Facebook должен продолжать использовать человеческих модераторов.
Она утверждала, что Общее положение о защите данных (GDPR) нуждается в реформе, поскольку, несмотря на то, что внимание уделяется этапу ввода, меньше времени тратится на оценку данных. Она считает, что конфиденциальность должна означать нечто большее, чем защита данных, сосредоточение внимания на оценке данных и способах контроля людьми того, как информация о них хранится и передается.
Работая с Крисом Расселом, Вахтер предложила Контрфактические объяснения - утверждения о том, насколько изменился бы мир, чтобы результат был другим. Когда решения принимаются алгоритмом, людям может быть трудно понять, почему они принимаются, особенно без раскрытия коммерческих секретов алгоритма. Контрфактические объяснения позволили бы исследовать алгоритмы без необходимости раскрывать секреты. Подход с использованием контрфактических объяснений был принят Google в What If, функции TensorBoard, веб-приложения Google с открытым исходным кодом, использующего машинное обучение. Контрфактические объяснения без открытия черного ящика: автоматизированные решения и GDPR, статья Вахтера, Брента Миттельштадта и Криса Рассела, была опубликована в прессе и широко цитируется в научной литературе.
В 2019 году она стала адъюнкт-профессором Оксфордского университета. С весны работает приглашенным профессором в Гарвардском университете. 2020. Вахтер является членом Всемирного экономического форума Совета по ценностям, этике и инновациям, филиалом Института прав человека Бонаверо и членом экспертной группы Европейской комиссии по Автономные автомобили.