Войти
 | |
| Формирование | 2016; 4 года назад (2016) |
|---|---|
| Штаб-квартира | Беркли, Калифорния |
| Лидер | Стюарт Дж. Рассел |
| Материнская организация | Калифорнийский университет в Беркли |
| Веб-сайт | человек совместимый.ai |
Центр совместимого с человеком искусственного интеллекта (CHAI ) - это исследовательский центр в Калифорнийском университете в Беркли (UC Беркли), уделяя особое внимание передовым искусственному интеллекту (AI) методам безопасности. CHAI была основана в 2016 году группой ученых во главе с профессором информатики Калифорнийского университета в Беркли и автором искусственного интеллекта Стюартом Дж. Расселом. Рассел известен как соавтор широко используемого учебника по искусственному интеллекту Искусственный интеллект: современный подход.
В состав преподавателей CHAI входят Барт Селман и Джозеф Халперн из Корнельского университета, Питер Аббил из Калифорнийского университета в Беркли и Майкл Веллман из Мичиганского университета. В 2016 году Открытый проект благотворительности (OpenPhil) рекомендовал предоставить грант в размере 5 555 550 долларов США на пять лет для поддержки CHAI. CHAI получил дополнительный грант в размере 200000 долларов от OpenPhil в 2019 году.
Подход CHAI в исследованиях безопасности ИИ основное внимание уделяется стратегиям согласования ценностей, в частности обучению с обратным подкреплением, в котором ИИ выводит человеческие ценности, наблюдая за человеческим поведением. Он также работал над моделированием взаимодействия человека и машины в сценариях, где у интеллектуальных машин есть «выключатель», который они могут отключить.
