Войти
 | |
| Формирование | 2000 ; 21 год назад ( 2000) |
|---|---|
| Тип | Некоммерческий исследовательский институт |
| Цель | Исследование дружественного искусственного интеллекта и проблемы управления ИИ |
| Место нахождения | |
| Действующие лица | Элиэзер Юдковски |
| Веб-сайт | разведка.org |
Научно - исследовательский институт Machine Intelligence ( MIRI), бывший Singularity институт искусственного интеллекта ( SIAI), является некоммерческой научно - исследовательский институт сосредоточены с 2005 по выявлению и управлению потенциальными экзистенциальных рисков от искусственного общего интеллекта. Работа MIRI сосредоточена на дружественном ИИ подходе к проектированию систем и на прогнозировании темпов развития технологий.
Юдковски в Стэнфордском университете в 2006 г. В 2000 году Элиэзер Юдковски основал Институт сингулярности для искусственного интеллекта при финансовой поддержке Брайана и Сабин Аткинс с целью ускорения развития искусственного интеллекта (ИИ). Однако Юдковски начал беспокоиться о том, что системы искусственного интеллекта, разработанные в будущем, могут стать сверхразумными и представлять опасность для человечества, и в 2005 году институт переехал в Кремниевую долину и начал сосредотачиваться на способах выявления и управления этими рисками, которые были в то время в значительной степени игнорируется учеными в этой области.
Начиная с 2006 года Институт организовал саммит Singularity Summit для обсуждения будущего ИИ, включая его риски, первоначально в сотрудничестве со Стэнфордским университетом и при финансовой поддержке Питера Тиля. The San Francisco Chronicle описала первую конференцию как «вечеринку в области залива для вдохновленной технологиями философии, называемой трансгуманизмом». В 2011 году его офисы представляли собой четыре квартиры в центре Беркли. В декабре 2012 года институт продал свое название, веб-домен и саммит Singularity University Singularity University, а в следующем месяце получил название «Исследовательский институт машинного интеллекта».
В 2014 и 2015 годах общественный и научный интерес к рискам, связанным с искусственным интеллектом, вырос, что привело к увеличению пожертвований на финансирование исследований в MIRI и аналогичных организациях.
В 2019 году Open Philanthropy рекомендовала выделить MIRI грант на общую поддержку в размере около 2,1 миллиона долларов на два года. В апреле 2020 года Open Philanthropy дополнила это грантом в размере 7,7 миллиона долларов на два года.
В 2021 году Виталик Бутерин пожертвовал MIRI Ethereum на несколько миллионов долларов.
Нейт Соарес представляет обзор проблемы согласования ИИ в Google. Подход MIRI к выявлению и управлению рисками ИИ, во главе с Юдковски, в первую очередь касается разработки дружественного ИИ, охватывающего как первоначальный дизайн систем ИИ, так и создание механизмов, гарантирующих, что развивающиеся системы ИИ остаются дружественными.
Исследователи MIRI выступают за раннюю безопасную работу в качестве меры предосторожности. Однако исследователи MIRI скептически относятся к мнению сторонников сингулярности, таких как Рэй Курцвейл, о том, что суперинтеллект «не за горами». MIRI финансирует работу по прогнозированию в рамках инициативы под названием AI Impacts, которая изучает исторические примеры прерывистых технологических изменений и разработала новые меры относительной вычислительной мощности людей и компьютерного оборудования.
MIRI придерживается принципов и целей движения за эффективный альтруизм.
