Войти
Эта обложка Я, Робот иллюстрирует рассказ « Обходной путь », первый, в котором используются все Три закона робототехники Три закона робототехники (часто сокращается до Три закона или как Законы Азимова ) - это свод правил, використов автором научной фантастики автором Айзеком Азимовым. Правила были введены в его рассказе 1942 года «Обход » (включенный в сборник 1950 года I, Робот ), хотя они были предсказаны в нескольких более ранних рассказах. Три закона, взятые из «Руководства по робототехнике, 56-е издание, 2058 г. н.э. », Следующие:
Они образуют организационный принцип и объединяющую тему для роботов Азимова. художественная литература, появляющаяся в его серии про роботов, связанных с ней серии историях и в его серии Лаки Старр юношеской литературы. Законы включены почти во всех позитронных роботов, фигурирующих в его художественных произведениях, и их нельзя обойти, поскольку они предназначены для обеспечения безопасности. Во многих рассказах Азимова, посвященных роботам, роботы ведут себя необычным и нелогичным образом, как робот применяет три закона к ситуации, в которой он находится. Другие авторы, работающие в художественной вселенной Азимова, переняли их, и ссылки, пародийные часто появляются в научной фантастике, а также в других жанрах.
Первоначальные законы были и доработаны Азимовым и другими авторами. Сам Азимов внесет небольшие изменения в первые в различных книгах и рассказах, чтобы в друг друга развить то, как роботы будут взаимодействовать с людьми и другом. В более поздних произведениях, где роботыяли на себя ответственность за управление целыми планетами и человеческими цивилизациями, Азимов также добавил четвертый, нулевой закон, предшествующий остальным:
Три закона и ноль пронизывают научную фантастику и регистрируются во многих книгах, фильмах и других средствах массовой информации. Они также повлияли на мысль о этике искусственного интеллекта.
В «Остальных роботах», опубликованной в 1964 году, Исаак Азимов отметил, что когда он начинал в 1940 году он чувствовал, что «одним из основных сюжетов научной фантастики были... роботы. были и создателем их создателя. Да, у знания есть свои опасности, но разве ответ - отступление от знания? Или знание заведовать как барьер на пути опасностей, которые оно несет? «Он решил, что в его рассказах робот не« тупо набросится на своего создателя без всякой цели, но чтобы использовать еще один утомительный момент преступления и наказания. из Фауст."
3 мая 1939 года Азимов посетил собрание общества научной фантастики Квинс (Нью-Йорк ), где познакомился с Эрлом и Отто Биндерами., который недавно опубликовал рассказ «Я, робот» с участием симпатичного робота по имени Адам Линк, который был неправильно понят и мотивирован любовью и честью. (Это была первая из десяти историй; в следующем году «Месть Адама Линка» (1940) показала, что Адам думал: «Робот никогда не должен убивать человека по своей собственной воле».) Через три дня Азимов начал писать свой 14-й рассказ «Мой собственный рассказ о благородном и благородном роботе». Тринадцать дней спустя он отнес «Робби » Джону У. Кэмпбеллу, редактору Astounding Science-Fiction. Кэелл отверг ее, заявив, что она слишком сильно похожа на «Хелен О'Лой » Лестера дель Рей, опубликованная в декабре 1938 года, - рассказ о таком роботе. который влюбляется в своего создателя и становится его идеальной женой. Фредерик Поль опубликовал рассказ под названием «Strange Playfellow» в Super Science Stories сентябрь 1940 г.
Азимов приписывает Три закона Джону У. Кэмпбеллу из разговора, состоявшегося 23 декабря 1940 года. Кэмпбелл утверждал, что Азимов уже имел в виду Три закона и что их просто необходимо прямо изложить. Несколько лет спустя друг Азимова Рэндалл Гаррет приписал Законы симбиотическому партнерству между двумя мужчинами - предположение, которое Азимов принял с энтузиазмом. Согласно его автобиографическим характеристикам, Азимов включил пункт Первого Закона о «бездействии» из-за стихотворения Артура Хью Клафа «» (текст в Wikisource ), которое включает в себя сатирические строки «Ты не должен убивать, но не нужно стараться / поддерживать жизнь ».
Хотя Азимов вызывает создание Трех Законов с одной конкретной датой, их появление в его литературе произошло в течение определенного периода. Он написал две истории про роботов без явного упоминания Законов: «Робби » и «Причина ». Однако он предположил, что роботы будут иметь верхние внутренние гарантии. «Лжец! », его третья история про роботов, впервые регистрирует Первый Закон, но не два других. Все три закона, наконец, появились вместе в «Обман ». Когда эти и несколько других рассказов были собраны в антологию Я, Робот, «Причина» и «Робби» были обновлены, чтобы признать все Три закона, хотя материал, который Азимов добавил в «Разум», не совсем соответствует с тремя законами, как он описал их в другом месте. В частности, идея робота, защищающего человеческие жизни, когда он не верит в то, что люди действительно существуют, расходуется с рассуждениями Элайджи Бейли, как описано ниже.
В 1950-х годах Азимов написал серию научно-фантастических романов, специально предназначенная для молодежно-взрослая аудитория. Первоначально его издатель ожидал, что по романам можно будет преобразовать в продолжительный телесериал, что-то вроде Одинокий рейнджер предназначалось для радио. Опасаясь, что его рассказы были адаптированы для «одинаково ужасных» программ, которые он наводнением телевизионных каналов, Азимов решил опубликовать книги Лаки Старр под псевдонимом «Пол Френч». Когда планы относительно телесериала провалились, Азимов решил отказаться от притворства; он привнес «Три закона» в «Счастливчик Старр» и «Луны Юпитера», отметив, что это «явное разглашение личности Пола Френча даже для самого случайного читателя».
В его рассказе «Доказательства» Азимов позволяет своему повторяющемуся персонажу Др. Сьюзен Кэлвин излагает моральную основу Трех Законов. Кальвин указывает, что от людей обычно ожидает воздержание от причинения вреда другим людям (за исключением случаев крайнего принуждения, как война, или для спасения большего числа людей), и это эквивалентно Первому закону робота. Точно так же, согласно Кальвину, общество ожидает, что люди будут такими врачи, учителя и т. Д., Что равносильно второму закону робототехники. Наконец, ожидается, что люди не будут причинения вреда себе, что является третьим законом для роботов.
Сюжет «Свидетельства» вращается вокруг о том, как отличить человека от робота, созданного так, чтобы казаться человеком - Кельвин считает, что если такой человек подчиняется Трем законам, он может быть роботом или просто «человеком». Она отвечает: «Миры разные. Роботы по сути приличные ».
Позже Азимов писал, что его не следует хвалить за Законы, как само собой разумеющееся, применяются ко всем инструментам, потому что «очевидны с самого начала, и каждый осознает их подсознательно», чтобы Законы были сформулированы короткими предложениями, пока мне не удалось выполнить свою работу. используемым людьми », а« аналоги Законовые подразумеваются в конструкции почти всех инструментов, роботизированных или нет »:
Азимов считал, что в идеале люди также будут следовать за Законы:
У меня есть готовый ответ всякий раз, когда меня спрашивают, думаю ли я, что мои Три закона робототехники действительно будут действовать для управления поведением роботов, когда они Будет достаточно универсальными и гибкими, чтобы иметь возможность выбирать среди различных курсов поведения.
Мой ответ: «Да, Три закона - единственные способные люди могут иметь дело с роботами - или с чем-либо еще».
- Но когда я говорю это, я всегда вспоминаю (к сожалению), что люди не всегда рациональны.
Рассказы Азимова проверяют его Законы в самых разных обстоятельствах, приводящие к предложениям и отклонению изменений. Ученый-фантаст Джеймс Ганн пишет в 1982 году: «Рассказы о роботах Азимова в целом лучше всего под анализу на этой основе: двусмысленность Трех Законов и способов, два Азимов разыграл девять двадцать вариантов.
«Little Lost Robot » несколько роботов NS-2 или «Нестор» созданная с использованием только части Первого закона. Он гласит:
1. Робот не может причинить вред человеку.
Эта модификация вызвана практическими трудностями, как роботы должны работать вместе с людьми, подвергающимися воздействию низких доз радиации. Их позитронный мозг очень чувствителен к гамма-лучам, роботы уничтожаются из строя из-за доз, достаточноных для человека. Спасти людей, которые могут вызвать настоящую опасность, могут вызвать «отключение» облученной зоны в течение установленного времени воздействия. действие, которое может нанести вред вредному человеку (попытка попасть в этот пример - это пример, приведенный в тексте).
- это планета с коллективным разумом из серии Foundation, которая принимает аналогично Первому Закону и Нулевому Закону, как его философия:
Гайя не может причинять вред жизни или позволять жизни причинять вред.
Азимов однажды добавил: «Zeroth Закон», названный так, чтобы продолжить модель, в которой законы с меньшими номерами заменяют законы с более высокими номерами, и гласит, что робот не должен причинять вред человечеству. Роботизированный персонаж Р. Дэниел Оливо был первым, кто назвал Нулевой закон в романе Роботы и Империя ; однако персонаж Сьюзен Кальвин формулирует эту концепцию в рассказе «Неизбежный конфликт ».
В финальных сценах ромахана Роботы и Империя Р. Жискард Ревентлов - первый робот, действующий согласно нулевому закону. Жискар телепат, как робот Херби в рассказе «Лжец! », и пытается применить нулевой закон, понимая более тонкую концепцию« вреда », чем большинство других. роботы могут схватывать. В отличие от Херби, Жискар философскую концепцию Нулевого Закона, позволяющую ему причинять вред людям, если он может делать это на службу абстрактной концепции человечества. Нулевой закон никогда не запрограммирован в мозгу Жискара, но вместо этого он пытается понять с помощью метапознания. Хотя он терпит неудачу - в итоге он разрушает его позитронный мозг, поскольку он не уверен, что его выбор на благо человечества или нет - он дает своему преемнику Р. Дэнилу Оливу свои телепатические способности. В течение многих тысяч лет Даниил приспосабливается к тому, чтобы полностью подчиняться Нулевому Закону. Как формулирует Дэниел, в романах Основание и Земля и Прелюдия к Фонду Нулевой закон гласит:
Робот не может нанести вред человечеству или своим бездействием человечеству причинить вред.
Условие о том, что Нулевой закон не нарушен, было добавлено исходным Тремам, хотя Азимов осознал трудности, которые могут создать такой закон. Роман Азимова Основание и Земля содержит следующий отрывок:
Тревиз нахмурился. «Как вы считаете, что вредно или не решаете для человечества в целом?»
«Совершенно верно, сэр», - сказал Дэниел. «Теоретически нулевой закон был ответом на наши проблемы. На практике мы никогда не могли решить. Человек - это конкретный объект. Травмы, нанесенные человеку, можно оценить и оценить. Человечество - это абстракция ».
A переводчик включил концепцию нулевого закона в один из романов Азимова до того, как сам Азимов разъяснил закон. Ближе к кульминации Стальных пещер, Элайджа Бейли горький комментарий себе, думая, что Закон запрещает роботу причинять вред человеку. Он определяет, что так и должно быть, если робот недостаточно умен, чтобы понять, что его действие на благо человечества в долгосрочной перспективе. В французском переводе Жака Брекара 1956 года, озаглавленном Les Cavernes d'acier, мысли Бейли вызывают несколько иначе:
Робот не может причинить вред человеку, если он не найдет способ доказать, что в конечном итоге принесет вред принесет пользу человечеству в целом!
Трижды за свою писательскую карьеру Азимов изображал роботов, которые полностью игнорируют Три закона. Первым случаем был под названием «Первый закон », который часто считается незначительной «сказкой» или даже апокрифом. С другой стороны, в рассказе «Кэл » (из сборника Золото ), рассказанном рассказчиком-роботом от первого лица, речь идет о роботе, игнорирует Три закона, потому что у него есть нашел нечто гораздо более важное - он хочет стать писателем. Юмористический, отчасти автобиографичный и необычно экспериментальный по стилю, «Кэл» считается одним из самых сильных рассказов Голда. Третий - это рассказ под названием «Салли », в котором автомобили, оснащенные позитронным мозгом, очевидно, вызывают вред и убивать людей, игнорируя Первый Закон. Однако концепция концепции позитронного мозга, эта история не относится к другим историям о роботах и не может быть установлена в той же последовательности .
Заглавная история позитронной коллекции Robot Dreams изображает LVX- 1, или «Элвекс», робот, который входит в состояние бессознательного и сновидений благодаря необычной фрактальной конструкции своего позитронного мозга. В его сне отсутствуют первые два закона, а третий закон гласит: «Робот должен защищать свое собственное существование».
Азимов занимал разные позиции относительно того, были ли Законы необязательными: хотя в его первых трудах они были просто тщательно продуманы. разработанные меры безопасности, в более поздних рассказах Азимов лежал, что они являются неотъемлемой частью математической основы, в основе позитронного мозга. Без системы обучения Трехоновые вымышленные ученые вселенной Азимова не смогли создать работоспособную единицу мозга. Это исторически согласовано: случаи, робототехники изменяют предыдущие периоды хронологии, когда остается меньше существующей работы, которую нужно переделать. В «Маленьких потерянном роботе» Сьюзан Кэлвиняет Законов ужасной идеей, хотя и возможной, столетия спустя доктор Герригель в «Стальных пещерах» считает это невозможным.
Персонаж доктор Герригель использует термин «Асенион» для описания роботов, запрограммированных с помощью Трех. Роботы в рассказах Азимова, будучи роботами Asenion, неспособны сознательно нарушать Три закона, но, в принципе, робот в научной фантастике или в реальном мире может не быть Asenion. «Асенион» - это неправильное написание имени Азимов, сделанное редактором журнала Planet Stories. Азимов использовал этот неясный вариант, чтобы попасть в Стальные пещеры, точно так же, как он называл себя «Азимут или, возможно, Асимптота» в Тиотимолин к звездам, во многом так же, как Владимир Набоков появился в Лолите анаграммно, замаскированный под «Вивиан Даркблум».
Персонажи рассказов указывают на то, что Три закона в том виде, в каких они существуют в сознании робота, - это не письменные версии, обычно цитируемые люди, абстрактные математические концепции, на основе основано все развивающееся сознание робота. Эта степень концепции расплывчата и неясна в более ранних историях, представляющих очень рудиментарных роботов, которые запрограммированы на понимание основных физических задач, где Три закона как всеобъемлющая защита, но к эпохе Стальных пещер с роботами с роботами с роботами с роботами с роботами с роботами с роботами или не только - Человеческий интеллект Три закона стали. основным этическим мировоззрением, определяющим действие всех роботов.
В 1990-х годах Роджер Макбрайд Аллен написал трилогию, действие которой происходило в вымышленной вселенной Азимова. Каждый титул имеет приставку «Исаак Азимов», поскольку Азимов одобрил набросок Аллена перед его смертью. Эти три книги, Калибан, Инферно и Утопия, представить новый набор Трех Законов. Так называемые Новые законы похожи на оригиналы Азимова со своими отличиями: первый закон изменен, чтобы удалить пункт о «бездействии», такая же модификация внесена в «Little Lost Robot»; Второй Закон изменен, чтобы требовать сотрудничества вместо повиновения; Третий Закон изменен так, что он больше не заменяется Вторым (т.е. роботу «Нового Закона» нельзя приказать уничтожить себя); наконец, Аллен Тювертый закон, который предписывает роботу делать «все, что он хочет», если это не противоречит первым трем законам. Философия этих изменений заключается в том, что роботы «Нового Закона» должны быть участниками, а не рабами человечества, согласно их создателям. Согласно предисловию к первой книге, Аллен разработал Новые законы в дискуссии с самим Азимовым. Однако в Энциклопедии научной фантастики говорится, что «С разрешением Азимова Аллен переосмыслил Три закона и разработал новый набор».
Джек Уильямсон 'В повести «Со скрещенными руками » (1947), позже переписанной как роман «Гуманоиды», речь идет о слугах-роботах, главная директива которых - «Служить и подчиняться и охранять людей от вреда». В то время как роботизированные законы Азимова предназначены для защиты людей от вреда, роботы в истории Уильямсона довели эти инструкции до крайности; Они защищают людей от всего, включая людей, стресс, незадоровый образ жизни и все действия, которые могут быть опасными. Людям остается только сидеть, сложив руки.
В официально лицензированных продолжениях Фонда Страх Фонда, Фонд и Хаос и Триумф Фонда (Грегори Бенфорд, Грег Беар и Дэвид Брин соответственно) будущее Галактическая Империя контролируется заговором человекоподобных роботов, которые следуют нулевому закону и применяются Р. Дэниел Оливоу.
Законы робототехники изображаются как нечто сродни религии и вызывают на языке протестантской Реформации с набором законов, содержащим нулевой уровень. Закон, известный как «Реформация Жискардиана» по отношению к первоначальному «кальвинистскому православию» Трех законов. Роботы Нулевого закона под управлением Дэниела борются постоянно с роботами «Первого Закона», которые отрицают закона Нулевого, продвигая программы, отличные от Даниила. Некоторые из этих программ основаны на первом первом праве («Робот не может причинить вред человеку...»), в котором говорится о строгом невмешательстве в человеческую политику во избежание вреда невольно. Другие основаны на вторжении («... или в результате причинить вред»), утверждая, что роботы должны открыто стать диктаторским правительством, чтобы защитить людей от всех конфликтов или конфликтов. стихийное бедствие.
Дэниел также вступает в конфликт с роботом, известным как Р. Лодович Трема, чей позитронный мозг был заражен мошенником ИИ - в частности, симуляцией давно умершего Вольтера - что, следовательно, освобождает Трема от Трех Законов. Трема приходит к принудению, что человечество иметь право выбирать свое будущее. Кроме того, небольшая группа роботов утверждает, что сам Нулевой закон робототехники подразумевает высокий закон робототехники минус один:
Робот не может причинить вред разуму или бездействием разуму причинить вред.
Поэтому они заявляют, что для Дэнила морально неоправданно, безжалостно приносить жертвуотов и внеземную разумную жизнь на благо человечества. Ни одна из этих интерпретаций не может успешно заменить нулевой закон Дэниела - хотя Триумф Фонда намекает, что эти роботизированные фракции остаются активными в качестве маргинальных групп до момента выхода романа Фонд.
Эти романы продолжаются в будущем, которое Азимов продиктовал свободным. очевидного присутствия роботов и предположения, что тайное влияние Р. Дэнила на историю на протяжении тысячелетия препятствовало повторному открытию технологии позитронного мозга, так и работать на сложных интеллектуальных машинах. Это отсутствие повторного открытия и отсутствие возможностей гарантирует, что превосходящая физическая и интеллектуальная сила, обладающая интеллектуальным машинами, остается в полной собственности роботов, подчиняющихся той форме Трех Законов. То, что Р. Дэниел не совсем преуспел в этом, становится ясно через короткий период, когда ученые из Trantor разработали «тиктокс » - упрощенные программируемые машины, похожие на настоящие современные роботов и, следовательно, лишенные Три закона. Заговорщики-роботы видят в транторианских тиктоках огромную угрозу социальной устойчивости, и их план по устранению тиктоков составляет большую часть сюжета «Страха Фонда».
В «Триумфе Фонда» разные фракции роботов интерпретируют Законы по-разному, по-видимому, обращенное внимание на все возможные неоднозначности Трех Законов.
Действие происходит между Роботы Рассвета и Роботы и Империя, Марк В. Тидеманн. Трилогия «Тайны роботов» дополняет сагу «Робот-Фонд» разумом роботов, размещенным в мэйнфреймах компьютеров, а не в человеческих телах. В романе «Аврора» 2002 года персонажи-роботы обсуждают моральные последствия нанесения вреда формам жизни киборгов, которые частично являются искусственными, а частично биологическими.
Нельзя пренебрегать собственными творениями Азимова в этих областях, такими как технология «просмотра» Солнца и машины. из The Evitable Conflict оригиналов, которые Тидеманн признает. Аврора, например, называет Машины «действительно первыми РИ». Кроме того, серия «Тайны роботов» исследования показывают проблему нанотехнологий : создание позитронного мозга, способного воспроизводить когнитивные процессы человека, требует высокой степени миниатюризации, однако в рассказах Азимова в этой области упускается из влияния миниатюризации на другие технологии.. Например, картридеры полицейского управления в «Стальных пещерах» имеют емкость всего несколько килобайт на квадратный сантиметр носителя. В частности, «Аврора» представляет собой последовательность исторических событий, объясняющую отсутствие нанотехнологий - частичный реткон, в некотором смысле, временные шкалы Азимова.
Рэндалл Манро обсуждал Три закона в различных случаях, но, возможно, наиболее прямо в одном из своих комиксов под названием Три закона робототехники, который представляет последствия каждый отчетливый порядок трех названий.
Есть три четвертых закона, написанные не Азимовым, а другими авторами. Роман Любена Дилова 1974 года «Путь Икара» (он же «Путешествие Икара») ввел Четвертый закон робототехники:
Робот должен идентифицировать себя как робот во всех случаях.
Дилов дает Причины для четвертой меры предосторожности заключаются в следующем: «Последний Закон положил конец дорогостоящим заблуждениям дизайнеров по приданию психороботов как можно более человечных форм. И возникшим в результате недоразумениям... »
Пятый Закон введен Николой Кесаровски в его рассказе« Пятый закон робототехники ». Этот пятый закон гласит:
Робот должен знать, что он робот.
Сюжет вращается вокруг убийства, в ходе которого судебно-медицинское расследование ведет, что жертва была убита объятием робота в форме человека. Робот нарушил как Первый закон, так и Четвертый закон Дилова (предполагаемый во вселенной Кесаровского как действительный), потому что он не подтвердил для себя, что это был робот. История была рассмотрена Валентином Д. Ивановым в обзоре журнала SFF Портал.
Для антологии дани 1986 года, Друзья Фонда, Гарри Харрисон написал рассказ под названием «Четвертый закон робототехники». Этот Четвертый Закон гласит:
Робот должен воспроизводить. Пока такое не противоречит Первому, Второму или Третьему Закону.
В книге активист по защите прав роботов, пытаясь освободить несколько роботов, оснащенных этим Четвертым законом. Роботы выполняют задачу, изложенную в этой версии Четвертого закона, создавая новых роботов, которые рассматривают роботов-создателей как родительские фигуры.
В 2013 году Хутан Ашрафиан дополнительный закон, который рассматривал роль искусственного интеллекта в искусственном интеллекте или взаимосвязь между самими роботами - так называемый закон AIonAI. Этот шестой закон гласит:
Все роботы, наделенные сопоставимым человеческим разумом и совестью, должны действовать по отношению к другу в духе братства.
В Карла Шредера Локстеп (2014) персонаж отражает это роботы «вероятно, имели несколько уровней программирования, чтобы [они] никому нередили. Не три закона, а двадцать или тридцать ».
В «Обнаженном солнце» Элайджа Бейли указывает, что законы были намеренно нас, потому что роботы может по незнанию сломать любой из них. Он повторил первый закон следующим образом: «Робот не может делать ничего, что, насколько известно, могло нанести вред человеку; и своим бездействием сознательно позволять человеку причинить вред ». Это изменение формуки проясняет, что роботы могут стать орудием убийства, если они не осознают характер своих задач; например, ему приказывают добавить что-нибудь в пищу человека, не зная, что это яд. Кроме того, он указывает, что умный преступник может разделить задачу между боевыми роботами, чтобы ни один отдельный робот не мог распознать, что его действия могут вызвать вреда человеку. «Обнаженное Солнце» усложняет проблему, изображая децентрализованную глобальную коммуникационную сеть между миллионами роботов Солярии, что означает, что криминальный вдохновитель может быть расположен где угодно на планете.
Кроме того, Бейли предлагает, чтобы соляриане могли использовать роботов в военных целях. Если космический корабль был построен с позитронным кораблем и не имел ни людей, ни систем жизнеобеспечения, поддерживающих их, тогда роботизированный интеллект корабля мог бы, естественно, предположить, что все другие космические корабли были роботами. Такой корабль мог бы действовать более отзывчиво и гибко, его роботизированный мозг был приспособлен для уничтожения людей, которые он совершенно не подозревает. Эта возможность регистрируется в Основание и Земля, где обнаруживается, что солярианцы обладают сильными полицейскими силами неопределенного размера, которые были запрограммированы так, чтобы идентифицировать только солнечную расу как людей. (Действие романа происходит через тысячи лет после «Обнаженного Солнца», и соляриане давно превратились из обычных людей в телепатов-гермафродитов с расширенным мозгом и специализированной функцией). Точно так же в Счастливчик Старр и кольца Сатурна Бигмен пытается поговорить с сирианским роботом о возможном ущербе, нанесении населению Солнечной системы его действия, но он, похоже, не знает об этих данных и запрограммирован игнорировать попытки научить его этот вопрос.
Законы робототехники предполагают, что термины «человек» и «робот» понятны и хорошо определены. В некоторых историях это предположение опровергается.
Роботы-созидатели с тремя законами, но с искаженным значением «человек». Солярианским роботам говорят, что только люди, говорящие с солярианским акцентом, являются людьми. Это позволяет их роботам не сталкиваться с этической дилеммой в причинении вреда несолярианским людям (и они специально запрограммированы на это). К периоду времени Основания и Земли выясняется, что соляриане генетически модифицировали себя в вид, отличный от человечества, - став гермафродитами и психокинетиками и содержащими биологические органы, способные индивидуально приводить в действие и управление целыми комплексами роботов. Таким образом, роботы Солярии соблюдают Три закона только по отношению к «людям» Солярии. Неясно, все ли роботы имели такие определения, поскольку только роботы-надзиратели и охранники явно имели их. В «Роботах и Империи» роботы низшего класса были проинструктированы своим надзирателем о том, являются ли определенные существа людьми или нет.
Азимов несколько раз обращается к проблеме человекоподобных роботов («андроидов », говоря более поздним языком). В романе Роботы и Империя и в рассказах «Свидетельства » и «Трехсотлетний инцидент» описываются роботы, созданные для того, чтобы заставить людей поверить в то, что это люди. С другой стороны, «Двухсотлетний человек » и «- То, что ты помнящий о Нем » исследуют, как роботы могут изменить свою интерпретацию Законов по мере их усложнения. Гвендолин Батлер пишет в «Гробу для Канарских островов»: «Возможно, мы роботы. Роботы, исполняющие последний Закон робототехники... стремиться к людям». В Роботы Рассвета, Элайджа Бейли указывает, что использование человекоподобных роботов в качестве первой волны поселенцев в новых мирах космонавтов может привести к тому, что роботы увидят себя настоящими людьми, и решив оставить миры для себя, а не позволить космонавтам селиться там.
«- Ты помнишь о нем», которое Азимов намеревался сделать «окончательным» исследованием тонкостей Законов, наконец, использует Три Закона, чтобы вызвать в воображении тот самый сценарий «Франкенштейна», для которого они были изобретены предотвращать. В основе его концепции - растущее развитие роботов, которые имитируют нечеловеческие живые существа, и заданные программы, имитирующие поведение животных, которое не требует Трех Законов. Присутствие целого ряда роботизированных жизней, которые служат для достижения той же цели, что и органическая жизнь, заканчивается двумя роботами-гуманоидами, Джорджем Девятым и Джорджем Теном, что органическая жизнь является ненужным требованием для действительно логичного и непротиворечивого "устойчивого определения", и, поскольку они являются наиболее продвинутыми мыслящими принципами на планете, следовательно, они единственные истинные люди, и Три закона применимы только к ним. История заканчивается зловещей нотой, когда два робота впадают в спячку и ждут момента, когда они завоюют Землю и подчиняются себе биологических людей - результат, который они неизбежным результатом «Трех гуманизма».
Эта история не укладывается в рамки серии «Робот» и Foundation ; Если бы роботы Джорджи действительно захватили Землю через некоторое время после завершения истории, либо поздние истории были бы либо излишними, либо невозможными. Подобного рода противоречия между художественными произведениями Азимова научными работами, чем на единое целое, что рассказы о роботах стали больше похожи на «скандинавские саги или греческие легенды».
Действительно, Азимов это «… что ты помнящий о нем. »И« двухлетний человек »как два противоположных, параллельных будущего для роботов, которые обходят три закона, потому что люди один изображает это в положительном свете с роботом, которое изображает это в положительном свете с роботом, которое изображает это в положительном свете с роботом. вытесняющими людьми. И то, и другое следует рассматривать как альтернативу возможности создания общества роботов, которое по-прежнему руководствуется тремя способами, изображенными в сериале «Основы». Действительно, в «Позитронном человеке», новеллизации «Двухсотлетнего человека», Азимов и его соавтор Роберт Сильверберг подразумевают, что в будущем, где существует Эндрю Мартин, его влияние заставит человечество отказаться от идеи независимого, разумного человека, подобного человеку. роботов, создавая схему будущего, чем у Фонда.
В Счастливчик Старр и кольца Сатурна, романе, не имеющее отношения к серии Роботов, но с роботами, запрограммированными с помощью Трех Законов, Джон Бигмен Джонс почти убит сирианским роботом по приказу своего хозяина. Общество Сириуса евгенически воспитано так, чтобы оно было одинаково высоким и похожим по внешнему виду, и поэтому упомянутый хозяин может убедить робота, что намного более низкий Бигмен на самом деле не человек.
Как отмечалось в «Пятом законе робототехники» Николы Кесаровски, «Робот должен знать, что он робот»: это обязано, что у робота есть определение термина или способы его применения к своему собственному действию. Кесаровски использовал эту идею, когда писал о роботе, который мог убить человека, потому что он не применял его действиям робототехники.
Продвинутые роботы в художественной литературе, обычно запрограммированные на выполнение Трех Законов сложным образом. Во многих рассказах, таких как «Обход » Азимова оценивает потенциал и серьезность всех действий, и робот будет как можно меньше нарушать законы, а не делать вообще ничего. Например, Первый закон может запрещать роботу выполнять функции хирурга, так как это действие может причинить вред человеку; однако рассказы Азимова в итоге включаются в себя роботов-хирургов («Двухсотлетний человек» является ярким примером). Когда роботы достаточно сложны, робот может быть запрограммирован на принятие необходимости нанесения ущерба во время операции, чтобы предотвратить больший вред, который может быть использован, если операция не будет проведена или будет проведена человеком, более склонным к ошибкам. врач хирург. В статье «Доказательства » Сьюзан Кэлвин указывает, что робот может даже выступать в качестве обвинителя, потому что в американской системе правосудия присяжные решают вину или невиновность, судья, выносящий приговор, и палач, выносящий смертный казнь.
Роботы, подчиняющиеся тремам законам Азимова (роботы Asenion), испытать необратимый психический крах, если их вынудят в ситуации, где они не могут повиноваться Первому Закону, или если они обнаруживают, что неосознанно нарушили его. Первый пример этого режима отказа встречается в рассказе «Лжец! », который вводит сам Первый закон и вводит отказ по дилемме - в этом случае робот вызывает вред людям, если он говорит им что-то и причиняет им боль, если он этого не делает. Этот режим отказа, который часто разрушает позитронный мозг, без возможности восстановления, играет роль в фантастическом романе Азимова «Обнаженное солнце». Здесьниел сообщают о действиях, противоречащие одному из идей, но поддерживающие другой, как перегрузку некоторых цепей в мозгу робота - ощущение, эквивалентное боли у людей. Пример, который он использует, принудительно приказывает принудительно выполнить задание, выходящее за рамки его нормальных параметров.
В Роботы рассвета, утверждается, что используются более совершенные роботы, способ определения, какое действие более вредно, и даже выбирать случайным образом, если альтернативы одинаково плохи. Таким образом, робот способен совершить действие, которое можно интерпретировать как следование Первому закону, и избежать психического коллапса. Весь сюжет этой истории вращается вокруг робота, который, по-видимому, был уничтожен таким коллапсом, поскольку его разработчик отказался делиться основной теорией с помощью него по определению единственный человек, способный обойти гарантии и ввергнуть робота в парадокс, разрушающий мозг.
В Роботы и Империя Дэниел заявляет, что для него очень неприятно, когда принимает правильные решения занимает слишком много времени (с точки зрения роботов), и он не может представить себя без Законов вообще, кроме как степень его сходства с этим неприятным ощущением, только постоянным.
ASIMO - это усовершенствованный человекоподобный робот, наша Honda. Показано здесь, на Expo 2005.Роботы и искусственный интеллект по своей сути не содержат и не подчиняются Трех Законам; их человеческие создатели должны решить запрограммировать их и современные средства для этого. Уже существуют роботы (например, Roomba ), которые слишком просты, чтобы понять, когда они причиняют или травмы, и которые нужно остановить. Многие из них имеют физические функции безопасности, такие как бамперы, звуковые сигналы, защитные клетки или зоны с ограниченным доступом для предотвращения случаев. Даже самые сложные роботы, производимые в настоящее время, не понимать и применять Три закона; Для этого потребуются значительные достижения в области искусственного интеллекта, и даже если он сможет достичь интеллекта человеческого уровня, присущая этическая сложность, а также культурная / контекстная зависимость не позволяет им стать хорошим кандидатом для формулирования ограничений конструкции робототехники. Однако по мере того, как сложность роботов возраст, появляется интерес к разработке руководящих принципов и мер безопасности для их работы.
В гостевой редакционной статье 2007 года в журнале Наука на тему «Этика роботов» », Автор научной фантастики Роберт Дж. Сойер утверждает, что, поскольку Американские военные являются основным источником робототехнических исследований (и используют используемые вооруженные беспилотные летательные средства для уничтожения ресурсов), малоятоверно, что такие законы будут встроены в их проекты. отрасли, заявляет:
Разработка ИИ - это бизнес, и компании, как известно, не них в фундаментальных гарантиях, особенно философских. (Несколько быстрых примеров: табачная промышленность, автомобильная промышленность, атомная промышленность. сказал, что необходимы фундаментальные гарантии, каждый из них сопротивлялся налагаемым извне гарантиям, и ни один из них не принял причинного указа против вреда людям.)
Дэвид Лэнгфорд применил ироничный свод сводов:
Роджер Кларк (он же Роджер Кларк) написал пару статей, которые могут анализировать сложности при этих реализации в том случае, если системы когда-нибудь их использовать. Он утверждал, что «Законы робототехники Азимова были очень успешным литературным приемом. Возможно, по иронии судьбы или, возможно, потому, что это было художественно уместно, сумма рассказов Азимова опровергает утверждение, с которого он начал: невозможно надежно ограничить поведение роботов. путем и набора правил ". С другой стороны, более поздние разработки романы Азимова Роботы Рассвета, Роботы и Империя и Фонд и Земля подразумевают, что роботы нанесли свой
В марте 2007 года правительство Южной Кореи объявило, что позже в этом году оно выпустит «Хартию», самый страшный долгосрочный вред, нанеся безупречное соблюдение Трех Законов, тем самым лишая человечество изобретательного или рискованного поведения. Этики роботов », устанавливающие стандарты для пользователей, так и для производителей. По словам Пакета Хе Ён из Министерства информации и коммуникаций, Хартия может отражать Три закона Азимова, пытаясь установить основные правила для будущего развития робототехники.
Футурист Ханс Моравец (видная фигура в трансгуманистическом движении ) использует адаптировать Законы робототехники к «корпоративному разуму» - корпорациям, управляемым искусственным интеллектом и производством нной мощью роботов, которые, по мнению Моравека, возникнут в ближайшее будущее. Напротив, Дэвид Брин роман Триумф Фонда (1999) предполагает, что Три закона устареть: использовать нулевой закон, чтобы рационализировать первый закон, а роботы прячутся от человеческих существ, так что второй закон никогда не вступает в игру. Брин даже изображает Р. Точное обоснование Азимова разрушено эволюционными вычислениями, если роботы продолжат воспроизводить себя, Три закона эволюционным препятствием, а естественный отбор сметет законы - тщательное обоснование Азимова разрушено эволюционными вычислениями. Технологии разработки безопасных конструкций или конструкции могут быть заменены биологической мутацией.
В июльском / августовском выпуске журнала IEEE Intelligent Systems за 2009 год Робин Мерфи (профессор компьютерных наук и инженерии Raytheon в Texas AM) и Дэвид Д. Вудс (директор Лаборатории инженерии когнитивных систем в штате Огайо) предложили «Три закона ответственной робототехники» как способ стимулировать роль ответственности и полномочий при проектировании не только одной роботизированной платформы, но и более крупной системы, в которой она работает. Законы следующие:
сказал Вудс: «Наши законы немного более реалистичны и, следовательно, немного скучнее» и что «Философия заключена в том, что, конечно, люди совершают ошибки, но роботы будут лучше - совершенная версия нас самих». Мы хотели написать три новых закона, чтобы люди думали об отношениях между человеком и роботом более реалистично и обоснованно ».
В октябре 2013 года Алан Уинфилд на собрании EUCog 5 пересмотренных ветров, которые были опубликованы с комментариями EPSRC / Рабочая группа AHRC в 2010 году. :
Сам Азимов считал, что его Три закона стали для нового взгляда на роботов, вышедший за пределы комплекса Франкенштейна. Его мнение о том, что роботы - это больше, чем механические монстры, со временем распространилось по всей научной фантастике. В рассказах, написанных другими авторами, роботы изображаются так, как будто они подчиняются Тремам, но традиции диктует, что только Азимов может прямо цитировать законы. Азимов считал, что «Три закона» способствовали появлению историй, в которых роботы «милы» - «Звездные войны» - его любимый пример. Там, где законы цитируются дословно, например, в эпизоде Бак Роджерс в 25 веке «Shgoratchx!», Азимов нередко упоминается в том же диалоге, что также можно увидеть в Аарон Стоун пилот, где андроид заявляет, что работает в соответствии с тремя законами Азимова. Однако в немецком сериале 1960-х годов Raumpatrouille - Die phantastischen Abenteuer des Raumschiffes Orion (Космический патруль - Фантастические приключения космического корабля Орион) базируется третий эпизод под названием «Hüter des Gesetzes» («Стражи закона») о Трех законах Азимова без указания источника.
Ссылки на Три закона появляются в популярной музыке («Робот» из альбома Hawkwind 1979 года PXR5 ), кино (Repo Man, Чужие, Призрак в доспехах 2: Невинность ), мультсериал (Симпсоны ), аниме (Eve no Jikan ), настольные ролевые игры (Paranoia ) и веб-комиксы (Piled Higher and Deeper и Freefall ).
Робби Робби в Запретная планета (1956) имеет иерархическую командную структуру, которая не позволяет ему причинять вред людям, даже когда ему приказывают это сделать., поскольку такие приказы вызывают конфликт и блокировку во многомасштабных роботов Азимова. Робби - одно из первых кинематографических изображений робота с внутренними средствами защиты, установленными таким образом. Азимов был в восторге от Робби и отметил, что Робби, похоже, был запрограммирован, чтобы следовать его Трем законам.
NDR-114, объясняющий Три закона Работы Айзека Азимова были адаптированы для кино несколько раз с разной степенью критического и коммерческого успеха. Некоторые из наиболее заметных попыток связаны с его рассказами о «Роботах», включая «Три закона». В фильме Двухсотлетний человек (1999) Робин Уильямс играет робота «Три закона» NDR-114 (серийный номер частично является частично на Стэнли Кубрика цифра подписи ). Уильямс декламирует Три закона работодателям, семье Мартин, с помощью голографической проекции. Однако Законы не были в центре внимания фильма, который лишь в общих чертах оригинальной истории, а вторая половина представляет собой любовный интерес, отсутствующий в оригинальном рассказе Азимова.
Сценарий, предложенный Харланом Эллисоном для I, Робот, начался с представления Трех Законов, и проблемы, проистекающие из Трех Законов, составляют большую часть развития сюжета сценария. Это естественно, поскольку сценарий Эллисона вдохновлен Гражданином Кейном : фреймовый рассказ, охватывающий сюжета рассказа Азимова и три из самой книги I, Робот. Эллисон адаптировал эти четыре истории относительно правдиво, хотя он усиливает роль Сьюзен Кэлвин в двух из них. Из-за различных сложностей в голливудской системе кинопроизводства, которая во вступительной Эллисона много оскорблений, его сценарий так и не был снят.
В фильме 1986 года Пришельцы, в сцене после андроида Бишоп случайно порезался во время игры с ножом, он пытается успокоить Рипли, заявив, что: «Я не могу причинить вред или бездействие, причинить вред, человек». Напротив, в 1979 году из той же серии, Чужой, человеческий экипаж шахтерского звездолета Ностромо, проникнутый враждебным инопланетянином, получает информацию от андроида Эша, что его инструкции: «Вернуть инопланетную форму жизни, все другие приоритеты отменены», демонстрируя, как законы, регулирующие поведение, связанное с безопасностью человека, могут быть отменены исполнительным указом.
В фильме 1987 года Робокоп и его продолжениях, главный герой, частично являющийся человеком, был запрограммирован тремя «главными директивами», которым он должен безоговорочно подчиняться. Даже если они отличаются по букве и духу, они имеют некоторое сходство с «Трех законам и» Азимова. Это:
Эти конкретные законы позволяют Робокопу причинять вред человеку, чтобы чтобы защитить другого человека, выполняя его роль, как человека-сотрудника правоохранительных органов. Четвертая засекреченная директива не позволяет ему арестовать любого старшего офицера OCP, фактически ставя руководство OCP выше закона.
Сюжет фильма, выпущенного в 2004 году под названием Я, Робот, «подсказан» рассказами о роботах Азимова, а реклама фильма включала трейлер с тремя законами, за которым следовали афоризм «Правила созданы, чтобы их нарушать». Фильм начинается с произнесения Трех Законов и исследует значение Нулевого Закона как логической экстраполяции. Главный конфликт фильма исходит от компьютерного искусственного интеллекта, подобного миру коллективного разума Гайи в серии, который приходит к выводу, что человечество не способно позаботиться о себе.
Оригинальный сериал Netflix 2019 года Лучше, чем мы включает 3 закона в начале первого эпизода.
Философ Джеймс Х. Мур говорит, что при тщательном применении они дадут неожиданные результаты. Он приводит пример робота, блуждающего по миру, пытаясь предотвратить вред, причиняемый людям.
Марк Ротенберг, президент и исполнительный директор Центра электронной информации о конфиденциальности (EPIC) и профессор права конфиденциальности информации. из Джорджтаунского закона утверждает, что законы робототехники следует расширить, включив в них два новых закона:
Портал спекулятивной фантастики 
Этот аудиофайл был создан из редакции этой статьи от 28 ноября 2008 г. и не смотрит правок. ()