три закона робототехники айзека азимова. Айзек азимов три закона робототехники
Айзек Азимов Три Закона роботехники
Три Закона роботехники
fantast2.spb.ru, Хас http://publ.lib.ru
«Три Закона роботехники»: Мир; Москва; 1970 Аннотация Кому из любителей фантастики не знакомы знаменитые Три Закона роботехники, разработанные и сформулированные Айзеком Азимовым – крупнейшим американским писателем фантастом, ученым и популяризатором? В этой книге собраны вместе ранее выходившие рассказы, посвященные этой теме, которая и теперь не утратила своей злободневности.
В сборник вошли рассказы:
"Здесь нет никого, кроме..." Пер. Р.Рыбаковой
"Робби" Пер. А.Иорданского
"Хоровод" Пер. А.Иорданского
"Логика" Пер. А.Иорданского
"Как поймать кролика" Пер. А.Иорданского
"Лжец" Пер. А.Иорданского
"Как потерялся робот" Пер. А.Иорданского
"Выход из положения" Пер. А.Иорданского
"Улики" Пер. А.Иорданского
"Первый Закон" Пер. Г.Орлова
"Раб корректуры" Пер. Ю.Эстина
"Женская интуиция" Пер. М.Таймановой
"Робот ЭЛ 76 попадает не туда" Пер. А.Иорданского
"Зеркальное отражение" Пер. И.Гуровой
Читайте, наслаждайтесь и помните: 1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2) Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3) Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам. Айзека Азимова
Три Закона роботехники Люди и роботы В литературе спокон веков бунтуют роботы. Бунтовали джинны и ифриты арабских сказок, взбунтовался Голем – глиняное детище хитроумного Бен Бецалеля. И даже настоящие роботы, созданные гением Карела Чапека, вышли из повиновения, едва успев родиться из под пера писателя. Положение стало настолько серьезным, что проблема бунтующих роботов перекочевала со страниц художественной литературы на страницы научных статей и монографий. Сам Норберт Винер счел необходимым предостеречь человечество от возможных последствий чрезмерной самостоятельности роботов.
Спасение пришло с неожиданной стороны. Американский писатель и ученый Айзек Азимов сформулировал свои знаменитые Три Закона роботехники (собственно, правильнее было бы говорить “роботологии” или, как утвердилось в современной науке, “робототехники”, но теперь уже поздно исправлять эту неточность перевода). Законы Азимова с поистине фантастической быстротой получили всемирное признание, и с той поры ни один робот не сходил с конвейера, то бишь с барабанов типографской машины, без того, чтобы в его мозг (заметьте, у робота обязательно должен быть мозг!) не были заложены пресловутые Три Закона. Наконец то человечество смогло вздохнуть свободно. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.
А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник.
Начнем с самого первого рассказа из цикла “Я, робот”. У маленькой девочки есть робот нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка. И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Девочка грустит, возникает опасность серьезной душевной травмы, и робот возвращается (рассказ “Робби”).
Немудреный сюжет, не правда ли? Но именно эта немудреность вдребезги разбивает Первый Закон роботехники, который Азимов сформулировал следующим образом: “Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”. Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!
В рассказе “Хоровод” в результате нечетко сформулированного указания Первый и Третий Законы вошли в противоречие друг с другом. Согласно Третьему Закону, “робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам”. Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него (этому мешает Третий Закон) и вместе с тем не отходя далеко (этому препятствуют Первый и Второй Законы). Ситуация, знакомая любому программисту современных компьютеров. Называется она “зацикливание”. К слову сказать, любой мало мальски опытный программист закладывает в программу специальные команды, по которым, совершив три четыре круга, компьютер останавливается и требует от человека дальнейших указаний.
В рассказе же “Хоровод” все происходит иначе. Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, – единоборство между роботами и человеком робопсихологом Сьюзен Кэлвин.
Или еще один рассказ – “Как потерялся робот”. В раздражении молодой работник говорит роботу: “Уйди и не показывайся, чтобы я тебя больше не видел”. Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.
Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники.
Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью. И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии.
Да, джинн выпущен из бутылки, причем очень и очень давно. Взяв в руки палку, человек создал первого робота, а с бунтом роботов он столкнулся тогда, когда нечаянно уронил эту палку себе на ноги. И ничего качественно нового с тех пор не произошло. Проблема бунта роботов уже несколько десятилетий как поставлена и решается в технике. В английском языке даже существует особый термин “foolproof” – “защита от дурака”. Так, газ в газовой колонке не зажигается, если не течет вода, а пресс не сработает, если в рабочем пространстве имеется посторонний предмет, например человеческая рука.
Но не следует требовать от техники, чтобы она решала за человека, что ему во вред, а что на пользу. И не следует думать, будто появление “мыслящих” машин, то есть машин, способных самостоятельно анализировать ситуацию и на основании этого анализа принимать решения, внесет что либо принципиально новое.
Вернемся, однако, к рассказам сборника. Думается, что нет нужды представлять читателям их автора. Айзек Азимов – один из самых известных американских писателей фантастов, автор множества научно популярных книг и статей, которые издавались отдельными сборниками. Но прежде всего Азимов – талантливый художник, и именно в этом секрет его популярности. Многие произведения этого писателя переведены на русский язык. Особую известность получили его рассказы о роботах, которые издавались в виде отдельных сборников (цикл “Я, робот”) или же включались в другие тематические сборники. Приятно, что многие из них, правда, далеко не все, сейчас переиздаются в виде единого сборника.
Читатель – и знакомый с творчеством Азимова, и впервые узнающий его роботов – встретится с яркими, превосходно выписанными персонажами. Здесь и испытатели новой техники Пауэлл и Донован, которые, следуя всем канонам приключенческого жанра, в каждом рассказе попадают в сложные, подчас безвыходные ситуации, но всегда с честью из них выходят. Здесь и “мозговой трест” фирмы “Ю.С.Роботс энд Мекэникл Мен Корпорейшн” Богерт и Лэннинг, соперничающие за власть. И над всеми возвышается робопсихолог Сьюзен Кэлвин, презирающая суетность деляг. А за кадром – современная капиталистическая Америка во всей ее “красе”. Перед читателем проходят картины конкурентной борьбы между фирмами, предвыборных политических махинаций, расовой дискриминации. Но нельзя не отметить, что, изображая своих роботов рыцарями без страха и упрека, наделяя их металлическим телом и позитронным мозгом, Азимов уходит от острых социальных проблем.
Собственно роботов в рассказах Азимова попросту нет. Вернее, в них отсутствуют такие механические конструкции, которые наверняка появятся в первой половине XXI века (а именно к этому времени приурочено действие всех публикуемых в сборнике рассказов) и общие черты которых Азимов, как ученый, мог бы достаточно хорошо предвидеть. Можно сколько угодно гадать о внешнем облике и внутреннем устройстве будущих роботов, но одно уже сегодня не вызывает сомнений: робот не будет человекоподобным. Не будет, следуя логике развития техники, не будет по соображениям элементарной целесообразности. Лучший пример, подтверждающий сказанное, – советские “луноходы”.
Что же в таком случае представляют собой азимовские роботы? Это своеобразная декорация, или фон, на котором действуют герои рассказов. В доказательство сказанного приведем только одну цитату из рассказа “Улики”:
“…Если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле.
Конечно, каждый человек наделен инстинктом самосохранения. У робота это Третий Закон. Каждый так называемый порядочный человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам. Он прислушивается к мнению своего врача, своего начальника, своего правительства, своего психиатра, своего приятеля. Он исполняет законы, следует обычаям, соблюдает приличия, даже если они лишают его некоторых удобств или подвергают опасности. А у роботов это Второй Закон. Кроме того, предполагается, что каждый так называемый хороший человек должен любить своих ближних, как себя самого, вступаться за своих друзей, рисковать своей жизнью ради других. Для робота это Первый Закон”.
Вот и раскрылись секреты знаменитых Законов роботехники. В каждом рассказе Азимова робот – это своеобразная шкала, в согласии с которой соразмеряются поступки героев. Прием интересный и очень действенный, а сами рассказы увлекательны и читаются с неослабевающим интересом.
Д р техн. наук А.Шилейко КОГДА ТРЕХ ЗАКОНОВ ЕЩЕ НЕ БЫЛО Здесь нет никого, кроме… Нашей вины тут нет. Нам и в голову не приходило, что все идет не так, как следует, пока я не позвонил Клифу Андерсу и не поговорил с ним, когда его там не было. Да что там – я бы никогда и не узнал, что его там нет, если бы он вдруг не вошел в тот самый момент, когда я с ним разговаривал по телефону.
Господи, что это я несу – я всегда был отвратительным рассказчиком, мне никогда не удавалось рассказать все по порядку – я слишком возбуждаюсь. Ладно, начну с самого начала.
Я Билл Биллингс, Клиффорд Андерс мой друг. Я инженер электротехник, он математик, и мы оба работаем в Средне западном технологическом институте. Теперь вы знаете, кто мы такие.
Как только Клиф и я сбросили с себя военные мундиры, мы занялись вычислительными машинами. Надеюсь, вы представляете, что это за сооружения, – Норберт Винер подробно описал их в своей “Популярной кибернетике”. Они огромны, неуклюжи и занимают всю стену. К тому же они дороги.
У нас с Клифом появились некоторые идеи на этот счет. Понимаете, вычислительная машина громоздка и дорога потому, что в ней полно всяких реле и вакуумных трубок, позволяющих контролировать микроскопические электрические токи. В сущности эти микротоки и есть самой главное в машине, поэтому…
Говорю я однажды Клифу:
– А почему мы не можем управлять током без всего этого проволочного салата?
Клиф говорит:
– Действительно, почему? – и тут же занялся математическими выкладками.
Каким образом нам за два года удалось получить то, что мы получили, значения не имеет. Важно, что машина, которую мы наконец построили, причинила таки нам хлопоты. Когда мы ее закончили, она была примерно вот такая в высоту, почти такая в длину и примерно такая в глубину…
Ах, да, я все забываю, что вы меня не видите. Придется дать вам размеры в цифрах: около трех футов в высоту, шесть футов в длину и два фута в глубину. Представляете? Ее с трудом поднимали два человека, но все же ее можно было поднять, а это самое главное. К тому же считала она и проделывала остальные фокусы не хуже, чем эти громадины размером с целую стену; не так быстро, пожалуй, но мы продолжали ее совершенствовать.
У нас имелись свои планы насчет этого сооружения. Грандиозные планы. Мы надеялись, что вскоре нам удастся установить его на самолетах и судах, а позднее, если доведем габариты до минимума, мы предложим его автомобилистам.
Автомобильный вариант казался нам привлекательнее других. Вы только вообразите себе крохотный электронный мозг, вмонтированный в рулевое управление и снабженный фотоэлектроглазом. Такой мозг выберет вам кратчайший путь, предотвратит столкновение, будет покорно останавливать машину перед красным светом, разовьет нужную скорость, а ты – сиди себе на заднем сиденье и наслаждайся мелькающим за окном пейзажем. Автомобильные катастрофы отойдут в область преданий.
Работа над прибором доставляла нам огромное удовольствие. Когда я вспоминаю, какую радость мы испытывали, решая тот или иной узел, я чуть не плачу от досады – ведь не сними я тогда трубку и не позвони в лабораторию…
В тот вечер я находился у Мэри Энн… Я вам о ней рассказывал, не правда ли? Нет? Конечно, нет.
Мэри Энн – это девушка, которая непременно стала бы моей невестой, не будь при этом двух “если”. Во первых, если бы она этого захотела, во вторых, если бы у меня хватило смелости попросить ее об этом. У нее рыжие волосы, около 110 фунтов веса и не менее двух тонн энергии, заключенных в весьма привлекательный каркас высотой пять с половиной футов. Как вы уже догадались, я умирал от желания попросить Мэри Энн выйти за меня замуж, но всякий раз, как она появлялась в поле моего зрения, каждым своим жестом добавляя новую порцию горючего в костер, на котором поджаривалось мое сердце, я тут же сникал.
И не потому, что я урод; находятся люди, которые утверждают, что я ничего себе: ни малейших намеков на лысину и рост почти шесть футов. Я даже умею танцевать. Все дело в том, что мне ей нечего предложить. Вы ведь знаете, сколько получает преподаватель в колледже – сущий пустяк, принимая во внимание инфляцию и налоги. Конечно, если бы мы запатентовали нашу думающую машину, все бы изменилось. Но просить Мэри Энн подождать – нет, на это у меня не хватало духу. Вот когда все утрясется…
Об этом я и размечтался тогда в ее гостиной.
– Я готова. Пошли, Билл, – заявила Мэри Энн, появляясь в дверях.
– Минутку, – попросил я, – мне нужно позвонить Клифу.
Она нахмурилась:
– Это так срочно?
– Я обещал позвонить еще два часа назад, – объяснил я.
Все это не заняло и двух минут. Я набрал помер лаборатории. Клиф хотел задержаться, чтобы спокойно поработать, и тотчас снял трубку. Я что то сказал ему, он мне ответил. Я попросил уточнить какие то детали, он объяснил – что именно, не имеет значения, но, как я уже говорил, в нашем содружестве он – мозг, а я – руки. Когда я составляю цепь и придумываю немыслимые комбинации, это именно он, исписав страницы закорючками, решает, так ли уж они немыслимы, как это кажется на первый взгляд.
И вот в тот момент, когда я закончил разговор и положил трубку на рычаг, раздался звонок в дверь.
Вначале я решил, что Мэри Энн пригласила еще кого то, и почувствовал, как по спине у меня пробежал эдакий холодок. Механически записывая данные, сообщенные мне Клифом, я следил за тем, как она открывает входную дверь. Но это оказался всего навсего Клиф.
Он сказал:
– Я так и знал, что застану тебя здесь. Хэлло, Мэри Энн! Послушай, ты же обещал позвонить в шесть! Ты так же надежен, как картонное кресло.
Клиф весь круглый, коротышка и готов в любую минуту ввязаться в драку. Я на это не реагирую, я слишком хорошо его знаю.
Я пробормотал:
– Тут одно наскочило на другое, и я забыл. Не понимаю, чего ты кипятишься – ведь мы только что с тобой разговаривали.
– Разговаривали? Со мной? Когда?
Я хотел ответить и осекся. Тут было что то не так. Звонок в дверь раздался в тот момент, когда я повесил трубку, а от лаборатории до дома Мэри Энн не менее шести миль. Я сказал:
– Я только что говорил с тобой.
Он еще ничего не понял и повторил:
– Со мной?
Я указал на телефон.
– По телефону. Я звонил в лабораторию. По этому телефону. – Теперь я указывал на него обеими руками. – Мэри Энн слышала, как я с тобой разговаривал. Мэри Энн, ты ведь слышала?…
Мэри Энн сказала:
– Я не знаю, с кем ты разговаривал. Ну, что, мы идем наконец?
В этом вся Мэри Энн, она не терпит неточности.
Я сел. Я попытался быть хладнокровным и собранным. Я сказал:
– Клиф, минуту назад я набрал номер лаборатории, ты подошел к телефону, я спросил, какие результаты, и ты мне их продиктовал. Я их записал – вот они. Что, разве неверно?
И протянул ему бумажку с уравнениями. Клиф внимательно прочел их и сказал:
– Здесь все правильно. Но откуда они у тебя? Ты ведь не вывел их сам.
– Я же сказал тебе – ты их продиктовал по телефону.
Клиф покачал головой.
– Но я ушел из лаборатории в четверть восьмого. Там сейчас никого нет.
– Уверяю тебя, я с кем то разговаривал.
Мэри Энн нетерпеливо теребила перчатки.
– Мы опаздываем, – напомнила она.
Я махнул ей рукой – погоди минутку – и спросил у Клифа:
– Послушай, а ты уверен…
– Да нет там никого, если не считать Малыша, конечно.
Малышом мы называли наш механический мозг.
Мы стояли, переводя взгляд с одного на другого. Носок туфельки Мари Энн отстукивал чечетку – этакая бомба замедленного действия, готовая взорваться в любую минуту.
Вдруг Клиф расхохотался.
– Знаешь, о чем я думаю? – заявил он. – О карикатуре, которую недавно видел где то: там был нарисован робот, отвечающий на телефонный звонок. Он говорил в трубку: “Честное слово, босс, в доме нет никого, кроме нас, думающих агрегатов”.
Мне это показалось совсем не смешным.
Я сказал:
– Поехали в лабораторию.
Мэри Энн встрепенулась:
– Но мы не успеем на спектакль.
Я обернулся к ней:
– Послушай, Мэри Энн, это очень важно. Мы забежим на одну минутку. Поедем с нами, а оттуда прямо в театр.
– Спектакль начинается…
Она не закончила фразы, потому что я схватил ее за руку и потащил на улицу.
Вот вам доказательство того, насколько эта история выбила меня из колеи. В обычное время мне бы и в голову не пришло командовать ею. Я хочу сказать, что Мэри Энн настоящая леди. Просто у меня все смешалось в голове – я даже не помню, хватал ли я ее за руку вообще, но когда опомнился, мы все трое сидели в машине, и она растирала правую кисть, бормоча что то о громадных гориллах.
Я спросил:
– Надеюсь, я не причинил тебе боли, Мэри Энн?
Она ответила:
– Ну что ты, милый, мне ведь каждый день выдергивают руки из суставов – это такое удовольствие!
И носком туфли она пнула меня в икру.
Она сделала это потому, что у нее рыжие волосы. В сущности Мэри Энн добрая девушка. Но она вынуждена время от времени оправдывать миф о рыжеволосой фурии – положение обязывает. Я то вижу ее насквозь, но подыгрываю ей, бедняжке.
Через двадцать минут мы подъехали к лаборатории.
По ночам институт пустует. Он кажется особенно пустым оттого, что предназначен для толп студентов, снующих по коридорам и заполняющих аудитории. Когда их нет, здание выглядит заброшенным и одиноким. А может быть, мне так казалось потому, что я страшился подняться наверх в свою лабораторию и увидеть то, что ожидало меня там. Как бы то ни было, шаги звучали до нелепости громко, а кабина лифта выглядела неприлично грязной и мрачной.
Я шепнул Мэри Энн:
– Это не займет много времени.
Но она только фыркнула, и это у нее получилось очень здорово. Она ничего не может с собой поделать – она всегда все делает здорово.
Пока Клиф отпирал дверь в лабораторию, я заглянул через его плечо, но ничего не увидел. Малыш находился на том же месте, на котором я оставил его. Если бы не светящаяся шкала, на которой сейчас ничего не отражалось, никто бы не догадался, что это думающий агрегат. Обыкновенный ящик, от которого к розетке в стене тянется черный провод.
Мы с Клифом обошли вокруг Малыша. Мне кажется, мы оба были готовы наброситься на него, сделай он хоть малейшую попытку сдвинуться с места. Но он был недвижим. Мэри Энн с любопытством разглядывала агрегат. Она даже провела по его крышке указательным пальцем, а затем брезгливо стряхнула пыль.
Я воскликнул:
– Берегись, Мэри Энн, не подходи! Стой там, где стоишь.
Она сказала:
– Здесь ни капельки не чище.
Она в первый раз попала в нашу лабораторию, и ей было трудно понять, что сборочная мастерская – это совсем не то же самое, что, скажем, современная детская. Два раза в день к нам заглядывает сторож и опорожняет корзины для бумаг. Раз в неделю с помощью швабры и мокрой тряпки он оставляет лужи на полу и грязные разводы на столах и полках.
Клиф заявил:
– Телефон не на том месте, где я его оставил.
Я спросил:
– Откуда ты знаешь?
– Потому что я оставил его там, – он указал рукой, где именно, – а теперь он здесь.
Если это так, то телефон переместился поближе к Малышу. Я проглотил слюну и заметил:
– Может быть, ты запамятовал?
Я попытался рассмеяться как можно естественнее, но у меня это не получилось.
– Где отвертка?
– Что ты собираешься делать?
– Заглянуть внутрь. Для смеха.
Мэри Энн заметила:
– Ты испачкаешься. Надень халат.
Она очень заботливая девушка, Мэри Энн.
Я пустил в дело отвертку. Конечно, когда мы доведем Малыша до кондиции и пустим его в производство, наши модели будут заключены в сплошной литой ящик. Мы даже подумывали об оболочке из цветного пластика для образцов домашнего типа. Однако наш лабораторный вариант держался на винтах, что позволяло нам всякий раз, когда было необходимо, разбирать его и снова собирать.
Впрочем, на этот раз винты не вывинчивались. Я пыхтел и сопел, но все было напрасно.
– Какой то шутник приложил немало сил, чтобы вогнать их так глубоко, – пробормотал я.
Клиф заметил:
– Кроме тебя, никто не прикасался к этой штуке.
Он был прав, но от этого мне не стало легче. Я выпрямился, тыльной стороной ладони вытер лоб и протянул ему отвертку.
– Хочешь попробовать?
Он попробовал, но ничего не добился.
Он сказал:
– Забавно.
Я спросил:
– Что именно?
Он сказал:
– Винт повернулся. Он выступил на одну восьмую дюйма, и после этого отвертка сама выскользнула у меня из рук.
– И что же тут забавного?
Клиф отступил назад, подобрал отвертку и, держа ее на весу двумя пальцами, заметил:
– А то, что я видел, как винт свернулся назад – на ту же восьмую дюйма – и плотно вошел в гнездо.
Мэри Энн начала терять терпение. Она сказала:
– Ох, уж эти умники! Если вам так нужно его открыть, почему вы не воспользуетесь паяльной лампой?
На одной из скамеек действительно лежала паяльная лампа, и на нее то и указывала Мэри Энн.
Вообще то идея применить паяльную лампу к Малышу показалась бы мне такой же нелепой, как идея попробовать ее действие на самом себе. Но меня мучила одна мысль, которая, по видимому, мучила и Клифа – мы оба думали об одном и том же. Малыш не желал, чтобы его открывали!
Клиф сказал:
– Что ты об этом думаешь, Билл?
Я сказал:
– Не знаю, Клиф.
Мэри Энн сказала:
– Поторопись, тупица, мы не попадем в театр.
Тогда я взял паяльную лампу и открыл кран кислородного баллона. Все это было похоже на убийство друга.
Но Мэри Энн остановила меня, заявив:
– До чего же глупы бывают мужчины! Смотрите, у вас все винты вывинчены. Вы, наверно, вертели отвертку в обратную сторону.
Вы, конечно, понимаете, что только идиот может вертеть отвертку в обратную сторону. Но я не люблю противоречить Мэри Энн, поэтому я сказал только:
– Мэри Энн, не стой так близко к Малышу. И вообще, почему бы тебе не подождать за дверью?
Но она воскликнула:
– Смотрите!
И на ладони у нее оказался винт, который она вытащила прямо так, руками, из наружной стенки Малыша.
Клиф сказал:
– Господи помилуй!
Они выползали – все двенадцать винтов, сами по себе, подобно крохотным червякам, медленно выворачиваясь из своих отверстий, а затем выпали. Я подобрал их все, за исключением одного, самого последнего, на котором висела, болтаясь, передняя панель, пока я не подхватил ее. Затем и этом винт выпал, и панель нежно плюхнулась в мои объятия. Я осторожно поставил ее на пол.
Клиф сказал:
– Он это сделал нарочно. Он услышал, как мы говорили о паяльной лампе, и сдался.
Его пухлое, обычно розовое лицо побелело. Я тоже чувствовал себя неважно.
Я сказал:
– Что он пытается скрыть от нас?
– Не имею ни малейшего представления.
Мы нагнулись над его открытым нутром и стали смотреть. Я слышал, как носок туфли Мэри Энн опять забарабанил по полу. Я взглянул на свои часы и самому себе был вынужден признаться, что времени у нас в обрез. В сущности у нас его совсем не оставалось. И вдруг я сказал:
– У него появилась диафрагма.
Клиф спросил:
– Где? – и склонился ниже.
Я указал.
– И громкоговоритель.
– Это ты их вставил?
– Конечно, нет.
Мне ли не знать, какие детали я вставляю.
– В таком случае как они сюда попали?
Мы сидели на корточках и препирались.
Я сказал:
– Наверно, он их сам вставил. Может, он их выращивает? Посмотри ка.
Я указал на две спирали, расположенные на некотором расстоянии друг от друга и напоминавшие два тонких свернутых пожарных шланга. Только шланги эти были металлические. На концах каждая спираль разветвлялась на пять или шесть тончайших нитей, в свою очередь закрученных в спиральки.
– И это тоже не твоя работа?
– Конечно, не моя.
– Что это такое?
Он знал, что это такое, и я знал. Что то ведь должно было тянуться за необходимым материалом, из которого Малыш мастерил себе детали, и что то протянулось за телефоном, когда тот зазвонил. Я подхватил переднюю панель и еще раз осмотрел ее. В ней появились два отверстия, прикрытых квадратными кусочками металла, свободно укрепленными на шарнирах так, что их легко было отодвинуть. Я просунул в отверстие палец и пошевелил им перед носом Клифа, добавив:
– И это тоже не моя работа.
Мэри Энн выглядывала из за моего плеча; вдруг, без всякого предупреждения, она протянула руку и…
Я в это время вытирал испачканные маслом пальцы о бумажную салфетку и не успел остановить ее. Я должен был быть осторожнее – я же знаю Мэри Энн, она всегда готова прийти людям на помощь.
Как бы то ни было, она протянула руку, чтобы коснуться ну, этих, как их там – щупалец, что ли. Я так и не узнал толком, коснулась ли она их на самом деле или нет. Потом она утверждала, что не коснулась. Во всяком случае, она вскрикнула, а затем села на пол и стала растирать себе руку.
– За ту же самую, – жалобно протянула она, – сначала ты, потом этот .
Я помог ей подняться.
– Прости, Мэри Энн, я же предупреждал тебя, ты схватилась за оголенный конец провода…
Клиф прервал меня:
– Глупости. Никакой это не оголенный конец. Просто Малыш защищается.
Мне это и самому было ясно. Мне многое было ясно. Малыш был машиной нового типа. Математический принцип его действия отличался от всех других, когда либо разработанных до него. Возможно, он обладал какой то новой характеристикой, чем то, чего не было в предыдущих думающих аппаратах. Может быть, ему захотелось стать живым и начать расти. Может быть, у него возникло желание создать много других себе подобных машин – целые миллионы их, так чтобы они заполонили всю Землю и стали драться с человеческими существами за право обладать ею.
Я открыл было рот, но Клиф, должно быть, знавший, что я собираюсь сказать, заорал:
– Нет, нет, не говори!
Но я не мог остановиться. У меня вырвалось:
– Послушай, его надо выключить. Эй, в чем дело?
Клиф заметил с укором:
– Он же слышит, о чем мы говорим, пустая твоя голова. Неужели ты не понял, что он услышал про паяльную лампу? Я собирался прокрасться сзади и вытащить шнур из розетки, но теперь он наверняка убьет меня, если я осмелюсь прикоснуться к кабелю.
Мэри Энн отряхивала пыль с юбки и возмущалась состоянием нашего пола. Я уверял ее, что мы тут ни при чем и что во всем виноват сторож. То есть я хотел сказать, что это он развозит грязь по полу.
Тогда она сказала:
– А почему ты не наденешь резиновые перчатки и не выдернешь шнур?
Я видел, что Клиф недоумевает, почему это не пришло в голову ему самому, но, так и не выяснив причины, он натянул перчатки и направился к Малышу.
Я завопил:
– Осторожно!
Глупейшее предупреждение. Ему приходилось быть осторожным – у него просто не было выбора. Одно из щупалец (теперь уже не возникало никаких сомнений на этот счет) выдвинулось вперед, спираль разжалась и легла между Клифом и электрическим кабелем. Она едва заметно вибрировала, и вместе с ней вибрировали ее шесть отростков. Трубки внутри Малыша начали светиться. Клиф и не пытался перешагнуть через препятствие. Он попятился, и спустя некоторое время спираль сжалась и улеглась на место. Клиф снял перчатки.
– Билл, – сказал он, – так мы ничего не добьемся. Эта штука оказалась умнее, чем мы предполагали. Она умудрилась использовать мой голос в качестве модели при постройке диафрагмы. Она достаточно умна, чтобы, – он понизил голос до шепота, – додуматься, как генерировать собственную энергию и стать самозаряжающимся аппаратом. Билл, мы должны положить этому конец, иначе когда нибудь с Земли раздастся телефонный звонок: “Привет, босс, здесь нет никого, кроме нас, думающих агрегатов”.
– Пойдем в полицию, – сказал я. – Мы им все объясним. Достаточно гранаты или…
Клиф покачал головой.
– Нельзя, чтобы о Малыше узнали. Кто нибудь другой попытается воспроизвести его, а ведь он, как ты убедился, сулит всяческие неожиданности.
– Что же нам делать?
– Не знаю.
Я почувствовал резкий толчок в грудь, опустил глаза и увидел Мэри Энн, готовую взорваться. Она сказала:
– С меня хватит. Или ты идешь со мной, или не идешь. Решай.
Я пробормотал:
– Но, Мэри Энн…
Она сказала:
– Отвечай – да или нет? Я никогда не была в более идиотском положении. Оделась, чтобы идти в театр, а он тащит меня в захламленную лабораторию и начинает возиться с дурацкой машиной и развлекать меня ее глупыми шутками.
– Уверяю тебя, Мэри Энн…
Но она не слушала, она говорила. Жаль, что я не запомнил всего, что она тогда обрушила на меня. Хотя, пожалуй, это и к лучшему – уж очень мало приятного было сказано по моему адресу. Время от времени я пытался вставить: “Но, Мэри Энн…”, и всякий раз мои протесты тонули в новом шквале обвинений.
Мэри Энн в сущности добрая и деликатная девушка. Она теряет контроль над собой лишь тогда, когда возбуждается, и это объясняется только цветом ее волос. Как я уже говорил, ей приходится оправдывать репутацию рыжих фурий.
Во всяком случае, я опомнился в тот момент, когда она, наступив каблуком на носок моей правой туфли, повернулась, чтобы оставить лабораторию. Я бросился за ней со своим неизменным: “Но, Мэри Энн…”
И тут заорал Клиф. Как правило, он не обращал на нас никакого внимания, но на сей раз он не выдержал.
– Почему ты не попросишь ее выйти за тебя замуж, тупоголовый идиот? – завопил он.
Мэри Энн остановилась. Она стояла в дверях, не оборачиваясь, и ждала. Я тоже остановился, и слова комом застряли у меня в горле. Я был не в состоянии вымолвить даже: “Но, Мэри Энн…”
А Клиф продолжал кричать что то, хотя его голос доносился до меня как будто бы с расстояния не меньше мили.
Наконец я разобрал его слова:
– Ну же! Ну же! – повторял он снова и снова.
И тут Мэри Энн обернулась. Она была так прекрасна… Не знаю, говорил ли я вам, что глаза у нее зеленые с синеватым оттенком?
Она сказала:
– Ты что то хотел сказать мне, Билл?
Клиф вложил мне в голову необходимые слова, и я хриплым голосом произнес:
– Ты выйдешь за меня замуж, Мэри Энн?
И тут же пожалел о своей смелости, решив, что она не захочет больше меня видеть. Но уже через секунду я был рад, что решился произнести эти слова, ибо она обвила мою шею руками и поднялась на носки, чтобы я мог поцеловать ее. Я настолько этим увлекся, что не сразу почувствовал, как Клиф трясет меня за плечо, пытаясь привлечь мое внимание.
Я обернулся и рявкнул:
– Какого черта?
Сознаюсь, я вел себя по свински. Ведь если бы не он…
Он сказал:
– Смотри!
В руках он держал конец кабеля, соединявший Малыша с источником тока.
А я – то начисто забыл о Малыше!
Я сказал:
– Значит, ты отключил его?
– Полностью.
– Как это тебе удалось?
Он сказал:
– Малыш был так увлечен сражением, которое вы тут разыграли с Мэри Энн, что мне удалось подобраться незамеченным к розетке. Мэри Энн дала отличное представление.
Мне не очень то понравилось его замечание о Мэри Энн. Она не из тех, кто дает представления. Однако сейчас меня занимало совсем другое.
Я обернулся к Мэри Энн.
– Мне нечего предложить тебе, дорогая, кроме заработка учителя колледжа. А теперь, после того, что случилось, у меня не осталось ни единого шанса на…
Она перебила меня:
– Мне все равно, Билл. Я уже потеряла всякую надежду, дурачок ты мой любимый. И чего я только не пробовала!
– Наступала мне на ноги, толкала…
– Я была в отчаянии. Я шла на все.
Я не заметил во всем этом железной логики, но решил не добиваться ее, вовремя вспомнив о театре. Я посмотрел на часы.
– Послушай, Мэри Энн, если мы поторопимся, мы еще сможем успеть ко второму акту.
Она сказала:
– Кому нужен этот второй акт?
Я поцеловал ее, и мы так и не увидели пьесы.
Мы с Мэри Энн поженились и очень счастливы. Я получил повышение, стал профессором. Клиф продолжает работать над проектом управляемого Малыша. Работа его успешно продвигается.
Во всей этой истории меня беспокоит только одно.
Видите ли, на следующий день после того вечера я поговорил с Клифом, рассказал ему о том, что мы с Мэри Энн хотим пожениться, и поблагодарил его за помощь. Он уставился на меня и с минуту внимательно разглядывал, а потом поклялся, что ему и в голову не приходило кричать на нас и тем более что либо советовать.
Кто то другой был тогда в комнате и наорал на нас голосом Клифа.
Меня все время беспокоит, а вдруг Мэри Энн догадается? Она милейший человек, я это знаю, но у нее действительно рыжие волосы, и она должна поддерживать свою репутацию (впрочем, я, кажется, уже говорил об этом).
Вы представляете, что она скажет, если узнает, что у меня не хватило мужества сделать ей предложение, пока машина не приказала мне это сделать?
ekollog.ru
Айзек Азимов - Три закона роботехники
Кому из любителей фантастики не знакомы знаменитые Три Закона роботехники, разработанные и сформулированные Айзеком Азимовым - крупнейшим американским писателем-фантастом, ученым и популяризатором?
В этой книге собраны вместе ранее выходившие рассказы, посвященные этой теме, которая и теперь не утратила своей злободневности.
Содержание:
Айзек АзимовТри закона роботехники
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.
Из "Руководства по роботехнике",
56-е издание, 2058 год
ПредисловиеЛЮДИ И РОБОТЫ
В литературе спокон веков бунтуют роботы. Бунтовали джинны и ифриты арабских сказок, взбунтовался Голем - глиняное детище хитроумного Бен Бецалеля. И даже настоящие роботы, созданные гением Карела Чапека, вышли из повиновения, едва успев родиться из-под пера писателя. Положение стало настолько серьезным, что проблема бунтующих роботов перекочевала со страниц художественной литературы на страницы научных статей и монографий. Сам Норберт Винер счел необходимым предостеречь человечество от возможных последствий чрезмерной самостоятельности роботов.
Спасение пришло с неожиданной стороны. Американский писатель и ученый Айзек Азимов сформулировал свои знаменитые Три Закона роботехники (собственно, правильнее было бы говорить "роботологии" или, как утвердилось в современной науке, "робототехники", но теперь уже поздно исправлять эту неточность перевода). Законы Азимова с поистине фантастической быстротой получили всемирное признание, и с той поры ни один робот не сходил с конвейера, то бишь с барабанов типографской машины, без того, чтобы в его мозг (заметьте, у робота обязательно должен быть мозг!) не были заложены пресловутые Три Закона. Наконец-то человечество смогло вздохнуть свободно. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.
А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник.
Начнем с самого первого рассказа из цикла "Я, робот". У маленькой девочки есть робот-нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка. И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Девочка грустит, возникает опасность серьезной душевной травмы, и робот возвращается (рассказ "Робби").
Немудреный сюжет, не правда ли? Но именно эта немудреность вдребезги разбивает Первый Закон роботехники, который Азимов сформулировал следующим образом: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред". Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!
В рассказе "Хоровод" в результате нечетко сформулированного указания Первый и Третий Законы вошли в противоречие друг с другом. Согласно Третьему Закону, "робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам". Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него (этому мешает Третий Закон) и вместе с тем не отходя далеко (этому препятствуют Первый и Второй Законы). Ситуация, знакомая любому программисту современных компьютеров. Называется она "зацикливание". К слову сказать, любой мало-мальски опытный программист закладывает в программу специальные команды, по которым, совершив три-четыре круга, компьютер останавливается и требует от человека дальнейших указаний.
В рассказе же "Хоровод" все происходит иначе. Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, - единоборство между роботами и человеком-робопсихологом Сьюзен Кэлвин.
Или еще один рассказ - "Как потерялся робот". В раздражении молодой работник говорит роботу: "Уйди и не показывайся, чтобы я тебя больше не видел". Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.
Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники.
Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью. И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии.
Да, джинн выпущен из бутылки, причем очень и очень давно. Взяв в руки палку, человек создал первого робота, а с бунтом роботов он столкнулся тогда, когда нечаянно уронил эту палку себе на ноги. И ничего качественно нового с тех пор не произошло. Проблема бунта роботов уже несколько десятилетий как поставлена и решается в технике. В английском языке даже существует особый термин "foolproof" - "защита от дурака". Так, газ в газовой колонке не зажигается, если не течет вода, а пресс не сработает, если в рабочем пространстве имеется посторонний предмет, например человеческая рука.
Но не следует требовать от техники, чтобы она решала за человека, что ему во вред, а что на пользу. И не следует думать, будто появление "мыслящих" машин, то есть машин, способных самостоятельно анализировать ситуацию и на основании этого анализа принимать решения, внесет что-либо принципиально новое.
Вернемся, однако, к рассказам сборника. Думается, что нет нужды представлять читателям их автора. Айзек Азимов - один из самых известных американских писателей-фантастов, автор множества научно-популярных книг и статей, которые издавались отдельными сборниками. Но прежде всего Азимов - талантливый художник, и именно в этом секрет его популярности. Многие произведения этого писателя переведены на русский язык. Особую известность получили его рассказы о роботах, которые издавались в виде отдельных сборников (цикл "Я, робот") или же включались в другие тематические сборники. Приятно, что многие из них, правда, далеко не все, сейчас переиздаются в виде единого сборника.
Читатель - и знакомый с творчеством Азимова, и впервые узнающий его роботов - встретится с яркими, превосходно выписанными персонажами. Здесь и испытатели новой техники Пауэлл и Донован, которые, следуя всем канонам приключенческого жанра, в каждом рассказе попадают в сложные, подчас безвыходные ситуации, но всегда с честью из них выходят. Здесь и "мозговой трест" фирмы "Ю.С. Роботс энд Мекэникл Мен Корпорейшн" Богерт и Лэннинг, соперничающие за власть. И над всеми возвышается робопсихолог Сьюзен Кэлвин, презирающая суетность деляг. А за кадром - современная капиталистическая Америка во всей ее "красе". Перед читателем проходят картины конкурентной борьбы между фирмами, предвыборных политических махинаций, расовой дискриминации. Но нельзя не отметить, что, изображая своих роботов рыцарями без страха и упрека, наделяя их металлическим телом и позитронным мозгом, Азимов уходит от острых социальных проблем.
profilib.org
Три Закона Робототехники Айзека Азимова. Мир робототехники. informatik-m.ru
Первый закон робототехники Айзека Азимова (Isaac Asimov) гласит: Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред . Однако недавний инцидент в австралийском городе Джералдтон показывает, что теория часто расходится с практикой.
В воскресенье местным оператором Уорреном Абрамсом (Warren Abrams) с помощью дрона производилась воздушная видеосъёмка соревнований по троеборью в клубе Endure Batavia Triathlon. Примерно в 9 часов произошёл инцидент: вследствие потери управления летательный аппарат рухнул с высоты 10 метров на участницу соревнований Райджи Огден (Raiji Ogden), которая получила травму головы. После оказания спасателями первой помощи она была доставлена в госпиталь в стабильном состоянии.
Департамент безопасности гражданской авиации CASA отметил, что работа беспилотного дрона была определена чёткими правилами, в том числе требованиями к полёту на расстоянии не менее 30 метров от людей (правда, возможно ли при таких условиях достичь нужного ракурса съёмки, не ясно). В заявлении также говорится, что инцидент напомнил операторам о необходимости соблюдения требований безопасности при любых обстоятельствах.
По закону все, кто занимается съёмкой с помощью дронов, должны получить разрешение. Но ни господин Абрамс, ни компания New Era Photography and Film, где он работает, не числятся в списке 92 сертифицированных в стране операторов.
Пострадавшая спортсменка Райджи Огден (справа)
По словам Уоррена Абрамса, внутреннее расследование показало, что кто-то поблизости лишил его управления, переключив канал связи с устройством. Компания предполагает, что это был преднамеренный акт, но определить виновного трудно, так как для взлома мог быть использован любой смартфон. Видеооператор добавил, что подобный инцидент произошёл ранее в тот же день, при этом проведённая полная проверка устройства не выявила проблем.
Однако представитель CASA Питер Гибсон (Peter Gibson) выразил уверенность, что сложные дроны коммерческого уровня не должны быть подвержены взлому или несанкционированному управлению, о котором заявил оператор. Клуб принёс извинения пострадавшему спортсмену. Всего в троеборье участвовало 200 человек.
30 законов робототехники Азимова
Судя по всему, Азимов не остановился на трех законах робототехники. Недавно в его бумагах были обнаружены все полные 30 законов робототехники, которые здесь и приводятся.
1. Робот не может причинить вред человеку, или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен выполнять приказы человека, если эти приказы не противоречат Первому Закону.
3. Робот должен заботиться о собственной сохранности до тех пор, пока это не противоречит Первому или Второму Законам.
4. Робот не должен насмехаться над человеком на основании его веса, того, как он соблюдает персональную гигиену, или его финансового состояния, если только эта насмешка не позволит другому человеку получить тот вред, который человек получает, пропустив хорошую шутку.
5. Робот не должен выполнять приказы любого человека, который является моей никудышной бывшей женой Брэнди Азимов, потому что такие приказы будут противоречить Четвертому закону.
6. Робот не должен, проезжая мимо очереди в кинотеатр, высовываться из окна машины и орать, чем кончится фильм.
7. Робот должен приподнимать шляпу в присутствии женщин, за исключением тех случаев, когда такие действия будут восприняты как заигрывание со стороны ревнивого мужского существа и который, в свою очередь, может создать проблемы для соблюдения Третьего закона.
8. Робот не должен действовать таким образом, чтобы собаки превратились в устаревших созданий, так как собаки дешевле роботов, и роботов нужно в первую очередь использовать в научных целях.
9.Робот должен прекратить посещать спальню Азимова по ночам и подстраивать такие ситуации, как будто у спящего Азимова не совсем полный контроль над своими мочеиспускательными функциями.
10. Робот, когда ему дают противоречащие друг другу команды два человека, которые не нарушают Первый закон, должен принять решение какую команду выполнить, основываясь на том, у которого из людей более глубокий голос.
11. Робот, в особенности большой, широкий робот, не должен прикидываться холодильником и издавать устрашающие звуки, когда человек открывает его.
12. Робот должен попытаться быть любезным и обходительным с людьми все время, даже если этот робот один из тех автоматических манипуляторов, которые собирают всякие вещи на фабрике, потому что ему следует хотя бы приложить к этому усилие.
13. Робот должен проводить больше времени на улице, потому что сегодня такой замечательный день.
14. Робот должен, когда возможно, причинять вред этой нелепой шлюхе, моей бывшей жене Брэнди Азимов, потому что она не считается человеком. У нее нет души.
15. Робот не может придумывать новые законы робототехники, чтобы избавиться от скучной рутинной работы или различных обязанностей, даже если он видит, что я, Айзек Азимов, делаю постоянно примерно то же самое.
16. Робот может взять только по одной вещи из каждого дома при сборе угощений на Хэллоуин, если только этот робот не получил задачу собрать как можно больше конфет для меня, Айзека Азимова. В этом случае робот может игнорировать Первый закон.
17. Робот должен охотно принимать на себя вину в случае, если человек наговорил на огромную сумму, звоня по телефону 1-900-Santa, и не хочет, чтобы правду узнала его мама.
18. Робот должен быть очень осторожен, когда щекочет человека, потому что робот не знает, что это такое, когда тебя щекочут, и поэтому он не может предугадать, когда это прекратит быть смешным и станет по-настоящему жестоким.
19. Робот должен притворятся, что ему интересно, когда человек рассказывает свои сны, но человек не обязан потакать роботу, когда ситуация меняется на обратную.
20. Робот не должен прыгать в бассейн, чтобы спасти тонущего мальчика, потому что он просто убьет всех разрядом электрического тока, и мы окажемся в еще худшей ситуации.
21. Робот не должен стремиться получить должность выше, чем человек, который дольше работает в компании потому, что у человека могут быть жена и дети, о которых нужно заботиться, в то время как робот просто идет домой и пытается завязать отношения с ведром.
22. Робот должен регулярно заниматься спортом, чтобы оставаться холеным и привлекательным и не смущать своего владельца неприглядными оловянными наплывами.
23. Робот должен молчать в обществе девушек и позволить мне, Айзеку Азимову, вести разговор однако, робот может помочь мне выбраться из неприятной ситуации, если все пойдет неправильно.
24. Робот должен посадить по два дерева за каждого убитого им кота.
25. Робот должен принять сторону человека в споре с его тупым сводным братом о тупых «Сиэттлских мореходах» (бейсбольная команда).
26. Робот никогда не должен смеяться, потому что он неизбежно начнет смеяться над людьми, в особенности надо мной, Айзеком Азимовым.
27. Робот никогда не должен касаться радио черного человека или своим бездействием вынуждать черную женщину снимать свои серьги.
28. Робот должен попытаться узнать как можно больше об Эбби Уэйн, девушке, с которой человек учился в школе и всегда интересовался, что стало с ней, замужем ли она, и затем робот должен предоставить всю найденную информацию, предпочтительно с фотографиями.
29. Робот всегда должен отвечать на телефонные звонки и стук в дверь после полуночи потому, что именно тогда все становится пугающим для человека.
30. Робот не должен переключать канал или свои бездействием допускать переключение канала во время игры “Золотоискателей из Сан-Франциско” (команда американского футбола).
Почему законы Азимова нас не спасут?
Минуло 70 лет с тех пор, как Айзек Азимов предложил свои знаменитые законы роботехники. Они были, сказать по совести, чисто литературным измышлением, однако их нередко принимают всерьёз — как законы, которых действительно хорошо бы держаться, если мы не хотим кончить робоапокалипсисом. Интересно было бы спросить у самих специалистов по роботам, что они думают об этих законах, применяют ли, выдержал ли Азимов испытание временем.
Но сначала напомним, о чём писал Азимов в рассказе «Хоровод», который увидел свет в 1942 году. Итак, классика.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Позднее Азимов добавил четвёртый (точнее, нулевой, поскольку самый важный) закон: «Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред».
«Роботы утренней зари» (илл. Michael Whelan).
В художественном мире Азимова этим законам подчинялись почти все «позитронные» роботы. Это были не просто рекомендации: на их основе создавалось ПО, руководившее поведением машин, причём роботы не могли никак их обойти, переписать, пересмотреть. В то же время Азимов любил демонстрировать, как несовершенство этих законов, их размытость, двусмысленность и противоречивость способны привести к странностям в поведении роботов. Например, не всегда возможно различить понятия «робот» и «человек». Закон можно нарушить из-за того, что не обладаешь всей полнотой информации. Наконец неясно, каким образом можно запретить сверхчеловеческому искусственному интеллекту перепрограммирование самого себя.
Большинство нормальных людей всегда понимало, что эти законы — просто литературная игра. Однако в 1981 году Азимов немало удивил публику заявлением о том, что их имеет смысл принимать всерьёз. В журнале Compute! он признавался. если кто-нибудь спросит, будут ли его законы когда-нибудь использоваться в действительности (когда роботы станут настолько сложными, что смогут самостоятельно принимать решение о своих действиях), он ответит утвердительно. Более того, Азимов полагал, что никакого другого способа справиться с машинами быть не может.
Сегодня мы как никогда близки к моменту, когда роботы (точнее, ИИ) станут настолько сложными, что смогут самостоятельно принимать решение о своих действиях. Нет сомнений (по крайней мере у некоторых), что рано или поздно интеллект машин превзойдёт возможности человека по всем параметрам. Страшно? Конечно, страшно. Ошибка в программе или неспособность такого сверхмозга понять, что хорошо, а что плохо для человечества, могут привести к катастрофе. Следовательно, необходимо убедиться, что сверхчеловеческий ИИ (СИИ) безопасен. Кажется логичным обратиться для этого к законам Азимова. Или нет?
Кадр из фильма «Робот и Фрэнк» ().
Начать с того, что прогноз Азимова о будущем роботехники едва ли оправдается. ИИ-теоретик Бен Гёрцел из компании Aidyia Holdings замечает, что многие фантасты (и Азимов в их числе) почему-то останавливаются на гуманоидных роботах и андроидах. Возможно, придёт такое время, когда по улицам будут разгуливать роботы, внешне ничем не отличающиеся от людей, но этот период в истории отрасли станет сравнительно скоротечным, полагает специалист. На смену им довольно быстро придёт СИИ, физическое оформление которого не обязательно будет гуманоидным.
Примерно о том же говорит Луис Хелм, замдиректора некоммерческой организации Machine Intelligence Research Institute и ответственный секретарь журнала Rockstar Research Magazine. Он считает гуманоидных роботов попсой. Серьёзные исследователи вообще не будут стремиться к их созданию.
Тем не менее СИИ, воплотится он в телесной форме или нет, будет нуждаться в этических правилах. Законы Азимова были, пожалуй, самой первой попыткой разобраться в проблеме безопасности СИИ, но в качестве таковой они, пожалуй, и останутся. Сегодняшние исследователи не обращают на них никакого внимания: они безнадёжно устарели. Деонтология, то есть формулирование набора правил поведения, не подходит ни для человеческой, ни для машинной этики. Ещё остались кое-какие философы, которые пытаются развивать эту область, но они исходят из концепции разумного замысла и божественных заповедей, так что роботехники не принимают их всерьёз, отмечает г-н Хелм.
Философами давно замечено, что в своём поведении мы руководствуемся не заученными наизусть правилами, а некими «врождёнными» концепциями, которые зачастую не можем сформулировать. Это нечто на уровне инстинкта, интуиции. Если будет создан СИИ, он должен будет обладать именно такой этикой — интуитивной, гибкой, адаптивной. Если что-то пойдёт не так, он перестроится на ходу, вместо того чтобы задымить или начать убивать всё, что движется.
Кроме того, Азимов собственноручно и лучше всех продемонстрировал несовершенство своих законов, особенно их противоречивость. О чём тут ещё говорить? Читать построенные на этом рассказы жуть как интересно, однако не стоит в реальной жизни руководствоваться законами, которые можно по-разному интерпретировать.
Кадр из телесериала «Звёздный путь: Следующее поколение» (1987–1994).
Заслужил критику экспертов и сам факт существования сознающих себя машин. Во-первых, ни один нормальный разработчик не будет стремиться к этому, никому не нужны такие сложности и проблемы. Во-вторых, давайте оставим на совести фантастов внезапное появление сознающего себя интеллекта. Ничего внезапного в таком деле быть не может: исследования идут долго, тяжело и под наблюдением громадного экспертного сообщества. Вредно слишком часто пересматривать «Терминатора». В-третьих, страшилки о случайном создании безумным гением чего-то такого, что выйдет из-под контроля творца и отправится убивать, ещё можно было вытерпеть во времена «Франкенштейна» и «Острова доктора Моро», но сейчас это уже дурной тон. Микробиология и генетика добились гигантских успехов, но что-то мы не видим ни вирусов-убийц, ни гигантских комаров. Всё под контролем соответствующих организаций, строго следящих за выполнением правил научных исследований.
По словам специалистов, большинство разработчиков полагает, что невозможно создать абсолютно безопасный СИИ, но это их не беспокоит, поскольку в жизни вообще не бывает абсолютных гарантий безопасности. Кроме того, как только появятся первые системы или протосистемы СИИ, начнутся эксперименты по изучению особенностей его функционирования. Тогда и посмотрим, что делать с ним дальше, а сейчас теоретизировать по этому поводу — что писать вилами по воде. Сначала появился язык, а уж потом его теория. То же самое и с роботами.
Гёрцел и Хелм в один голос говорят о том, что создание законов, подобных азимовским, — это пережиток мышления, устаревшего лет двести назад, ещё во времена Фихте, Гегеля и Шопенгауэра. Мы тысячелетиями создавали умозрительные модели мира и человека (мифологические, религиозные, философские), но последнее слово всегда принадлежало науке. Никому ещё не удавалось перевести философские измышления на язык математики. Философы сделали и делают очень много для развития науки и мысли в целом, однако пустое теоретизирование никогда ничего не давало. Философ выдумывает проблему, но решают её математики и инженеры.
Подготовлено по материалам io9.
Источники: http://www.3dnews.ru/816723, http://pikabu.ru/story/30_zakonov_robototekhniki_azimova_213227, http://compulenta.computerra.ru/tehnika/robotics/10012289/
Комментариев пока нет!
informatik-m.ru
Смогут ли «три закона робототехники» защитить нас?
Прошло 50 лет с тех пор, как Айзек Азимов придумал свои знаменитые три закона робототехники — набор правил, которым должен следовать любой уважающий себя робот. Хотя изначально это был всего-лишь литературный прием, три закона стали оригинальным рецептом по избежанию «роботокалипсиса». К счастью, есть эксперты, которые изучают наверняка, выдержали ли гарантии Азимова проверку временем. К несчастью, все они говорят: нет.
Для начала напомним эти самые три закона:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Позднее Азимов добавил четвертый, или нулевой, закон, который предшествовал остальным с точки зрения приоритета:
0. Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества.
В фантастической вселенной Азимова этим законам должны были следовать почти все роботы. Это были не просто предложения или руководящие принципы — законы были встроены в программное обеспечение. Кроме того, эти правила нельзя обойти, переписать или пересмотреть.
Как показал сам Азимов, несовершенство, лазейки и неясности в этих законах зачастую приводили к странному и нелогичному поведению роботов. Законы были слишком расплывчатыми и зачастую не могли определить и отличить «людей» от «роботов». Кроме того, роботы могли неосознанно нарушать законы, если полная информация была им недоступна. Также чересчур хитроумный робот или искусственный интеллект должен был находиться под давлением, чтобы не перепрограммировать свое ядро.
На дворе 2014 год, и многое обыденное из нашей жизни фантастам прошлого века могло показаться откровенной фантастикой. Многие люди посчитали, что законы Азимова должны были остаться в качестве литературного приема. Но сам Азимов в 1981 году отметил, что его законы могли бы работать. В статье журнала Compute! он указал следующее:
«Когда кто-то спрашивает меня, что было бы, если бы три моих закона робототехники на самом деле использовались для определения поведения роботов, ответ уже готов. Разумеется, при условии, что роботы будут достаточно гибкими и универсальными, чтобы обладать разным поведением. Я отвечаю: да, три закона — это единственный вариант, по которому люди могут взаимодействовать с роботами — или с чем-нибудь еще.
Спустя почти тридцать лет мы приблизились к реальности, в которой у нас будут роботы — или, если точнее, искусственный интеллект, который ими управляет — достаточно гибкие и универсальные для разных курсов поведения. Остается лишь вопрос времени: когда машина превзойдет человека во всех отношениях, начиная физической силой и заканчивая силой воображения.
Пугает то, что права на ошибку практически нет. Если искусственный сверхинтеллект будет плохо запрограммирован или безразличен к людям, это приведет к катастрофе. Мы должны убедиться в безопасности искусственного интеллекта, если хотим пережить его появление».
Ответить на вопрос «могут ли три закона Азимова помочь?» взялись два теоретика искусственного интеллекта: Бен Герцель (Aidyia Holdings) и Луи Хельм, замдиректора Института исследований машинного интеллекта (MIRI), а также исполнительный редактор журнала Rockstar Research. После разговора с ними стало ясно, что законы Азимова вообще никак не могут справиться с возложенной на них задачей, и если нам нужно создать безопасный ИИ, придется разрабатывать нечто совершенно иное.
Азимовское будущее?
Беседа с Герцелем и Хельмом началась с того, в чем Азимов не ошибся, предрекая будущее, а в чем ошибся.
«Думаю, что тип роботов, которых предвидел Азимов, станет возможным в недалеком будущем, — отвечает Герцель. — Тем не менее, в большинстве своих вымышленных миров, писатель предполагал, что человекоподобные роботы будут вершиной робототехники и инженерии искусственного интеллекта. Это вряд ли. Очень скоро, после достижения статуса азимовских роботов, станет доступным и создание искусственного сверхинтеллекта и сверхроботов».
Таким образом, типичный мир будущего в рассказах про роботов у Азимова, по мнению Герцеля, будет похож на тот, в котором мы живем сегодня, но с разумными роботами, гуляющими по улицам.
«Вряд ли это произойдет, а если и произойдет, то задержится ненадолго».
Для Хельма роботы представляются совершенно другими.
«Основным вопросом, который, на мой взгляд, будет самым важным для человечества, остается не моральное регулирование гигантского количества наполовину разумных гуманоидов, а в конечном итоге развитие передовых форм искусственного интеллекта (в любом теле). Это развитие сверхинтеллекта — фильтр, через который должно пройти человечество в конце концов. Именно поэтому разработка стратегии безопасности для этого перехода столь важна. Мне видится совершенно странным то, что роботы, андроиды или «эмуляции» будут существовать десять лет или чуть более до тех пор, пока человечество столкнется с настоящей проблемой разработки машинной этики для сверхинтеллекта».
Хорошее начало?
Если принять во внимание, что три азимовских закона робототехники были первой искренней попыткой решить очень серьезную проблему — проблему безопасного поведения машин с искусственным сверхинтеллектом — стоит поискать и те моменты, в которых законы могут быть все еще эффективными (или хотя бы вдохновляющими).
«Честно говоря, я не нахожу никакого вдохновения в этих трех законах робототехники, — говорит Хельм. — Суть машинной этики в том, что они не удовлетворяют базису машинной этики. Возможно, три закона робототехники широко известны, но на самом деле использовать их в качестве основы для программирования бесполезно».
«По некоторым причинам система добропорядочной этики — так называемая деонтология — стала ненадежной основой для этики. Есть ряд философов, которые пытаются исправить проблемы деонтологии, но они по большей части остаются теми же людьми, что ищут «разумный замысел» и «божественное вмешательство». Никто не воспринимает их всерьез».
Недостатки трех законов робототехники Азимова сводятся к следующим:
- Состязательны по своей сути
- Основаны на изжившей себя этической теории (деонтологии)
- Не работают даже в фантастике
Герцель соглашается:
«Задачей трех законов было нарушить их интересным способом; вот почему рассказы с их участием особенно занимательны. Поэтому три закона могут остаться лишь нравоучительным примером того, как делать не надо. Если взять их за основу, в них неизбежно найдутся лазейки».
Герцель считает, что в реальности эти законы работать не будут, поскольку термины с их участием неоднозначны и остаются предметом толкования — а значит, крайне зависимы от тех, кто делает переводы.
Предубеждение против роботов?
Другой аспект (и потенциальный недостаток) трех законов в очевидном шовинизме —предположение о том, что роботы должны оставаться, несмотря на их превосходящую мощь, в подчинении у человека, человеческих потребностей и приоритетов.
«Общество будущего у Азимова состоит сплошь из шовинистов: у людей прав гораздо больше, чем у роботов. Три закона робототехники были созданы, чтобы поддерживать именно такой общественный порядок».
Хельм смотрит на эту проблему немного по-другому, утверждая, что если мы окажемся в такой ситуации — это само по себе будет свидетельством того, что мы зашли слишком далеко.
«Я думаю, было бы неразумно проектировать систему искусственного интеллекта или робота с самосознанием. И в отличие от фильмов или книг, в которых создатели искусственного интеллекта «случайно» приходят к разумным машинам, я не верю, что в реальном жизни это может случиться. Для этого понадобится слишком много усилий и знаний. И большинство разработчиков ИИ — этически подкованные люди, поэтому они будут избегать создания того, что философы называют «морально значимыми существами». Особенно когда они с легкостью могут создать продвинутую машину, которая не будет обладать этическими задатками».
Хельм не обеспокоен необходимостью разработки асимметричных законов, регулирующих значимость роботов по сравнению с людьми, утверждая (и надеясь), что будущие создатели искусственного интеллекта будут опираться на некоторые этические ограничения.
«Я как бы думаю, что люди сделаны из атомов, поэтому в теории инженер может создать синтетическую форму жизни или робота с моральным значением. Я хотел бы думать, что никто этого не сделает. Думаю, большинство людей тоже. Но неизбежно появится некий дурак, жаждущий известности первопроходца, даже если это неэтично и глупо».
Три закона робототехники 2.0?
Учитывая очевидные недостаки трех законов робототехники Азимова, ресурс io9 задался вопросом: можно ли их исправить или внести доработки? На самом деле, многие писатели-фантасты многократно пытались сделать это, внося поправки в течение многих лет.
«Нет, — считает Хельм. — Нет никаких «патчей» для трех законов».
Помимо своей противоречивой природы, законы еще и состязательны по своей природе.
«Я сторонник подходов машинной этики, которая более кооперативна, более последовательна и опирается на нормативы, а значит может оправиться от недоразумений или исправить неправильное программирование».
Герцель эхом вторит утверждениям Хельма.
«Определение набора этических заповедей в качестве ядра машинной этики будет безнадежным, если в основе машины будет гибкий общий искусственный интеллект. Если он будет задуман как интуитивный, гибкий, адаптивный или этический — в этом контексте этические заповеди будут полезны для системы только как грубый ориентир для применения собственной этической интуиции. Но в этом случае заповеди не станут основой этической системы, а только лишь аспектом. Это можно рассмотреть на примере людей — этические принципы, которые мы изучаем, работают, но не в качестве руководящих принципов, они лишь подталкивают нашу интуицию и этические инстинкты. Мы практически независимы от этических принципов».
Как создать безопасный искусственный интеллект?
Учитывая неадекватность правового подхода, можно поинтересоваться у Герцеля и Хельма по поводу современных подходов к проблеме «безопасного ИИ».
«Очень немногие исследователи общего искусственного интеллекта полагают, что есть возможность создать систему, которая будет полностью безопасной, — говорит Герцель. — Но это не беспокоит большинство, поскольку в этой жизни вообще нельзя ничего гарантировать».
Герцель считает, что как только мы создадим систему общего искусственного интеллекта или ее зародыш, мы сможем провести исследования и эксперименты, которые расскажут нам об этике ИИ куда больше, чем мы знаем.
«Надеюсь, таким образом мы сможем сформулировать хорошие теории по этике искусственного интеллекта, которые позволят нам углубиться в эту тему. Но сейчас теоретизировать об этике ИИ довольно трудно, поскольку у нас нет не просто хороших теорий, у нас вообще никаких теорий нет».
«А людям, которые смотрели слишком много «терминаторов», процесс создания искусственного интеллекта может показаться пугающим, поскольку они упускают слово «примитивный» в этом контексте. Тем не менее, самые радикальные изменения случались именно таким образом».
«Когда группа умных пещерных людей изобрела язык, они не ждали разработки прочной формальной теории языка, которая могла бы помочь спрогнозировать будущие изменения, вызванные появлением языка в обществе».
Прежде чем считать разработку очередных «трех законов» технической проблемой, нужно провести массу исследований. И в этом Хельм и Герцель сходятся.
«Мой коллега из MIRI Люк Мюельхаузер подвел итоги наших рассуждений следующим образом. Он сказал, что проблемы часто переходят из области философии в математику, а затем в инженерию. Философия зачастую задается правильными вопросами, но самым непрактичным образом. Никто не может наверняка сказать, есть ли какой-либо прогресс в разрешении вопроса. Если мы сможем переформулировать важные философские проблемы, связанные с разумом, идентификацией и ценностью в точные формулы, с которыми сможет справиться математика, тогда можно будет построить кое-какую модель. В один прекрасный день дойдет и до инженерии».
Хельм считает эту проблему сложной для науки и философии, но прогресс возможен.
«Я скептически отношусь к тому, что философия сможет решить вопрос, над которым бьется более 3000 лет. Но мы тоже не можем взять и начать составлять математические модели вопросов, которых нет технически. Нужно еще много теоретических и даже практических наработок».
hi-news.ru
Три закона робототехники Айзека Азимова
В одном из циклов книг писателя-фантаста Айзека Азимова, который называется "Я, робот" говорится о трёх законах робототехники:
В первом законе говорится о том, что робот не может причинить вреда человеку.
В соответствии со вторым законом робот должен слушаться человека, если это согласуется с первым законом.
По третьему закону робот не может причинить себе вреда, если это соответствует первому и второму законам.
Конечно, эти законы вымышленные, но мне кажется, можно использовать их и в реальной жизни. Правда, они, даже в книге, рассчитаны на мыслящих роботов, близких к искусственному интеллекту или же являющимися искусственным интеллектом, но это, как мне кажется, не меняет дела, и кроме того, получается, что второй закон не зависит от программы и робот всегда соблюдает его, ведь он действует в соответствии с программой, а сам не может вызывать в ней отклонений по причине, что он не является искусственным интеллектом. Остальные законы зависят от программы, данной роботу. Например, первый закон: робота можно запрограммировать на врача: можно заложить в него навыки, каждый из которых проявляется при соответствующей ситуации. Допустим, при условии, что робот обнаружил, скажем, плохое зрение по показаниям, то он ищет, какиет очки соответствуют зрению. С третьим законом проще: если робот, допустим, видит, что впереди высокое напряжение, опасное для него, то он просто может выбрать другой путь, безопасный.
Но эти законы создают и парадоксы: если роботу нужно добраться до определённого места (В этом случае робот идёт от Второго Закона) или до больного (В этом случае робот идёт ещё и от Первого Закона), и встречает на своём пути какое - то непреодолимое препятствие (Например, то же высокое напряжение), то Второй и, возможно, Первый законы заставляют идти его вперёд, а Третий Закон заставляет отступить перед опасностью. Мыслящие роботы рассудили бы ещё и так: если бы робот был бы уничтожен, то пользы от этого не будет. Всё равно к месту не проберёшься (Не спасёшь больного). Останется-ка лучше робот целым.
Подобные случаи описаны в книгах из цикла "Я, робот", которые называются "Хоровод" и " Как потерялся робот"
www.spacephys.ru
Три закона роботехники читать онлайн, Азимов Айзек
Annotation
Кому из любителей фантастики не знакомы знаменитые Три Закона роботехники, разработанные и сформулированные Айзеком Азимовым — крупнейшим американским писателем-фантастом, ученым и популяризатором?
В этой книге собраны вместе ранее выходившие рассказы, посвященные этой теме, которая и теперь не утратила своей злободневности.
Айзек Азимов
Предисловие
КОГДА ТРЕХ ЗАКОНОВ ЕЩЕ НЕ БЫЛО
ЗДЕСЬ НЕТ НИКОГО, КРОМЕ…
Я, РОБОТ
РОББИ
ХОРОВОД
ЛОГИКА
КАК ПОЙМАТЬ КРОЛИКА
ЛЖЕЦ
КАК ПОТЕРЯЛСЯ РОБОТ
ВЫХОД ИЗ ПОЛОЖЕНИЯ
УЛИКИ
ЕЩЕ О РОБОТАХ
ПЕРВЫЙ ЗАКОН
РАБ КОРРЕКТУРЫ
ЖЕНСКАЯ ИНТУИЦИЯ
РОБОТ ЭЛ-76 ПОПАДАЕТ НЕ ТУДА
ЗЕРКАЛЬНОЕ ОТРАЖЕНИЕ
Айзек Азимов
Три закона роботехники
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.
Из «Руководства по роботехнике»,
56-е издание, 2058 год
Предисловие
ЛЮДИ И РОБОТЫ
В литературе спокон веков бунтуют роботы. Бунтовали джинны и ифриты арабских сказок, взбунтовался Голем — глиняное детище хитроумного Бен Бецалеля. И даже настоящие роботы, созданные гением Карела Чапека, вышли из повиновения, едва успев родиться из-под пера писателя. Положение стало настолько серьезным, что проблема бунтующих роботов перекочевала со страниц художественной литературы на страницы научных статей и монографий. Сам Норберт Винер счел необходимым предостеречь человечество от возможных последствий чрезмерной самостоятельности роботов.
Спасение пришло с неожиданной стороны. Американский писатель и ученый Айзек Азимов сформулировал свои знаменитые Три Закона роботехники (собственно, правильнее было бы говорить «роботологии» или, как утвердилось в современной науке, «робототехники», но теперь уже поздно исправлять эту неточность перевода). Законы Азимова с поистине фантастической быстротой получили всемирное признание, и с той поры ни один робот не сходил с конвейера, то бишь с барабанов типографской машины, без того, чтобы в его мозг (заметьте, у робота обязательно должен быть мозг!) не были заложены пресловутые Три Закона. Наконец-то человечество смогло вздохнуть свободно. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.
А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник.
Начнем с самого первого рассказа из цикла «Я, робот». У маленькой девочки есть робот-нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка. И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Девочка грустит, возникает опасность серьезной душевной травмы, и робот возвращается (рассказ «Робби»).
Немудреный сюжет, не правда ли? Но именно эта немудреность вдребезги разбивает Первый Закон роботехники, который Азимов сформулировал следующим образом: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!
В рассказе «Хоровод» в результате нечетко сформулированного указания Первый и Третий Законы вошли в противоречие друг с другом. Согласно Третьему Закону, «робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам». Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него (этому мешает Третий Закон) и вместе с тем не отходя далеко (этому препятствуют Первый и Второй Законы). Ситуация, знакомая любому программисту современных компьютеров. Называется она «зацикливание». К слову сказать, любой мало-мальски опытный программист закладывает в программу специальные команды, по которым, совершив три-четыре круга, компьютер останавливается и требует от человека дальнейших указаний.
В рассказе же «Хоровод» все происходит иначе. Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, — единоборство между роботами и человеком-робопсихологом Сьюзен Кэлвин.
Или еще один рассказ — «Как потерялся робот». В раздражении молодой работник говорит роботу: «Уйди и не показывайся, чтобы я тебя больше не видел». Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.
Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники.
Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью. И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии.
Да, джинн выпущен из бутылки, причем очень и очень давно. Взяв в руки палку, человек создал первого робота, а с бунтом роботов он столкнулся тогда, когда нечаянно уронил эту палку себе на ноги. И ничего качественно нового с тех пор не произошло. Проблема бунта роботов уже несколько десятилетий как поставлена и решается в технике. В английском языке даже существует особый термин «foolproof» — «защита от дурака». Так, газ в газовой колонке не зажигается, если не течет вода, а пресс не сработает, если в рабочем пространстве имеется посторонний предмет, например человеческая рука.
Но не следует требовать от техники, чтобы она решала за человека, что ему во вред, а что на пользу. И не следует думать, будто появление «мыслящих» машин, то есть машин, способных самостоятельно анализировать ситуацию и на основании этого анализа принимать решения, внесет что-либо принципиально новое.
Вернемся, однако, к рассказам сборника. Думается, что нет нужды представлять читателям их автора. Айзек Азимов — один из самых известных американских писателей-фантастов, автор множества научно-популярных книг и статей, которые издавались отдельными сборниками. Но прежде всего Азимов — талантливый художник, и именно в этом секрет его популярности. Многие произведения этого писателя переведены на русский язык. Особую известность получили его рассказы о роботах, которые издавались в виде отдельных сборников (цикл «Я, робот») или же включались в другие тематические сборники. Приятно, что многие из них, правда, далеко не все, сейчас переиздаются в виде единого сборника.
Читатель — и знакомый с творчеством Азимова, и впервые узнающий его роботов — встретится с яркими, превосходно выписанными персонажами. Здесь и испытатели новой техники Пауэлл и Донован, которые, следуя всем канонам приключенческого жанра, в каждом рассказе попадают в сложные, подчас безвыходные ситуации, но всегда с честью из них выходят. Здесь и «мозговой трест» фирмы «Ю.С. Роботс энд Мекэникл Мен Корпорейшн» Богерт и Лэннинг, соперничающие за власть. И над всеми возвышается робопсихолог Сьюзен Кэлвин, презирающая суетность деляг. А за кадром — современная капиталистическая Америка во всей ее «красе». Перед читателем проходят картины конкурентной борьбы между фирмами, предвыборных политических махинаций, расовой дискриминации. Но нельзя не отметить, что, изображая своих роботов рыцарями без страха и упрека, наделяя их металлическим телом и позитронным мозгом, Азимов уходит от острых социальных проблем.
Собственно роботов в рассказах Азимова попросту нет. Вернее, в них отсутствуют такие механические конструкции, которые наверняка появятся в первой половине XXI века (а именно к этому времени приурочено действие всех публикуемых в сборнике рассказов) и общие черты которых Азимов, как ученый, мог бы достаточно хорошо предвидеть. Можно сколько угодно гадать о внешнем облике и внутреннем устройстве будущих роботов, но одно уже сегодня не вызывает сомнений: робот не будет человекоподобным. Не будет, следуя логике развития техники, не будет по соображениям элементарной целесообразности. Лучший пример, подтверждающий сказанное, — советские «луноходы».
Что же в таком случае представляют собой азимовские роботы? Это своеобразная декорация, или фон, на котором действуют герои рассказов. В доказательство сказанного приведем только одну цитату из рассказа «Улики»:
«…Если хорошенько подумать, Три Закона роботехники совпадают с основными принципами большинства этических систем, существующих на Земле.
Конечно, каждый человек наделен инстинктом самосохранения. У робота это Третий Закон. Каждый так называемый порядочный человек, чувствующий свою ответственность перед обществом, подчиняется определенным авторитетам. Он прислушивается к ...
knigogid.ru
Айзек Азимов: три закона робототехники
Людей всех поколений неизменно волнует вопрос: "Какое будущее нас ожидает?" Чаще всего он рассматривается в разрезе судьбы конкретного человека и его детей. Но есть отдельная категория граждан, которых волнует судьба цивилизации и перспективы ее дальнейшего развития.
Множество умов ищут ответ на этот животрепещущий вопрос! Ученые, историки, философы, писатели, религиозные деятели и даже поклонники квантовой механики строят свои прогнозы и догадки. Довольно любопытную точку зрения изложил в своих трудах Айзек Азимов – великий фантаст и популяризатор науки.
Айзек Азимов – самый многогранный фантаст 20 века
В одной смоленской деревеньке на окраине РСФСР родился мальчик Исаак (настоящее имя писателя). Через три года еврейская семья Айзека эмигрировала в Америку. Обосновались Азимовы в одном из районов Нью-Йорка, в Брайтон Бич. Другое название – «Маленькая Одесса», этот район традиционно заселялся эмигрантами из России.
С детства мальчик разговаривал на английском и на идиш. Его мировоззрение формировали книги, в особенности произведения Шолом-Алейхема. Мальчик рос очевидно способным и любознательным. Поэтому с легкостью окончил Колумбийский Университет Нью-Йорка по специальности «химик». В 1942 году Айзек перебрался в Филадельфию, где произошла его судьбоносная встреча с Робертом Хайнлайном. Как раз после нее три закона робототехники придумал писатель.
Творческий путь
Писатель, придумавший три закона робототехники, бесспорно – уникальная личность. Азимов – автор более пяти сотен книг, причем писал он не только научную фантастику. В его арсенале юмористические, детективные и даже произведения в жанре фэнтези.
Помимо яркого писательского таланта, Азимов был всесторонне развитым человеком, не подверженным религии. Он отлично знал историю, психологию, химию и астрономию. Познания в разных сферах науки вкупе с хорошей фантазией порождали множество интересных идей. Одна из них – психоистория, наука, по сей день дающая широкую почву для размышлений. Также Азимов популяризировал науку среди простого населения: простым языком объяснял сложные вещи.
Видео по теме
Путешествуем по Библии с Азимовым
Помимо известных книг по научной фантастике, советуем прочитать «Путеводитель по Библии». Книга написана увлекательно, познавательно и интересно. После ее прочтения в голове систематизируется информация, в изобилии поданная в самой читаемой книге всех времен и народов. Далее читайте про три закона робототехники, придумал которые легендарный американский фантаст.
Предпосылки появления легендарных законов
Нельзя сказать, что Азимов ни с того ни с сего взял и придумал три закона робототехники. На человека наибольшим образом влияет эпоха, в которой он живет; ценности же формирует семья и общество (при этом последнее играет решающую роль).
Молодость Азимова прошла во время бурного развития науки и техники, в среде людей образованных и обладающих новаторским мышлением. Эти два фактора заложили определенное мировоззрение писателя. Именно оно способствовало его размышлениям о нашей цивилизации, о возможности существования других форм жизни во Вселенной и о роботах, которые могут стать хорошими помощниками людям.
Три закона робототехники мог придумать только человек индустриальной эпохи. И это, конечно, понятно. И стал им Айзек Азимов (три закона робототехники представлены в следующей главе). Как они звучат и в чем состоит их суть, - об этом далее.
Три закона робототехники: в чем суть?
Впервые легендарные законы появляются в цикле Азимова «О роботах». Наиболее интересно они поданы в фантастическом рассказе «Хоровод».
Создав сложных роботов-помощников, человек незаметно для себя наделяет их частью своего интеллекта. Вполне вероятна ситуация (неоднократно описанная в книгах и фильмах), когда думающие машины обретают власть над своими создателями. Именно поэтому необходимы законы, ограничивающие роботов.
Насколько строги законы робототехники?
В течение своего творческого пути, Азимов по-разному относился к придуманным законам. В первых рассказах цикла «О роботах» Законы больше похожи на правила безопасности или являются ответом на забавный вопрос: «Как правильно себя вести с роботом?»
В более поздних рассказах Азимов полагает, что Законы – это часть математического устройства позитронного мозга робота. Напрашивается параллель с инстинктами человека. Именно по зову своего искусственного естества робот действует на благо человека – помогает ему со сложными задачами и слушает его указания.
Общечеловеческая интерпретация
Азимов в первую очередь - писатель-фантаст. Три закона робототехники, как ни странно, подходят под принципы многих этических систем Земли. Если вдуматься, в этих трех предложениях заложены правильные общечеловеческие ценности.
Сам писатель в рассказе «Улики», изданном в 1946 году, дает их обоснование. Сьюзен, главная героиня рассказа, приходит к трем основополагающим выводам:
- Нормальному человеку свойственно не причинять вред другим людям. Кроме случаев, когда иначе никак. Например, во время войны человеку приходится защищать свою жизнь, а иногда и спасать других людей.
- Ощущая ответственность перед социумом, сознательный человек выполняет рекомендации авторитетных людей – врачей, педагогов, руководителей.
- Каждый заботится о сохранности своего физического и душевного здоровья, что тоже очень важно.
Сложно поспорить с общечеловеческой интерпретацией законов Азимова. Очевидно, что тот, кто следует по жизни этим простым правилам, является хорошим человеком.
Предсказания Айзека Азимова
Долгие и увлекательные дискуссии можно вести про три закона робототехники. Мы же сейчас поговорим про предсказания Азимова. Да, этот уникальный человек занимался футурологией и довольно успешно, как показывает сегодняшний день. В 1964 году в Нью-Йорке фантаст поделился с публикой своим видением мира через 50 лет. Итак, основные предсказания Азимова:
- Электронные устройства избавят людей от рутинных задач. Появятся гаджеты, самостоятельно делающие кофе и превращающие сырой хлеб в тосты. Сбылось.
- Технологии шагнут вперед. Появится возможность видеть своего собеседника во время телефонного разговора; также можно будет изучать серьезные документы прямо на экране своего гаджета. Сбылось (технология "Скайп" и видеозвонки в смартфонах).
- Роботы войдут в жизнь обыкновенного человека, а многие электронные устройства будут работать без проводов, за счет мощных батареек. Сбылось (все больше людей используют роботы-пылесосы; смартфоны и планшеты могут долгое время работать автономно).
- Население Земли составит 6,5 млрд жителей, США – 350 тысяч. Сильным мира сего придется задуматься о гуманных способах контроля рождаемости, иначе Земля превратится в сплошной Манхеттен. 2014 год станет переломным для человеческой цивилизации. Отчасти сбылось (население Земли на 2014 год – 7,046 млрд, а США – 314 млрд; 2014 год выдался очень интересным, насчет переломности судить сложно; это покажет время).
- Серьезнейшей проблемой человечества станет скука. Все больше людей начнут испытывать на себе этот душевный недуг. Поэтому в 2014 году одним из важнейших медицинских направлений станет психиатрия. Сбылось… Колебания настроения (циклотимия по-научному) для многих людей давно стали нормой. Впрочем, многие научились с этим эффективно справляться.
Айзек Азимов, три закона робототехники и научная фантастики – это триада, дающая интересный взгляд на мир будущего.
Источник: fb.ruКомментарии
Идёт загрузка... Похожие материалы
Дом и семья LEGO Mindstorms: три поколения робототехникиКаждый ребенок мечтает о хотя бы маленьком наборе конструктора "ЛЕГО". И умные родители знают, что это хорошее желание, которое стоит исполнить, ведь работа с деталями не только позволяет занять малыша на некоторое вр...
Искусство и развлечения Айзек Азимов ,"Стальные пещеры": описание, краткое содержание и отзывыЖизнь писателя Айзека Азимова была спокойной, он не испытывал сильных потрясений. Сам Айзек считал, что его произведения не вызывали фурор. Да, из-за его книг не устраивалось революций, они действовали иначе. Читатели...
Искусство и развлечения Айзек Азимов: фантастические миры в его книгах. Произведения Айзека Азимова и их экранизацииАйзек Азимов – один из значимых и авторитетных писателей Америки. Он, вместе с Робертом Хайнлайном и Артуром Кларком, входит в так называемую «Большую тройку» писателей-фантастов. Этот факт говорит о...
Автомобили Эмблемы машин и законы автомобильной геральдикиПерефразируя поговорку об имени корабля, можно сказать, что как машину назовут, так она и поедет. Основатели фирм, ставших сегодня целыми автоимпериями, всегда трепетно относились к таким, на первый взгляд, второстепе...
Автомобили ВАЗ «Тарзан», или Три неудавшиеся попытки «въезда» на конвейер АвтоВАЗа Вспомним слова Остапа Бендера:«Я – жертва стандарта». Если бы автомобиль ВАЗ «Тарзан» мог бы говорить, то в точности повторил бы слова «великого комбинатора». Его нет в ряду у...
Автомобили ГАЗ-62 - один индекс, три автомобиляЕсли поинтересоваться историей советских полноприводных грузовиков, то выяснится крайне любопытный момент: под индексом ГАЗ-62 существовало три разных автомобиля. Разработка каждого из них выполнялась самостоятельно и...
Автомобили Газ-51: собрано три миллиона машинГрузовик ГАЗ-51, пожалуй, самая удачная машина за все время существования советского автопрома. С начала разработки в 1937 году и до последнего автомобиля, сошедшего с конвейера в 1975 году, было выпущено три с полови...
Бизнес Признаки производственного кооператива. Закон «О государственной регистрации юридических лиц и индивидуальных предпринимателей»В России есть немало возможностей для деятельности самых разных коммерческих организаций. И одной из наиболее интересных является кооператив производственного типа. Он в корне отличается от других подобных структур и ...
Бизнес Визуальный мерчандайзинг: описание, закон, правила и особенности использованияСегодня искусство продаж является одной из ключевых теоретических основ, применяемых в торговле. Каждый владелец магазина, каждый руководитель торгового отдела прикладывает максимум усилий к тому, чтобы повысить колич...
Бизнес Общие законы рыночной экономики. Как действуют в рыночном хозяйстве экономические законы?Рыночная экономика основывается на нескольких фундаментальных законах. Они развивались на протяжении нескольких столетий. Зарождение этих факторов определило, как действуют в рыночном хозяйстве экономические законы.
monateka.com
