Айзек Азимов ★ Три Закона роботехники читать книгу онлайн бесплатно
Здесь есть возможность читать онлайн «Айзек Азимов: Три Закона роботехники» весь текст электронной книги совершенно бесплатно (целиком полную версию). В некоторых случаях присутствует краткое содержание. Город: Москва, год выпуска: 1970, категория: Фантастика и фэнтези / на русском языке. Описание произведения, (предисловие) а так же отзывы посетителей доступны на портале. Библиотека «Либ Кат» — LibCat.ru создана для любителей полистать хорошую книжку и предлагает широкий выбор жанров:
любовные романы фантастика и фэнтези приключения детективы и триллеры эротика документальные научные юмористические анекдоты о бизнесе проза детские сказки о религиии новинки православные старинные про компьютеры программирование на английском домоводство поэзия
Выбрав категорию по душе Вы сможете найти действительно стоящие книги и насладиться погружением в мир воображения, прочувствовать переживания героев или узнать для себя что-то новое, совершить внутреннее открытие.
Подробная информация для ознакомления по текущему запросу представлена ниже:
- Описание
- Другие книги автора
- Правообладателям
- Похожие книги
Три Закона роботехники: краткое содержание, описание и аннотация
Предлагаем к чтению аннотацию, описание, краткое содержание или предисловие (зависит от того, что написал сам автор книги «Три Закона роботехники»). Если вы не нашли необходимую информацию о книге — напишите в комментариях, мы постараемся отыскать её.
Кому из любителей фантастики не знакомы знаменитые Три Закона роботехники, разработанные и сформулированные Айзеком Азимовым – крупнейшим американским писателем-фантастом, ученым и популяризатором? В этой книге собраны вместе ранее выходившие рассказы, посвященные этой теме, которая и теперь не утратила своей злободневности. В сборник вошли рассказы: «Здесь нет никого, кроме…» Пер. Р.Рыбаковой «Робби» Пер. А.Иорданского «Хоровод» Пер. А.Иорданского «Логика» Пер. А.Иорданского «Как поймать кролика» Пер.
А.Иорданского «Лжец» Пер. А.Иорданского «Как потерялся робот» Пер. А.Иорданского «Выход из положения» Пер. А.Иорданского «Улики» Пер. А.Иорданского «Первый Закон» Пер. Г.Орлова «Раб корректуры» Пер. Ю.Эстина «Женская интуиция» Пер. М.Таймановой «Робот ЭЛ-76 попадает не туда» Пер. А.Иорданского «Зеркальное отражение» Пер. И.Гуровой Читайте, наслаждайтесь и помните: 1) Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2) Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3) Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам.
Айзек Азимов: другие книги автора
Кто написал Три Закона роботехники? Узнайте фамилию, как зовут автора книги и список всех его произведений по сериям.
Уважаемые правообладатели!
Возможность размещать книги на на нашем сайте есть у любого зарегистрированного пользователя.
Если Ваша книга была опубликована без Вашего на то согласия, пожалуйста, направьте Вашу жалобу на info@libcat.ru или заполните форму обратной связи.
В течение 24 часов мы закроем доступ к нелегально размещенному контенту.
Три Закона роботехники — читать онлайн бесплатно полную книгу (весь текст) целиком
Ниже представлен текст книги, разбитый по страницам. Система сохранения места последней прочитанной страницы, позволяет с удобством читать онлайн бесплатно книгу «Три Закона роботехники», без необходимости каждый раз заново искать на чём Вы остановились. Поставьте закладку, и сможете в любой момент перейти на страницу, на которой закончили чтение.
Шрифт:
↓
↑
GeorgiaGeorgiaTahomaArialVerdanaSymbol
Интервал:
↓
↑
Закладка:
Сделать
1234567…135
Айзека Азимова
Три Закона роботехники
Люди и роботы
В литературе спокон веков бунтуют роботы. Бунтовали джинны и ифриты арабских сказок, взбунтовался Голем – глиняное детище хитроумного Бен Бецалеля.
И даже настоящие роботы, созданные гением Карела Чапека, вышли из повиновения, едва успев родиться из-под пера писателя. Положение стало настолько серьезным, что проблема бунтующих роботов перекочевала со страниц художественной литературы на страницы научных статей и монографий. Сам Норберт Винер счел необходимым предостеречь человечество от возможных последствий чрезмерной самостоятельности роботов.
Спасение пришло с неожиданной стороны. Американский писатель и ученый Айзек Азимов сформулировал свои знаменитые Три Закона роботехники (собственно, правильнее было бы говорить “роботологии” или, как утвердилось в современной науке, “робототехники”, но теперь уже поздно исправлять эту неточность перевода). Законы Азимова с поистине фантастической быстротой получили всемирное признание, и с той поры ни один робот не сходил с конвейера, то бишь с барабанов типографской машины, без того, чтобы в его мозг (заметьте, у робота обязательно должен быть мозг!) не были заложены пресловутые Три Закона.
Наконец-то человечество смогло вздохнуть свободно. Будущее сосуществование с легионами покорных роботов представлялось вполне безоблачным.
А что думает по этому поводу сам творец Законов роботехники? Лучший ответ на этот вопрос можно получить, прочтя предлагаемый читателю сборник.
Начнем с самого первого рассказа из цикла “Я, робот”. У маленькой девочки есть робот-нянька. Девочка привязалась к роботу, но, по мнению мамы, эта привязанность вредит правильному воспитанию ребенка. И хотя папа придерживается иного мнения, после долгих семейных дискуссий робота отправляют обратно на фабрику. Девочка грустит, возникает опасность серьезной душевной травмы, и робот возвращается (рассказ “Робби”).
Немудреный сюжет, не правда ли? Но именно эта немудреность вдребезги разбивает Первый Закон роботехники, который Азимов сформулировал следующим образом: “Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”. Где уж роботу разобраться, что вредно, а что полезно, если сами родители не могут решить этот вопрос применительно к собственному ребенку!
В рассказе “Хоровод” в результате нечетко сформулированного указания Первый и Третий Законы вошли в противоречие друг с другом.
Согласно Третьему Закону, “робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам”. Роботу была дана команда, но не указана степень вреда, который будет нанесен человеку в случае ее невыполнения. И вот робот кружится по границе опасного района, не углубляясь в него (этому мешает Третий Закон) и вместе с тем не отходя далеко (этому препятствуют Первый и Второй Законы). Ситуация, знакомая любому программисту современных компьютеров. Называется она “зацикливание”. К слову сказать, любой мало-мальски опытный программист закладывает в программу специальные команды, по которым, совершив три-четыре круга, компьютер останавливается и требует от человека дальнейших указаний.
В рассказе же “Хоровод” все происходит иначе. Там разорвать порочный круг людям удается, лишь рискуя жизнью и при этом пуская в ход всю свою изобретательность и пользуясь помощью знатока психологии роботов. Кстати, один из лейтмотивов, объединяющих большинство рассказов сборника, – единоборство между роботами и человеком-робопсихологом Сьюзен Кэлвин.
Или еще один рассказ – “Как потерялся робот”. В раздражении молодой работник говорит роботу: “Уйди и не показывайся, чтобы я тебя больше не видел”. Робот буквально выполняет указание человека, после чего весь персонал внепланетной Гипербазы вынужден бросить важную работу и целую неделю заниматься поисками исчезнувшего робота.
Мы снова намеренно выбрали рассказ с незатейливым сюжетом, потому что, на наш взгляд, именно в простоте рождается та убедительность, с которой Азимов развенчивает им же созданный Второй Закон роботехники.
Так в чем же дело? Неужели придется признать, что джинн выпущен из бутылки и людям не остается ничего другого, как пассивно ожидать последствий? Вспомним, однако, что автор рассказов не только писатель, но и ученый, способный проанализировать ситуацию со всей логической строгостью. И он не зря выбрал именно такую форму: сначала сформулировал законы, на первый взгляд кажущиеся безупречными как по содержанию, так и по форме, а затем продемонстрировал эти законы в действии.
Читать дальше
1234567…135
Шрифт:
↓
↑
GeorgiaGeorgiaTahomaArialVerdanaSymbol
Интервал:
↓
↑
Закладка:
Сделать
Похожие книги на «Три Закона роботехники»
Представляем Вашему вниманию похожие книги на «Три Закона роботехники» списком для выбора. Мы отобрали схожую по названию и смыслу литературу в надежде предоставить читателям больше вариантов отыскать новые, интересные, ещё не прочитанные произведения.
Роджер Аллен
Айзек Азимов
Айзек Азимов
Айзек Азимов
Александр Иванов
Айзек Азимов
Обсуждение, отзывы о книге «Три Закона роботехники» и просто собственные мнения читателей.
Оставьте ваши комментарии, напишите, что Вы думаете о произведении, его смысле или главных героях. Укажите что конкретно понравилось, а что нет, и почему Вы так считаете.
Будут ли работать три закона робототехники?
«Три закона робототехники» легендарного писателя-фантаста Айзека Азимова знают все люди, которым интересна фантастика, роботы и всякие новые технологии. Они кажутся высеченными из камня, не подверженными воздействию времени и всегда актуальными. И даже заставляют задуматься о некоторых философских вещах. Эти законы используются при проектировании практически во всех позитронных роботов в произведениях Азимова. Они разработаны как механизм безопасности, позволяющий держать автономных дроидов под полным контролем. Вот они:
Три закона робототехники
Первый Закон
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй закон
Робот должен подчиняться приказам людей, за исключением случаев, когда такие приказы противоречат Первому закону.
Третий закон
Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
Мы все очень уважаем Азимова. И как плодовитого автора художественной литературы, и как профессора биохимии. Однако часто возникает вопрос – а действительно ли эти законы могут быть использованы при разработке реального искусственного интеллекта? В наши дни?
И вы знаете, мнение специалистов таково – нет.
«Три закона робототехники Азимова изящны. Но одновременно это просто чушь собачья», – прямо заявил однажды СМИ робототехник и писатель-фантаст Дэниел Уилсон.
Когда Азимов писал свои законы, он не мог с большой точностью предвидеть, как именно люди будут использовать искусственный интеллект (ИИ). Сегодня машины побеждают нас при игре в шахматы или карты. Они водят наши машины и делают нам операции. Но вместо того чтобы обладать самосознанием, как предполагал Азимов, они просто работают по сложным алгоритмам, запрограммированным их человеческими создателями.
Во вселенной Азимова все немного не так. Там машины, обладающие искусственным интеллектом, – наши слуги. То есть являются отдельными, самостоятельными существами. В реальном же мире они являются лишь продолжением нас самих. То есть просто расширяют наши возможности. Это означает, что любые законы, управляющие машинами с искусственным интеллектом, должны также распространяться и на людей, которые их создают.
Общие системы
Многие ученые, современные философы и даже целые организации рассматривали, какими могут быть эти законы. Исследователи из компании Gilead Amit, например, использовали законы Азимова в качестве отправной точки. И у них получилось примерно такая формулировка:
Робот не может причинить вред человеку. Или позволить одному человеку причинить вред другому. Робот не должен выдавать себя за человека, если только различие между человеком и машиной не будет размыто.
Исследователи из Google установили еще больше правил.
Одно из них таково:
ИИ не должен без необходимости наносить ущерб другим ИИ, преследуя свои цели.
Идеальный ИИ
Cambridge Consultants, ведущая консалтинговая компания в области STEM, изложила свои критерии идеального ИИ в связке с человеком, то есть как единой системы, в отчете за 2018 год. Вот они:
Ответственность: должен существовать конкретный человек, ответственный за последствия поведения автономной системы. Это необходимо не только для осуществления правовой защиты, но и для предоставления обратной связи, отслеживания результатов и внедрения изменений.
Объяснимость: всегда должна быть возможность объяснить людям, которых это касается (часто непрофессионалам), почему поведение такое, какое оно есть. Это жизненно важно для обеспечения доверия.
Точность: источники ошибок необходимо идентифицировать, отслеживать, оценивать и, при необходимости, устранять.
Прозрачность: должна быть обеспечена возможность тестировать, анализировать (публично или в частном порядке), критиковать и оспаривать результаты, полученные от автономной системы.
Результаты аудита и оценки должны быть доступны для общественности и объяснены.
Справедливость: способ использования данных должен быть разумным и уважать конфиденциальность. Это поможет устранить предубеждения и предотвратить укоренение других проблемных форм поведения.
Согласитесь, такой подход немного отличается от того, что предлагал Азимов. И поэтому, учитывая все, что мы узнали об искусственном интеллекте за многие десятилетия, прошедшие с тех пор, как знаменитый фантаст написал свои «Три закона робототехники», мы можем с уверенностью заключить, что они, конечно, устарели. Хотя и породили многие провокационные сюжеты в фантастике. Но лучше навсегда оставить их в книгах….
По крайней мере до тех пор, пока мы не начнем использовать роботов в качестве слуг😉.
Три закона робототехники Айзека Азимова
Если вы спросите достаточное количество людей о слиянии ИИ и робототехники, скорее всего, вы получите несколько ответов о Терминаторе.
В страхе перед икарийской гордыней человечества, ведущей к концу нашей цивилизации, нет ничего нового; действительно, история робототехники усеяна историями об изобретениях, обращенных против своих хозяев или иным образом использованных в гнусных целях. Но неизбежен ли этот исход? Должны ли мы, подобно греческому титану Кроносу, быть узурпированы нашими творениями и отброшены, как мусор? Или есть способ обеспечить гармонию между нами и все более изощренными автоматами, которые продолжают формировать наш мир?
Автор научной фантастики Айзек Азимов решил ответить на эти вопросы, разработав свои «Три закона робототехники». Впервые представленные в его сборнике рассказов 1942 года « I, Робот », Законы были разработаны как рациональный способ управления интеллектуальными автоматами, которые могли бы существовать в гармонии со своими органическими создателями.
Каковы три закона робототехники?
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен подчиняться приказам, отданным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
- Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
В дополнение к этим трем законам, он позже внес в них поправки, включив в них то, что называется «Нулевым законом»: робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечество причинило вред.
Азимов представляет эти законы как высшие руководящие принципы, на основе которых разрабатываются сложные интеллектуальные роботы: «Три закона — единственный способ, которым разумные люди могут обращаться с роботами — или с чем-либо еще». Законы недвусмысленно уходят корнями в страх перед разрушением, который служил источником стольких повествований на протяжении всей истории человечества. Во многом Азимов преобразовал нашу вневременную паранойю в форму, актуальную для нашего сегодняшнего мира: в защиту от потенциальной угрозы со стороны сверхразумного ИИ.
Проблемы с законами
Хотя Законы внешне не позволяют роботам вести себя вредно для человечества, существует множество способов, в которых они оказываются неадекватными в качестве строгого морального кодекса. Действительно, сам Азимов исследовал способы, которыми эти законы могут быть искажены или неправильно истолкованы, чтобы создать хаос или причинить вред.
Комикс предоставлен XKCD
Например, давайте рассмотрим язык, используемый каждым из законов: они вращаются вокруг защиты широко определяемого «человечества». Но кто решает, что представляет собой человек? История изобилует примерами того, как группы людей дегуманизируют другие группы. С появлением ранее в этом году сообщений о расовых и гендерных предубеждениях ИИ нетрудно представить пугающие сценарии, в которых эта инакомыслие пойдет дальше.
Может ли робот — независимо от того, какой набор принципов использовался для его программирования — быть по-настоящему нравственным, если его создатели сами являются ущербными, иррациональными и часто аморальными существами? К сожалению, реальность такова, что это невозможно сказать, пока мы не придумаем способ сделать невозможное и не выйдем за пределы объектива человеческого разума.
Технологическая сингулярность: нужны ли законы?
Идея астрономически разумного ИИ, свободного от морали, действительно ужасает. Однако эта возможность зависит от ключевого события, которое произойдет в какой-то момент нашего будущего — технологической сингулярности.
| Подсказка: Технологическая сингулярность — это потенциальное событие будущего, когда развитие технологий станет неконтролируемым и необратимым человеческими средствами. |
Гипотетически сингулярность могла бы возникнуть, когда разумная машина, обладающая способностями выше, чем у самого одаренного человека, изобретет машину, более разумную, чем она сама, и этот процесс будет повторяться до тех пор, пока не будет разработан самый совершенный искусственный интеллект.
Проблема с этим предположением заключается в том, что компьютеры и ИИ обладают полностью искусственной психологией. Мы даже еще не понимаем человеческое сознание, и не доказано, что ИИ может достичь самосознания в осмысленном смысле.
Текущий ИИ может только определять цели, поставленные перед ним его создателями. Даже если такие программы, как DeepMind от Google, могут делать впечатляющие вещи, например, научить себя ходить, в конце концов, у них была только цель ходить. Пока разрабатывается искусственный интеллект, способный ставить перед собой новые цели, эти машины далеки от полного самосознания.
Gif предоставлен GIPHY
Таким образом, даже с «искусственной психологией», которая намного превосходит человеческие возможности, истинной морали может быть невозможно достичь, поскольку у ИИ нет желаний, желаний или «разума» в человеческом смысле — только грубая вычислительная мощность. Если это так, то такая строгая система, как законы Азимова, может и не понадобиться.
Заинтересованы в использовании современных технологий искусственного интеллекта для повышения эффективности вашего бизнеса? Ознакомьтесь с реальными отзывами пользователей G2 о лучшем программном обеспечении для искусственных нейронных сетей прямо сейчас: |
Размышление
Независимо от того, что может быть в будущем, тщательное изучение вопросов морали необходимо для обеспечения безопасного развертывания новых технологий, поскольку каждое продвижение увеличивает вероятность и последствия злоупотреблений. Законы Азимова, какими бы несовершенными они ни были, направлены на сохранение человечества перед лицом подавляющей силы, которую мы только начинаем воображать. К счастью, тип ИИ и роботов, к которым у нас есть доступ, все еще далек от тех машин, которые могут оказаться реальной угрозой для человечества, каким мы его знаем.
Теперь, когда мы рассмотрели будущее ИИ и робототехники, подумайте о том, чтобы узнать больше о типах роботов, которые мы видим в мире сегодня!
Пайпер Томсон
Пайпер — бывший сотрудник G2. Родом из Цинциннати, штат Огайо, они окончили Кеньон-колледж со степенью в области социологии. Их интересы включают подкасты, скалолазание и понимание того, как люди формируют системы знаний в эпоху цифровых технологий. (они/они/их)
Айзек Азимов и три закона робототехники. Он был наиболее известен своими научно-фантастическими произведениями, в которых он ввел термин «робототехника», и своими научно-популярными книгами.
Три закона робототехники
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен подчиняться приказам, отданным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму Закону.
Эти Три закона робототехники , которым должны были подчиняться роботы Азимова из созданного им мира научной фантастики, были установлены при написании его рассказа « Обход 9».0004’, вышедшей в свет в 1942 году. Но это была лишь одна из его многочисленных работ, так как за свою жизнь автор написал или отредактировал свыше 500 книг и около
писем.
Ранние годы
«Я начинал как писатель-фантаст, и первые одиннадцать лет своей литературной карьеры я писал только фантастические рассказы»
— Айзек Азимов , 1972 4
5
5 Азимов родился 2 января 1920 года в Петровичах под Смоленском в РСФСР.
Академическая карьера
В эти годы юноша в очках с толстой роговой оправой погрузился в фантастический мир Жюля Верна и Эдгара Аллана По. подождите еще несколько лет, так как он предпочитал изучать химию, которую он успешно окончил в 1939 году в Школе общих исследований Колумбийского университета.
Хотя он стремился к научной карьере, Азимов был одним из основателей « Футурианское научное литературное общество » и познакомился с несколькими авторами во время учебы в университете. Его первый рассказ “ Marooned Off Vesta» был опубликован в 1939 году в « Amazing Stories », но приоритетом была его научная карьера. В 1951 году он был назначен доцентом Бостонского университета, а в 1955 году — профессором. Прошло еще несколько лет, прежде чем биохимик принял важное решение стать профессиональным писателем-фантастом и с тех пор опубликовал огромное количество научно-фантастических произведений.
Первая часть романа Азимова «Тиранн» была на обложке четвертого номера журнала «Галактическая научная фантастика» за 1951 год. ».
— Айзек Азимов, «Как легко видеть будущее», журнал Natural History (апрель 1975 г.)0113 Nightfall », опубликованный в 1941 году и признанный лучшим научно-фантастическим рассказом до 1965 года. Помимо множества рассказов о робототехнике, Азимов также известен своей серией «Империя». Он объединил эти две темы, происходящие в одной и той же «вселенной», но в разные периоды времени, в своей серии «Основание » , содержащей 14 романов и многочисленные рассказы, и получил награду «Лучший сериал всех времен» в 1960-е годы. Сюжетная арка рассказов Азимова охватывает более 20 тысячелетий. Вдохновлено фильмом Эдварда Гиббона Упадок и падение Римской империи , он описал упадок галактической империи.Новые термины
Роман Азимова « Последний вопрос » (1956) о способности человечества справиться с процессом энтропии и потенциально обратить его вспять был его любимым рассказом. Азимов ввел термин « робототехника » в своем рассказе 1941 года « Лжец! », хотя позже он заметил, что тогда он считал, что просто использовал существующее слово, как он заявил в Золото (« Хроники роботов »). Азимов также ввел термин « spome » в статье, озаглавленной « Нет места лучше Spome» в «Атмосфере в космических кабинах и закрытых средах» (1965), который относится к любой системе, закрытой по отношению к материи и открытой с помощью энергии, способной бесконечно поддерживать человеческую жизнь.
Дальнейшие достижения
Благодаря своим многочисленным работам и сборникам Азимов смог вдохновить большое количество писателей-фантастов, особенно его «Три закона робототехники» стали важной вехой в жанре. Как однажды выразился автор Джон Дженкинс: « Было отмечено, что большинство писателей-фантастов с 1950-х годов находились под влиянием Азимова, либо моделируя свой стиль по его стилю, либо сознательно избегая чего-либо похожего на его стиль ».
[Т] единственная вещь во мне, которую я считаю достаточно серьезной, чтобы оправдать психоаналитическое лечение, — это мое принуждение писать… пишущей машинке (что я и делаю сейчас) и стучу, наблюдая, как слова складываются, как по волшебству, у меня на глазах.
— Айзек Азимов, 1969 г.р.Исаак Азимов умер 6 апреля 1992 года от сердечной и почечной недостаточности — следствия ВИЧ-инфекции, которой он заразился в 1983 через переливание крови во время операции шунтирования.
Ссылки и дополнительная литература:
- [1] [на немецком языке] Ein Leben für die Zukunft
- [2] Сайт Айзека Азимова
- [3] Исаак Азимов в базе данных Интернет-спекулятивной фантастики
- [4] Вокруг света за 80 дней, блог SciHi
.
