3 правила робототехники азимова: Законы робототехники. Три закона робототехники Азимова

Три закона робототехники Азимова: будут ли роботы господствовать над человечеством в Солнечной системе —

7 июня 2021, 20:15

В Сети дискутировали на тему того, каким будет роботизированный мир будущего и каковы последствия упразднения трех постулатов законов робототехники Айзека Азимова.

Терминатор в реалии: в 2020 году зафиксировано первое
убийство человека роботом

В некоторых блогах интернет-сообщества активно обсуждается
одно из событий, которое произошло еще весной 2020 года. И если верить
участникам этих форумов, случившееся положило начало новой эпохе в
существовании разумной цивилизации на планете. Иными словами, «мир уже никогда
не будет прежним».

О теме роботов порассуждал на страницах LiveJournal пользователь с ником maysuryan.

Что же произошло в марте 2020-го, заставив многих людей
совсем по-другому взглянуть на свое будущее и даже будущее всей биологической
разумной жизни на Земле.

Эпохальный инцидент с летальным исходом

Событие, которое положило начало диспутам в Сети по поводу
будущего человечества, произошло в зоне вооруженного конфликта в Ливии. Вот
краткая история эпохального происшествия.

Армейский летающий дрон Kargu 2, совершая боевой вылет в
автономном режиме, убил человека.

Казалось бы, на фоне современной роботизации армий
большинства стран мира, когда «умные механизмы» занимаются уже не только
разведкой или разминированием объектов, но и берут полноценное участие в боевых
операциях с применением оружия, эта новость должна была попросту затеряться
среди других. Однако одно «но» сделало ее эпохальной, тем более что огласке
эта новость была предана спустя год после самого происшествия.

Итак, как говорится, «отсюда поподробнее». В зоне
вооруженного конфликта в Ливии военный дрон производства Турции во время
выполнения боевого задания, находясь в “высокоэффективном автономном режиме”,
атаковал и убил солдата Ливийской национальной армии. Для понятия ситуации
стоит пояснить, что под термином «высокоэффективный автономный режим»
подразумевается режим, в котором боевой дрон запрограммирован на атаку
вражеской цели без необходимости получения на это команды или разрешения от
оператора.

Реакция пользователей на инцидент с участием боевого дрона

Как только о случившемся в Ливии стало известно широкой публике, Интернет тут же наполнился комментариями и рассуждениями
пользователей. Большинство из них сходятся во мнении, что популярная в
фантастическом жанре тема восстания «умных машин» против людей может
превратиться в жестокую реальность уже в ближайшем будущем.

Как написал пользователь с никнеймом jakobin1793, это пока
что разумная боевая машина – небольшой квадрокоптер. Но, как говорится, лиха
беда начало. Ведь первые аэропланы, с борта которых пилоты вручную сбрасывали
гранаты, тоже мало кого впечатляли. Но уже через 3 десятка лет воздушными
бомбардировками уничтожались целые города. При этом блогер подчеркивает, что
огромные бомбардировщики могут быть куда «безобиднее» подобных «малюток», особенно, если последних тысячи.

Вспомнили пользователи и «Страж-Птицу»” американского
классика фантастики Роберта Шекли, и, конечно же, «Терминатора» с его «Судным днем». Однако точнее всего к произошедшему подходит определение “Конец Первого
закона робототехники Азимова”.

История появления фантастических законов робототехники

В первой половине прошлого века в сознании людей сидел
страх, что в процессе развития техники неизбежно появление «разумных роботов», точнее, человечество всерьез опасалось, что роботы в будущем будут убивать homo
sapiens. Таким образом, людей в этой близящейся новой эпохе ждала печальная
судьба неандертальцев. Довольно мрачная и невеселая перспектива. С подобными
страхами надо было что-то делать, ведь все они легко могли перерасти во
всеобщую истерию. Исправить ситуацию решил американский писатель-фантаст Айзек
Азимов.

Именно он в 1942 году придумал и сформулировал своеобразные
обязательные каноны (или правила) поведения для любых роботов. Так появились
легендарные 3 закона робототехники.

Закон 1. Робот не может нанести человеку вред, или же своим
бездействием допустить, чтобы человеку был причинен вред.

Закон 2. Машина (робот) должна подчиняться абсолютно всем
приказам, отдаваемым ей человеком. Исключением могут быть только те приказы,
которые прямо противоречат I закону робототехники.

Закон 3. Робот обязан заботиться о своей безопасности только
в той степени, в которой эта забота не будет противоречить первым двум законам.

Все эти законы Азимов впоследствии «наглядно» пояснил в
своих произведениях, указывая на все моменты, почему даже малейшее отступление
от выведенных им Законов абсолютно недопустимо.

Справка: (Isaac Asimov, имя при рождении Исаак Юдович Азимов; 2 января 1920 года, Петровичи, Смоленская губерния, РСФСР — 6 апреля 1992 года, Манхэттен, Нью-Йорк, США) — американский писатель-фантаст, популяризатор науки, биохимик. Автор около 500 произведений, в основном художественных (прежде всего в жанре научной фантастики, но также и в других жанрах: фэнтези, детектив, юмор) и научно-популярных (в самых разных областях — от астрономии и генетики до истории и литературоведения).

Последствия существования недействующих законов

Стоит подчеркнуть, что придуманные законы робототехники так
и не были ратифицированы в реальном мире ни одной компанией по производству
роботов и ни одним государством, однако некоторую весьма важную роль в жизни
человечества они все-таки сыграли. Именно благодаря существованию данных
законов люди полностью свыклись с пониманием, что на Земле параллельно с ними
могут существовать и другие “индивидуумы”, наделенные разумом, пусть даже и
искусственно созданные самими людьми.

Более того, человечество
успокоило себя убеждением, что если роботы и станут когда-либо разумными, они
всегда будут находиться на положении эдакой «низшей расы» (прислуги или же
послушных рабов), ведь такой статус роботам прописывал I закон робототехники:
полное повиновение человеческим приказам. Роботы не могли бы причинять людям
даже малейшего вреда, следовательно сосуществование с разумными машинами будет
для человека полностью безопасным и комфортным.

Вот только одно люди упустили (то ли случайно, то ли
преднамеренно): все их 3 закона были полностью шовинистическими,
дискриминационными и расистскими, ведь в «человеческую программу» никто не
закладывал запретов относительно убийства или причинения вреда роботу, а вот
разумной машине почему-то это было строго-настрого запрещено.

Конец эпохи расистских законов робототехники

В процессе эволюции люди собственноручно законы Азимова
уничтожили. Началось все со второго постулата несколько десятилетий назад:
именно тогда люди стали создавать и использовать дроны, способные с воздуха
приносить вред и убивать других людей по человеческому приказу. И все это
прошло как-то незаметно для человечества. Типа, ну убивают люди с помощью
роботов и пусть убивают. Какая разница – дроном или топором? Однако это много
чего изменило не только в стратегии ведения войн, но и в самом понятии убийства
человека.

Что же человечество получило в результате? Совсем новый «безопасный» метод умерщвления другого человека, ведь убийца, по сути, ничем не
рискует. И это, если честно, весьма сильно шокирует. Веками воины, собираясь
идти убивать врага на поле боя, рисковали и самим быть убитыми. И это добавляло
эдакого благородства и героизма. Теперь же все кардинально поменялось. Да,
оставшиеся в живых после атаки дронов в теории могут найти оператора боевого
робота, а после наказать его или же лишить жизни. Однако это будет уже
восприниматься, не как честная месть, а как покушение на мирного жителя, чистой
воды криминал или терроризм.

Итог и эпилог

И вот весной 2020 года был упразднен и I закон
робототехники, причем человечество отнеслось к этому с абсолютным спокойствием, хотя, по сути, произошел глобальный перелом в истории, смена целых эпох. Итак, роботы начали убивать людей самостоятельно, без приказа других людей, по своей
собственной инициативе, практически выверено, осмысленно и разумно. А ведь по
сути человечество оказалось на верной дороге к своей гибели, а планета Земля –
к смене на ней господствующего вида разумных существ.

Вот так может закончиться история человеческой цивилизации в
Солнечной системе. Одни разумные существа уничтожат других, чтобы таким образом
продолжить эволюцию, так что вполне возможно, что в скором будущем homo sapiens
смогут прочувствовать на своей шкуре, каково оно было в свое время мамонтам или
неандертальцам, кстати, уничтоженным в процессе эволюции и во имя ее самим же
человечеством.

Справка: Робот (чеш. robot, от robota — «подневольный труд») — автоматическое устройство, предназначенное для осуществления различного рода механических операций, которое действует по заранее заложенной программе.

Робот обычно получает информацию о состоянии окружающего пространства посредством датчиков (технических аналогов органов чувств живых организмов). Робот может самостоятельно осуществлять производственные и иные операции, частично или полностью заменяя труд человека.
При этом робот может как иметь связь с оператором,
получая от него команды (ручное управление), так и действовать
автономно, в соответствии с заложенной программой (автоматическое
управление).

Напомним, впервые в истории: боевой дрон самостоятельно ликвидировал военного.

А в Украине впервые ребенка прооперировал робот-хирург Da Vinci: девочку больше не беспокоят боли — детали.

Ранее робот «Федор» «разгерметизировал» МКС – в Роскосмосе сделали заявление.

Автор:
Диалог.UA

РСМД :: Аналитические статьи

Все ТемыАТРБезопасностьВнешняя политика РоссииГлобальное управлениеМир через 100 летМногополярный мирОбразование и наукаОбщество и культураТехнологииЭкологияЭкономикаЭнергетика

Все РегионыАнтарктикаАрктикаАфрикаБалканыБлижний ВостокВосточная Азия и АТРЕвропаКавказЛатино-Карибская АмерикаОкеания и АвстралияПостсоветское пространствоРоссияСеверная АмерикаЦентральная АзияЮго-Восточная АзияЮжная Азия

Все ПроектыБудущее Большой ЕвропыВекторы развития европейской части постсоветского пространства: вызовы для РоссииВосточная Азия: приоритеты внешней политики РоссииГлобализация 2. 0: новые подходы к преподаванию и исследованиямГлобальная наукаГородские завтраки РСМДЕвразийская экономическая интеграция: эффективные модели взаимодействия экспертовЗеленая повестка: политическое измерениеЗимняя школа РСМД «Миграция в глобальном мире»Искусство дипломатии и политический опыт: преемственность поколенийИсламский фактор в современной мировой политикеКонкурс «Глобальные перспективы»Конкурс молодых журналистов-международниковКонкурс онлайн-курсов по международным отношениямЛекции в Музее современной истории РоссииЛетняя школа «Дорожная карта международного сотрудничества в Арктике»Летняя школа «Интерактивные ресурсы для публичной и корпоративной дипломатии»Летняя школа «Молодежный саммит АТЭС: цели, приоритеты и перспективы»Летняя школа в Екатеринбурге «Ситуация в Центральной Азии: безопасность, экономика, человеческое развитие»Летняя школа ЕЭК и РСМД «Евразийская экономическая интеграция: приоритеты, перспективы, инструменты»Международная миграция: институциональное измерениеМеждународное измерение информационной безопасностиМеждународное измерение технологической политикиМеждународное научно-техническое сотрудничество РоссииМеждународное сотрудничество в АрктикеМеждународные и социальные последствия использования технологий искусственного интеллектаМонография «Дилеммы Британии: российский взгляд»Новая Восточная Европа: анализ ситуации и стратегическое позиционирование России в регионах ЦВЕ, Балтии и на европейском фланге постсоветского пространстваНовая повестка российско-британских отношенийНовая повестка российско-французских отношенийОрганизация международной экспертизы проектов для РНФПовышение эффективности участия России в «Группе восьми», «Группе двадцати» и БРИКСПолитическая и экономическая динамика стран Центральной АзииПолитические риски для российских проектов в области мирного атомаПроблемы формирования нового мирового порядкаПрогнозирование динамики международной средыПути преодоления проблем российско-грузинских отношенийРазвитие механизмов и инструментов научной дипломатии в РоссииРазработка рекомендаций по интернационализации высшего образования России в целях повышения его качества и конкурентоспособности на период 2013–2017 гг. Российская стратегия на Африканском континентеРоссийско-американский диалог в области кибербезопасностиРоссийско-германский диалог по международным отношениям (GRID)Россия — США — Китай: протекционизм, вопросы безопасности и конкуренция в сфере высоких технологийРоссия и АТР: концептуальные основы политики в области безопасности и развитияРоссия и Вьетнам: пределы и возможности двусторонних отношенийРоссия и Греция: перспективы и возможности двусторонних отношенийРоссия и Евроатлантическое сообществоРоссия и ЕС: возможности партнерства и построение сети экспертно-аналитических центровРоссия и Индия: к новой повестке двусторонних отношенийРоссия и Иран: становление стратегического сотрудничестваРоссия и Италия: двустороннее сотрудничество и региональный контекстРоссия и Италия: Средиземноморские диалогиРоссия и Китай: партнерство в контексте вызовов безопасности и развития в АТРРоссия и Мексика: новые двусторонние отношенияРоссия и Пакистан: подходы к безопасности в регионе Персидского заливаРоссия и Республика Корея: перспективы двусторонних отношенийРоссия и США: диалог о проблемах двусторонних отношений, региональных и глобальных вызовахРоссия и Турция: партнерство в контексте вызовов безопасности и развития в Западной АзииРоссия и Япония: пути решения проблем двусторонних отношенийСанкции против России: направления эскалации и политика противодействияСборник «Украинский кризис через призму международных отношений»Система безопасности на Ближнем ВостокеСправочник «Военно-политические исследования в России»Справочник «Международные исследования в России. 1000 экспертов и 100 организаций»Справочник «Международные исследования в России»Справочник «Миграционное поле России»Стратегическая стабильность и снижение риска ядерной угрозыТезисы о внешней политике России (2012–2018 гг.)Трехтомная хрестоматия «Современная наука о международных отношениях за рубежом»Хельсинки +40Хрестоматии «Арктический регион: проблемы международных отношений»Хрестоматия «Миграция в России. 2000–2012»Хрестоматия «Мир через 100 лет»Хрестоматия «Россия в глобальном мире: 2000-2011»Хрестоматия «Теория международных отношений: современные тенденции»Хрестоматия «Эволюция постсоветского пространства: прошлое, настоящее, будущее»Электронная интернационализация российских университетовЮжная Азия: возможности и вызовы для России

Все СтраныАвстралияАвстрияАзербайджанАлбанияАлжирАнголаАргентинаАрменияАфганистанБангладешБахрейнБеларусьБелизБельгияБенинБолгарияБоливияБосния и ГерцеговинаБотсванаБразилияБрунейБуркина-ФасоВатиканВенгрияВенесуэлаВосточный ТиморВьетнамГабонГаитиГайанаГамбияГанаГватемалаГвинеяГвинея-БисауГерманияГибралтарГондурасГондурасГонконгГренландияГрецияГрузияДанияДжибутиДоминиканская РеспубликаЕгипетЗамбияЗимбабвеИзраильИндияИндонезияИорданияИракИран, Исламская РеспубликаИрландияИсландияИспанияИталияЙеменКабо-ВердеКазахстанКамбоджаКамерунКанадаКатарКенияКипрКиргизияКирибатиКитайКНДРКНРКолумбияКоморыКонгоКонго, Демократическая РеспубликаКоста-РикаКот-д’ИвуарКубаКувейтЛаосЛатвияЛиберияЛиванЛивияЛитваЛихтенштейнЛюксембургМаврикийМавританияМадагаскарМакедонияМалавиМалайзияМалиМальдивыМальтаМароккоМексикаМозамбикМолдавияМонголияМьянмаНамибияНепалНигерНигерияНидерландыНикарагуаНовая ЗеландияНорвегияОбъединенные Арабские ЭмиратыОманПакистанПалестинаПанамаПарагвайПеруПольшаПортугалияПуэрто-РикоРеспублика КореяРеюньонРоссияРуандаРумынияСальвадорСан-Томе и ПринсипиСаудовская АравияСейшелыСенегалСербияСингапурСинт-МартенСирияСловакияСловенияСоединенное КоролевствоСоединенные ШтатыСоломоновы островаСомалиСуданСуринамСьерра-ЛеонеТаджикистанТаиландТайвань (Китай)Танзания, Объединенная РеспубликаТогоТунисТуркменияТурцияУгандаУзбекистанУкраинаУругвайФарерские островаФилиппиныФинляндияФолклендские островаФранцияФранцузская ГвианаХорватияЦентральноафриканская РеспубликаЧадЧерногорияЧешская РеспубликаЧилиШвейцарияШвецияШри-ЛанкаЭквадорЭкваториальная ГвинеяЭритреяЭстонияЭфиопияЮжная АфрикаЮжная ОсетияЮжный СуданЯмайкаЯпония

Показать еще 12 из 4147

Три закона робототехники в ИИ

В 1942 году писатель-фантаст Айзек Азимов представил Три закона робототехники (также известные как «Три закона») в своем рассказе «Обход».

Первый закон

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

Второй закон

Робот должен подчиняться приказам, отдаваемым людьми, за исключением случаев, когда такие приказы противоречат Первому закону.

Третий закон

Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.

Три закона составляют организационные принципы, объединяющие весь вымышленный мир Азимова, что можно увидеть во многих его работах, часто вращающихся вокруг тем научной фантастики. Истории Азимова часто сосредоточены вокруг гуманоидных роботов, которые действуют вопреки этим трем законам, подчеркивая врожденный конфликт между человеческим пониманием морали и ее интерпретацией гуманоидным андроидом. Работа Азимова вдохновила целые поколения людей на представление мира, в котором люди и роботы существуют бок о бок друг с другом. Сейчас, спустя 80 лет после публикации «Трех законов», мы как никогда близки к тому, чтобы жить в мире, где гуманоидные андроиды существуют и облегчают нашу жизнь. Поскольку мы продолжаем развиваться в технологическом плане, мы должны рассмотреть Три Закона и их соответствующее применение к существам с искусственным интеллектом. За последние два десятилетия мы стали свидетелями невероятного технологического прогресса в области ИИ. ИИ сыграет важную роль в нашем будущем. Мы уже полагаемся на цифровых помощников на базе ИИ, к которым можно получить доступ через наши смартфоны. А крупные компании, такие как Amazon, находятся на начальных этапах развертывания полностью автономных транспортных средств для доставки посылок.

Хотя современный ИИ можно запрограммировать на выполнение различных задач, которые когда-то предназначались только для людей, мы пока не в состоянии разработать разумный ИИ без нашего влияния. В таком случае легко запрограммировать машины беспрекословно подчиняться нашим приказам. Но мы все ближе подбираемся к будущему, в котором машины могут обладать способностью мыслить независимо, что может привести к конфликту между людьми и машинами, особенно когда речь идет о привитии человеческой морали искусственному существу. Например, мы программируем роботов с протоколами безопасности, чтобы они не причиняли вред окружающим. Но какова роль робота в защите человечества от вреда, если он достаточно умен, чтобы думать самостоятельно? Первый закон робототехники гласит, что робот не должен причинять вред человеку. В нем также говорится, что робот не должен своим бездействием допускать, чтобы человек своим бездействием причинял вред. Что должно делать существо с искусственным интеллектом, если единственный способ защитить человека от вреда — это сломать человека, причиняющего вред другому? В вымышленном мире Азимова Три закона призваны сделать роботов идеальными слугами людей. Тем не менее, Азимов намеренно писал рассказы, демонстрирующие конфликт между пониманием морали людьми и роботами. К сожалению, ИИ не так просто следовать этим законам при их применении в реальном мире. Для этого ИИ он должен совмещать свой долг служить человечеству с пониманием того, что человечество часто является его собственным злейшим врагом. Может ли ИИ действительно защищать и действовать по прихоти человека, если люди нарушают законы, по которым должен действовать ИИ? Это неудобный вопрос, который становится еще более сложным, когда вы вводите в уравнение человеческое сознание вне человеческих существ.