Айзек азимов три закона робототехники: Законы робототехники. Три закона робототехники Азимова

Как появились «Три закона робототехники» Айзека Азимова? Об ИИ будущего

Главная » Книги, комиксы, манга » Как появились «Три закона робототехники» Айзека Азимова? Об ИИ будущего

16/07/2020GNB-Gamer0 Comments

КатегорииКниги, комиксы, манга

Многие атрибуты научной фантастики, казавшиеся совершенно невероятными лет 50 назад, сегодня есть в каждом доме или даже у вас в кармане. Смартфон для мгновенного получения любой информации о всей человеческой истории (используемый для споров с людьми и просмотра мемов, ага), гигантские тонкие дисплеи, да и сама концепция Интернета в его нынешнем виде – вот лишь несколько ярких примеров.

Какой писатель придумал «Три закона робототехники»? Правильный ответ – Айзек Азимов, а конкретнее речь о его рассказе «Хоровод», опубликованном в 1942-м году.

Вы только вдумайтесь: за окном Вторая мировая война, а в голове у фантаста уже появлялись вопросы и проблемы, получившие актуальность в наше время! Действительно, учёные и конструкторы роботов всё чаще обращаются к тем постулатам, поскольку искусственный интеллект в ближайшие 10-20 лет дойдёт до уровня максимальной автономии.

Вспомним фильм I, Robot с Уиллом Смиттом, базирующийся сразу на нескольких произведениях писателя. В нём кибернетический организм научился мыслить, испытывая ворох самых противоречивых чувств. А главным из них является страх за собственную жизнь и стремление сохранить её. Развивает идеи триллер «Из машины», рецензию на него читайте в блоге.

  • ИИ (или роботизированный организм) не должен причинять человеку физическую боль, либо допускать, чтобы она была причинена кем-то другим;
  • Робот исполняет любые человеческие приказы за исключением предыдущего правила;
  • Забота машины о собственной безопасности допускается в пределах, не противоречащих двум вышеизложенным пунктам.

Насколько реально исполнение? Как отмечают учёные, сейчас искусственный интеллект не достиг отметки, когда его действия могли бы привести к формированию полноценного разума. Соответственно, закладывание программы безопасности на нижний уровень прошивки – это задел на будущее. Однако сейчас у человечества полно других забот. Вполне возможно, что опасность ИИ широкими массами попросту недооценивается.

Порой механизм выходит из-под контроля и приводит к гибели владельца. Например, вспомните единичные случаи отказа «умной» электроники в Tesla Motors, заканчивавшиеся аварией. Но всё это относится к простым сбоям техники, а не к осознанному выбору. Совсем иные дилеммы начнутся, когда все автомобили станут беспилотными. Общее число аварий уменьшится на 90 %, однако возникнут случаи, когда виртуальному разуму придётся принимать критические решения, ведущие к выживанию одних и смерти других людей.

Как отмечал в интервью различным изданиям сам Айзек Азимов, неоценимую помощь в формулировке этих постулатов оказал главред издания Astounding Джон Кэмпбелл. Первая рукопись рассказа «Хоровод» была отвергнута им из-за схожести с другим литературным произведением. Это не стало сюрпризом для автора, но он решил спросить совета непосредственно у редактора, с которым имел приятельские отношения.

Тогда Кэмпбелл с Азимовым и сформулировали эти 3 правила. В дальнейшем фантаст эксплуатировал их во многих романах и повестях, старательно обыгрывая ситуации с нарушениями заложенной программной логики. Если говорить о реализации на большом экране, то первое заимствование датируется 1956-м.

Речь о «Запретной планете», ставшей культовой фантастикой и повлиявшей на дальнейшее развитие голливудского кинематографа. Известно, что создатели «Звёздного пути» позаимствовали идеи из кино ещё до того, как прочли литературный первоисточник.

Подписывайтесь на наши каналы в Яндекс.Дзене и на YouTube! Копирование текстов с сайта GameNewsBlog.ru запрещено. Комментарии закрыты ввиду невозможности их модерации.

ТегиАйзек АзимовИИискусственный интеллект

Об авторе
GNB-Gamer

Продажа сайта или домена не интересует. Общий E-mail для связи: gamenewsblog2017@gmail. com.

Больше публикаций (8572)

Азимов, Айзек. Три закона робототехники



Азимов, Айзек. Три закона робототехники

Ми працюємо! Детальніше

Главная —
Художественная литература —
Фантастика —
Азимов, Айзек. Три закона робототехники

Фильтры

  • Художественная литература

    • Детективы, ужасы
    • Исторический роман
    • Классика
    • Любовный роман
    • Мемуары, документалистика
    • О войне
    • Поэзия
    • Приключения, путешествия
    • Сатира, юмор
    • Советская литература
    • Современная литература
    • Фантастика
    • Фольклор
  • Естественные и технические науки

    • Архитектура, строительство
    • Астрономия, космонавтика
    • Биология, животные
    • География, геология
    • Компьютеры, программирование
    • Математика, логика
    • Медицина, спорт, здоровье
    • Металлургия
    • Промышленность, производство
    • Техника, электроника
    • Транспорт
    • Физика
    • Химия
    • Черчение
  • Общественные и гуманитарные науки

    • Астрология, непознанное
    • Военное дело
    • Деловая литература
    • История
    • Наука, изобретательство
    • Педагогика
    • Политика, социология
    • Психология, отношения
    • Религия, оккультизм
    • Философия
    • Этика, эстетика
    • Этнография
    • Юридическая литература
    • Язык, литература
  • Детская литература

    • Познавательная
    • Художественная
  • Культура

    • Изобразительное искусство
    • Музыка, пение
    • Театр, кино
    • Теория и история искусств
  • Увлечения

    • Коллекционирование, книжное дело
    • Кулинария, домоводство
    • Мода, красота
    • Настольные игры, развлечения
    • Пчеловодство
    • Ремонт, сделай сам
    • Рукоделие, швейное дело
    • Рыбалка, охота
    • Сад, огород
    • Фотография, фотодело

Букинистическое издание (б/у)

нет в наличии

Серия: Стальная Крыса
Издательство: М. : Эксмо
Переплет: ламинированный твердый
Формат: стандартный
Год издания: 1999
Страниц: 505

С момента написания Айзеком Азимовым первого рассказа о роботах прошло уже более полувека. Сегодня роботы на самом деле существуют и выполняют вполне определенные полезные функции. Конечно же, они не столь умны и сообразительны, как их предшественники, действующие в произведениях Азимова, но они стремительно совершенствуются в направлении, заданном великим фантастом. Детально разработанные и сформулированные Айзеком Азимовым `Три закона роботехники` до сих пор являются неиссякаемым источником новых идей для людей, занимающихся созданием искусственного интеллекта.

В настоящий сборник вошли лучшие рассказы о роботах, написанные автором в разное время.

×

ГЛАВНАЯ
ПОИСК
ВСЕ КНИГИ
КНИГИ С АВТОГРАФОМ
ДОСТАВКА И ОПЛАТА
КОНТАКТЫ
ОБ АВТОРСКОМ ПРАВЕ
ТЕГИ

Три закона робототехники — ЗАМЕЧАНИЕ

Три закона робототехники проникли в научную фантастику и популярную культуру, и на них ссылаются во многих книгах, фильмах и других средствах массовой информации. Совсем недавно они повлияли на этику искусственного интеллекта. Но откуда берутся эти так называемые «Законы»?

В своем рассказе 1942 года Runaround (опубликованном в журнале Astounding Science Fiction ) известный американский писатель-фантаст русского происхождения (и биохимик) Исаак Азимов (1920 — 1992) изложил то, что он описал как «три фундаментальных правила робототехники — три правила, которые наиболее глубоко встроены в позитронный мозг робота».

«Позитронный мозг» — термин, придуманный Азимовым. Позитрон (он же антиэлектрон) был относительно недавно открытой субатомной частицей, когда Азимов писал. (Технические детали того, как на самом деле будет работать это роботизированное сознание, немного туманны.)

Правила подразумевались в более ранних рассказах об Азимове, но это был первый раз, когда они были изложены. Три правила, взятые из Справочник по робототехнике, 56-е издание, 2058 год нашей эры:

  1. Робот не может причинить вред человеку, или своим бездействием допустить, чтобы человеку был причинен вред.

  2. Робот должен подчиняться приказам, отданным ему людьми , за исключением случаев, когда такие приказы противоречат Первому закону.

  3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам». Айзек Азимов ЗДЕСЬ.

    В более поздней работе Азимов ввел то, что он назвал Нулевым Законом (да, это слово), предшествующим первым трем правилам с точки зрения приоритета, который гласил:

    0. » Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечество причинило вред.

    В интервью 1975 года Азимов сказал, что законы изначально были предложены, чтобы избежать «мотива Франкенштейна», который был популярен в научной фантастике того времени… историй о роботах, уничтожающих своих создателей. Ой!

    Три правила Азимова и его сочинения в целом оказали влияние на поп-культуру, технологическую индустрию и на людей, задумывающихся над этическими, юридическими и практическими проблемами, связанными с различными формами ИИ. Были предложены альтернативы и модификации для устранения ограничений и неясностей правил. Как бы вы перевели правила, написанные Азимовым на английском языке, на язык, понятный машинам? Одно обновление Правил было предложено ученым-юристом из США Фрэнком Паскуале (2020). Первое правило его «Новых законов робототехники» гласит, что «роботизированные системы и ИИ должны дополнять профессионалов, а не заменять их» .

    Идеи из научной фантастики все еще появляются в сегодняшних размышлениях о возможностях технологий. Идея «метавселенной», концепции, отстаиваемой генеральным директором Meta Марком Цукербергом и другими, была представлена ​​Нилом Стивенсоном в его научно-фантастическом романе 1992 года « Snow Crash ».

    А в 2017 году тогдашний главный научный сотрудник Австралии Алан Финкель выступил с речью под названием «Научная фантастика для лидеров» перед участниками программы этического лидерства. Он выступал за чтение хорошей научной фантастики, утверждая, что она «вырезает в нашем сознании место для будущего» .

    В заключение послушайте ЗДЕСЬ новозеландская группа Flight of the Conchords, описывающая время в «далеком будущем», когда роботы осмелились нарушить пару этих ключевых правил. Наслаждаться.
    ____________________________

    Ссылка на Википедию: Три закона робототехники (текст) CC BY-SA
    Другие ссылки: Новые законы робототехники Фрэнка Паскуале

     

     

    Можем ли мы по-прежнему полагаться на Три закона робототехники Исаака Азимова? | Виджини Маллаваараччи

    Прошло ровно 75 лет с тех пор, как Исаак Азимов придумал свой знаменитый Три закона робототехники , где он представил, что роботы будут действовать как слуги (чистые домохозяйства, пилотировать космические корабли и т. д.) и описал набор правил которому должны следовать роботы, чтобы гарантировать, что они не причинят вреда человеку. Эти законы были призваны избежать так называемого робопокалипсиса , когда роботы выйдут из-под контроля и в конечном итоге будут угрожать человеческой жизни.

    Ниже приведены три закона робототехники, изложенные в его рассказе Обход в 1942 году.

    1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

    2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.

    3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму Закону.

    Конференция по чат-ботам 12 сентября Chatbot’s Life проведет нашу первую конференцию по чат-ботам в Сан-Франциско. The…

    www.eventbrite.com

    Позже Азимов придумал четвертый или нулевой закон , который предшествовал другим по важности.

    0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечество причинило вред.

    В своих научно-фантастических романах он требовал, чтобы эти законы были встроены в программное обеспечение, управляющее роботами, и их нельзя было обойти, изменить или перезаписать. Однако он также описал некоторые ситуации, когда определенные сбои и лазейки в программировании роботов приводили к паранормальному поведению.

    Благодаря нынешнему прогрессу в области искусственного интеллекта и робототехники у нас очень разные представления о том, как выглядят роботы и что они могут делать. В настоящее время разработаны роботы размером всего в несколько нанометров, которые могут проникать в кровоток человека и разрушать тромбы на своем пути, спасая человеческие жизни. Такие компании, как Boston Dynamics, придумали различных роботов, чтобы помогать людям и выполнять различные задачи, которые люди не могут выполнить. Кроме того, в космических исследованиях широко используются робототехника, когда роботы отправляются на далекие планеты и в солнечные системы. В «Беседе» говорится, что в будущем роботы станут частью всех аспектов человеческой жизни, а взаимодействие человека и робота станет более заметным.

    Mars Rover

    Использование трех законов робототехники в настоящее время может показаться довольно расплывчатым, поскольку в их определениях есть несколько вопросов. Некоторые из этих проблем перечислены ниже.

    • Эти законы не могут должным образом определить и разграничить « человека » и « робота ». Некоторые отрасли робототехники в настоящее время сосредоточены на более клеточном или даже молекулярном уровне.
    • Нет четкого определения причинения вреда людям. Вред человеку может варьироваться в диапазоне от физического до эмоционального уровня.
    • Если бы роботы обладали сверхчеловеческим интеллектом, трудно предположить, что они не найдут способ изменить свою собственную программу. Согласно таким достижениям, есть вероятность, что однажды робот даже научится перепрограммировать себя.
    • Если целью робота было сражаться в бою и спасать солдат и мирных жителей во время войны, он мог бы нарушить первый закон, поскольку ему, возможно, пришлось бы причинить вред своим врагам.

    На фоне всех этих фактов это может показаться обсуждением научной фантастики. Однако в настоящее время роботы стали реальностью. Это уже не просто научная фантастика.

    Тем не менее, область искусственного интеллекта не соответствует ожиданиям, чтобы эти законы могли быть воспроизведены внутри части оборудования. Требуются значительные достижения, чтобы внедрить и заставить роботов действительно следовать таким законам.

    Исаак Азимов (Источник изображения: https://www.biography.com/people/isaac-asimov-9190737)

    Айзек Азимов был одним из лучших в мире авторов научной фантастики, а также опытным ученым. Следует признать, что Исаак Азимов придумал такое творческое воображение 75 лет назад, когда мир понятия не имел, что такое роботы, тем самым добавив новый колорит в область научной фантастики.