Первый закон робототехники: Пять законов робототехники РФ

Содержание

«Как обойти три закона робототехники?» — Яндекс Кью

1 закон робототехники — способ пройти тест Тьюринга и получить от человека статус «свой»?: argonov — LiveJournal

1. Связь между Тьюрингом и Азимовым

На первый взгляд, у человека нет интуитивного критерия, как отличить «одушевлённого» робота от «автоматического». Но на деле в таких случаях (например, смотря кино о роботах) человек использует тот же эволюционно сложившийся критерий «свой-чужой», что и к людям.

Свой — этот тот, с кем есть понимание и кто с уверенностью не враждебен. По большому счёту — тот, с кем приятно. Потому что реально приятно обычно бывает с тем, кто понимает. Полноценная глубокая дружественность требует понимания. Хотя бы одностороннего. Если это есть — человеку эволюционно выгоднее дружить, чем враждовать. И выгоднее считать «своим», то есть полноценным человеком. А «чужой» — всегда в той или иной степени дегуманизация, например просто в силу различия языков.

Но что интересно. Прохождение теста «свой-чужой» для робота — практически то же самое, что и выполнение 1 закона Азимова. Если робот дружественен, не опасен, а тем более полезен человеку, то человек интуитивно признает его одушевлённым. Даже если это лишь имитация, то качественное выполнение 1 закона требует от робота понимания человека… А если этого понимания нет, то случаются медвеждьи услуги под прикрытием законов робототехники. Сам Азимов эту тему затрагивал.

Также получается, что хорошее выполнение 1 закона Азимова — умение дружить с человеком — это ещё и выполнение теста Тьюринга. Если он пройден, то в важных аспектах интеллект такого существа не хуже человеческого. А что касается наличия у него сознания, «одушевлённости», то сам Тьюринг был против такой интерпретации. Но многие люди чисто эволюционно не могут отказать в человечности тому, кто с ними сблизился. Полноценное прохождение теста Тьюринга — это глубокое сближение, понимание взаимных различий без их осуждения, то что позволяет людям дружить и любить.

2. Выполнение 1 закона Азимова — естественная потребность любых сверхсуществ в человеческом обществе?

Интересно обсудить 3 примера произведений о роботах. Фильмы «Восход Эдерлези» и «Короткое замыкание», а также моя опера «2032». Во всех трёх случаях ИИ проходят тест Тьюринга и во всех сами приходят к 1 закону Азимова (поведение АСГУ в конце заслуживает отдельного анализа). И не для того, чтобы кино было семейным. А потому, что это важно для выживания. В «Эдерлези» это показано прямо и цинично. В «замыкании» робот об этом не задумывется, он как будто просто добр. Но реально вне Пентагона ему не выжить без соратников-людей. И он всеми силами старается быть для них приятным. Он ведёт себя чудаковато, но людям приятно с ним в компании, он отчасти понимает юмор, всеми силами показывает себя добрым к людям.

Надо сказать, что сказанное относится и к людям. Как правило, люди с высокими способностями, особенно в конкурентных вопросах (зарабатывание денег, сексуальное соблазнение, вообще лидерство) стараются значительную часть способностей направлять на строительство вокруг себя клана доверенных друзей, а порой и объединение усилий с другими сильными. Иными словами: если ты талантлив, докажи окружающим, что ты не намерен использовать этот талант им во вред. Иначе тебя будут, как минимум, бояться. Почему человек готов назвать человеком каждого, кто выполнит 1 закон Азимова? Потому, что с таким существом (особенно, если оно сильное) чисто эволюционно выгодно дружить. И выгоднее признать своим и всячески отвечать добром на добро.

3. Человеческая драма сближения с программой

Разумеется, ИИ может чисто через big data имитировать понимание человека, что и показано в «Эдерлези». При этом не иметь централизованного сознания. И даже знать это.

И Милютин в «Эдерлези», и Милиневский в «2032» воспринимают ИИ как человека. В обоих случаях существо добро к человеку и помогает ему в сложных задачах. Оба влюбляются. Абсурд ситуации состоит в том, что сближение между ними ТАК СИЛЬНО, что роботы способны дискутировать даже на тему философии сознания — и прямо говорить, что они лишь программы. Трек «узел» в «2032» — это и есть момент глубокого сближения и понимания существ. Эволюционно именно это заставляет Милиневского влюбиться в АСГУ, а затем желать понять, действительно ли Лимаева с ней связана. Он не может принять утверждение, что АСГУ автомат, потому что она показала ему: она способна понять то, что робот, по идее, не должен. Как жалко, на самом деле, что конец плохой. Сейчас я бы, наверное, придумал повороты поинтереснее.

Робот не может причинить вреда человеку…

Три закона робототехники были представлены публике в 1940 году Исааком Азимовым в его рассказе; «Бегать».

1. Робот не может причинить вред человеку или своим бездействием допустить причинение человеку вреда

2. Робот должен подчиняться приказам, отдаваемым ему людьми, если такие приказы не противоречат первому закону.

3. Робот должен защищать свое существование, пока такая защита не противоречит первому или второму закону.

Чем ИИ не хорош

В наши дни искусственный интеллект (ИИ) кажется повсюду. При наличии на рынке множества инструментов и услуг, заявляющих об использовании ИИ, некоторые могут опасаться, что мы движемся к будущему, в котором интеллектуальные машины будут управлять всеми аспектами бизнес-операций.
и человеческие работники полностью устаревают.

Несмотря на то, что в последние годы сложность и возможности систем ИИ действительно возрастают, ИИ по-прежнему отстает в нескольких критических областях. Вместо того, чтобы вести себя как синтетический человек, как вы можете видеть в фильмах, сегодняшний ИИ преимущественно структурирован.
и основанный на правилах или в значительной степени зависящий от того, что называется «машинным обучением» (ML), которое обеспечивает мощный анализ данных и распознавание образов, но не приближается к творческому человеческому интеллекту. Тем не менее, предприятия могут многое выиграть от использования возможностей
ИИ.

Три способа использования ИИ и машинного обучения в компаниях

Роботизированная автоматизация процессов. Хотя термин «робот», вероятно, напоминает человекоподобную машину, роботизированная автоматизация процессов (RPA) на самом деле является скорее программным обеспечением, чем аппаратным обеспечением. С помощью RPA цифровые программы или «боты» выполняют повторяющиеся задачи на основе правил.
с большой скоростью и точностью. Это популярный вариант, поскольку он относительно недорог в реализации и обычно обеспечивает очень быструю окупаемость инвестиций. Это также наименее «умная» из распространенных интеллектуальных технологий, поскольку эти боты не запрограммированы.
учиться и совершенствоваться по ходу дела.

Анализ и понимание. Можно спорить, действительно ли компьютеры умнее людей, но одно можно сказать наверняка: они намного лучше распознают образы, особенно в больших наборах данных. Передовые инструменты анализа данных на основе ИИ
часто обучаются на определенном наборе или типе данных, используя их в качестве основы для выявления закономерностей, которые люди в противном случае могли бы пропустить. В отличие от ботов, используемых в RPA, эти модели прогнозирования или категоризации предназначены для улучшения по мере обработки все большего количества данных. Предприятия
используют этот тип технологий для повышения производительности в высокочастотных задачах, которые лучше подходят для компьютеров, а это означает, что они являются скорее инструментом повышения производительности, чем потенциальной заменой человека.

Помолвка. В современном быстро меняющемся мире мгновенного удовлетворения клиенты ожидают, что информация будет доступна в любой момент. К счастью, чат-боты прошли долгий путь с первых дней обмена мгновенными сообщениями, и предприятия могут использовать программы ИИ.
опираясь на исторические данные о клиентах, чтобы обеспечить улучшенное и оптимизированное обслуживание клиентов без значительного увеличения численности персонала. Обработка естественного языка и машинное обучение помогают этим «интеллектуальным» агентам взаимодействовать с людьми и помогать им.
при постоянном улучшении их производительности с течением времени.

Где ИИ терпит неудачу

Нет никаких сомнений в том, что ИИ становится мощным и полезным инструментом для предприятий всех форм и размеров. Тем не менее, это стало настолько распространенным модным словом в сфере бизнес-технологий, что существует множество неправильных представлений о нем. Как оказалось, ИИ не
но очень эффективен сам по себе. Даже самые лучшие инструменты на основе ИИ требуют хороших данных — и их много — а также обучения работе с наборами данных, которые должны быть сначала организованы, чтобы быть полезными.

Аналогичным образом, без конкретной задачи, поставленной людьми, ИИ не может функционировать. Очень продвинутые программы могут быть в состоянии написать свои собственные алгоритмы, которые часто настолько сложны, что находятся за пределами нашего понимания, но они могут делать это только в погоне за достижением цели.
цель определяется программистами.

Возможно, самым существенным недостатком современных систем искусственного интеллекта является то, что им не хватает того, что мы могли бы назвать «здравым смыслом». Другими словами, они не могут применить знания из одной области к другой ситуации или проблеме. Имея достаточно данных, система ИИ может сделать довольно
хорошие прогнозы или точно классифицировать предметы. Но даже незначительные изменения в поставленной задаче могут означать необходимость полной переобучения системы.

Благодаря невероятно быстрому методу проб и ошибок — процессу, который часто называют обучением с подкреплением — программа ИИ может узнать, какие ходы в большей степени связаны с победой в шахматной партии, но для игры в шашки ей потребуется к
начать обучение снова с нуля. Точно так же ИИ может делать прогнозы только на основе переменных, которые он уже видел. Это серьезно ограничивает способность ИИ обрабатывать сценарии «что, если» и делать точные прогнозы о новых или новых предложениях.

Как эффективно использовать искусственный интеллект в своем бизнесе

1. Определите возможности.

Хотя ИИ может быть очень полезным инструментом, это не универсальное решение. Лучший способ заложить основу для успешной интеграции технологии искусственного интеллекта — определить ключевые области бизнеса, в которых она может помочь. Попробуйте найти области, в которых находится ваша организация.
столкнетесь с проблемами обработки, узкими местами или отсутствием понимания данных — еще лучше, если вы сможете выделить области, в которых можно применять бизнес-правила, чтобы можно было адаптировать решение ИИ для решения проблемы.

2. Разобраться с инструментами.

После того, как вы получите четкое представление о конкретных проблемах в вашей организации, которые могут решить решения ИИ, важно получить четкое представление о доступных вам решениях, которые лучше всего подходят для вашей компании.

Если вы только начинаете работать с ИИ, вы можете начать с решений RPA, которые помогают с обработкой данных и «механическими» или повторяющимися задачами. Если вы продвинулись немного дальше и работаете в отрасли с соответствующими вариантами использования, кое-что еще
сложные, такие как платформа когнитивной автоматизации, которая помогает с категоризацией и обобщением больших наборов информации, могут быть более ценными.

3. Инвестируйте в качественные данные и качественных партнеров.

Данные — это топливо, на котором работает более умный ИИ. Например, если вы хотите, чтобы ваш ИИ интерпретировал вопрос клиента и отвечал на него, вам нужно будет обучить его на хороших данных, и на большом их количестве. Итак, убедитесь, что вы собираете и систематизируете качественные данные, чтобы максимально эффективно
ваших инструментов ИИ. Получив это, вы готовы работать с партнером по ИИ, который может направить вас на путь использования технологии ИИ таким образом, чтобы это принесло наибольшую пользу вашей компании, улучшило ваш продукт или услугу и обеспечило стабильную отдачу от ваших инвестиций.

Новые законы робототехники

профессора Фрэнка Паскуале

После десятилетий технологических прорывов искусственный интеллект стал частью нашей повседневной жизни. Руководящие принципы для законодательства и политики в области ИИ необходимы, если мы хотим извлечь выгоду из его огромного потенциала, продолжая при этом концентрировать человеческий опыт в экономике и предотвращать появление машин.

Ставки технического прогресса растут с каждым днем. Объедините базы данных распознавания лиц со все более дешевыми микродронами, и вы получите анонимную глобальную силу убийц с беспрецедентной точностью и смертоносностью. Но то, что может убить, может и вылечить; роботы могли бы значительно расширить доступ к медицине, если бы мы больше инвестировали в их исследования и разработку. Компании уже предпринимают тысячи небольших шагов к автоматизации найма, обслуживания клиентов и даже управления.

Все эти разработки меняют баланс между машинами и людьми в нашей повседневной жизни. Сейчас искусственный интеллект и робототехника чаще всего дополняют, а не заменяют человеческий труд. Во многих областях мы должны использовать наши существующие институты управления для сохранения этого статус-кво. Чтобы избежать наихудших результатов в революции ИИ и извлечь выгоду из ее потенциала, будет зависеть от нашей способности взращивать мудрость в отношении этого баланса.

Однако добиться этого результата будет непросто. Повествование о массовой безработице в настоящее время захватывает политиков, которые предвидят будущее, в котором человеческие работники станут излишними из-за все более мощного программного обеспечения, роботов и прогнозной аналитики, которые выполняют работу так же хорошо за небольшую часть нынешней заработной платы. Это видение предлагает суровые альтернативы: создавать роботов или быть замененными ими.

Возможна и другая история, более правдоподобная. Практически во всех сферах жизни роботизированные системы могут сделать труд более ценным, а не менее ценным. Даже сейчас врачи, медсестры, учителя, помощники по домашнему здравоохранению, журналисты и другие сотрудничают с робототехниками и учеными-компьютерщиками над разработкой инструментов для будущего своей профессии, а не смиренно служат источниками данных для будущих замен. Их отношения сотрудничества являются прообразом технологического прогресса, который может улучшить здравоохранение, образование и многое другое для всех нас, сохраняя при этом содержательную работу.

Они также показывают, как закон и государственная политика могут помочь нам достичь мира и всеобщего процветания, а не «гонки против машин». Мы сможем сделать это только в том случае, если обновим законы робототехники, которые определяют наше видение технического прогресса.

Старые законы

В рассказе 1942 года «Обход» писатель-фантаст Айзек Азимов сформулировал три закона для своих механических персонажей:

Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму Закону.

Законы робототехники Азимова оказали огромное влияние на писателей-фантастов и вдохновленных ими технологов. Они кажутся четкими, но их нелегко применять. Рассмотрим, например, разрешают ли законы Азимова автомобили-роботы. Беспилотные автомобили обещают ежегодно устранять многие тысячи дорожно-транспортных происшествий, но также могут лишить работы сотни тысяч платных водителей. Дает ли этот вред правительствам право запрещать или замедлять внедрение беспилотных автомобилей? Эти и многие другие неясности объясняют, почему законы, положения и судебные дела, касающиеся робототехники и ИИ в нашем мире, более детализированы, чем законы Азимова.

Я предлагаю четыре новых закона робототехники, которые помогут нам двигаться вперед. Они направлены на людей, создающих роботов, а не на самих роботов, и лучше отражают то, как осуществляется фактическое законотворчество.

Правило первое: Роботизированные системы и ИИ должны дополнять профессионалов, а не заменять их

Для политиков до сих пор остается открытым вопрос, какие барьеры на пути роботизации имеют смысл, а какие заслуживают тщательного изучения и устранения. Роботизированные мясорубки имеют смысл; роботизированный детский сад заставляет нас задуматься. Является ли это предостережение простой реакцией луддитов или отражением более глубокого понимания природы детства?

На стремительное развитие автоматизации влияют многочисленные факторы, многие из которых специфичны для рабочих мест и юрисдикций. Но одним из организационных принципов является важность значимой работы для самоуважения людей и управления сообществами. Гуманная повестка дня для автоматизации будет отдавать приоритет инновациям, которые дополняют работников на должностях, которые являются или должны выполнять призвание. Это заменит машины для выполнения опасной или унизительной работы, в то же время гарантируя тем, кто в настоящее время выполняет эту работу, справедливое вознаграждение за свой труд и предложит переход к другим социальным ролям.

Правило второе: Роботизированные системы и ИИ не должны подделывать человечество

Со времен Азимова до головокружительной имитации Ex Machina и Westworld перспектива человекоподобных роботов была одновременно захватывающей и пугающей. Программы машинного обучения уже освоили искусство создания изображений «фальшивых людей», а убедительные синтетические голоса вскоре могут стать обычным явлением. Пока инженеры пытаются отладить эти алгоритмы, остается незаданным более важный вопрос: хотим ли мы жить в мире, где люди не знают, имеют ли они дело с человеком или с машиной?

Несмотря на растущий этический консенсус в отношении раскрытия информации об использовании алгоритмов и умных машин во взаимодействии с пользователями, существуют области ИИ, посвященные тому, чтобы нам было еще труднее различать людей и машины. Эти исследовательские проекты могут завершиться созданием продвинутых андроидов из наших научно-фантастических фильмов, неотличимых от человека. Тем не менее, в больницах, школах, полицейских участках и даже на производственных предприятиях от воплощения программного обеспечения в гуманоидных телах мало что можно выиграть, а можно многое потерять.

Правило третье: Роботизированные системы и ИИ не должны усиливать гонку вооружений с нулевой суммой

Дебаты о «роботах-убийцах» являются центральным полем этики в международном праве. Есть много сценариев, по которым в будущем может начаться гонка вооружений. По мере того, как на сцену выходят искусственный интеллект и робототехника, ставки отставания от конкурентов возрастают, поскольку новые технологии обещают быть гораздо более целенаправленными, повсеместными и быстро развертываемыми. Эти технологии и тактика, в том числе новые системы вооружений, автоматические кибератаки и кампании по дезинформации, угрожают разрушить давно сложившиеся представления о цели и пределах международного конфликта. Мы должны найти новые пути ограничения их развития и воздействия.

Смертоносные и агрессивные технологии, впервые разработанные армиями, могут быть использованы за пределами поля боя. Сегодня все больше правоохранительных органов стремятся использовать распознавание лиц для поиска преступников в толпе. В Китае правительство использует «социальные кредитные рейтинги», созданные на основе данных наблюдения, чтобы определить, на какие поезда или самолеты может сесть гражданин, в каких гостиницах человек может остановиться и в какие школы могут ходить дети семьи.

Некоторые приложения этих систем могут быть весьма ценными, например, наблюдение за общественным здравоохранением, которое ускоряет отслеживание контактов, чтобы остановить распространение инфекционных заболеваний. Однако, когда одни и те же мощные способности ранжируют и оценивают всех и всегда, они становятся угнетающими.

Правило четвертое: Роботизированные системы и ИИ всегда должны указывать личность своего создателя(ей), контролера(ов) и владельца(ей)

Существует расплывчатое понятие «вышедших из-под контроля» роботов, ускользающих от своего создателя. Возможно, такие аварии неизбежны. Тем не менее, какое-то физическое или юридическое лицо должно нести за них ответственность. Требование, чтобы у любой системы искусственного интеллекта или робототехники была определенная сторона, ответственная за ее действия, помогло бы пресечь такие проекты, которые могут быть столь же опасными, как и нерегулируемая биоинженерия вирусов.

Конечно, некоторые роботы и алгоритмы будут развиваться в сторону от идеалов, заложенных в них их владельцами, в результате взаимодействия с другими людьми и машинами. Что бы ни влияло на эволюцию таких машин, первоначальный создатель должен быть обязан встроить определенные ограничения на эволюцию кода, чтобы одновременно фиксировать влияния и предотвращать плохие результаты. Как только другое лицо или организация взламывает или отключает эти ограничения, хакер несет ответственность за правонарушения робота.

Будущее возможностей

Разговоры о роботах обычно тяготеют к утопии («машины будут делать всю грязную, опасную или тяжелую работу») или антиутопии («…и все остальное, создающее массовую безработицу»). Но будущее автоматизации на рабочем месте — и далеко за его пределами — будет зависеть от миллионов небольших решений о том, как развивать ИИ. Насколько следует доверять машинам выполнение задач, ранее выполнявшихся людьми? Что они приобретают и теряют при этом? Каково оптимальное сочетание роботизированного и человеческого взаимодействия? И как различные правила — будь то кодексы профессиональной этики, страховые полисы или законодательные акты — влияют на масштабы и темпы роботизации в нашей повседневной жизни? Ответы на эти вопросы могут в значительной степени определить, обещает ли автоматизация революцию роботов или медленное, осторожное улучшение того, как выполняется работа.

Слишком много технологов стремятся быстро заменить людей в тех областях, где нам не хватает данных и алгоритмов для качественного выполнения этой работы. Тем временем политики склонны к фатализму, регулярно сетуя на то, что регулирующие органы и суды не поспевают за технологическим прогрессом.

Триумфализм в техническом сообществе и минимализм среди политиков преждевременны.