Содержание
Законы робототехники — Двина 29
Если бы мне, когда я был школьником, кто-нибудь сказал, что роботов будут собирать пятиклассники, – не поверил бы, ведь робототехника – это что-то недоступное простому человеку. Каково же было мое удивление, когда я увидел своими глазами тех самых роботов, которых делали и программировали пятиклассники и даже один третьеклассник.
Опаздываем?
Эпоха романтического отношения к робототехнике прошла. Помните Айзека Азимова с его тремя законами робототехники? Сегодня роботы планомерно завоевывают мир. И их «блицкриг» уже не остановить. Да и не нужно останавливать, нужно научиться управлять роботами и жить с ними.
Многие инженеры утверждают, что робототехника сегодня – это то, чем Интернет был четверть века. Пока у России есть все шансы стать одним из лидеров в этой сфере, однако начинать нужно не с научных центров, а… с детей. Понимая это, Владимир Путин после общения с талантливыми педагогами и инженерами поручил разработать комплекс мер «для развития дополнительного образования детей в сфере научно-технического творчества, в том числе в области робототехники».
И началось: в городах и поселках появились кружки, где ребята разбирались в азах робототехники, строили простые и сложные механизмы, программировали. Планировали даже ввести робототехнику в школьную программу.
– Знакомство с основами робототехники было бы полезно для школьников, это дало бы им представление о современных технологиях, техносфере, возможность самим что-нибудь придумать, сконструировать, построить, но мы, к сожалению, опаздываем, – печально констатировала Марина Николаевна Краснова, руководитель кружка. – В других городах это направление активно развивается, а мы пока находимся на старте.
В этом году объединение «Робототехника» появилось и в Детском доме творчества.
Инноваторы
В этом году ДДТ закупил четыре комплекта для сборки робота Lego MindStorms, которые позволят ребятам изучать и программировать модели реальных роботов.
– Понимая важность и актуальность развития роботехники в городе, мы написали программу и приняли участие в конкурсе субсидий от регионального правительства, – рассказала Ольга Волкова, директор ДДТ.
– Главным условием конкурса было софинансирование со стороны городского бюджета.
Городские инноваторы, а как иначе назвать тех, кто двигает вперед образование, заручились поддержкой городской администрации и в итоге получили субсидию.
– Мы уже закупили необходимое компьютерное оборудование, – поделилась с нами Ольга Волкова, – и планируем еще докупить учебные наборы, роботов и даже 3D принтер.
Планы у педагогов грандиозные, и уже работает целая группа ребят-робототехников.
– Их за уши не оттащишь, – улыбается Марина Краснова. – Возятся с программами, ищут решения, строят алгоритмы.
Уникальность программы заключается в том, что ребята постигают инженерное дело с нуля.
– Мы разбираем, как собрать робота, его механику. Как сделать так, чтобы колеса крутились, захваты работали, а сам механизм не рассыпался на части, – рассказывает Марина Николаевна. – Дальше мы «заставляем» механизм работать, пишем программы. Упрощенно ребята проходят все этапы создания робота: от проектирования до программирования и испытаний.
Соревнования роботов
А на прошедших осенних каникулах команда ДДТ приняла участие во II открытом командном турнире по робототехнике AR2T2. Вместе с юными инженерами из Новодвинска в борьбу вступили более 70 команд из Архангельской области и Республики Коми.
Дистанционный формат турнира – разработка специалистов Архангельского областного института открытого образования, которая не имеет аналогов в стране. Такое решение позволяет сократить расходы участников соревнований – достаточно иметь выход в Интернет и желание состязаться.
– Задание как для нас писалось, – улыбается Марина Краснова. – Машинам предстояло освоить работу на импровизированном складе целлюлозно-бумажного комбината и переместить условные рулоны в точку доставки. Ребята быстро поняли, как должен отработать робот: подъехать, поднять «рулон бумаги» и поставить его на заданную площадку.
В течение четырёх часов команды дистанционно писали программы для искусственного интеллекта и тестировали роботов у себя на местах.
Готовые решения были направлены судейской комиссии, которая работала в институте открытого образования. Члены жюри оценивали точность написанных программ, испытывая работоспособность алгоритмов на реальных роботах.
– Этот турнир мы рассматриваем как один из путей популяризации технического образования. Такой формат состязаний интересен ребятам, ведь если год назад соревновались всего 34 команды, то в этом году свои силы в программировании и сборке роботов решили попробовать 72 команды, – отметил министр образования и науки Архангельской области Игорь Скубенко.
Ребятам из ДДТ не удалось завоевать призового места – до конца не выполнили задание. Но юные инженеры не расстроились: сам факт участия в таком соревновании внушал оптимизм.
– Мы еще победим! – уверена Марина Николаевна. – Мы же только начинаем, а скоро поедем на традиционный фестиваль в Северодвинск.
Нужна поддержка
За два с небольшим месяца работы нового кружка ребята из городских школ уже поняли, каково это – строить роботов.
– Мы хотели бы стать городским центром развития робототехники, – поделилась планами директор ДДТ Ольга Волкова. – Все для этого есть: и материальная база, и обученный педагог. Нужна только поддержка всех заинтересованных сторон: от властных структур до городского бизнеса, ведь эти ребятишки – будущие инженерные кадры предприятий города. Они будут внедрять новые технологии и развивать производства.
В планах учреждения и приобретение новых учебных моделей – педагоги мечтают о человекообразных роботах, и набор новых групп.
– Были бы дополнительные учебные комплекты, открыли бы еще одну группу хоть сейчас, – рассказывает Марина Краснова. – Но четырёх роботов, что есть сегодня, мало даже для полноценной работы одной группы. По инструкции предполагается два учащихся на один комплект, а у нас выходит три-четыре ребенка на одного робота.
Да, инновационному кружку не хватает учебных комплектов, компьютеров, 3D принтера, чтобы допечатать «свои» уникальные детали, но педагоги уверены, что их начинания буду поддержаны.
– Это направление нужно развивать, – убеждена Ольга Волкова. – Вы бы видели блеск в глазах мальчишек, у которых робот сам поехал. Это дорогого стоит!
Кто знает, может быть, именно ребятам из нашего города, воспитанникам ДДТ, предстоит разрабатывать роботов для освоения Марса или более близкой к нам Арктики.
Все законы робототехники Как будут законодательно регулировать машины с искусственным интеллектом — Meduza
Фото: Christopher Jue / EPA / Scanpix / LETA
Глава совета директоров Mail.Ru и основатель компании Grishin Robotics Дмитрий Гришин в середине декабря представил концепцию закона о робототехнике — по его словам, первую в мире. В действительности, подобные концепции, в том числе куда более детально разработанные, обсуждаются не первый год, в том числе в Европарламенте. «Медуза» рассказывает, что предлагает Гришин, как собираются регулировать роботов в Евросоюзе, и какие законы применяются к машинам сегодня.
Российский закон о робототехнике
По словам основателя Grishin Robotics Дмитрия Гришина, концепцию закона о робототехнике он создал с помощью юристов.
О содержании документа написали «Ведомости». Автор предлагает приравнять роботов одновременно к животным и юридическим лицам. У искусственного интеллекта нет эмоций, но при этом он, как и животные, способен к самостоятельным действиям. Аналогию с юрлицом Гришин объясняет тем, что робот тоже является «особой юридической конструкцией».
Для роботов должен быть создан специальный реестр, аналогичный единому государственному реестру юридических лиц. К создателям роботов могут применяться такие же меры, как к владельцам источников повышенной опасности, потому что машина способна в той или иной форме причинить вред. В зависимости от типа робота и той степени опасности, которую он несет для окружающих, ответственность будет лежать или на владельце, или на производителе: если робот изначально несет опасность и владелец об этом предупрежден, то владелец и будет отвечать, а за травмы, причиненные неопасным роботом-пылесосом, придется расплачиваться производителю, говорит Гришин в интервью Republic.
Гришин предлагает четыре сценария, когда действия робота подпадают под уголовное право:
- создание робота для совершение правонарушений
- отключение функций, блокирующих возможность причинения вреда человеку
- создание робота, у которого такого блока нет с самого начала
- конструирование робота без осознания того, что он может быть использован для причинения вреда человеку
Гришин направил концепцию в Высшую школу экономики, МГУ, СПбГУ и другие ведущие институты в надежде, что в будущем она станет основой для отдельного закона о робототехнике. Кроме того, он планирует рекомендовать свои наработки европейским комиссиям. Никакой реакции со стороны институтов или представителей законодательной власти на предложение Гришина не поступило.
Концепция законодательства о робототехнике Гришина основывается на знаменитых трех законах робототехники фантаста Айзека Азимова: робот не может причинить вред человеку; робот должен подчиняться человеку; робот должен заботиться о своей безопасности, если это не противоречит первым двум законам.
Впоследствии Азимов добавил к ним еще один, нулевой или четвертый: робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесен вред.
Глава совета директоров Mail.Ru и основатель компании Grishin Robotics Дмитрий Гришин
Фото: Сергей Фадеичев / ТАСС / Scanpix / LETA
Что предлагают в ЕС?
Отдельного законодательства, посвященного робототехнике и ответственности за поведение автономных роботов, нет ни в одной стране мира. Однако в Европарламенте существует рабочая группа, которая занимается этим вопросом. Ее работа началась совсем недавно, никаких окончательных предложений пока нет, но на сайте Европарламента можно найти промежуточный документ, в котором говорится о законодательстве для робототехники.
В нем сказано, что создатели роботов должны руководствоваться все теми же законами робототехники Азимова. «Умный робот» описывается в документе так механизм, способный к автономности за счет анализа данных с сенсоров или обмена информацией с окружающей средой, и обладающий способностью к самообучению.
Такие роботы должны быть зарегистрированы в Европейском агентстве по робототехнике и искусственному интеллекту. К роботам относятся и самоуправляемые автомобили, в документе особо подчеркивается, что законодательные нормы по отношению к ним должны быть разработаны и утверждены как можно скорее.
Один из наиболее серьезных вопросов любого законодательства о робототехнике — ответственность за то, что сделает робот. В документе отдельно подчеркивается, что необходимо учитывать автономность роботов в принятии решений. Чем она выше, тем меньше ответственности за его поступки должен нести владелец. Чем дольше робот обучался человеком, тем больше ответственности должно лежать на учителе, при этом нужно отличать приобретенные от человека способности с теми, которым робот научился сам.
Вопрос о том, кто будет отвечать за причиненный максимально автономным роботом ущерб, предлагается решать с помощью обязательной страховки; то есть в конечном итоге за последствия все-таки отвечает производитель, пусть и в форме страхования.
Эксперты также предлагают создать фонд или несколько фондов (по одному на каждую категорию роботов), которые будут пополняться за счет отчислений от производителей и расходоваться на компенсацию ущерба от действий роботов.
Предлагается создание специальной хартии робототехники, в которой будут описаны этические принципы разработки автономных аппаратов. Они таковы: роботы должны действовать в интересах людей; роботы не должны вредить человеку; польза, которую приносят роботы, должна быть доступной всем, в особенности это касается медицинских роботов. Принципы схожи с законами робототехники Азимова; предполагается, что любой разработчик роботов должен иметь их в виду при создании новых аппаратов. Исходный код роботов должен быть открыт для возможности расследования инцидентов. По тем же соображениям должна быть доступна история действий робота.
Гуманоидный робот Pepper, предназначенный для ухода за пациентами в бельгийской больнице, 16 июня 2016 года
Фото: Francois Lenoir / Reuters / Scanpix / LETA
Помимо ЕС вопросом о регулировании использования роботов занимаются в ООН, но с другой точки зрения.
Вопрос о роботах находится на рассмотрении конференции ООН по разоружению — многие правозащитные организации, в том числе Human Rights Watch, считают, что использование автономных военных роботов должно быть запрещено конвенциями о правилах ведения войны. Пока такие роботы не применяются (широко распространенными беспилотниками управляют операторы), но создание робота, способного самостоятельно принимать решение об убийстве противника, вполне возможно.
Законы и роботы прямо сейчас
В отсутствии специального законодательства, сегодня к роботам применяются существующие законы. Преподаватель университета Вашингтона Райан Кейло подробно разобрал, как сосуществуют роботы и законодательство в США. По его словам, американское право на протяжении шести десятков лет пытается понять, как именно нужно трактовать ситуации с участием различных механизмов разной степени автономности.
Американские суды, как выяснил Кейло, не раз сталкивались с крайне необычными вопросами относительно роботов: например, решали, можно ли говорить, что роботы исполняют музыку в том же смысле, что и люди.
Ученый считает, что робот — это устройство, которое способно собирать данные о том, что происходит вокруг него, оценивать эти данные и действовать в зависимости от своих выводов; именно эти три качества, по мнению Кейло, отличают роботов от ноутбука или любого другого высокотехнологичного устройства.
Вопрос о том, может ли робот считаться таким же исполнителем музыки, как и человек, был поднят в США в 1987 году. Ресторан в Мэриленде для развлечения поставил в зале несколько человекообразных механизмов, которые по заранее заложенной в них программе играли на музыкальных инструментах. С точки зрения законодательства за любое исполнение живой музыки в ресторанах нужно платить отдельный налог, и ресторану пришлось в суде доказывать, что эти роботы — ни что иное, как механический музыкальный автомат.
После долгого разбирательства суд все-таки решил, что таких роботов нельзя считать исполнителями в обычном понимании этого слова — они действуют по программе, не могут ошибиться или импровизировать, и, по сути, ничем не отличаются от заводной игрушки-обезьянки, которая стучит в барабан.
Тогда роботов, способных исполнять музыку без заданной программы, не было, сейчас их создание вполне возможно, но как именно трактовать их — как исполнителей или просто продвинутый музыкальный автомат, неясно.
Еще одно любопытное дело касалось обнаружения затонувшего корабля. Согласно морскому праву, тот, кто первый найдет обломки давно затонувшего судна, тому и принадлежит эксклюзивное право на все, что было на его борту, включая золото и прочие ценности. В конце 1980-х исследователи обнаружили пароход «Централ Америка», который затонул в 1857 году с грузом золота. Обнаружить его удалось с помощью беспилотной подводной лодки, и встал резонный вопрос: не ей ли принадлежат права на сокровища. Суд встал на сторону кладоискателей: он решил, что подводной лодкой управляли люди, которые через ее камеры видели обломки корабля, так что никакой необходимости отправлять к месту крушения водолазов и дополнительно объявлять о своих правах, не было. Но вот как быть, если подлодка не только беспилотная, но и автономная (то есть не управляется человеком), неизвестно — подобных случаев в истории пока не было.
Райан Кейло заключает, что в американском праве сейчас робот трактуется как программируемая машина, выполняющая волю человека, а случаев, когда разбиралось бы автономное поведение, не было. И на данным момент ситуация такова, что создатель или владелец робота несет ответственность за его действия, хотя на самом деле есть множество машин, которые запрограммированы принимать самостоятельные решения в зависимости от происходящего вокруг.
Павел Борисов
Законы робототехники Айзека Азимова нуждаются в обновлении?
Такие авторы, как Айзек Азимов, задолго до современной взаимосвязанной цифровой эры представляли себе мир с человекоподобными роботами, помогающими нам в нашей повседневной деятельности.
Еще в 1942 году в рассказе «Обход» он сформулировал три правила поведения роботов, чтобы защитить нас при взаимодействии с ними:
- Робот не может причинить вред человеку или своим бездействием быть причинить вред.
- Робот должен подчиняться приказам, отданным ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону.
- Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
Позже он ввел четвертый или нулевой закон, содержащий остальные:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечество причинило вред.
Современные роботы превзошли исключительное дальновидное воображение Азимова и помогают нам во многих видах деятельности, выполняя их более эффективно, быстрее, с более высоким качеством и меньшими затратами.
Приложения для роботов быстро развиваются. Они становятся совместными, как Юми из ABB, облегчая взаимодействие с людьми, сохраняя безопасность окружающих их работников.
ABB Ability TM TXplore TM — еще один пример роботов нового поколения. Он устанавливает новую парадигму обслуживания трансформаторов.
TXplore — первый погружной робот, выполняющий внутреннюю проверку трансформаторов, заполненных жидкостью.
Управляемый дистанционно, TXplore обеспечивает доступ к самым труднодоступным местам внутри маслонаполненных силовых трансформаторов, записывая видео и фотографии высокого качества, которыми можно поделиться с удаленными экспертами практически в режиме реального времени.
Что побудило инженеров АББ разработать это новое решение? У них личная безопасность была на первом месте.
Применяя TXplore для проверок, мы избегаем проникновения персонала в замкнутые пространства силового трансформатора с узкими и опасными зонами в атмосфере с низким содержанием кислорода.
Он также защищает состояние трансформатора (предотвращая воздействие окружающей атмосферы и потенциальный ущерб от взаимодействия с человеком) и окружающую среду (исключая любой риск разлива, поскольку масло не сливается).
Внутренние проверки трансформаторов с помощью TXplore также обеспечивают значительное сокращение времени и затрат, при этом время простоя сокращается до нескольких часов, а затраты снижаются до 50%.
Такие роботы, как TXplore, обладают преимуществами, которых ожидали авторы научной фантастики, и не только. Благодаря возможности загружать данные о состоянии трансформатора в облако, TXplore также может улучшить интеллектуальные функции трансформаторов ABB и использовать другие преимущества, полученные с помощью инструментов машинного обучения, для принятия более эффективных решений по эксплуатации и техническому обслуживанию.
Не пора ли обновить законы Азимова?
Ссылки:
- Веб-страница: ABB Ability™ Inspection for Transformers — TXplore™
- Видео: ABB Ability™ TXplore™, первый в мире погружной робот для проверки трансформаторов
- Статья в официальном документе: Робот ABB TXplore меняет представление о проверке трансформаторов
Законы Азимова А.И.
В обзорной статье в NY Times и в выступлении на TED Talk в конце прошлого года Орен Этциони, доктор философии, автор и генеральный директор Института искусственного интеллекта Аллена, предложил обновить три закона искусственного интеллекта Айзека Азимова.
Учитывая широкое внимание средств массовой информации, вызванное предупреждениями Илона Маска (и других), эти обновления, возможно, стоит просмотреть.
Предупреждения
В открытом письме в ООН группа специалистов из 26 стран во главе с Илоном Маском призвала ООН запретить разработку и использование автономного оружия. Среди подписантов были Маск и соучредитель DeepMind Мустафа Сулейман, а также более 100 других лидеров компаний, занимающихся робототехникой и искусственным интеллектом. Они пишут, что технология ИИ достигла точки, когда развертывание таких систем в виде автономного оружия возможно в течение нескольких лет, а не десятилетий, и многие в оборонной промышленности говорят, что автономное оружие станет третьей революцией в войне после пороха. и ядерное оружие.
Еще одно политическое предупреждение недавно транслировалось по VoA: президент России Владимир Путин, выступая перед группой российских студентов, назвал искусственный интеллект «будущим не только России, но и будущего всего человечества… Тот, кто станет лидером в этом сфера будет правителем мира.
Есть колоссальные возможности и угрозы, которые сейчас трудно предсказать».
Три правила Азимова
Исаак Азимов написал « Обход » в 1942, в котором был правительственный Справочник по робототехнике (в 2058 г.), который включал следующие три правила: Робот не может причинять вред человеку или своим бездействием допускать, чтобы человеку был причинен вред. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому закону. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму закону.
Обновленные правила Etzioni
Etzioni обновил эти три правила в своей статье в NY Times до:
- А.И. система должна подчиняться всему спектру законов, применимых к ее оператору-человеку.
- А.И. система должна ясно показать, что она не является человеком.
- А.И. система не может сохранять или раскрывать конфиденциальную информацию без явного разрешения источника этой информации.
Etzioni предложил эти обновления, чтобы начать дискуссию, которая привела бы к изданию Организацией Объединенных Наций научно-фантастического Справочника по робототехнике — и раньше, чем научно-фантастическая дата 2058 года. Тот, который будет регулировать, но не мешать уже растущему глобальному бизнесу ИИ.
И растет!
Китайский манифест искусственного интеллекта
Китай недавно объявил о своей долгосрочной цели стать №1 в области искусственного интеллекта. к 2030 году. Они планируют расширить свой ИИ. отрасли до более чем 22 миллиардов долларов к 2020 году, 59 миллиардов долларов к 2025 году и 150 миллиардов долларов к 2030 году. Они провели такое же долгосрочное стратегическое планирование для робототехники, чтобы сделать ее отечественной отраслью и превратить страну из низкозатратной источник рабочей силы в высокотехнологичный производственный ресурс… и это работает.
С помощью этого крупного стратегического долгосрочного продвижения ИИ Китай стремится конкурировать с лидерами рынка США, такими как Alphabet/Google, Apple, Amazon, IBM и Microsoft.
Китай стремится не отставать в технологиях, которые становятся все более важными — от онлайн-торговли до беспилотных автомобилей, энергии и потребительских товаров. Китай стремится наверстать упущенное, решая такие проблемы, как нехватка высокопроизводительных компьютерных чипов, программного обеспечения для написания программного обеспечения и обученного персонала. Пекин будет играть большую роль в политической поддержке и регулировании, а также в предоставлении и финансировании исследований, стимулов и налоговых льгот.
Преждевременно или нет, но время настало
Многие специалисты по ИИ и робототехнике считают, что нынешнее состояние развития ИИ, включая улучшения в методах машинного и глубокого обучения, является примитивным и требует десятилетий от независимого мышления. Siri и Alexa, какими бы забавными и способными они ни были, по-прежнему запрограммированы людьми и не могут даже начать разговор или по-настоящему понять его содержание. Тем не менее, есть причина, по которой люди заявляют, что чувствуют, что может стать возможным в будущем, когда искусственный интеллект решит, что «по его мнению» лучше для нас.