Словами специалиста: вся правда об искусственном интеллекте. Какое будущее у искусственного интеллекта

Искусственный интеллект: ближайшее будущее | Будущее

Человечество пока не полетело к звёздам. Да что там говорить, оно не совершило даже пилотируемые полёты к Венере и Марсу, которые фантасты прошлого века считали делом ближайшего будущего. Но кое в чём наша цивилизация превзошла самые смелые прогнозы. Лишь немногие фантасты тридцать-сорок лет назад предвидели появление сотовой связи и интернета. И даже они не представляли, как велика будет роль этих изобретений в повседневной жизни человека.

Электроника совершенствуется стремительно, и, вероятно, темпы её прогресса не снизятся ещё полтора-два десятилетия. Но не стоит опасаться (или надеяться), что они останутся неизменными на протяжении столетий.

Развитие технологий происходит рывками. Так, с 1910-х по 1960-е на разработку новых самолётов отводилось порой несколько месяцев, иначе машина устаревала, ещё не родившись. А потом — как отрезало. Многие самолёты, сконструированные в 1950-е, выпускают до сих пор. Ценой титанических усилий раз в 5-10 лет создают новые модели, которые чуть-чуть безопаснее, немного экономичнее, слегка комфортнее, зато в разы дороже предыдущих.

Прогресс не остановился, но темпы его замедлились до нормы. В определённый момент изделие начинает так хорошо отвечать назначению, что улучшить его сложно, да и не нужно. Взять хотя бы топор: сильно ли его усовершенствовали за последнюю тысячу лет?

Сверхзвуковые авиалайнеры «Конкорд» и Ту-144 — яркая иллюстрация «ограниченности» прогресса. Летать быстрее 800-900 км/ч пассажирскому самолёту оказалось не нужно и слишком дорого, и их вывели из эксплуатации

Сравнение мобильных устройств — телефонов, ноутбуков, планшетов, навигаторов — с топором вполне уместно. Они столь же распространены, только дороже и куда надёжнее. Последнее может показаться спорным: электроника ломается то и дело, а топор, купленный дедом, как лежал на даче, так и будет лежать в полной исправности. Но это потому, что топором пользуются редко. Если тратить на рубку дров столько же времени, сколько на разговоры по мобильнику, станет ясно — телефон-то покрепче будет.

Перспективы усовершенствования электронники необъятны. Но фантасты могут спать спокойно: принципиально цифровые друзья человека почти не изменятся, когда будет достигнут потолок целесообразности. А современный мобильный телефон уже решает большинство задач в области связи, навигации и получения информации. Конечно, лет через 20 технологии позволят сделать его в сто раз миниатюрнее и даже встроить в человеческое тело. Но принцип останется тем же.

Следует ожидать объединения разных мобильных устройств в одно, оптимизированное для постоянного ношения и использования. Оборудование карманного компьютера 19-дюймовым монитором и полноценной клавиатурой представляет собой задачу нетривиальную, но разрешимую. Можно, например, представить гибкий сенсорный экран.

Прогресс вычислительной техники огромен даже за последние пять лет. А вот современные ракеты-носители принципиально не отличаются от разработок Цандера и Королёва

В прошлом футурологи опасались, что машины, вытеснив человека из сферы производства, вызовут массовую безработицу. Таким мир торжествующих технологий видел, например, Курт Воннегут в опубликованном в 1952 году романе «Механическое пианино». Пессимизмом, в сущности, проникнуты и утопии советских авторов, воображение которых рисовало картины поужаснее воннегутовской антиутопии. Предполагалось, что при коммунизме машины заменят человека всюду, где не требуется творческий подход.

К творчеству же большинство людей — давайте смотреть правде в глаза — не способны. В чём легко убедиться в наше время, поглядев в интернете на массу горе-графоманов и горе-музыкантов. Этот момент хорошо обыгран в «Сказке о тройке» Стругацких: пришелец Константин работает читателем скверных стихов — должен же их хоть кто-то читать! Его труд справедливо считается тяжёлым и вредным для здоровья.

Воннегут совершил ошибку, типичную для мыслителей конца XIX — середины XX века, исходивших из идеи, что у человека есть некий «разумный» уровень потребностей. Философы не учитывали, что технический прогресс удовлетворяет потребности, им же и порождённые. Обеспечивать население персональными автомобилями или персональными компьютерами не планировалось, пока автомобили и компьютеры не были изобретены, — то есть предложение здесь рождает спрос.

Британские учёные полагают, что мозг человека, оставленный электроникой без работы, в будущем начнёт уменьшаться, постепенно сократившись до размера мозга британского учёного (кадр из «Фантастической четвёрки»)

Машины заменили людей у станков и на пашне, но это не вызвало массовой безработицы. Освобождённые от физического труда массы были поглощены сферами управления и обслуживания. Цивилизация вошла в постиндустриальную стадию, и вдруг стало ясно, что производство как таковое вообще не представляет собой проблему. Выпуск любого товара в любом количестве можно в любой момент организовать в любой точке Китая.

Загвоздка только в реализации продукта. Значит, главный трудяга, создающий богатство нации, — скромный менеджер, изредка поднимающий телефонную трубку и неохотно отрывающийся от жизни в соцсетях, чтобы переложить файл из одной папки в другую. И это перекладывание ныне создаёт прибавочную стоимость, за которую менеджеру платят деньги.

Технический прогресс не вызвал социальной катастрофы — можно не опасаться этого и в будущем. Даже если роботы сумеют согнать с насиженных мест офисный планктон, останется ещё сфера услуг. Появятся новые специальности — хотя бы те же профессиональные читатели. Должен же кто-то принять на себя удар несущейся на человека информационной лавины? Специально обученные люди встанут на пути неконтролируемо множащихся публикаций, отбирая из тысяч те немногие, которые стоит читать (пахнет цензурой, не так ли?).

Куда важнее другой факт, ещё не осознанный, но уже свершившийся. Освободив человека от физического труда, машина начинает брать на себя и функции его мозга. Многие ли умеют сегодня умножать в столбик и грамотно писать без помощи «спеллчекера»? Впрочем, разобрать каракули, написанные на бумаге привыкшей к клавиатуре рукой, всё равно невозможно.

Иногда кажется, что некоторым индивидуумам смартфон уже заменил мозг, не дожидаясь создания пресловутого ИИ

Доступ к информации и её фиксация упростились до предела. Электроника не просто дополняет человеческую память — всё чаще она её заменяет. А всякая способность утрачивается без упражнения. Можно безуспешно бороться с этой тенденцией, а можно смириться с тем, что до конца века фундаментальные признаки грамотности — умение считать и писать — постигнет участь стрельбы из лука. Когда-то владеть этим икусством было необходимо, потом — полезно, потом бесполезно, но принято. Наконец стрельба превратилась в спорт. Пожалуй, лет через 50 устный счёт и чистописание включат в программу Олимпиады.

Конечно, ситуация внушает беспокойство. Вдруг потребуется помножить семь на восемь, а калькулятора не будет под рукой? Подобные сомнения наверняка терзали и австралопитека, впервые взявшего в руку камень. Привыкнешь, думал он, а потом понадобится раздробить кость, а камня нет. Но если бы австралопитек, побоявшись остаться без камня, принялся упражнять челюсти, это не только оказалось бы глупостью, но и направило бы эволюцию в совершенно иное, не ведущее к человеку разумному русло. Наша сила, грозящая вот-вот стать богоравной, — именно в нашей неспособности обойтись без орудий.

Мир меняется. Умение считать заменяется умением пользоваться калькулятором (точнее, уже компьютером). Значит, именно обращению с этим устройством следует учить. Для того же, чтобы владеть калькулятором, требуется понимать суть арифметических действий, тригонометрических функций, возведения в степень, извлечения корня, логарифма. А знать таблицу умножения — излишне.

Ограничится ли дело только лишь памятью и способностью к счёту? Что ещё может заменить (а значит, неизбежно заменит) искусственный интеллект? В 1950 году математик Алан Тьюринг предложил оценивать искусственный интеллект по умению программы выдать себя за человека. Если квалифицированный, специально готовившийся к испытанию экзаменатор, знающий, что один из его невидимых собеседников робот, а второй — человек, в 30% случаев ошибётся, пытаясь определить, кто есть кто, — можно считать, что машина научилась мыслить. Почему 30 процентов, а не 50, которые означали бы, что различий нет в принципе и угадать удаётся только случайно? Потому что для действительно безупречного притворства необходим некий «запас прочности», вот и всё.

Победа компьютера, обоснованно полагал Тьюринг, будет означать, что машина способна заменить человека. Робота можно посадить на телефон, и на другом конце провода никто не заметит разницы. Программа скажет то, что сказал бы человек, и даже отдаст такие же распоряжения, которые отдал бы человек на её месте.

Чемпион мира по шахматам Гарри Каспаров играет против компьютера Deep Blue в 1997 году. Каспаров проиграл, расстроился, отказался признавать результаты матча и зарёкся впредь играть с роботами

Сейчас боты вплотную подошли к преодолению барьера. Пессимисты считают, что он будет преодолён в ближайшие 15 лет, оптимисты же полагают, что успех уже пора отмечать. В августе 2012 года российская программа «Евгений» набрала на тесте 29,2%. А ведь речь идёт о состязании робота со специалистами, пытающимися разоблачить бота изощрёнными и каверзными методами.

В ближайшем будущем реальностью станет то, на что у фантастов не хватает воображения. Появятся, например, телефоны, которые сами , через неравные (чтобы пунктуальность не показалась подозрительной) промежутки времени будут обзванивать пожилых родственников хозяина, справляясь об их здоровье, терпеливо выслушивать пересказы сериалов, анализировать рост цен на гречку и вступать в полемику о воспитании пуделей. В рабочее время такой аппарат сможет вести переговоры с клиентами и лепетать оправдания, услышав в трубке начальственный голос. Обладатель которого, впрочем, в этот момент будет рубиться на том же игровом сервере, что и подчинённые, поручив имитацию руководства своему телефону.

Речь идёт лишь об имитации, не так ли? Робот продаёт морозильное оборудование, общается на форуме, причём постит страшную чушь, и его даже банят за хамство… Программа не думает, а лишь симулирует мыслительный процесс человека, просчитывая, какие решения могли бы быть приняты им в данной ситуации. Но и шахматный суперкомпьютер на самом-то деле в шахматы не играет. Он просто преобразует входящий сигнал по сложному алгоритму.

В сентябре 2012 года сразу два бота, появившись на игровом сервере Unreal Tournament 2004, прошли тест Тьюринга с результатом 52%, то есть оказались более человекоподобными, чем живые игроки

Какая разница между «мыслит» и «не мыслит», если результат одинаков? Где граница между качественной подделкой, доступной уже сейчас, и остающимся фантастикой разумным дроидом C-3PO из кинофильма «Звёздные войны»? Теоретически разницу можно будет заметить. Например, виртуальный менеджер среднего звена, удостоверившись, что фотография на личной странице девушки отвечает критериям привлекательности, будет пытаться назначить ей свидание, не замечая, что это фотография Миллы Йовович времён «Пятого элемента». Человек такой ошибки не совершит.

Но это в теории. В реальности программа будет знать в тысячу раз больше уловок и методов их распознавания, чем живой пользователь. И уж подавно больше, чем обаятельный, но простодушный дроид. Скорее всего, бот просто взломает сервер и сверит фотографию с паспортными данными.

Для C-3PO каждый разговор с человеком — успешно пройденный тест Тьюринга. В отличие от реальных программ, робот из «Звёздных войн» разумен и обладает не только интеллектом, но и чувствами

Тем не менее разум — нечто большее, чем интеллект. Разумной можно назвать лишь машину, обладающую волей и сознанием. И как взяться за её создание, не слишком-то ясно. Не потому, что сознание — столь уж великая тайна. Просто появ ление «железа», способного потянуть такой софт, ожидается только лет через сорок. И это при сохранении прежних темпов развития электроники, на что вряд ли можно рассчитывать.

В природе программы — безусловные рефлексы — пишутся путём отбора мутаций, затрагивающих нервную систему. Это крайне непроизводительный метод, который обеспечивает приемлемые результаты лишь для видов, отличающихся плодовитостью. Именно по этой причине у позвоночных эволюция пошла другим путём. Долгоживущее существо анализирует опыт, вычленяя связи между событиями, затем сопоставляет между собой выявленные закономерности, — и так без конца. Для приобретения условных рефлексов требуется большой и свободный от «врождённого софта» мозг. Метод очень трудоёмок, но потенциально позволяет приспосабливаться к любым условиям.

Сейчас интеллект мощнейших компьютеров лишь приближается к интеллекту лягушки, но для имитации человека этого хватает. На рисунке — мозг лягушки в сравнении с человеческим

Но боту не нужно накапливать и анализировать личный опыт. У него есть программист, способный научить всему сразу, а не постепенно, за миллион лет отбора. Поэтому непонятно, стоит ли в принципе браться за создание подлинного машинного разума, если проще написать программу, воспроизводящую любые реакции настоящего C-3PO на внешние раздражители. Благо они столь же предсказуемы, как и у человека. Поддерживая беседу, бот мастерски будет разыгрывать наивность, тугодумие и затруднённую речь, якобы характерные для разумных роботов. Оснащённый интеллектом, но не разумом, бот будет подконтролен — программа не взбунтуется против создателей. Она не личность и не живёт, а значит, удаляя её с диска, не придётся терзаться угрызениями совести.

При этом бот может обучаться и даже способен к творчеству. Программы уже давно пишут музыку, расставляя семь нот в порядке, соответствующем человеческим представлениям о гармонии, — живым композиторам далеко не всегда это удаётся! Боты способны даже делать изобретения, ведь всё новое — это удачная комбинация уже существующих элементов, а просчёт комбинаций — сильное место машин.

Вьетнамский робот-художник Tosy SketRobo создаёт чёрно-белые скетчи, но лишь в рамках заданной программы. Воображения робот лишён

Киборгизация

Робокоп — довольно здравая с технической точки зрения идея. Мозг офицера Мёрфи давал роботу именно то, чего не могли добиться механическим путём, — разум, воображение и чувства

Замена человеческих органов электронными протезами — перспективное направление в трансплантологии. Как далеко может зайти слияние человека с машиной?

В будущем наверняка появится возможность производить крошечные компьютеры, пригодные для вшивания под кожу. Способность подключаться к интернету и по мысленному запросу получать из Сети любые сведения прямо в мозг, минуя органы чувств, кажется привлекательной, особенно на экзаменах. Но в достаточной ли мере человек контролирует свои мысли для того, чтобы управлять таким устройством? И даже если решить эту проблему, останется вторая: мозг не будет расценивать сигнал, поступающий не с глазного нерва, как зрительную информацию.

Знание не возникнет ниоткуда. Человеку по-прежнему придётся читать либо прослушивать текст. Не удобнее ли в таком случае по старинке пользоваться наушниками и экраном? Во всяком случае, это позволит избежать сложной и небезопасной операции по вживлению электродов в нервные волокна.

Кибертранспорт

Ещё в 1988 году автопилот поднял, свёл с орбиты и посадил космический корабль «Буран». А эта задача сложнее, чем управление автомобилем

Уже сегодня сотовый телефон умеет практически всё, но функции грядущего универсального мобильного устройства окажутся ещё шире. Почему, например, навигатор в телефоне лишь подсказывает, куда и когда следует повернуть? Если он такой умный, пусть сам и рулит.

Конечно, управление можно возложить и на бортовой компьютер автомобиля, но это явное излишество. Машине незачем двигаться без пассажира, а человек никуда не денется от своего телефона. Таким образом, один электронный интеллект в салоне присутствовать всегда будет. Для чего тогда нужен второй? Телефон можно будет объединить с автомобилем, вставил в слот — и поехал.

Автомобиль с автопилотом — не фантастика уже сегодня. Конечно, нетрудно представить себе ситуацию на дороге, с которой робот не справится. Но — будем откровенны — представить себе ситуацию, с которой не справится человек, несравненно проще.

Нанороботы

В романе Артура Кларка «2001: Космическая одиссея» пришельцы превращают Юпитер в звезду, переработав его атмосферу с помощью экспоненциальных машин

В романах «Непобедимый», «Осмотр на месте», а также в нескольких других произведениях Станислав Лем высказывает предположение, что мы неправильно строим машины. Место больших автоматов должны занять крошечные, однообразные элементы (наноботы), при необходимости образующие из своих тел любые другие конструкции. В том числе и мозг.

Только на таком принципе, кстати, можно создать встречающиеся в фантастике «экспоненциальные машины», которые расширенно воспроизводят себя без участия человека и одновременно совершают какую-то полезную работу. Автомат традиционного типа слишком сложен для размножения, так как состоит из множества деталей, для производства которых требуется разнообразное оборудование, заведомо не помещающееся внутри самой машины.

Аналогия с клетками, составляющими человеческое тело, бросается в глаза. Но, несмотря на впечатляющие успехи миниатюризации, дело не выгорит. Проблема в том, что наши роботы — твёрдые. А все процессы, протекающие в живых организмах, имеют химическую природу и происходят в растворе. Воспроизвести клетку можно, работы в этом направлении уже близки к завершению, но при этом реальная экспоненциальная машина будет просто живым существом со всеми присущими ему слабостями.

* * *

Что бы там ни воображали фантасты, восстания машин не будет. Искусственный интеллект в современном понимании — не более чем имитация. Другой вопрос, насколько реалистичной она может быть. Если робот подумает, что для людей характерно уничтожение себе подобных (а оно, к слову, характерно), он начнёт это уничтожение имитировать. И смешно не покажется. Поэтому три закона Азимова нам всё-таки пригодятся.

Если вы нашли опечатку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

www.mirf.ru

Будущее искусственного интеллекта / Хабр

В предыдущей статье мы описали прошлое и настоящее искусственного интеллекта – как выглядит ИИ сегодня, разницу между сильным и слабым ИИ, ОИИ, и некоторые философские идеи по поводу природы сознания. Слабый ИИ можно встретить где угодно в виде ПО, предназначенного для умного выполнения определённых задач. Итоговая цель – сильный ИИ, и именно настоящий сильный ИИ будет напоминать то, что знакомо нам из популярной фантастики.

Обобщённый ИИ – современная цель, которой многие исследователи посвящают сегодня свои карьеры. У ОИИ не обязательно должно быть какое-то сознание, но он должен справиться с любой задачей, связанной с данными, которую мы перед ним поставим. Конечно, в природе людей есть желание предсказывать будущее, и именно этим мы и займёмся в данной статье. Какие наилучшие догадки мы можем сделать по поводу связанных с ИИ ожиданий в ближайшем будущем? Какие этические и практические проблемы могут возникнуть с появлением обладающего сознанием ИИ? В предполагаемом будущем, должен ли ИИ обладать правами, или, например, нужно ли его бояться?

Будущее ИИ

Оптимизм исследователей ИИ по поводу будущего с годами менялся, и даже современные эксперты ведут по этому поводу споры. Тревор Сэндс, исследователь ИИ из Lockheed Martin, осторожен в своих оценках:

С появления ОИИ как концепции, исследователи и оптимисты, утверждают, что его осталось ждать недолго, всего несколько десятков лет. Лично я считаю, что мы увидим появление ОИИ в ближайшие 50 лет, поскольку железо подтянулось до уровня теории, и всё больше организаций видят потенциал в ИИ. ОИИ – естественное завершение существующих попыток исследования ИИ.

За это время может появиться даже разумный ИИ, как говорит Альберт (ещё один исследователь ИИ, попросивший нас упоминать его только по псевдониму):

Надеюсь, что увижу его ещё при жизни. По крайней мере, надеюсь увидеть машины, достаточно умные для того, чтобы люди спорили, обладают ли они сознанием. А что это означает на самом деле – более сложный вопрос. Если разум означает «самосознание», то тогда не так уж сложно представить умную машину, обладающую моделью себя самой.

Сэндс и Альберт считают, что сегодняшние исследования нейросетей и глубинного обучения – это правильный путь, который, скорее всего, приведёт к созданию ОИИ в недалёком будущем. В прошлом исследователи либо фокусировались на амбициозных попытках создания сильного ИИ, либо на ограниченном по сути слабом ИИ. Между ними находится ОИИ, и пока что результат работы нейросетей выглядит плодотворным, и скорее всего, приведёт к ещё большему числу прорывов в ближайшие годы. Большие компании, в частности, Google, явно считают, что так и будет.

Последствия и этические проблемы сильного ИИ

При каждом обсуждении ИИ всегда возникают две проблемы: как он повлияет на человечество, и как нам к нему относиться? Литературу всегда можно рассматривать как хороший индикатор мыслей и чувств, отражающий настроения людей, и в научной фантастике полно примеров этих проблем. Попытается ли достаточно передовой ИИ устранить человечество, как Skynet? Или ИИ необходимо будет давать права и защиту, во избежание таких проявлений жестокости, какие встречаются в "A.I. Artificial Intelligence"?

Страшный ИИ

В обоих случаях смысл состоит в том, что с созданием настоящего ИИ придёт технологическая сингулярность. Технологическая сингулярность – период экспоненциального роста технологий, происходящий на небольшом временном отрезке. Идея в том, что ИИ сможет улучшать самого себя или производить более передовые ИИ. Так как это будет происходить быстро, кардинальные перемены могут случиться за один день, и в результате появится ИИ гораздо более совершенный, чем тот, что был создан человечеством. Это может означать, что в результате у нас появится сверхумный и недоброжелательный ИИ, или разумный ИИ, достойный обладать правами.

Недоброжелательный ИИ

Что, если этот гипотетический сверхумный ИИ решит, что человечество ему не нравится? Или же мы будем ему безразличны? Нужно ли бояться этой возможности и принимать меры предосторожности? Или же эти страхи – результаты безосновательной паранойи?

Сэндс считает: «ОИИ произведёт революцию, и его применение определи, позитивное это будет влияние, или негативное. Примерно так же расщепление атома можно рассматривать как обоюдоострый меч». Конечно, тут речь идёт только об ОИИ, а не о сильном ИИ. Что насчёт возможности появления разумного сильного ИИ?

Скорее всего, потенциала можно ожидать не от злонамеренного, а от индифферентного ИИ. Альберт рассматривает пример с простой задачей, поставленной ИИ: «Есть такая история, что владелец фабрики по производству скрепок задал ИИ вроде бы простую задачу: максимизацию производства. А затем ОИИ воспользовался своим интеллектом и придумал, как превратить всю планету в скрепки!»

Альберт отметает возможность, описанную в этом смешном мысленном эксперименте: «Вы хотите сказать, что этот ОИИ понимает человеческую речь, сверхумный, но ему недоступны связанные с запросом тонкости? Или, что он не сможет задать уточняющие вопросы, или догадаться, что превращение всех людей в скрепки – это плохая идея?».

То есть, если ИИ достаточно умён для того, чтобы понять и запустить опасный для людей сценарий, он должен быть достаточно умным для того, чтобы понять, что этого делать не стоит. Три закона робототехники Азимова тоже могут сыграть свою роль, хотя остаётся вопрос, можно ли будет реализовать их таким образом, чтобы ИИ не смог их поменять? А что насчёт благополучия самого ИИ?

Права ИИ

На противоположной стороне проблемы стоит вопрос, заслуживает ли ИИ защиты и получения прав? Если бы появился разумный ИИ, можно ли позволять человеку просто отключать его? Как к нему относиться? Права животных и сейчас очень спорные, и пока что нет согласия в том, обладают ли животные сознанием или разумом.

По-видимому, те же споры развернутся по поводу существ с ИИ. Будет ли рабством заставлять ИИ работать день и ночь на благо человечества? Должны ли мы платить ему за услуги? Что с этой оплатой будет делать ИИ?

Фильм плохой, идея хорошая

Маловероятно, что у нас в ближайшее время появятся ответы на эти вопросы, в особенности, ответы, устраивающие всех. «Как мы можем гарантировать, что у ИИ, сравнимого с человеком, будут такие же права, как у человека? Учитывая, что эта интеллектуальная система фундаментально отличается от человека, как мы можем определить фундаментальные права ИИ? Кроме того, если считать ИИ искусственной формой жизни, есть ли у нас право отнимать у него эту жизнь (отключать)? До того, как создать ОИИ, необходимо серьёзно продумать вопросы этики», – говорит Сэндс.

В то время, как продолжается исследование ИИ, эти и другие этические вопросы, несомненно, будут вызывать споры. Судя по всему, мы ещё довольно далеко от того момента, когда они окажутся актуальными. Но и сейчас уже для их обсуждения организовываются конференции.

Как поучаствовать

Исследование и эксперименты с ИИ традиционно находились в ведении учёных и исследователей из корпоративных лабораторий. Но в последние годы растущая популярность свободной информации и открытого кода распространилась даже на ИИ. Если вам интересно заняться будущим ИИ, для этого есть несколько способов.

Проводить самостоятельные эксперименты с ИИ можно при помощи доступного ПО. У Google есть встроенная в браузер песочница для работы с простейшими нейросетями. Доступны библиотеки по нейросетям с открытым кодом, например, OpenNN и TensorFlow. Их не так-то просто использовать, но целеустремлённые любители хобби могут развернуться на их базе.

Наилучший способ – делать всё, что можно, для продвижения профессиональных исследований. В США это означает пропаганду научных исследований. Исследования ИИ, как и любые научные исследования, зависят от непредвиденных обстоятельств. Если вы верите, что за технологическими инновациями будущее, то помощь в получении финансирования исследований – это достойное занятие.

С годами оптимизм по поводу разработки ИИ колебался. Сейчас мы находимся на пике, но вполне возможно, что это изменится. Но нельзя отрицать, что возможность ИИ подстёгивает воображение публики. Это очевидно, если судить по научной фантастике и другим развлечениям. Сильный ИИ может появиться через пару лет или через пару столетий. Можно быть уверенным только в том, что мы не остановимся на пути к этой цели.

habr.com

Будущее искусственного интеллекта. Что стоит ждать людям в ближайшие 15–20 лет?

 Многие эксперты уверены, что мы стоим на пороге 4-й промышленной революции, которая радикально изменит отношения людей и технологий.

То, о чём недавно писали фантасты, превратится в реальные и даже обыденные вещи. Как это часто бывает, большие перемены влекут за собой большие страхи. Со всех сторон появляются пугающие сообщения о том, что искусственный интеллект станет умнее человека, отберёт у нас работу и даже уничтожит цивилизацию. Но так ли это на самом деле? Корреспондент Лайфа пообщался с технологическими экспертами и участниками конкурса студенческих ИТ-проектов Imagine Cup, чтобы узнать, действительно ли взрывное развитие информационных технологий несёт в себе опасность или у страха глаза велики.

Лишит ли искусственный интеллект нас работы?

Один из главных страхов, связанных с развитием технологий, это автоматизация многих профессий, которая вызовет волну безработицы. Действительно, эксперты сходятся во мнении, что в ближайшие годы рынок труда ждут большие перемены. Два исследователя из школы Оксфорд-Мартин, Карл Бенедикт Фрей и Майкл Осборн, пришли к выводу, что занятость значительно снизится в среднедоходных монотонных стандартных профессиях, таких как секретари, курьеры, офисные администраторы или операторы баз данных. Даже представители креативного класса находятся под угрозой, т.к. сейчас ИИ уже пробует придумывать трейлеры к кинофильмам и рекламные ролики.

Однако футурологи считают, что бить тревогу не стоит: некоторые профессии станут ненужными — вместо них появятся другие рабочие места. "Каждый раз, когда мы отдаём что-то на откуп машинам, мы умнеем: машины позволяют нам решать более сложные задачи. Но творчество, наука, целеполагание, общение, в конце концов, — нам это нравится, почему мы должны отдавать это машине?" — задаёт риторический вопрос Пётр Левич, директор департамента взаимодействия науки, технологий и общества Московского технологического института, основатель Future Foundation.

"Исторически технологии создают больше рабочих мест, чем уничтожают, и нет причин полагать, что в случае с ИИ будет иначе", — отмечает Михаил Черномордиков, визионер, руководитель департамента стратегических технологий Microsoft в России. В будущем сотрудникам компаний придётся быть более креативными и научиться быстро решать нестандартные проблемы. Таких специалистов, как социальные работники, хирурги, хореографы, археологи, инженеры, заменить машинами будет непросто, да и не нужно. Однако надо понимать, что большинство профессий изменится под влиянием технологий и всем специалистам, где бы они ни работали, придётся с ними сталкиваться.

"Говоря о вытеснении людей с рынка труда, стоит вспомнить, что этот процесс возник не сегодня. И сто, и двести лет назад любое новое и эффективное средство производства меняло индустрию, в которой появлялось, лишая людей работы. Однако человек всегда адаптировался к этому процессу, и так будет и впредь", — считает Мария Сандрикова, капитан технологической команды MeetArticles (МФТИ).

Будет ли ИИ управлять нашей жизнью, если станет умнее человека?

Пока что ИИ может решать только конкретно поставленные задачи математического характера, такие как, например, обыграть человека в шахматы. И даже это ему удаётся не всегда. Но новейшие технологии доказывают, что скоро его возможности значительно расширятся. Алексей Турчин, писатель, исследователь глобальных рисков, связанных с развитием новых технологий, член Ассоциации футурологов, вице-президент фонда "Наука за продление жизни", не сомневается, что искусственный интеллект может сравняться с человеческим уже в этом веке и в ближайшие 10–20 лет мы будем наблюдать мощный рост связанных с ним технологий. "Ничего особенного в человеке нет, и мы либо найдём причину, по которой это невозможно сделать, либо сделаем нечто подобное", — поясняет он. В ближайшее же десятилетие писатель предсказывает новые прорывы в распознавании речи, управлении роботами и подражании эмоциям. Главный вопрос в том, не окажется ли в определённый момент, что всё в нашей жизни решает ИИ, начиная с профессиональной деятельности и личной жизни и заканчивая политическим строем? И понравится ли нам находиться в зависимом положении?

Эксперты считают, что люди не будут спешить передать ИИ управляющую функцию, скорее он будет играть роль консультанта при принятии решений. "Во многих дискуссиях на тему искусственного интеллекта присутствуют какая-то излишняя категоричность и стремление к крайностям, — уверен Роман Кривоногов, участник студенческой технологической команды EverMind (МГУ). — Я не исключаю, что такой уровень развития ИИ, когда он станет умнее человека, технически достижим. Но надо понимать, что создание подобной технологии — явно не первостепенная для человечества задача! По сути, это создание новой формы жизни, которое повлечёт за собой необходимость её воспитания и направления. Поэтому нужно понимать, что правильный искусственный интеллект — это некая полезная надстройка человека". С ним согласен Михаил Черномордиков: "Искусственный интеллект — это инструмент, мы сами решим, как мы будем им пользоваться".

Будем ли мы воевать с искусственным интеллектом?

Культовыми стали фильмы "Терминатор" и "Матрица", создатели которых поднимали тему войны машин и людей. Причём люди оказывались явно в проигрыше. Причиной конфликта чаще всего становилось то, что машина лишена чувств, а в математическом уравнении, которым она руководствуется для достижения поставленных целей, человечество оказывалось лишним. Пожалуй, все мы осознаём собственное несовершенство, и наш главный страх в том, что будет, когда искусственный интеллект тоже его осознает. Ждут ли нас тотальная война на уничтожение, рабство или есть другой выход?

Пётр Левич предполагает, что ситуация не настолько критична, как рисуют антиутопии, и сильный ИИ не станет большой опасностью: "Мы не будем с ним воевать. Скорее, мы будем с ним объединяться, и будущее за цифровыми кентаврами — объединением человека и машины". Причём эту тенденцию мы наблюдаем уже сейчас. У многих людей развилась зависимость от телефонов, без возможности быстро выйти в Интернет и получить необходимую информацию они чувствуют себя неуютно. В Бельгии одна компания даже предложила своим сотрудникам вживить подкожные чипы, которые должны выполнять роль бейджа: открывать двери в офисе, позволять пользоваться оргтехникой. Компания Microsoft разработала проект DuoSkin — временные татуировки, которые позволяют своему пользователю обмениваться данными и контролировать смартфон или компьютер удалённо, просто касаясь своей кожи. Так что мы уже делаем первые шаги на пути симбиотического сосуществования с технологиями.

Алексей Турчин считает, что искусственный интеллект представляет угрозу только в том случае, если он будет бесконтрольной системой, поэтому в будущем нам предстоит решить задачу по контролю ИИ.

Кто будет нести ответственность за действия искусственного интеллекта и контролировать его?

Одно из основных отличий искусственного интеллекта от других технологий — его способность к самообучению. С одной стороны, это открывает огромные возможности, с другой — несёт в себе опасность. Ведь, проанализировав данные, машина может прийти к выводу, что алгоритм работы необходимо изменить, и начнёт действовать в соответствии с новыми вводными. Хорошим примером может служить известная модель ситуации, когда беспилотному автомобилю в случае аварийной ситуации необходимо решить, чьё здоровье приоритетнее — пассажира или пешехода. Кто же будет нести ответственность за его выбор? Ведь, по сути, решение в подобной ситуации принимает сам автомобиль, проанализировав ситуацию. К кому может обратиться пострадавший за возмещением ущерба?

Футурологи единогласно предлагают не переносить ответственность за решения ИИ на сами технологии. В конечном итоге за них отвечают те, кто их создал. "Люди отвечают за все решения и все результаты", — подчёркивает Михаил Черномордиков. Также он обратил внимание на то, что нормы, связанные с развитием искусственного интеллекта, формируются уже сегодня: над этим совместно работают Microsoft, Google, Facebook, Apple и IBM. Человечеству предстоит выработать такие правила создания ИИ, чтобы этические вопросы решались максимально безопасным путём. Эксперты опасаются лишь одного — того, что и этические аспекты искусственного интеллекта останутся уделом IT-специалистов. "Мы нуждаемся в более широком, глубоком вовлечении представителей разных стран в разработку этих систем. ИТ-индустрия не должна диктовать ценности и моральные принципы технологического будущего", — считает Михаил Черномордиков.

Станет ли искусственный интеллект угрозой XXI века?

Одной из главных опасностей будущего футуролог Алексей Турчин считает развитие вирусов, обладающих ИИ. С ним соглашаются и другие ИТ-эксперты. Поэтому сейчас ведущие технологические корпорации, учёные и ИТ-эксперты, такие как Илон Маск, Билл Гейтс, Стивен Хокинг, Сатья Наделла, работают над созданием свода законов или правил, которые впоследствии должны свести к минимуму возможные негативные последствия работы суперкомпьютеров. Пожалуй, именно такое серьёзное отношение к проблеме должно нам помочь решить её в будущем, а ещё лучше — не допустить её появления.

Большинство из описанных выше страхов формируется от того, что обычные люди слабо себе представляют, что такое искусственный интеллект и как с ним взаимодействовать, черпая информацию лишь из научной фантастики. Поэтому ИИ должен быть ориентирован на помощь человеку, его использование должно быть прозрачным, а крупным компаниям следует уделять особое внимание обучению сотрудников и пользователей решений на базе ИИ принципам работы с этой новой технологией. Учёные сходятся во мнении, что как бы мы ни оценивали развитие искусственного интеллекта, остановить его уже невозможно.

zelv.ru

Искусственный интеллект и его ближайшее будущее — Naked Science

Будущее, которое мы так долго ждали, о котором с интересом читали в научной литературе и которое представляли в сюжетах фантастических фильмов, уже наступило. Что же будет дальше? В этом материале мы публикуем мнение визионеров лаборатории Microsoft Research о текущем положении дел в сфере развития технологий искусственного интеллекта (ИИ) и о его трендах на ближайшие несколько лет.

 

Ждем появления социально-культурного искусственного интеллекта

 

В следующем году и ближайшие несколько лет очередной стимул развития получат технологии лингвистической обработки. Так, в частности, функционал инструментов распознавания речи будет пополняться все новыми языками. Появится больше систем, позволяющих понимать, обрабатывать и генерировать языки. Эти решения откроют пользователю новые возможности легко переключаться с одного языка на другой, более того, возможны даже будут мультиязычные беседы.

 

В перспективе ближайших нескольких лет появятся системы искусственного интеллекта, которые смогут без труда общаться с людьми и даже будут адаптироваться к различным социальным ситуациям, будь то переговоры, жаркие дискуссии или философские рассуждения. Поэтому в следующие 10 лет нам стоит ожидать появления такого явления, как социально-культурный искусственный интеллект.

 

Этика машинного интеллекта

 

Мы научились создавать машины, которые способны взаимодействовать с человеком, понимать его потребности и помогать в решении повседневных задач. Алгоритмы глубинного машинного обучения сегодня способны генерировать результат, который нужен человеку, обнажая зачастую то, что в приличном обществе принято осуждать. Другими словами, мы научили искусственный интеллект пониманию и удовлетворению ежедневных потребностей человека, но пока не научили хорошим манерам и этике.  Значит ли это, что дисциплины морали и нравственности не являются приоритетом современного человека, его ежедневной необходимостью? Совсем нет.

 

Поэтому задача следующих ближайших лет – разработать правила для ИИ и алгоритмы машинного обучения, исключающие воспроизводство результатов, содержащих дискриминационные и пренебрегающие этическими нормами данные. Прорывом в этом направлении станет появление алгоритмов, которые являются справедливыми, ответственными и более устойчивыми к манипуляциям с вводом ложных данных.

 

Фото- и видеоконтент научатся искать информацию

 

В следующем году продолжится совершенствование алгоритмов машинного интеллекта в области поиска. Уже через несколько лет нам стоит ожидать трансформации логики работы всего направления. Будет появляться все больше систем, способных работать под командным голосовым управлением и распознавать речевые запросы, а также запросы, состоящие из картинок, звука, видео, геолокационных и других метаданных. Это приведет к тому, что поисковые запросы пользователей будут все более ситуативными, в рамках существующего контекста (местоположение, доступность информации, визуальное или звуковое окружение и т. п.). Эта тенденция будет ускоряться.

 

Мир на пороге появления новых профессий

 

Оператор машинного интеллекта уже существующая реальность. В ближайшие несколько лет таких необычных профессий станет больше. По данным исследовательского центра Microsoft, к 2027 году треть работоспособного населения будет занято в сфере услуг, которые будут оказывать системы на базе искусственного интеллекта (например, налоговое консультирование, поддержка здравоохранения и т. п.). Это говорит о том, что в искусственном интеллекте – источник повышения рабочей силы.

 

Интернет вещей

 

В 2017 году мы увидим первые решения на базе интернета вещей для сельского хозяйства. Такие решения будут строиться на объединении функциональности компьютерного зрения и облачных технологий. Это позволит фермерам диагностировать, контролировать, анализировать, планировать состояние своих хозяйств на всех этапах производства. Фермеры с помощью искусственного интеллекта смогут поддерживать рентабельность своих производств независимо от изменения климата, засухи и стихийных бедствий.

 

Будущее пищевой промышленности зависит от нашей способности сохранить и улучшить использование основных ресурсов нашей планеты, уменьшить истощение почвы путем перехода от традиционной сельскохозяйственной практики к альтернативной с малыми энергозатратами. Для окружающей среды и экологии упор будет сделан на сохранение наших лесов с помощью измерительных технологий.

 

Компьютерное зрение

 

В следующем году будет продолжен быстрый прогресс в области компьютерного зрения на основе алгоритмов глубинного машинного обучения. Мы уже можем наблюдать, как запущенный недавно проект Iceberg позволяет по-новому взглянуть на хоккейные матчи. Алгоритмы компьютерного зрения предоставляют возможность обрабатывать объекты на видеокадрах в реальном времени для анализа и принятия решений – в данном случае со стороны тренера играющей команды. А родоначальник «уберизации», компания Uber, использует когнитивные сервисы для верификации водителя в автомобиле, сравнивая фотографию, сделанную на телефон, с информацией

naked-science.ru

Наука: Наука и техника: Lenta.ru

В 1832 году коллежский асессор Семен Николаевич Корсаков, пионер российской кибернетики, создал «гомеоскоп» — классифицирующее логическое устройство, которое автоматизировало процесс сравнения идей и понятий. С тех пор системы искусственного интеллекта ушли далеко вперед. О прошлом, настоящем и будущем таких систем рассказал кандидат физико-математических наук, ученый секретарь Курчатовского комплекса НБИКС-технологий НИЦ «Курчатовский институт» Вячеслав Демин в лекции, состоявшейся в образовательном центре «Сириус». «Лента.ру» публикует выдержки из его выступления.

На данном этапе все усилия по созданию искусственного интеллекта направлены на то, чтобы снять часть нагрузки с человеческого интеллекта, создать помощника для обработки плохо структурированной информации.

Самая очевидная задача — работа с большими объемами информации. Это направление так и называется: «Большие данные» (Big data). Самый яркий пример — Большой адронный коллайдер. БАК генерирует несколько петабайт (1 Пб = 1 000 000 Гб) информации в секунду. Она поступает в различные информационные центры по всему миру, где обрабатывается компьютерами, после чего передается физикам для анализа.

Но работа с большими объемами информации выявила слабое место современных компьютеров. Сейчас в вычислительной технике используется так называемая архитектура фон Неймана: память и процессор физически разделены и общаются друг с другом посредством шины, которая находится между ними. Чтобы выполнить команду, процессор посылает запрос в память, та извлекает из определенной ячейки данные, отправляет их в процессор, затем из памяти запрашивается команда для выполнения и вновь загружается в процессор, и так далее.

Постоянно идет передача данных в обоих направлениях, и узкое горлышко шины ограничивает производительность общего процесса вычислений. Конечно, сегодня эту проблему отчасти снимают многоядерные процессоры, когда информация делится между разными ядрами, обрабатывается в них одновременно, а потом результаты сливаются в каком-то одном ядре.

Человеческий мозг устроен иначе: его архитектура принципиально параллельна, а не последовательна. Память и вычисления в мозге реализуются в одних и тех же структурах — в нейронах. Каждая нервная клетка похожа на крохотный процессор, выполняющий простейшую функцию. Совокупность же большого числа таких элементарных процессоров способна производить довольно сложную обработку нечетко структурированной информации. Если такую схему удастся воплотить и в компьютерах, скопировав принцип действия работы нейронов, это станет прорывом.

У каждой нервной клетки есть отростки — аксоны, по которым передается информация, и дендриты, принимающие информацию. Соединение аксона и дендрита называется синапс. Когда происходит генерация «спайка», то есть собственного электрохимического возбуждения клетки, с помощью нейромедиаторов ток идет от одного нейрона к другому. Синапс при этом пластичен, он может менять эффективность передачи сигнала, варьируя степень выделения при передаче и/или чувствительности приема нейромедиатора.

Кадр: фильм «Я, робот»

Считается, что память формируется за счет пластичности синапсов: некоторый набор синаптических проницаемостей определяет какое-то определенное воспоминание, которое воспроизводится при распространении сигнала через этот набор синапсов. Если ученые смогут создать систему искусственного интеллекта, в которой аппаратно будет использоваться тот же принцип, то есть обработка и хранение информации в одних и тех же функциональных элементах (искусственных нейронах-процессорах с пластичными соединениям между ними), это выведет технологии на новый уровень. Достаточно серьезные и успешные попытки есть, но работы еще очень много.

Уже сейчас компьютерные системы неплохо справляются с распознаванием образов и звуков. Но искусственный интеллект по-прежнему не осмысляет данные, любое изображение так и остается для него набором непонятных черточек. Тем не менее компьютер может и номера превышающих скорость автомобилей разобрать, и речь в печатный текст превратить, и понравившуюся песню узнать.

Не осмысляет машина и происходящее на биржах, но, основываясь на накопленных финансовых данных, она научилась довольно точно предсказывать, что произойдет в следующий момент на рынках, и автоматически отдает команду покупать либо продавать акции. Так работает современный «быстрый трейдинг». Прогнозирование (например, погоды или ситуации на дороге) — еще одно направление, успешно реализуемое уже сегодня.

Все эти задачи под антропоморфные алгоритмы решения относятся к так называемым некорректным задачам, когда известны не все данные для их однозначного решения, а значит, и решить такую задачу можно лишь примерно: чем больше существует ее параметров (условий), тем больше вариантов решения. При этом если задача не может быть решена в одно действие, то есть состоит из последовательности шагов, и на каждом шаге есть несколько вариантов допустимых действий, то количество комбинаций, приводящих в итоге к решению задачи, очень быстро растет в зависимости от количества шагов (или «размерностей» задачи). Это называется «проклятием размерностей».

Более того, в реальности на каждом шаге мы видим фактически бесконечное число вариантов допустимых действий (до стакана на столе можно дотянуться бесконечным числом вариантов), а следовательно и общее количество способов решения проблемы бесконечно. Держать все возможные варианты в голове человек просто не может, потому мозг и мыслит только целями и концепциями, решая некорректные задачи лишь приблизительно оптимально и побеждая тем самым «проклятие размерностей».

Фото: Long Hongtao / Xinhua / Zumapress / Globallookpress.com

Это умение и позволяет нам существовать в реальном мире. Человеческий интеллект так может, искусственный — пока очень условно, лишь для ограниченного набора технических задач. При этом обычно под каждую техническую некорректную задачу строится свой алгоритм решения (например, специальная архитектура искусственной нейронной сети), что разительно отличает современный искусственный интеллект от мозга, способного решать все типы предлагаемых ему задач.

Не может искусственный интеллект пока продемонстрировать и высокую степень адаптивности. Большинству существующих систем не поможет даже полный объем информации о резко меняющихся условиях, чтобы на них среагировать. Выбить стул из-под робота проще простого, даже если он увидит ваше движение. Выбить стул из-под человека, который хоть краем глаза успеет заметить, что что-то происходит, сложнее.

В последнее время в этой области появились успехи: созданы роботы-носильщики (например Big Dog агентства DARPA), способные удерживать равновесие в ответ на толчки и подножки. В то же время это опять специфическая система, разработанная под конкретную задачу и не обладающая универсальностью в адаптации к другим условиям и тем более — в решении других задач.

Но не только ради создания систем искусственного интеллекта следует изучать мозг. Еще одна важная цель находится в области медицины. Примерно 130 миллионов человек в мире страдают от различных болезней мозга. Среди них и всемирно известный физик Стивен Хокинг — у него боковой амиотрофический склероз, он прикован к инвалидному креслу. По каким-то причинам у него в мозге не работают моторные нейроны, которые генерируют сигнал к мышцам, но при этом все остальные участки коры функционируют прекрасно. Все признают, что Хокинг — гений. 67 миллионов человек страдают от болезни Альцгеймера, но полная картина возникновения этого заболевания неясна. Современная наука знает о мозге так много — и в то же время так мало!

Еще одно направление, ради которого необходимо изучать мозг, — это создание интерфейсов «мозг-компьютер». Такая система позволит управлять роботом или любым другим устройством (протез, система «умный дом», смартфон, программа и тому подобное) в буквальном смысле силой мысли, передавая команды с лобных долей коры на компьютер или специальный чип, контролирующий необходимое устройство.

Фото: Bobby Yip / Reuters

Перспективна и такая область исследований, как создание нейроаниматов, то есть робототехнических устройств, управляемых живыми культурами нервных клеток в пробирке. Суть состоит в том, что на дне лабораторного сосуда, в так называемой чашке Петри, располагаются электроды, на которые высаживаются живые нервные клетки и добавляются необходимые питательные вещества. Вскоре там образуется и начинает расти живая нейронная сеть. Ее можно пытаться обучать с помощью электродов управлению необходимым устройством (аниматом).

Я называю это запасным вариантом создания искусственного интеллекта. Если не удастся его сделать из неживой материи, то можно попробовать вырастить управляемые биологические сети. Отмечу, что в Курчатовском комплексе НБИКС-технологий НИЦ «Курчатовский институт» реализуются все перечисленные мною направления.

Существует два базовых подхода к разработке искусственного интеллекта. Первый — так называемый нисходящий, или символьный подход подразумевает создание баз знаний, экспертных систем и систем логического вывода. Предполагается, что система сможет имитировать мышление, рассуждение, речь, эмоции, даже творчество. Это путь наиболее проработанный, но соответствующие программы до сих пор весьма далеки от человеческого мышления.

Второй подход — восходящий — предполагает, что искусственные нейронные сети смогут моделировать архитектуру, свойства и поведение своего биологического прообраза, что приведет к созданию интеллектуального нейрокомпьютера. Если апологеты первого направления в большинстве своем разочаровались в создании мыслящей программы, то сторонники второго подхода поделились на два примерно равновеликих лагеря. Одни считают, что сильный искусственный интеллект возможен, другие — что нет.

Первые считают, что искусственный интеллект сможет когда-либо самостоятельно мыслить, обладать сознанием и осознавать себя, вторые уверены, что не сможет. Я отношусь к первым, так как никто еще не доказал обратного и даже не построил достаточно полной модели мозга с учетом хотя бы минимального набора наиболее важных его подсистем. Однако мыслящий искусственный интеллект если и возможен, то является очень далекой перспективой.

Фото: Chip Somodevilla / Getty Images

В Европе есть проект «Мозг человека» (Human Brain Project). На суперкомпьютере пытаются моделировать мозг. Создали детализированную модель одного миллиона нервных клеток неокортекса. На симуляцию одной секунды деятельности этой сети суперкомпьютер тратит от нескольких часов до суток, в зависимости от степени детализации модели.

Как определить момент, когда будет создан полноценный искусственный интеллект? Есть много вариантов ответа на этот вопрос, которые условно делятся на две большие группы. Например, Алан Тьюринг, знаменитый британский математик, известный в том числе благодаря взлому кода легендарной шифровальной установки фашистов «Энигма», считал, что машина станет разумной тогда, когда сможет общаться с человеком, а тот не поймет, что собеседник — не человек.

Второй подход чаще всего пропагандируют писатели-фантасты: когда машина научится чувствовать и творить. Правда, пока еще не выдвинуты однозначные критерии проверки указанных действий. Кто прав — покажет время. А пока требуются дальнейшие захватывающие исследования, которые дадут ответы на глубочайшие вопросы относительно нашего с вами самоопределения в этом мире — тайны разума.

lenta.ru

Мифы и заблуждения об искусственном интеллекте

В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит, порой кажется почти разумной и по-человечески саркастичной, но часто не может разобраться, о чём её спрашивают, и садится в лужу. 

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век».

Сергей Марков,

специалист по искусственному интеллекту

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё — в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям — например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач. 

В свою очередь, интеллектуальная задача — это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера — то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

Персональный помощник с голосом Скарлетт Йохансон из фильма «Она» достиг сингулярности и стал непостижим для своего «хозяина». Но это пока что только фантастика (или метафора того, как люди отдаляются друг от друга).

(источник: tnp-production.s3.amazonaws.com)

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы. 

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции — weak/applied/narrow AI) — это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски — strong AI/Artificial General Intelligence) — то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует». 

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, — это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ — довольно широкое. Скажем, устный счёт — это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака? Антикитерского механизма? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи. 

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные — весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

Абак — старинное счётное приспособление и прапрадед современных электронных устройств.

(источник: upload.wikimedia.org)

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение — всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение — свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области — программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero. Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению — это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач. 

Существует два больших полюса машинного обучения — обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность — обучение без учителя. То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем — это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру. 

Обучение с подкреплением — довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией. Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса. 

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун — создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо — человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса». 

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков. 

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

«Скайнет» или «Красная королева» — менее вероятные враги, чем человеческие разногласия и опрометчивые решения.

(источник: gagadget.com)

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов — наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел — предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m. 

Другой предел связан с принципом Ландауэра, в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 — это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень. 

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду. 

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами — на производстве, на транспорте и так далее — прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда». Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту. 

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки — расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты. 

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

После суток обучения в Твиттере безобидный робот Тау стал грубияном и расистом.

(источник: images1.popmeh.ru)

С одной стороны, нейронные сети — это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода, они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения — подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Это отдалённо напоминает конструктор Лего, в котором вы собираете большую нейронную сеть из множества небольших типовых кирпичиков. 

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств — видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, — это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они — далеко не самый эффективный инструмент.

А вот с созданием психоделических картинок нейросеть справляется отлично.

(источник: hsto.org)

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши. 

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python). 

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы — один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях — в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl+Enter.

newtonew.com

будущее искусственного интеллекта / Блог компании ГК ЛАНИТ / Хабр

Хабр, привет!

В этой статье я расскажу о конференции O’Reilly Strata Artificial Intelligence, которую мне довелось посетить этим летом в Нью-Йорке.

Strata AI – одна из главных конференций, посвященных искусственному интеллекту, проходит примерно раз в полгода. Конференцию не стоит путать с другим известным мероприятием Strata + Hadoop World – его также проводит O’Reilly, но то посвящено исключительно большим данным и по тематике они мало пересекаются.

О себе

Я работаю дата-сайентистом в компании CleverDATA. Одна из наших ключевых экспертиз – машинное обучение, и мы стараемся отправлять сотрудников на профильные конференции для получения новых знаний (о копенгагенской конференции Scala Days мы уже писали в блоге), да и просто, чтобы быть в курсе основных трендов.

Для отрасли искусственного интеллекта это особенно важно, так как здесь ландшафт меняется как нигде быстро, а количество источников информации огромно. Целью моей поездки было как раз понять, что из «горячих» тем мы сможем использовать на практике в наших проектах.

Приехал я в Нью-Йорк за день до начала мероприятия и, как оказалось, в самый разгар очередного гей-парада, поэтому все витрины магазинов, фасады зданий и символ города Empire State Building были раскрашены в цвета радужного флага. Отчасти это задало тон поездке. На следующий день, погуляв и проникнувшись духом города, я поехал регистрироваться на конференцию.

О конференции

Конференция оказалась довольно масштабной и включала около 80 выступлений, проходивших параллельно в семь потоков, поэтому очно мне удалось посетить лишь небольшую часть. Для остального пришлось ждать видеоматериалов — O’Reilly всегда их публикует на safarionlinebooks, и там же можно посмотреть видео с предыдущих конференций (правда нужна подписка).

С одной стороны, тематика конференции довольно узка: когда мы говорим «искусственный интеллект», то в 90% случаев подразумеваем глубокие нейронные сети. С другой стороны, докладчики приглашаются из совершенного разных областей, и ввиду разнообразия решаемых ими задач компания спикеров получается довольно разношерстной. На сайте конференции можно ознакомиться с ее агендой.

Говоря о представленных на конференции компаниях, можно выделить три большие группы. Первая – это вездесущие технологические гиганты вроде Google, IBM, Microsoft, Amazon и др. Вторая – молодые компании и смузи-ориентированые AI-ориентированные стартапы, в коих сейчас недостатка нет. И третья – это представители академической среды – основной поставщик новых теорий, подходов и алгоритмов. Лично на меня выступления последних, как правило, производят наибольшее впечатление.

Ввиду короткого формата выступлений (на каждую лекцию вместе с вопросами отводилось всего 45 минут) в них было очень мало математики или алгоритмов, в основном описывались общие идеи и демонстрировались примеры их применения. В целом это понятный подход, если что-то тебя заинтересовало — welcome, гугли эту тему в интернете и изучай её более подробно. Поэтому для себя я сформулировал цель посещения подобных мероприятий так – понять, какие темы на слуху и в каком направлении развивается индустрия.

К слову, за все время конференции ни в одном из выступлений я не услышал так любимый многими термин «Big Data», что, на мой взгляд, говорит о достаточно профессиональном уровне аудитории – терминология должна использоваться корректно.

Вообще, когда мы говорим «искусственный интеллект», воображение чаще всего рисует нечто подобное.

Но на самом деле ИИ — не только и столько про роботов, это гораздо шире. По сути речь идет о любой интеллектуальной системе или программе, способной в условиях большой неопределенности решать задачи, традиционно считавшиеся прерогативой человеческого интеллекта.

О глубоком обучении

Первый день организаторы отвели под мастер-классы. В основном это были туториалы по всевозможным фреймворкам глубокого обучения (deep learning), которых сегодня «на слуху» около 10 штук и которые, на мой личный взгляд, как две капли воды похожи другу на друга.

Глубокое обучение — это процесс обучения многослойных нейронных сетей, оптимизированных для работы с данными сложных иерархических форматов, и в последнее время ставший стандартным подходом для анализа текстов, изображений, аудио/видео данных и временных рядов.

Основное преимущество глубоких сетей перед другими методами машинного обучения и немногослойными сетями (shallow networks) – они избавляют от необходимости заниматься ручной генерацией фич (feature engineering), поскольку этот механизм заложен в архитектуру самой сети. Обратная сторона – такие сети требуют больше данных для обучения и для них сложнее подбирать параметры.

В глубоких сетях выделяют 2 базовых архитектуры: сверточные (CNN, Convolutional Neural Networks) и рекуррентные сети (RNN, Recurrent Neural Networks). Первые используются в основном для работы с изображениями, а вторые — для анализа текстов и любых последовательностей. Все остальные архитектуры — вариации на тему этих двух.

Чтобы аналитики не занимались реализацией низкоуровневой логики, за несколько лет появилось множество API, упрощающих разработку таких сетей и сводящих ее к конфигурации нужной архитектуры. Здесь перечислены почти все:

Я решил не мудрить и выбрал два наиболее популярных: TensorFlow и Keras.

Keras – один из наиболее высокоуровневых инструментов в этой серии, по сути являющийся Lego-конструктором. Разработка приложения сводится к выбору архитектуры сети, числа слоев, нейронов и активационных функций. Простейшие глубокие сети в Керасе собираются в 10 строк кода, что делает этот инструмент идеальным для быстрого старта или прототипирования.

TensorFlow, наоборот, один из наиболее низкоуровневых инструментов. Google его позиционирует как пакет для любых символьных вычислений, не только для глубоких сетей. На мой взгляд, одна из киллер-фич – это обалденная динамическая визуализация. Чтобы понять, о чем идет речь, можно посмотреть, например, тут.

TensorFlow является основной технологией для огромного числа AI-проектов и помимо Гугла используется в IBM, SAP, Intel и много где еще. Важный его плюс – большой  репозиторий готовых к использованию моделей.

Второй и третий дни были отведены под лекции. После утренней обзорной сессии с короткими десятиминутными выступлениями о достижениях индустрии, шел блок из 6 лекций.

Deep Learning в банках

Мне всегда была интересна тематика применения глубоких сетей не для очевидных картинок и текста, а для более «традиционных» структурированных данных, поэтому первой лекцией я выбрал рассказ Эрика Грина из Wells Fargo AI Labs об анализе транзакционных данных в банках.

«Продвинутные» банки давно делают глубокую аналитику для прогнозирования будущих транзакций, сегментации, выявления мошенничества и т.д., но пока мало кто может похвастаться работающим решением на базе глубоких сетей.

Идея предложенного подхода очень простая – сначала история транзакций записывается в неком структурированном формате, после этого каждый атрибут транзакции кодируется определенным числом (word embedding), а затем к получившимся векторам применяются глубокие сети (CNN или RNN). Такой механизм универсален и позволяет решать как задачу классификации, так и задачи прогнозирования и кластеризации транзакций. К сожалению, с точки зрения подачи материала лекция оказалась довольно слабой, и у автора выудить детали по качеству данного решения не удалось.

Зато следующий рассказ о совместном проекте Teradata и датского Danske Bank по внедрению антифрод-решения на базе глубокого обучения получился куда лучше. Задача была повысить качество обнаружения мошеннических транзакций. Ребята описывали довольно интересное решение, связанное с представлением транзакций в виде «псевдокартинки» и последующим применением сверточной нейронной сети.

Ниже приведен пример такой псевдокартинки, где по горизонтали отложены атрибуты транзакции, а по вертикали моменты времени. Кроме того, вокруг каждого атрибута (выделены светло-синим) по часовой стрелке отложены наиболее коррелированные с ним атрибуты. Такое представление позволяет легко находить аномальные паттерны в поведении клиентов.

Если верить их цифрам, по качеству это решение оставило далеко позади даже всеми любимый градиентный бустинг. Я не всегда доверяю цифрам в презентациях, но даже если качество сопоставимо, это очень интересный результат. Я планирую обязательно попробовать данный подход где-нибудь в наших задачах.

Правда на вопрос «Как такое решение будет проходить европейские требования GDPR по интерпретируемости модели» ребята так и не ответили. Будь он задан мне, я бы отослал к такой замечатльной штуке как LIME — интерпретатору сложных нелинейных моделей.

Дальше я пошел на панельную дискуссию с тремя девушками, владельцами AI-ориентированных стартапов. Дискуссия была о том, как выстроить эффективный бизнес в сфере AI. По факту сессия оказалась самой бесполезной: несмотря на обещанный «no fluff» в названии, никаких секретов раскрыто не было, а «общие» вопросы чередовались «общими» ответами. Единственное, что запомнилось из лекции, это выступавшая там девушка с необычным именем Коко (по совместительству профессор MIT).

Что там в Amazon

Далее меня заинтересовала лекция от Amazon про фреймворк распределенного глубокого обучения Apache MXNet. Я рассчитывал на мини-туториал по данному фреймворку, но по факту 90% рассказа были посвящены рекламе сервисов Amazon, а в оставшиеся 10% MxNet была упомянута просто как основная платформа для глубокого обучения, использующаяся во всех сервисах Амазона.

Среди достижений народного хозяйства компании были представлены:

• голосовой помощник Alexa,
• телепомощник Amazon Show — вариант Alexa с камерой и дисплеем,
• Amazon X-Ray – встроенный в видеоплеер помощник, который по стопкадру может показать биографию актера, а также вывести информацию о сюжете и персонаже,
• а также Amazon Go — магазин без кассовых аппаратов (мечта гопника) – просто набираешь продукты в корзину и идешь на выход, магазин сам определяет состав продуктов в корзине и списывает деньги со счета. Магазин сейчас работает в beta-режиме (только для сотрудников).

Во всех перечисленных выше проектах в том или ином виде используется глубокое обучение и, в частности, фреймворк Apache MxNet.

«Железная» логика

Далее выступал представитель Numenta – компании, которая занимается разработкой систем, моделирующих работу Неокортекса (части мозга человека, отвечающей за высокоуровневую интеллектуальную деятельность и обучение). Идея – построить обучающиеся структуры, более близкие по своей архитектуре мозгу человека, чем сегодняшние нейронные сети. В основе лежит теория иерерархической темпоральной памяти  (Hierarchical Temporal Memory), которая описывается в книге Джефа Хокинса 2004 года «Об интеллекте». Собственно, он же и основал компанию Numenta.

Сами авторы позиционируют свой проект как исследовательский и, несмотря на то, что алгоритм может решать разные задачи, пока нет результатов, подтверждающих, что подход работает лучше традиционных глубоких нейронных сетей. У выступавшего Мэта Тейлора есть канал на YouTube (HTMSchool), но он мне, честно говоря, не понравился и для ознакомления я бы рекомендовал все-таки печатные материалы.

Тема «железа» (AI acceleration) на конференции поднималась достаточно часто. Многие компании занимаются разработкой высокопроизводительных вычислительных комплексов, оптимизированных специально под обучение нейронных сетей. Известные примеры это процессоры Google TPU (tensor processing units), GPU дата-центры от Nvidia, или созданный в 2014 году компьютер TrueNorth от IBM, своей архитектурой повторяющий модель неокортекса. С ростом объемов данных скорость обучения становится важным конкурентным преимуществом.

Когда роботы захватят людей

Далее был интересный доклад Кэти Джордж из McKinsey о потенциале автоматизируемости профессий. Частично о результатах можно почитать на сайте McKinsey (к сожалению, в виде единой pdf у них не нашел).

Каждую профессию они рассматривали как комбинацию определенных действий и смотрели, какой процент этих действий может быть автоматизирован с учетом текущих технологий. Результаты меня удивили! Несмотря на то, что потенциал для автоматизации есть почти во всех профессиях, полностью автоматизированы могут быть всего 5% позиций. Что немножко расходится с популярной риторикой о том, что через год роботы поработят всех юристов (или как там было...).

Наибольшим потенциалом обладает предсказываемая физическая деятельность – это те же конвейеры на производстве, а также сбор и хранение данных, наименьшим – непредсказуемая физическая активность – например, игра в футбол (впрочем, насчет непредсказуемости болельщики сборной России могут поспорить).

Любопытно, что зависимость автоматизируемости от оплаты труда имеет форму треугольника – высокооплачиваемые профессии мало автоматизируются, а вот среди низкооплачиваемых разброс намного больше.

Интересно, что если смотреть потенциал по разным индустриям, то на первое место авторы поставили горячо любимую в нашей компании задачу персонализированного маркетинга (personalized advertizing).

День второй

Если глубокая аналитика давно перестала быть чисто академической дисциплиной и стала вполне себе прикладной (любой ларек с шаурмой умеет строить модели), то в области искусственного интеллекта дела обстоят чуть по-другому. Область активно развивается, и люди пытаются находить все новые точки применения, среди которых есть и абсолютно бесполезные с практической точки зрения.

Генерация искусства

Даг Эк из Google рассказывал о проекте Google Magenta – открытом репозитории моделей для создания музыки и рисунков.

В качестве первого примера авторы приводили созданное машиной классическое фортепианное произведение и, если не знать контекста, понять, что оно написано роботом, довольно сложно.

Затем был рассказ про сеть sketch-RNN, электронного художника, работающего на базе автоэнкодера и умеющего перерисовывать нарисованные от руки картинки и символы.

Автоэнкодер – сеть, сначала переводящая картинку в некое сжатое представление, а затем восстанавливающая его изначальную размерность. Таким образом, сеть работает как высокочастотный фильтр и способна убирать шум с картинки (шум в широком смысле, например, недорисованный ус).

Слева – котэ, нарисованный человеком, а справа — сгенерированный машиной образ.

Понять, где рисует машина, где человек – невозможно. В целом, становится все больше областей, где машины проходят тест Тьюринга (тест Тьюринга не обязательно формулируется для диалоговых систем, это может быть, например, распознавание или генерация картинок).

Авторы сами признаются, что конкретной цели у проекта нет, но это нормально, если вспомнить, что многие выдающиеся изобретения были разработаны безо всякой цели. По крайней мере, для рынка поп-музыки потенциал, мне кажется, очевиден.

Покер и теория игр

Другое известное применение искусственного интеллекта – это соревнование с человеком в азартных (и не очень) играх. Томас Сендхолм из Carnegie-Melon University рассказывал об игре в покер. Все знают, что машина давно обыгрывает человека в шахматы, слышали про недавнюю победу в Go, но выигрыш искусственного интеллекта в покерном турнире в этом году не получил большой огласки.

В теории игр игра с неполной информацией – та, в которой игрок не видит карт соперника. Из-за этого на каждом шаге ему приходится иметь дело не с детерминированным деревом игры, а с вероятностями и их матожиданием. Такие игры сложнее, так как необходимо просчитывать большее количество комбинаций. Решить игру означает найти оптимальную стратегию. Если упрощенные версии покера с помощью брут-форса были решены относительно давно, то более сложный вариант noLimit texas Holdem содержит 10^161 (больше числа атомов во Вселенной) вариантов игры, и прямое решение здесь невозможно.

Для решения использовался мощный суперкомпьютер, в реальном времени обрабатывающий поступающую информацию от игрового стола (Libratus), а в качестве математического алгоритма метод Monte-Carlo Counterfactual Regret Minimization.

Турнир я не видел, но говорят, вопреки ожиданиям AI играл довольно «тайтово», делал большие ставки, «давил банком» и брал «на понт».

Для индустрии азартных игр это означает перспективу роботизации, сравнимую с роботизацией рынка ценных бумаг.

Беспилотные авто

Одна из топовых тем, имеющих отношение к искусственному интеллекту, – это, конечно, беспилотные авто. Она не только популярна, но еще и весьма «широка». Разработчики таких машин вынуждены иметь дело не только с технологиями компьютерного зрения, но еще и с теорией оптимального управления, многочисленными системами позиционирования и решать множество прогностических задач. Не так сложно научить машину распознавать сцену и поворачивать руль в нужном направлении. Гораздо сложнее создать полностью автономного агента, способного безопасно передвигаться в потоке вместе с обычными водителями и координировать с ними свои действия.

Анка Драган из Berkley рассказывала о проблемах поведения беспилотных авто на дорогах. Для «затравки» было приведено два примера.

Первый пример: в штатах тестируемая гугломашина простояла два часа на перекрестке, пропуская другие машины, поскольку не могла вклиниться в поток. Вторым примером было показано видео а-ля телепередача «Водить по-русски», в котором где-то на просторах Миннесоты грузовик не дает перестроиться машине в свой ряд и «отжимает» легковушку обратно.

Сейчас разрабатываемые беспилотники воспринимают другие машины как препятствия, от которых нужно держаться подальше: если робот видит, что машина не уступает дорогу, он не будет к ней соваться. Но такая модель поведения (defensive behavior) будет крайне неэффективной: на перекрестке такие беспилотники могут пропускать другие машины до бесконечности, а на дороге не смогут даже перестроиться на съезд.

С другой стороны, как показывает второй пример, рассчитывать на разумное поведение водителей тоже нельзя. Отсюда и одно из главных опасений – сумеет ли беспилотник правильно повести себя в нестандартных ситуациях. Поэтому авторы предлагают при разработке использовать некий сбалансированный подход – начинать маневр, исследовать реакцию водителя, и в зависимости от нее корректировать свои действия.

Про Doom, или что еще умеют глубокие сети

Далее была лекция Руслана Салахутдинова из Carnegie-Melon University и Apple с обзором возможностей глубокого обучения для решения различных задач. С точки зрения подачи материала, на мой взгляд, это была одна из лучших лекций. Вообще, интересующимся глубоким обучением рекомендую ознакомиться с лекциями данного товарища, коих в интернете достаточно (например, тут). Приведу несколько примеров.

За последние несколько лет глубокие сети совершили прорыв, не только количественный, но и качественный – начали появляться новые задачи, комбинирующие визуальную и текстовую аналитику. Если 2-3 года назад сети умели только классифицировать тематику картинки, то теперь они легко могут дать словесное описание всей сцены на естественном языке (задача caption generation).

Кроме того, подобные системы умеют явно выделять на картинке объекты, соответствующие каждому отдельному слову из описания (так называемые Visual Attention Networks).

Основной вектор развития рекуррентных сетей связан с переходом к более совершенным механизмам запоминания контекста. В свое время в сфере рекуррентных сетей подобный прорыв совершили LSTM (long short-term memory) сети. Сейчас также разрабатываются сети с разными моделями памяти и один из таких вариантов — это сети MAGE, memory as acyclic graph enconding, способные моделировать долговременные ассоциации в тексте.

Или совсем поражающая воображение штука — сети с динамической памятью (Dynamic Memory Networks), которые не просто анализируют картинки или текст, но еще умеют отвечать на любой заданный вопрос касательно этой картинки или текста.

Далее был интересный блок про обучение с подкреплением (reinforcment learning). С появлением глубокого обучения данный подход получил всплекс интереса. Новые алгоритмы также пытаются задействовать механизм памяти.

В двух словах, Reinforcment Learning – это обучение оптимальному поведению. Какие-то действия системы поощряются, какие-то штрафуются, и задача системы научиться правильно действовать. Основное отличие от обучения с учителем в том, что система получает поощрение не при каждом действии, а довольно редко, поэтому она должна самостоятельно выстраивать весьма сложные стратегии поведения.

Для обучения с подкреплением идеально подходит виртуальная среда, в частности компьютерные игры. Она позволяет создавать бесконечное количество экспериментов, давая возможность без ограничений обучаться алгоритму, что невозможно сделать в реальности.

Результат работы традиционного RL (без памяти) был продемонстрирован на примере игры Doom. Для обучения использовались несколько классических карт. За найденный ключ или убитого врага следовало поощрение, а например, за падение в лаву – наказание. Если на первых итерациях обучения бот упирался лбом в стену, то спустя 8 часов обучения, он с полоборота сносил игроков так, что те не успевали ничего понять. Система отлично обобщала получаемые знания и одинаково хорошо играла как на старых, так и на новых картах.

Если для шутеров классический RL вполне подходит, то для более сложных игр с логическими заданиями уже требуется запоминание контекста, т.е. наличие памяти. Для этого был разработан класс алгоритмов Reinforcment Learning with Structured Memory.

Про компьютерное зрение

Исторически самое первое применение глубоких сетей – это анализ изображений. Лекция от Microsoft была посвящена технологиям компьютерного зрения. Тимоти Хейзен выделил четыре основные задачи:

• классификацию изображений,
• поиск объектов на картинке (object detection),
• сегментацию — выделение связных областей,
• определение схожести.

Если до 2012 года бал правили традиционные подходы, когда генерация фичей для обучения модели выполнялась вручную (HOG, SIFT и прочее), то в 2012 году прорыв в качестве распознавания совершила глубокая нейронная сеть AlexNet. В дальнейшем глубокие архитектуры стали стандартом.

В области компьютерного зрения бенчмарком является конкурс ImageNet, на котором тестируются все новые архитектуры. В 2016 году первое место заняла сеть от Microsoft ResNet, содержащая больше 150 слоев. На картинке ниже приведено сравнение точности известных сверточных сетей. Тенденнция к увеличению количества слоев на лицо, однако вместе с ней актуальной становится проблема «убывающего градиента» — обучать такие сети все сложнее. Можно предположить, что дальнейшие улучшения будут связаны с изменением архитектуры сетей, а не в увеличении числа слоев.

В качестве примера приводилось четыре любопытных проекта, которые Microsoft делал в качестве консультантов.

• Трекинг передвижения снежных леопардов в условиях дикой природы (подробнее здесь)
• Умный холодильник – когда заканчивается пиво, он отправляет владельцу срочную смску с предупреждением или сам делает заказ в магазине.
• Распознавание аэрофотоснимков для анализа развития территорий (здесь).
• Избитая идея для Fashion-стартапа, когда по картинке определяется, что надето на человеке, и ищется максимально похожая одежда в ближайших магазинах. Кстати, если кому-то интересно, есть открытый датасет со шмотками.

Разумеется, не обошлось без рекламы двух своих продуктов: Cognitive Toolkit (CNTK) и Custom Vision – облачного сервиса для классификации изображений.

Я решил протестировать функционал Custom Vision и попробовал научить бинарную модель классификации отличать хипстеров от гопников. Для этого загрузил около 1000 изображений, из поиска Google Images. Никакой предобработки не делал, загружал как есть.

Модель обучалась несколько минут и в целом результаты получились неплохие (Precision: 78%, Recall: 89%). Да и на новых примерах классификатор работает корректно (см. ниже).

Антихайп

Интересно, что на конференции много докладов было связано с развенчанием мифов. Поскольку тема хайповая, пишут о ней много и не всегда по делу.

Очень часто звучала такая мысль: существующие сегодня нейронные сети нельзя назвать полноценным интеллектом. Пока это лишь его очень грубая модель, частично обладающая свойством обучаемости, но очень плохо обобщающая и лишенная того, что называют «common sense». Многие спикеры сходились в том, что для разработки действительно «умного» интеллекта потребуется не один десяток лет. Пока что мы даже толком не знаем, как работает мозг, не говоря уже о том, чтобы создать его полноценный искусственный аналог.

Сегодня не существует однозначного определения понятия «искусственный интеллект», но большинство экспертов сходится, что такой интеллект должен обладать набором базовых способностей, присущих человеческому, в частности умением:

• обучаться,
• планировать и решать поставленные задачи,
• обобщать,
• коммуницировать с людьми.

Определенных успехов мы добились, пожалуй, только в способности обучения, а все остальное остается на очень базовом уровне. Потенциал развития искусственного интеллекта в ближайшие годы видится как раз в развитии этих характеристик.

Про One-shot Learning и Transfer Learing

Обучение с учителем – стандартный подход сегодня, однако он все чаще критикуется. Несколько раз звучала интересная мысль о том, что будущее машинного обучения за обучением без учителя, или по крайней мере роль учителя будет уменьшаться.

Ведь чтобы понять, что не стоит совать пальцы в розетку, человеку в отличие от нейросети не нужно 10 тысяч раз повторять этот опыт, и обычно он запоминает с первого (хотя не все, конечно). Помимо базовых инстинктов человек обладает неким здравым смыслом, предобученной базой знаний, которая позволяет ему легко делать обобщения. Есть гипотеза, что она заложена в сформировавшийся за годы эволюции неокортекс – присущую только высшим млекопитающим часть мозга, отвечающую за обучение.

Поэтому одно из направлений развития ИИ, которым сейчас активно занимается сообщество, – продвижение подхода One-shot Learning – вида обучения, при котором алгоритм способен делать обобщения, анализируя очень небольшое количество обучающих кейсов (в идеале один). В перспективе машины при принятии решения должны будут моделировать возможные ситуации, а не просто повторять решение на основе опыта. Способность обобщать – неотъемлемая черта любого интеллекта.

Чтобы проиллюстрировать сказанное, найдите в двух наборах ниже объекты, аналогичные выделенным. В отличие от компьютерной программы, человек, как правило, довольно легко справляется с этой задачей.

Еще одна близкая тема – это использование так называемого Transfer Learning – модели обучения, при которой предварительно обучается некая универсальная «грубая» модель, а затем для решения более специфических задач она дообучается уже на новых данных. Главное преимущество в том, что процесс обучения в этом случае выполняется в разы быстрее.

Чаще этот термин употребляется в контексте компьютерного зрения, но на самом деле идея легко обобщается на любые задачи ИИ. В качестве примера – многочисленные предобученные сети для распознавания изображений от Google или Microsoft. Эти сети натренированы распознавать базовые элементы изображения, для решения же конкретных задач необходимо дообучить всего несколько выходных слоев такой сети.

Вместо заключения

В целом поездка оказалась весьма поучительной и дала немало пищи для размышлений. Всегда приятно оказаться в компании профессионалов, которые занимаются примерно тем же, что и ты. Резюмировать мои впечатления от конференции, наверное, можно так: несмотря на то, что до создания настоящего искусственного интеллекта человечеству еще далеко, тема сегодня развивается семимильными шагами и находит все новые точки приложения в совешенно разных и порой неожиданных областях. Технологии, которые пару лет назад считались экзотикой, постепенно становятся новым стандартом.

Следующая конференция данной серии планируется в апреле 2018 года.

UPD: Если Вам захотелось работать у нас в CleverData, тут пара вакансий Все вакансии ЛАНИТ по этой ссылке.

habr.com

---

• 
  Что будет через 1000 лет на земле
• 
  Вселенная виртуальная
• 
  Запустили ракету
• 
  Психология убийц и маньяков
• 
  Космический аппарат пионер
• 
  Молекулярные машины
• 
  Как на земле создать невесомость
• 
  Пионер космический аппарат
• 
  Снимки хаббл телескоп
• 
  Программа оживления фотографий
• 
  Последние археологические находки в мире