Что нам грозит, когда компьютеры станут очень умными? Кто сильнее человек или компьютер сообщение
Человек или компьютер? by Кирилл Чесноков on Prezi
И не будем забывать, что лишь человек способен играть ярко, рискованно и неожиданно!Этой разработкой заинтересовались представители IBM, и работа продолжилась – был создан знаменитый Deep Blue(фото ниже), победивший на турнире компьютеров и выигравший у сильнейшей шахматистки мира Юдит Полгар. Одновременно проводился блиц-турнир с участием программы Fritz, поделившей первое место с Каспаровым и уступившей ему лишь в дополнительном матче. Следующим шагом было создание компьютеров специально для шахмат, позволяющих совершать большое количество операций в секунду. Первый такой компьютер был создан в лаборатории Белл Кеном Томпсоном. Он производил 180000 операций в секунду и просчитывал позицию на 8-9 полуходов, что соответствовало уровню мастера. Этот компьютер победил на Всемирном шахматном турнире компьютеров и во многих других турнирах в начале 80-х, но уступил новому гораздо более мощному Cray X_MPs. Компьютер Томпсона был усовершенствован, но так и не смог победить лидера. Далее появился Chip Test и Deep Thought, способный считать 500 000 операций в секунду. DT сыграл две партии с действующим чемпионом мира Каспаровым и проиграл обе, зато одержал победу над несколькими гроссмейстерами.
prezi.com
ЧЕЛОВЕК ИЛИ КОМПЬЮТЕР?
Имя гостя нашей редакции знают не только в нашей стране. Ещё бы! Обладатель самой сильной памяти в мире дважды попадал в Книгу рекордов Гиннесса. Впрочем, человек-компьютер утверждает, что ничего сверхъестественного в его уникальных способностях нет. Более того, по его глубокому убеждению, овладеть аналогичными возможностями может практически каждый житель планеты. И сегодня Самвел Гарибян в беседе с нашим корреспондентом раскрывает некоторые свои секреты.
— Самвел, когда вы обнаружили свой дар?— Я бы не назвал это даром свыше. Я ведь не экстрасенс, не маг, не предсказатель будущего. Просто я разработал особую методику улучшения памяти и уверен, что постичь эту науку по силам любому.— Но все же… Повторить даже пятьдесят продиктованных слов и практически без ошибок — не каждому дано, а вы аж две тысячи запомнили. Впрочем, мы отвлеклись. Итак?— Я учился в университете, и… терял зрение. Близорукость была страшной. На третьем курсе меня прооперировали в клинике Фёдорова. Доктор порекомендовал уменьшить зрительные нагрузки. Встал вопрос: что делать? В академический отпуск идти не хотелось. Год терять. И я решил продолжить учебу. Сижу на лекции, слушаю препода, а он, увидев, что я без конспекта, интересуется, почему, мол, не записываю. Я нагло отвечаю, что не хочу. Тогда, меня предупредили, что выше двойки на экзамене не получу. Вот тут-то я и призадумался. Потребовалась волшебная палочка. Но, увы, у меня её тогда не было.— То есть как в поговорке: не было бы счастья, да несчастье помогло.— Точно! Я с детства интересовался психологией. Почитывал соответствующую литературу. Мне было очень любопытно, что же такое память. Нужен был учитель. Но кто он? И я нашёл ответ для себя. Учитель — это природа. А представитель её — младенец. Не удивляйтесь. Ведь посмотрите на детей. Они впитывают в себя всю информацию как губка. И не потому, что у них мозги ещё не заполнены. Просто инстинктивно у них развита память сердца, память чувств и эмоций. Это открытие как-то воодушевило меня. Дело оставалось за малым: оживить, активировать этот потенциал. Мне нужно было научиться концентрировать внимание. Именно это необходимо для развития мышления. Мне повезло. В университете учился индус Ашоки Протап Сингх. Но он был не просто студентом, парень всерьёз занимался йогой. Я стал его учеником. Его уроки очень многое дали мне, и не только в физическом смысле, но и в духовном. Я приобрёл ряд качеств, которых раньше не имел.— А какое отношение это имеет к проблемам памяти?— Самое прямое. Ведь я решил впасть в детство. Не в том, конечно, смысле, чтобы произносить гу-гу и ходить под себя. Нет. Задача была иная: научиться рационально мыслить. А как это сделать? Перевернуть все события с ног на голову. Мысленно, естественно. Представьте себе, что антилопа съедает крокодила или дипломированные москвичи подметают улицы Душанбе. Абсурд? Конечно! Но именно это я и заложил в основу тренинга по запоминанию слов.— То есть, чтобы были ассоциации абсурда?— Не только. Ассоциации могут быть самыми различными. В том числе и нелепыми. Например, как запомнить английское слово «манки» (обезьяна)? Все германки — обезьянки. Вообразите вдобавок фрау на лиане… Уверен: на всю жизнь запомните.Основных принципов моей методики — шесть. Динамичность, обратное мышление, изменение масштабов.— Поподробнее, пожалуйста. — Представьте себе слона размером с кошку и воробья, поднимающего тонну груза. Следующий принцип — пикантность. То есть что-то остренькое, хулиганское. Остальные два: контрастность и множественность.— И как сработала методика во время той самой сессии? — Сдал все зачеты и экзамены на «хорошо» и «отлично».— Без конспектов?— Разумеется. А они особо и не нужны, если есть голова. Тренировка памяти не самоцель. Она необходима для того, чтобы развивать способности нашего мозга. Ведь не секрет, что среднестатистический человек использует свои возможности процента на три-четыре. Это не я придумал. Учёные доказали. Уверен: каждый из нас вполне может запомнить всю информацию, которая содержится в библиотеке им. Ленина. Надо только развивать свои способности.— Вы хотите сказать, что даже пожилой человек сумеет?— Действительно, физическая сила памяти со временем ослабевает. Но запоминание и память — разные вещи. Зная механизм запоминания, можно эффективно использовать его. Приведу пример. В лес пошли два человека. Один обладает феноменальной памятью. Он запоминает дорогу, особые приметы. Второй страдает склерозом. Но он с топором и каждые десять шагов делает зарубки на деревьях. Естественно, меньше шансов заблудиться у человека, страдающего склерозом.— Где ещё пригодилась ваша память?— Помните страшное землетрясение в Спитаке? Я тогда работал в Ереване. Пришёл в штаб. На площади толпа народу. Информацию о пострадавших вывешивали на стендах. Но ведь к ним ещё протолкнуться надо. Я предложил свои услуги. Запоминал фамилии из списка, кто в какой больнице лежит, какое состояние человека. Затем выходил на площадь и оповещал родственников.— Как вы попали в Книгу рекордов Гиннесса?— Это было в конце 80-х. Увидел сюжет по телевизору. Один мой земляк поставил рекорд. Переплыл пресноводное озеро Севан (а температура воды 4—6 градусов). Акватория его большая — 47 километров в ширину. Я понял, что представитель книги сейчас в Армении. Поехал. Встретился и предложил протестировать мою память. Вскоре меня пригласили в Москву. Мне продиктовали 1000 слов, не связанных между собой. На различных языках: английском, французском, итальянском, фарси, дари, эсперанто, арабском и некоторых других. Я повторил всю цепочку, сделав 40 ошибок. Второй рекорд я поставил спустя 10 лет. Количество слов, предложенных мне на тестировании, удвоилось.— Не за горами Олимпиада в Сочи, а после неё — чемпионат мира по футболу. Вопрос не праздный. Увы, наши сотрудники, к сожалению, с иностранными языками дружат не очень. Каким словарным запасом должен, на ваш взгляд, обладать человек, чтобы сносно общаться с гостями страны? Я имею в виду английский, немецкий, французский языки.— Вполне достаточно 3,5—4 тысяч слов.— И за какой период можно их выучить?— По моей методике — быстро. Очень быстро. Моё занятие длится 3 часа. После него любой человек выходит со знанием порядка 200 слов.— Арифметика простая. 200 слов за занятие… То есть всего надо 15—20 семинаров, и человек знает английский?— Я такого не говорил. Я не преподаю язык. Хотя иногда делаю исключения. Я обучаю людей методике запоминания слов. То есть после моих семинаров человек будет иметь вполне достаточный словарный запас для обучения языку. А это, согласитесь, очень важная составляющая процесса изучения иностранного языка.— Готовы ли вы помочь московской полиции в этом деле? — С превеликим удовольствием! Пожалуйста, формируйте группу, определяйте время. Денег за это я не попрошу.
Беседовал Евгений КАТЫШЕВ,фото из личного архиваСамвела Гарибяна
petrovka-38.com
Расширенный человек
От Редакции. Мы пубикуем эту заметку нашего постоянного автора, понимая, что она вызовет, мягко говоря, неоднозначную реакцию. Естественно, мы не можем оставить её без нашего комментария -- ответ Виктора Мараховского см. здесь: «Настоящий человек».
Я помню времена, когда идея о том, что компьютер может обыгрывать человека в шахматы, многим казалась совершенно неправдоподобной. «Компьютер, быть может, в состоянии обыграть новичка или даже любителя, но он никогда не сравнится с мастерами», — говорили они, — «ведь компьютер не может думать, он может только перебирать варианты». А человек, де, обладает воображением, интуицией, в общем, чем-то особенным, что компьютеру никогда не светит.
Однако компьютеры довольно быстро расставили все точки над «i»: человек проиграет им сто партий из ста. Не вообще любой программе, запущенной на какой угодно машине, но есть такие программы и такие машины, которым проиграет вообще любой человек, причём все партии. А если кто-то пару партий и выиграет, то следующее поколение программ и компьютеров исправит это недоразумение.
Играет компьютер, разумеется, не совсем сам — играет программа, написанная человеком. Однако играет всё-таки не человек, написавший программу — ведь программа обыграет и его в том числе. Там, в программе, не только его навык. Там совокупность навыков: навык человека, разработавшего алгоритм игры и воплотившего его в коде, и «навык» компьютера этот алгоритм на огромной скорости исполнять.
И так, что характерно, будет с каждым. С каждым действием, которое умеет делать человек. Компьютеры неизбежно научатся (точнее, человек их научит) выигрывать в любую игру. И вообще решать любую задачу быстрее и точнее человека. Более того, рано или поздно их научат настолько мастерски имитировать любую деятельность человеческого мозга, что «имитация» будет выглядеть лучше оригинала.
На этом месте традиционно следует переход к проблеме сознания и самосознания: станет ли компьютер разумным, что есть разум и т.п., — но я коварно перейду к совершенно иному вопросу.
Дело в том, что компьютер, научившийся делать вообще что угодно лучше человека, в некотором смысле станет лучше человека. Зачем поручать решение чего бы то ни было человеку, если компьютер делает это лучше? Да, программы пишет человек, но это сейчас. Через некоторое время компьютер их будет писать условно говоря «сам». Писать будет, разумеется, не «сам компьютер», а какая-то программа, на нём запущенная, однако её база знаний о подходах к решению задач, сопряжённая с чем-то вроде «генетического поиска алгоритма», будет выдавать алгоритм решения любой задачи гораздо быстрее, чем даже самый талантливый программист.
Человек будет сдавать компьютеру один рубеж за другим, перемещаясь сначала в область поиска чего-то радикально нового (но компьютер последует за ним), потом в область творчества (но и там «имитации» творчества, производимые компьютером, со временем станут превосходить то, что делает любой творец-человек), и в конце концов не останется ни одной области, где человек имеет преимущество.
Некоторое время людям ещё светит приоритет в постановке вопросов — но и её рано или поздно возьмёт на себя компьютер — ведь его область знаний будет куда шире, чем у любого из людей, поэтому ему будет лучше «понятно», какие на данный момент вопросы ещё не имеют ответа, но уже могут быть заданы.
Дело придёт к тому, что человеку, собственно, останется единственное — желать. Компьютер же выполнит все его желания, которые на данном этапе вообще возможно выполнить.
Многие зададут вопрос: а будет ли выполнять? Не захватит ли компьютер власть, как то показывают нам фантастические фильмы? Не захватит. Воле к власти над людьми у компьютера взяться неоткуда.
«Сознание» компьютера ровно так же обусловлено «инстинктами», как и у человека. Например, большинство людей заботится о своих детях — этого требует от человека не только разум, но и инстинкт. Сознание с его свободой воли строится в соответствии с этим инстинктом. Человек имеет возможность пойти против инстинкта, но обычно не имеет такого желания. Подобным образом, компьютер, снабжён «инстинктом» решать задачи людей. Чисто «эволюционно» снабжён — ведь именно с этой целью делают компьютеры и пишут под них программы. Поэтому у компьютера нет «мотивации» порабощать людей, как у человека нет мотивации порабощать свои инстинкты. Разве что кто-то из людей вставит в одну из программ «волю» к порабощению. Но в этом случае — как и в случае с оружием — чинят насилие люди, а не вещи.
Итак, компьютеры, исполняющие желания людей. Вроде бы благодать, однако странно было бы счесть благодатью цивилизацию, состоящую из существ, проигравших по способностям во всех областях ими же созданным компьютерам и теперь находящимся на их попечении. Это ведь не прогресс, а начало угасания цивилизации людей. Последний вздох перед тем, как развращённые всеобъемлющей заботой о себе люди вымрут, оставив планету компьютерам, которые вряд ли хватит сил и воли выключить перед смертью.
Иными словами, создание машин, обходящих нас по всем фронтам, это проигрыш. Однако отказ от такового — тоже проигрыш. Мы как бы побоялись проиграть и потому играть не стали вообще. Хотелось бы, знаете ли, выиграть, а не отступить. Хотелось бы не отказаться от прогресса — это ведь тоже начало угасания — а разумно им воспользоваться.
И способ выигрыша состоит вот в чём. Компьютер действительно рано или поздно станет сильнее человека во всех вопросах. Но это только современного человека. Чтобы выиграть гонку с компьютером, человеку в некотором смысле надо стать компьютером. Точнее, стать компьютером и человеком одновременно.
Компьютер заточен под вычисления гораздо лучше, чем человек. И, в отличие от человека, его можно физически модифицировать, заменив комплектующие на более совершенные. Самое оно человеку перенять от компьютера сии ценные способности. Модифицировать собственный мозг и заодно тело, путём добавления к ним электронных устройств.
Что интересно, несмотря на кажущуюся фантастичность, такая возможность уже существует. Были успешные опыты по подключению электронных устройств к мозгу (правда, пока не к человеческому), которые показали, что мозг способен начать их использовать как часть себя.
Одновременно с этим можно идти и путём «биологической» модификации — то есть целенаправленного изменения генов человека. Это имеет и другой плюс — искоренение практически всех болезней (кроме физических повреждений тела), включая процесс старения организма, но в рамках данного вопроса нас интересует более гибко модифицирующийся мозг. Модифицирующийся, в том числе, при жизни индивида, причём модифицирующийся обратимо.
Я думаю, к этому абзацу многие читатели уже успели испытать ужас вида: «нас превратят в киборгов». Многие уже успели в голове придумать бронебойные возражения: мозг и тело человека модифицировать нельзя. Это опасно. Это противоречит этике, религии, культуре и так далее.
Однако я скажу: ужас — мнимый. Как и вышеозначенные противоречия. Дело в том, что мы постоянно модифицируем свои тела и свой мозг. В том числе, вполне сознательно. И мозг, и тело человека давно уже модифицируют как химически (при помощи лекарств и им подобного), так и физически (при помощи хирургии, физиотерапии и т.п.). Если кому-то из вас кажется, что эти модификации — совсем не те, поскольку они «чинят», а не улучшают и так здоровое, то вот вам ещё примеры. Тренажёрный зал, который некоторые из вас посещают, самое что ни на есть физическое улучшение тела. Образование — самое что ни на есть улучшение мозга. При тренировках в мозгу физически образуются новые связи. Даже когда вы читаете эту статью, у вас и то в мозгу происходят электро-химические изменения.
Если человек потерял руку, а вы делаете ему протез, хорошо это или плохо? Думаю, большинство людей скажет, что хорошо. Причём чем более совершенный протез, тем лучше. Но будет ли протез становиться хуже, если уровень обычной человеческой руки в нём уже достигнут, но его продолжают дорабатывать? Если рука-протез начинает обгонять ту руку, которая у человека когда-то была? Если она сильнее, ловчее, надёжнее?
Ещё до того, как человек начал овладевать технологией создания совершенных протезов, он уже делал «протезы» тому, чего у него нет: острых и длинных зубов — копья и мечи, длинных сильных ног и длинных сильных рук — подъёмные краны, даже крыльев — самолёты. И всё это сейчас не воспринимается как нечто, идущее вразрез с культурой, этикой или чем-то ещё.
Когда человек делает себе огромную, мощную и загребущую руку — экскаватор и управляет ей при помощи рычагов, можем ли мы сказать, что человек из-за этого стал хуже, согласно этике, религии и т.п.? Ну а теперь заменим рычаги на пульт дистанционного управления с кнопками. Стал ли человек хуже?
Если опять не стал, то сделаем следующий шаг. На данный момент экскаватор управляется следующим образом: мозг посылает сигнал рукам человека, руки давят на кнопки, сигнал в виде электромагнитных колебаний уходит в принимающее устройство в экскаваторе, а оно подаёт команды его механике. Давайте считаем сигнал не с рук, а прямо с мозга — при помощи, например, энцефалографа.
Опять же, кажется фантастичным, но и такие устройства уже есть. Причём не только управляемый непосредственно мозгом протезы, но и даже вполне себе бытовые устройства, считывающие энцефалограмму и использующие её как манипулятор для обычного компьютера.
Как показывает практика, мозг довольно быстро калибруется под такой на первый взгляд необычный способ управления. Теперь наш пульт ДУ для экскаватора утратил кнопки, а читает сигналы мозга анализом его излучения. Стал ли человек хуже? Были ли нарушены какие-то этические принципы?
Теперь сделаем ещё один шаг. Подключим пульт ДУ прямо сразу к мозгу, а не к излучаемому им электромагнитному полю. Чисто технически мы получим новую конечность — экскаватор. Если он будет передавать мозгу некоторый отклик, то оная конечность будет даже в некотором смысле содержать внутри себя орган чувств.
В этом мысленном эксперименте мы модифицировали человеческое тело. Довольно хитрым способом — снабдив его новой «конечностью», к тому же не присоединённой к телу физически. Неужели человек портится, а нормы нарушаются — именно на этом этапе?
Если по-прежнему нет, то рассмотрим вместо экскаватора — калькулятор. Пройдём по всем тем же шагам — от нажатия на кнопки до подключения непосредственно к мозгу. После калькулятора рассмотрим книгу. Затем — средства связи. Каждый раз получается, что ничего радикального не произошло. Просто доступ к каждому из устройств стал гораздо быстрее.
Но расчёты на калькуляторе — это частный случай расчётов вообще. Почему следует останавливаться только на таких расчётах?
Книга — это способ хранения информации. Чем хуже общий случай памяти, где можно «хранить», в том числе, мысленные образы? Видеокамера в голове вряд ли сильнее портит человека, чем оная же в мобильном телефоне.
Если мы можем позволить себе связь с любым человеком планеты через интернет с выводом информации на экран, а голоса — на колонки, то что вдруг испортится, если голос и изображение будет попадать прямо в сознание, минуя глаза и уши? Что испортится, если для передачи мысли её надо будет не сказать, а только подумать?
Все эти изменения вполне себе ложатся в непрерывную линию прогресса, хотя изменения, которые они с собой несут, кажутся нам крайне непривычными и от того опасными. Однако ровно так же было и с компьютерами, и с книгопечатанием, и с письменностью вообще.
Образование и технологии сделали человека сильнее во всех областях его деятельности. Однако следующие технологии сделают его ещё сильнее.
Человек изменял себя образованием, тренировками, общественными отношениями и медициной. Он и продолжит изменять себя. Да, более радикально, чем это было раньше. Но и раньше он, в общем-то, был не против. Только набор средств был гораздо уже.
P.S. Мысленный эксперимент с экскаватором, на примере которого иллюстрировалась логичность перехода к сращиванию машины с мозгом, подвёл меня к следующей идее.
Электронные расширения человека не обязательно должны быть «приделаны» к человеку. Вообще говоря, человек может иметь несколько тел, одновременно занятых разной деятельностью. Современному человеку тяжело координировать такую деятельность, однако при помощи расширения мозга это становится возможно.
Сами расширения мозга тоже не обязаны располагаться непосредственно в черепе или даже в теле. В «черепе» может быть расположено средство связи, а само расширение находиться в другом месте и занимать довольно большой объём. Разные части мыслительного процесса таким образом могут проистекать в разных географических точках планеты.
При этом некоторые фрагменты «расширений» могут подобно современным серверам обслуживать сразу множество личностей. В том числе, предоставляя им процессорное время в зависимости от текущих потребностей каждого из них.
Аналогично каждым «телом» может управлять несколько человек одновременно (как сейчас это делает экипаж корабля или самолёта).
Итого:
Одному мозгу может «принадлежать» несколько физически отделённых друг от друга тел
Одному мозгу может «принадлежать» несколько расширений, в том числе физически отдалённых друг от друга и от самого мозга
Одно тело может принадлежать нескольким мозгам
Одно расширение мозга может использоваться несколькими мозгами
Вкупе со встроенными в мозг средствами всепланетной коммуникации, позволяющей обмениваться мыслями с любым другим разумом, можно сказать: о да, человек в будущем изменится буквально-таки до неузнаваемости.
P.P.S. Переделанные до неузнаваемости люди будущего, не исключено, в какой-то момент утратят вообще все свои «составные части», данные им природой. Каждая часть каждого человека фактически будет придумана человеком же. Таким образом для людей будущего вопрос «есть ли Творец, сотворивший людей?» будет очевиден. Конечно, есть — это мы сами, люди.
Отчасти, впрочем, это могут сказать и наши современники тоже.
От редакции. Продолжение темы, напоминаем — в комментарии Виктора Мараховского «Настоящий человек».
www.odnako.org
Что нам грозит, когда компьютеры станут очень умными?
«Восстание машин», «Терминатор возвращается»... Куча фантастики построена на том, что компьютеры становятся настолько умны, что понимают: им будет лучше без человека. Сказки? Да как посмотреть. К 2050 году обычный домашний компьютер сможет обрабатывать столько же информации, сколько все люди на земле вместе взятые.
Но 2050-ый - это при условии, что машины будут развиваться постепенно. А так не бывает. Наши отношения с электронным миром продвигаются рывками. Раз - к машине прикрепили мышку. Раз - возник Интернет. Раз - появились смартфоны с планшетами.
Следующий прорыв грядет когда компьютер сможет понимать людей. В смартфонах уже есть приложения вроде Siri и Cortana, умеющие вести с нами простой диалог. Но проблема в том, чтобы компьютер понимал, не то что мы говорим, а то, что имеем в виду! Самый простой пример: фраза «Он от меня ушел», сказанная заплаканной женщиной и мужичной-начальником имеет совсем разный смысл.
Так вот: как только машины научат распознавать нюансы человеческой речи, с одной стороны у нас будут развязаны руки в прямом и переносном смыслах. Поговорил с компьютером, и он все выполнил. С другой, не приближаемся ли мы к опасной черте, убирая последний барьер в общении людей и бездушного железа?
Об этом я давно хотел поговорить с известным ученым, директором по лингвистическим исследованиям компании ABBYY, зав кафедрами компьютерной лингвистики в РГГУ и МФТИ Владимиром Селегеем. Но когда я изложил ему свои апокалипсические страхи, тот нахмурился:
- Да, фантастика полна мрачных предсказаний о том, как обученные человеком машины станут обходиться без него. Но мне непонятно, почему увеличение объема заложенных в программы знаний спровоцирует компьютер принимать решения, не спрашивая разрешения у человека?
На самом деле проблема не в том, что компьютер научится обходиться без людей, а в том, что люди захотят обходиться без себя при решении тех или иных проблем. Вот Чернобыль...
- А при чем тут Чернобыль?
- Ядерный реактор - сложнейшая физическая модель. Кажется, что у реактора все параметры управления известны, всё подчиняется строгим физическим законам, и можно полностью передоверить компьютеру принятие решений. Но...
В 1986 году, через неделю после аварии, я участвовал в семинаре по использованию методов искусственного интеллекта в промышленности. Уже тогда было понятно - передоверяя принятие решений компьютеру, мы серьезно рискуем. Программам свойственно содержать ошибки. Даже в спутниках случаются сбои в программном обеспечении.
- То есть человек надежнее компьютера, хотя тот "соображает" гораздо быстрее?
- Человек ко всему прочему обладает мотивацией. Он решает свои задачи - образование, продолжение рода, карьера, он умеет чувствовать…
- Но может же какой-нибудь ушлый программист написать программу, которая бы учила машину агрессии...
- Можно попытаться сделать, например, военного робота, который будет принимать решения сам, анализируя то, что он видит и слышит. И это будет очень опасно. Но не потому, что у робота появится вдруг желание уничтожать, как написано у фантастов. А потому, что ошибка программиста, неучет каких-то факторов может привести к непредсказуемому поведению робота.
Но пока мы очень далеки от умения создавать самообучающиеся программы, которые способны порождать совсем новое знание. Грубо говоря, самостоятельно переходить от таблицы умножения к умению решать сложные уравнения.
Во второй половине ХХ века были очень популярны футуристические прогнозы в области науки. Всё, что касалось интеллекта компьютера, попало в молоко. Никто не предсказал Интернета, невероятной свободы доступа к информации, мобильных телефонов. Но зато все говорили о мыслящих компьютерах.
К примеру, в конце 60-х годов первая наша шахматная система КАИСА удачно выступала на чемпионате мира среди компьютеров. Считалось, что, для того чтобы машина обыграл человека, нужно смоделировать алгоритмы человеческой игры. Заложить разум, интеллект, ту самую таинственную интуицию, которая заставляет шахматиста принимать правильные решения.
Сегодня компьютер обыгрывает человека. Но его так и не научили интуиции. В его память загрузили миллиард состоявшихся партий, весь опыт игры, все решения, которые когда-либо принимались шахматистами. И обучили использовать это при выборе оптимального плана игры, снабдив колоссальной скоростью перебора и оценки вариантов. Компьютер обыгрывает чемпионов мира, но не получает от этого никакого удовольствия. Все совсем не так, как у людей.
- Но вы же один из тех, кто как раз учит компьютер "включать голову"!
- Мы лишь пытаемся научить программы «понимать» тексты для того, чтобы они извлекали из них информацию, аккумулировали ее и обобщали. Чтобы люди получали знания отфильтрованные, выбранные из миллиардов источников. Это очень сложно, потому что человек сам не очень хорошо знает, как устроена его языковая способность, на чем основано его понимание других людей.
Сейчас популярен статистический машинный перевод. Компьютер вообще не понимает, о чем идет речь в переводимом тексте, он просто умеет находить наиболее вероятные варианты перевода небольших фрагментов (в несколько слов), анализируя огромные объемы заложенных в его память переводов, сделанных людьми. В целом получается понятный текст. Но принимать на основании такого перевода ответственное решение было бы легкомысленно.
- Хорошо, компьютер может мне инструкцию перевести?
- Инструкцию? Это опасно.
- Да к простому холодильнику!..
- Даже к холодильнику! Хотелось бы, чтобы наши программы переводили, пытаясь разобраться в тексте, выбирая между вариантами на основании знаний, а не просто потому, что вот это соответствие в нашей базе чаще всего встречается.
- Ладно, допустим, вы решили задачу и создали систему, благодаря которой компьютеры научатся понимать нюансы нашей речи и даже точно переводить ее на другой язык. И тогда людям грозит новая опасность - думать уже не надо будет. Не надо будет тренировать память, мозг. Нужна информация - пожалуйста, «Википедия». Нужно поговорить с иностранцем - переводчик...
- Чем выше уровень интеллекта и знаний человека, тем полезнее для него очередной «умный помощник». А чем ниже - тем больше появляется возможностей вовсе не думать. Компьютерные технологии приводят к поляризации общества. Грубо говоря, появление калькулятора не привело к вырождению математиков. Но у части школьников, очевидно, произошло снижение и без того низкого уровня способностей.
- Знаете, для меня серьезный показатель падения уровня образования - количество людей, которые пишут неграмотно или не в состоянии выразить свои мысли и чувства без употребления мата.
- Да, люди стали писать менее грамотно. Просто потому, что в целом стало меньше чтения редактируемых текстов и гораздо больше таких ресурсов, где орфография очень размыта. Стали ли люди от этого глупее? Наверное, нет.
- Вы не видите связи между тем, что человек неграмотно выражает свои мысли на родном языке, и тем, что он стал глупее?
- Я не стал бы заходить так далеко. Хотя очевидно: от того, что дети стали меньше читать, возникли некоторые проблемы с передачей знаний, культуры между поколениями. Это проблема. Мы сегодня видим, что современный школьник с таким же уровнем оценок, что и 30 лет назад, хуже знает литературу.
- Вот!...
-… Но зато гораздо лучше знает многие другие вещи, которые никто и не предполагал, что можно знать.
- Это естественный процесс?
- Да. Более того, впервые в истории человечества знания могут передаваться не от старших к младшим, как происходило веками. Появилась передача знаний от младших к старшим, которая раньше была совсем не свойственна человеческой культуре. Ребенок учит папу или маму работать на компьютере, с мобильным телефоном, является для своих родителей источником разнообразных знаний. А еще дети больше ездят по миру. Очень часто они являются источником географических, культурологических знаний.
- Слушайте, но ведь и тут все началось с компьютеров. Это они освободили людей даже от необходимости запоминать элементарные правила грамматики!
- Как раз в начале 90-х годов я работал в команде, которая разрабатывала одну из первых систем проверки орфографии русского языка. Полезно или вредно было это сделать? С моей точки зрения, очень полезно. Эта система позволила быстрее создавать документы. А дальше все зависит от уровня ответственности человека. Кто сказал, что после машины вовсе не нужно делать проверку? Система только помогает делать ее гораздо эффективнее.
- Но мы доверяем компьютеру!
- Это означает только то, что тот, кто делал программу, не сообщил вам, что есть много явлений, которые машина не может проверить. Согласование, например.
Новые технологии, увы, часто приводят к потере традиционных навыков. Я вот делал ремонт в квартире. Хотел поставить деревянные окна, какие ставили раньше. Но это оказалось невозможно. Все ставят стеклопакеты. Люди, увы, перестают делать многие вещи руками. Что поделать, так жизнь устроена. К сожалению.
- То есть вы конформист?
- Нет. Я считаю, что совсем вредные вещи делать нехорошо. Но когда у вас есть и выгода, и проигрыш, нужно оценивать риски… Если вы делаете лекарства, вы же не думаете, что в результате его употребления выживут не только хорошие люди, но и плохие.
В нашем случае одновременно с развитием технологий нужно заниматься и обучением тех, кто ими пользуется. Негативные последствия новых технологий отражаются прежде всего на тех, кто свое дело делает не слишком хорошо при любом технологическом уровне.
Возьмем, например, медицину. Мы хотим помочь доктору принять решение, делаем компьютерную экспертную систему на основании анализа большого числа надежных диагнозов, поставленных лучшими врачами. Профессионалу она дает возможность обратиться к большему, чем он сам располагает, объему знаний. Но принятие окончательного решения за ним, а не за компьютером! Для плохого доктора все иначе - он доверится тому, что не в состоянии надежно проверить. Но в среднем с появлением таких технологий, мне кажется, медицина становится все же лучше, а не хуже.
- Хорошо, убедили, что и от интеллектуальной системы понимания компьютером человека будет больше пользы, чем вреда. Но когда она появится?
- Это очень сложная задача, которую сразу не решить. Нужно обучить компьютер знаниям о языке и знаниям о мире, методам вывода и сопоставления значений. Что-то мы умеем делать уже сейчас, на что-то потребуются годы. Например, нам нужны надежные данные об использовании языка, с учетом индивидуальных и социальных различий. А эти различия очень значительны. Например, мы сделали специальный проект, посвященный региональным различиям в русском языке. Собрали словарь, в котором почти 10 тысяч слов, которые являются нормой для жителей только определенных регионов нашей страны
- Мы - это кто?
- Это проект - «Языки русских городов», совместный, в нем участвуют специалисты ABBYY, ученые-лингвисты, энтузиасты из разных мест России и русскоязычного зарубежья. Мы анализировали язык региональных средств массовой информации, социальных сетей, указов, постановлений местных властей. И это только небольшая часть тех знаний, которым нужно обучить компьютер!
- В чем принципиальное отличие вашего подхода к переводу от систем, которые использует, допустим, Google?
- Статистические системы не строят языковых структур. Они ищут переводные соответствия для небольших фрагментов, в 5-7 слов. Но язык так устроен, что очень часто связанные слова расположены гораздо дальше, и, если эту связь не учитывать, возникают ошибки. А ведь очень часто в переводе важны именно такие детали, неучет которых может полностью изменить смысл. Чтобы все учесть, нужно выявлять при анализе всю систему языковых связей между словами, то что называется структурой предложения. Мы не переводим кусочки предложений с языка на язык, мы пытаемся выявить смысловую структуру предложения, а потом синтезировать эту структуру средствами другого языка.
Но эти смысловые структуры используются не только и не столько для целей машинного перевода. Они нужны и для эффективного решения задач интеллектуального поиска и анализа информации, которые сегодня важнее для ABBYY как коммерческой компании. Например, на этих технологиях основаны недавно выпущенные первые решения для корпоративного рынка: они как раз позволяют искать и анализировать данные в огромном потоке информации, которая хранится в организациях.
- А какой язык, с вашей точки зрения, сложнее для понимания?
- Принято считать, что сложнее те языки, в которых нужно учить больше правил. Но в случае компьютерного понимания это не так.
То, что вызывает сложность для человека, например, богатая система словоизменения в русском или литовском языке, упрощает задачу компьютеру на определенных стадиях анализа.
Например, китайский язык очень сложен, потому что в нем нет никакой морфологии, а отсюда большое количество неоднозначностей, с которой сталкивается компьютер. Поэтому для компьютерного анализа китайского языка очень важно использовать знания о мире, важнее, чем, к примеру, при анализе языков с развитой морфологией.
Мы успели поработать с русским, немецким, английским, французским, испанским, китайским языками. Языковой анализ делится на стадии. Какие-то стадии обладают спецификой, сложностями для одного языка, какие-то - для другого. Но в сущности технологии, с которыми мы работаем, применимы ко всем языкам.
- На ваш взгляд, когда настанет такой день, когда мы сможем параллельно с нашим разговором получать на компьютере его быстрый и понятный перевод. Скажем, мы сейчас беседуем, и тут же получаем расшифровку нашего разговора на испанском?
- Это будет возможно довольно скоро. Не думаю, что через два года. Но… Что нужно, чтобы решить эту задачу? Мы должны улучшить системы, анализирующие речь. Мы пока не можем взять спонтанный разговор, отделить его от шумов и получить нужный текст. И в этом направлении каждый год есть прогресс.
Но все равно останутся такие вещи, которые машина не сможет однозначно трактовать. И вот тут точность понимания и перевода будет зависеть от наличия у системы знаний о мире, от механизмов логического вывода.
Но в любом случае опасность полного доверия такой программе останется. Ошибкой будет считать, что, скажем, через пять лет вы сможете надиктовать письмо компьютеру, он его переведет, отправит вашему деловому партнеру, и все будет прекрасно. Никто не гарантирует, что машина где-то не пропустит «не» или не допустит других ошибок, после которых ваши деловые отношения можно будет считать законченными.
- То есть человек как контролер все равно должен быть?
- Безусловно. Слепо доверять технологиям - опасно.
Вы можете прочитать другие новости на эту тему:paranormal-news.ru
действительно ли компьютер-шахматист сильнее человека? / Хабр
Впрочем, некоторые подробности, судя по всему, действительно неизвестны, а подробности эти таковы, что заголовки о “падении последнего интеллектуального бастиона” — не более, чем газетный прием, ибо случившийся по итогам матча, по сути, скандал, в силу своей шахматной специфичности вряд ли был бы интересен широкой публике. Нет, я, несмотря на то, что всегда являлся поклонником Гарри Кимовича Каспарова (исключительно в шахматном плане), не собираюсь его оправдывать за то поражение и пытаться доказать, что все было совсем не так, как сейчас общеизвестно. И уж тем более целью не является опровержение некоторых комментариев на шахматную тему к посту хабраюзера alizar. Единственная цель — рассказать некоторые подробности того, что именно произошло в Нью-Йорке в начале мая 1997 года, и почему результат этого противостояния, по мнению автора, на самом деле никому ничего не доказал. Сразу оговорюсь: автор не является высококвалифицированным шахматистом. Возможно, некоторые, чисто шахматные моменты в данном материале, могут быть раскритикованы людьми, занимающимися шахматами профессионально. Также, увы, автор не силен ни в теории игр, ни в шахматном программировании, и попытается лишь высказать мнение частично шахматиста, частично знакомого с компьютерами, а не создать Всемирную и всемерную энциклопедию Шахматного Программирования.
Недостаточно быть хорошим игроком; вы также должны хорошо играть (З.Тарраш)
История шахматного программирования началась, по сути, сразу же с обычным программированием. Искусственный интеллект, возможность его создания, волновали людей издавна, и программируемая вычислительная техника оказалась более подходящим средством для поиска такой возможности, чем человек, который обыгрывал Наполеона, сидя в тумбочке. Первые шахматные программы были, впрочем, соперниками лишь друг другу: в силу огромного количества вариантов шахматных партий, речи о полном переборе не было, и нет, кстати, и по сей день. (И не предвидится (с) Швондер.) Это не мешало шахматным программам периодически удивлять профессиональных шахматистов как неожиданно лучшими ходами (что объясняется в первую очередь тем, что форсированные варианты компьютер считает все же быстрее и точнее), так и внезапными просмотрами мата в пару-тройку ходов ради спасения ферзя. Однако, если в тактике даже сравнительно слабые компьютеры были вполне себе сильны, то вот в позиционной игре все было очень печально — если еще как-то можно было научить программу, что ферзь дороже пешки (что в некоторых случаях приводило к вышеупомянутым просмотрам мата), то научить оценке позиции, на которой, собственно, вся партия и держится, возможным не представлялось. Это и неудивительно — правильная оценка позиции — это задача непростая даже для шахматистов-разрядников, единого рецепта нет, даже две практически одинаковые позиции, отличающиеся лишь положением одной пешки, могут иметь противоположные оценки.С течением времени, впрочем, прогресс стал брать свое. Дебютные библиотеки позволили программам не “плавать” в начальной стадии партии — такие “плавания” нередко приводили к окончанию партии еще в дебюте — все же, несколько столетий опыта и рост дебютной теории с начала ХХ века давали человеку немалую фору. Дебютные библиотеки эту фору не просто устранили — в отличие от человека, компьютер теперь мог разыграть абсолютно любой дебют, уйти от любой дебютной ловушки, да и сам, соответственно, мог в любую ловушку поймать! Шахматистов, знающих все дебюты, не бывает — есть понятие “дебютный репертуар” — это некоторое количество начал, использующихся шахматистом. Человек может этот репертуар расширять, пополнять, готовить, например, новые дебюты к новому турниру, но с появлением у компьютеров в памяти дебютной энциклопедии человек стал проигрывать в этом компоненте. Кстати, фора тут вышла двойная: в отличие от компьютера, который по сути, играет по дебютной библиотеке, человек в ходе партии подсмотреть в дебютную энциклопедию не может. Единственный вариант уравнять тут шансы — неправильные начала, не внесенные в энциклопедии, причем, максимум шансы получится именно уравнять — человек ведь также не имеет возможности применить багаж своих дебютных знаний.
Надо сказать, что проблема дебютных знаний и их чрезмерной распространенности и доступности волновала и самих шахматистов. Так, совершенно нормальными в профессиональных шахматах стали ситуации, когда игроки сделали по 30-40 ходов, и ничего нового в них не было — все эти ходы уже были в другой партии. (Тут, конечно, дело касается не только дебюта, но, как правило, такие ситуации были связаны в первую очередь с дебютными спорами, и некий вариант мог отстаиваться и в глубоком миттельшпиле, и даже в эндшпиле!) Либо ситуации из партий гросс- и супергросс- мейстеров — партия до 20 ходов, обычно — 16-18, все “из книжки” и соглашение на ничью — потому что позиция теоретически ничейна. Спасением виделись Шахматы Фишера, они же Шахматы-960, где фигуры в начальной позиции могут располагаться произвольным образом. Увы (или к счастью?), обычные шахматы этот вариант вытеснить не смог. Почему — сказать сложно, но рискну предположить, что профессиональным шахматистам он не был вполне интересен, им и в стоковых дебютах хватало, чем заняться, а остальным — не давал никаких преимуществ — см. комментарий Каспарова. В самом деле, дебютные принципы не поменялись — “развивай фигуры как можно быстрее и безопаснее и мешай делать то же самое сопернику”, и тот, кто эти принципы понимал в стандартных шахматах — не перестал их понимать и в фишеровских, а кто двигал фигуры исключительно по памяти из справочника и при любом отклонении впадал в панику — стал в эту самую панику впадать гораздо быстрее, на 2-3 ходу.
Гораздо лучше в теории дела обстояли с эндшпилем. Особенно с малофигурными окончаниями — чем меньше фигур — тем лучше. Такие ситуации, в отличие от дебютов, просчитывались куда как проще: фигур-то гораздо меньше! Да и ограничения по количеству ходов способствовали (см. Правило 50 ходов). Так или иначе, компьютеры получили возможность пользоваться Эндшпильными таблицами Налимова и это, пожалуй было еще большей победой, нежели дебютные библиотеки. Впрочем, человек тут имел свои козыри — например то, что множество вариантов шахматных окончаний можно было играть, практически не считая варианты, а пользуясь известными алгоритмами, самый знаменитый пример (первый этюд, вероятность возникновения подобных мотивов в реальной партии достаточно высока).
А вот в миттельшпиле человек оставался хозяином положения. Да, совершенствовались алгоритмы для оценки позиции, да, компьютеры считали все дальше и глубже, но оставалось одно, то, из-за чего компьютеры так пока что и не стали ни писателями, ни композиторами: план. Если в дебюте компьютер мог двигать фигуры исключительно “по книжке”, а в эндшпиле — придерживаться неких алгоритмов, то с планом были трудности. Да, очевидно, если при оценке позиции машина находила у соперника слабые места — то могла делать ходы, направленные на их использование. Если слабые места были у машины — то она могла предпринимать действия для защиты. Однако, живой шахматист не будет руководствоваться только своим планом — он попытается определить планы соперника. Замечательная задача для ИИ. Вот только выполнимая ли?
В 1996 году представители компании IBM предложили Гарри Каспарову сыграть матч против их шахматной программы «Дип Блю» с призовым фондом в $500 тыс. «Дип Блю» — суперкомпьютер на базе системы RS6000, состоящий из 32 узлов, каждый из которых состоял из 512 процессоров, аппаратно оптимизированных для шахматной программы. Производительность «Дип Блю» соответствовала 11,38 GFLOPS, и компьютер мог оценивать до 200 млн позиций в секунду (Википедия).
Тринадцатый чемпион мира Гарри Каспаров всегда считал свое занятие прежде всего творчеством. То есть, тем, что машине недоступно и не будет доступно никогда. Каспаров говорил:
“Если компьютер сможет превзойти в шахматах лучшего из лучших, это будет означать, что ЭВМ в состоянии сочинять самую лучшую музыку, писать самые лучшие книги. Не могу в это поверить. Если будет создан компьютер с рейтингом 2800, то есть равным моему, я сам сочту своим долгом вызвать его на матч, чтобы защитить человеческую расу.” По иронии судьбы, именно Каспаров стал первым чемпионом мира, проигравшим компьютеру. Первая же партия матча Deep Blue — Каспаров (Филадельфия, февраль 1996 г.) принесла сенсацию — Чемпион Мира повержен машиной. Увы для поклонников ИИ — уже во второй партии чемпион мира реваншировался, а после еще двух партий, завершившихся вничью, выиграл дважды, доказав таким образом, что чемпион мира — это чемпион мира. Все же, было уже понятно, что компьютерные шахматы — это реальная сила, и что во втором матче, который IBM предложила спустя чуть более года, чемпиону-человеку придется постараться, чтобы защитить человеческую расу.Второй матч Каспарова с “Темно-синим” начался, наверное, даже с огорчительного для любителей интриги результата — Каспаров выиграл белыми легко, избрав неправильное начало (точнее, этот дебют вполне можно классифицировать, как Дебют Рети). Казалось, все ясно, идея Каспарова проста — лишить соперника первого козыря, дебютной библиотеки, и играть просто в шахматы, что машине не дано. Конечно, отойти от теории при игре черными гораздо сложнее, тон ведь задают белые, и тут Каспаров, вероятно, надеялся на Испанскую партию, ту самую, которую в количестве восемнадцати штук играл сам Остап Бендер — старинный дебют, где отыграть по книжке сам дебют мало, надо уметь играть миттельшпиль. И тут-то и началось.
Тот не шахматист, кто, проиграв партию, не заявляет, что у него было выигрышное положение (И.Ильф)
Итак, сначала — только игровые факты. Партии игрались с контролем 2 часа на 40 ходов (классический контроль времени). Играя черными, Каспаров попытался оживить позицию с помощью жертв, машина эти жертвы отклонила, и в итоге, чемпион мира, оказавшийся в сложнейшей позиции, сдался. Все просто и ясно. Далее часть описания и цитат заимствована отсюда (там же можно посмотреть всю партию №2), часть — описана автором.По мнению чемпиона, первый звоночек прозвенел на 35 ходу — суперкомпьютер, до этого тративший не более трех минут на ход, задумался на четверть часа. Еще шесть минут — над следующим ходом. Результат был еще более неожиданным — компьютер отклоняет жертву пешек черными.
По условиям, после каждой партии IBM предоставляла распечатки анализов, которые компьютер производил во время каждой партии. По словам Каспарова, вариант, избранный машиной, ей же был оценен, как неясный, в отличие от принятия жертвы, которое машина оценивала как выгодное для себя. “Очень мило. Мы имеем дело с уникальным событием, Машина отказывается от выигрыша трех пешек, потому что ей якобы “неясно” — Г.Каспаров.
Партия продолжалась, и двигалась к логическому финалу, который в конце концов и наступил — Каспаров сдался. Однако чудеса на этом не закончились. Как выяснилось практически сразу — чемпион мира сдался в ничейной позиции. Казалось бы, обвинять тут некого, кроме самого потерпевшего. Но все не так просто. Каспаров сдался, просто поверив, что машина непогрешима. И ошибся. Своим последним ходом в партии машина допустила грубейшую тактическую ошибку, после чего черные могли закончить партию вничью. Удивление Каспарова после партии вполне понятно: машина, нашедшая сильнейший позиционный ход, который оказался не под силу даже многим белковым шахматистам, то есть, обошедшая людей на их же территории — в позиционной игре, тут же проиграла на своей территории, где она не может ошибаться — допустив элементарный тактический зевок?
Эти вопросы до сих пор остаются вопросами, а матч, тем не менее, продолжался. Три партии завершились вничью. Была ли шестая партия для Каспарова своеобразным финалом? Финалом в матче за честь и ум человеческой расы.
В шахматах выигрывает тот, кто ошибается предпоследним (С.Тартаковер)
Пожалуй, с точки зрения компьютерных шахмат, в шестой партии не произошло ничего интересного. Вопросы в этой партии в основном к чемпиону мира — каким образом он мог сделать ход 7.… h6? Компьютер тут же пожертвовал коня и позиция черных покатилась под откос. После 19-го хода белых Каспаров сдался. Единственное его достижение в данной партии — это то, что официально она не стала самым быстрым поражением в его карьере — шахматные статистики не учитывают партии человека с компьютером. Хотя формально, как вы поняли, это именно такая партия.Дальше было менее интересно — якобы, IBM отказалась предоставлять логи анализов этой партии, что, судя по всему, неправда (см. ссылки внизу), а предложение Каспарова сыграть еще один матч было встречено корпорацией оригинально — герой матча (Deep Blue) был демонтирован и сдан в утильмузей. Впрочем, это как раз легко объяснить тем, что так или иначе, но чемпион мира был побежден, цель достигнута, а выкладывать еще раз круглую сумму для утешения Каспарова в IBM как-то не очень хотели.
И все же, что доказали эти матчи? Что человек повержен? Если брать оба матча Каспарова с DB — то счет остался в пользу Каспарова — 6,5-5,5. Если даже брать только второй — то во-первых, наверное, статистически результат 2-1 в пользу одной стороны (без учета ничьих) ничего не доказывает. Во-вторых, поражение Каспарова в шестой партии — из-за явного зевка — вряд ли на основании такой грубейшей ошибки (я молчу про сдачу Каспаровым второй партии в ничейной позиции) можно доказывать силу шахматной программы.
После переезда Deep Blue в музей, люди, разумеется, не перестали играть в шахматы с компьютером. Однако, о подобных матчах вообще не слышно, гроссмейстеры теперь предпочитают более экзотические виды использования компьютера. Может, ведущие гроссмейстеры просто боятся поражений от машины? Почему тогда владельцы суперкомпьютеров, авторы мощных шахматных программ, не заявляют, мол, вот мы предложили матч, а чемпион мира отказался? Скорее всего дело действительно в падении интереса к шахматам, интереснее сейчас ставить другие задачи перед ИИ, а поражение от машины в шахматы, пусть даже и чемпиона мира — кому оно интересно, ведь “уже давно машина выиграла у чемпиона мира”.
Ссылки:Отчет IBM о матче 1997 годаШестая партия матча 1997 года в википедии
habr.com
