Технологическая сингулярность – код апокалипсиса. Техно сингулярность
Технологическая сингулярность
Технологи́ческая сингуля́рность — гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.
Вернор Виндж считает, что технологическая сингулярность может наступить уже около 2030 года, в то же время Рэймонд Курцвейл даёт 2045 год. На Саммите Сингулярности в 2012 году Стюарт Армстронг собрал оценки экспертов, медианное значение этой выборки составило 2040 год.
Мы живем в интереснейшее время. Каждый день происходят различные научные открытия. Ждет ли нас технологическая сингулярность?
Технологии обещают полностью поменять нашу жизнь. В ближайшее время:
Биотехнология обещает практически до бесконечности удлинить нашу жизнь.
Технологии ИИ помогут людям существенно улучшить свои интеллектуальные и физические возможности.
Нанотехнология сделает более доступным необходимые ресурсы для каждого человека.
Ученые обсуждают возможность достижения некой точки, называемой, технологической сингулярностью, которая определяется как момент времени, после которого технологический прогресс станет невообразимо сложен, что окажется непостижимым пониманию.
По прогнозам, данный момент может наступить уже через 14 лет, а именно в 2030 г. Основной популяризатор этой идеи является Рэймонд Курцвейл.
Однако, не все ученые поддерживают данную концепцию и утверждают, что технологическая сингулярность недостижима. Они заявляют, что развитие происходит по S-кривой, и в конце прошлого века началось замедление данного процесса.
На данный момент четко видятся три направления, которые выступают катализаторами сингулярности:
1. Биотехнологии.
2. Нанотехнологии
3. Информационные технологии.
Данные процессы влияют и на мировоззрение людей. Так в конце прошлого века появилось новое философское течение, называемое трансгуманизмом.
Трансгуманизм – это радикальное мировоззрение, основанное на использование результатов технологий для существенного улучшения физических и умственных возможностей человека, а также максимального замедления процессов старения и смерти.
Трансгуманисты поддерживают мнение, что человек достаточно изучил процесс эволюции и способен контролировать и управлять в дальнейшей данным процессом.
Они рассматривают выход человека за пределы возможного благодаря научному прогрессу. И задумываются над тем, кем может стать человек, рассматривая его текущее развитие только как начало пути.
Т.к. 2030 г. не за горами думаю мы скоро все увидим своими глазами.
Критика концепции технологической сингулярности
Ряд учёных (из наиболее известных российских, например — один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Коротаев в своей статье рассматривает и даёт оценку понятию сингулярности в различных областях (экономической, технологической, культурной и т. д.). Так как гипербола переходит в бесконечность за конечный промежуток времени, то можно вычислить момент обострения, в который некий показатель развития приобретает бесконечное значение. В реальных процессах никогда не наблюдается ухода в бесконечность, а вместо этого система испытывает качественную трансформацию (фазовый переход) перед достижением точки сингулярности. На примере кривой экономического развития, уже находящейся в режиме обострения, Коротаев иллюстрирует характер движения прочих гиперболических кривых, в которых ожидается сингулярность. В своём примере он исходит из предположения, что экономика тесно связана с демографией, и эта зависимость главным образом определяет характер движения экономической кривой.
Однако при анализе технологической сингулярности Коротаев не учитывает тот факт, что развитие передовых технологий опирается, прежде всего, на научный прогресс в наиболее развитых странах, где он определяется не численностью населения, а уровнем образования и активностью научных исследований. Это означает, что в технологической кривой преобладает качественный фактор, а не количественный, который выражается через демографические показатели всех стран мира. Таким образом, если оценка технологической сингулярности проводится, основываясь на темпе демографического роста (интенсивность которого выше в менее развитых странах), то наблюдается её сильное смещение из-за пониженного влияния качественного фактора. Как следствие, представляется не вполне корректным анализировать развитие технологий по аналогии с экономической кривой и поэтому Коротаев признаёт, что в трансгуманистическом контексте понятие технологической сингулярности может приравниваться к понятию фазового перехода.
философия трансгуманизмneuronus.com
Технологическая сингулярность | Наука | FANDOM powered by Wikia
Технологи́ческая сингуля́рность в футурологии — гипотетический взрыв скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящих машин.
По некоторым мнениям придерживающихся возможности сингулярности, она наступит около 2030 года (см., например, Вернор Виндж)
Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.
Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и нулевым объемом. Математически сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки.
Уточнение: Термин «Сингулярность» в данном контексте впервые использовал ещё в середине ХХ века Джон Фон-Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходится). Об этом пишет сам Вернор Виндж, которому данный термин обычно приписывают (The Coming Technological Singularity, 1993 by Vernor Vinge).
Технологическая сингулярность - это гипотетический момент в будущем, когда технологическое развитие станет настолько стремительным, что график технического прогресса станет практически вертикальным. Эта концепция впервые была предложена Вернором Винджем, который полагает, что если мы сумеем избежать гибели цивилизации до этого, то сингулярность произойдет из-за прогресса в области искусственного интеллекта, интеграции человека с компьютером или других методов увеличения разума. Усиление разума, по мнению Винжа, в какой-то момент приведет к положительной обратной связи: более разумные системы могут создать еще более разумные системы и сделать это быстрее, чем первоначальные конструкторы-люди. Эта положительная обратная связь скорее всего окажется столь сильной, что в течение очень короткого промежутка времени (месяцы, дни или даже всего лишь часы) мир преобразится больше, чем мы можем это представить, и внезапно окажется населен сверхразумными созданиями.
С понятием сингулярности часто связывают идею о невозможности предсказать, что будет после нее. Постчеловеческий мир, который в результате появится, возможно, будет столь чуждым для нас, что сейчас мы не можем знать о нем абсолютно ничего. Единственным исключением могут быть фундаментальные законы природы, но даже тут иногда допускается существование еще не открытых законов (у нас пока нет теории квантовой гравитации) или не до конца понятых следствий из известных законов (путешествия через пространственные червоточины, создание "вселенных-младенцев", путешествия во времени и т. п.), с помощью которых постлюди смогут делать то, что мы привыкли считать физически невозможным.
Уже отмечалось, что то, что в какой-то момент непредсказуемо, может стать предсказуемым по мере приближения к событию. Человек, живший в 1950-е годы мог предвидеть сегодняшний мир в больших деталях, чем человек Возрождения, который, в свою очередь, мог предвидеть гораздо больше, чем какой-нибудь дикарь из каменного века. Поскольку горизонт предсказуемости отступает по мере нашего движения вперед во времени, возможно, что полного прыжка в неизвестность не будет никогда. На каждом этапе вы можете предвидеть многое из того, что должно произойти на следующем шаге, хотя конечный результат мог быть полностью скрыт от вас, когда вы смотрели с начальной точки.
Вопрос предсказуемости важен, поскольку, не имея возможности предсказать хотя бы некоторые последствия наших действий, нет никакого смысла в том, чтобы пытаться направить развитие в желательном направлении.
Трансгуманисты сильно расходятся в оценке вероятности сценария Винджа. Но практически все, кто полагает, что сингулярность будет, считают, что она произойдет в этом веке, и многие уверены, что это, скорее всего, случится в течение нескольких десятилетий.
ru.science.wikia.com
Технологическая сингулярность
Фото из открытых источников Мы часто слышим о том, что живем в век изменений и переломный момент «вот-вот наступит». Большое количество футурологов, конспирологов, прорицателей, астрологов и духовных учителей со всех сторон вещают о всевозможных фантастических сценариях апокалипсиса различной степени тяжести. Мы же расскажем о несколько необычном, однако, вполне реальном развитии событий. Знакомьтесь, — Технологическая сингулярность.
Что же это такое?
Технологическая сингулярность — это вероятное взрывное ускорение научно-технического прогресса, которое приведет к полному изменению общества, морали и самого человека (включая не только разум, но и тело). Суть – в процессе технического прогресса будет создан сверхчеловеческий разум, действия и дальнейшее развитие которого, сегодня, даже спрогнозировать невозможно. Также предполагается, что после наступления технологической сингулярности, будущее невозможно будет предположить в принципе.
По последним оценкам (Дэни Эдер*) Технологическая сингулярность может наступить уже до 2018 года. Возможности возникновения, а также возможные последствия технологической сингулярности возникшей в процессе развития нанотехнологий абсолютно серьезно рассматривались Комиссией по экономической политике Конгресса США еще в 2007 году.
*Имеется ввиду гиперэкспоненциальная кривая, основанная на факте удвоения мощности современных компьютеров всего за 9 месяцев к сентябрю 2002 года (прим. ред.)
Сингулярность Вернора Винджа
Концепция технологической сингулярности была впервые предложена математиком и писателем Вернором Винджем в 1993 году на симпозиуме VISION-21, который проводился Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо.
“Сингулярность- это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность. Это мир, очертания, которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет большой неожиданностью и ещё большей неизвестностью.
Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами. Лучшая аналогия — в эволюционном прошлом. Животные могут приспособиться и проявлять изобретательность, но не быстрее, чем работает естественный отбор. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели на более высоких скоростях, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.
Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет”.
Вернор Виндж
По мнению Винджа вышеописанные события могут произойти следующим образом:
1. Компьютеры обретут «сознание», и возникнет сверхчеловеческий интеллект.
2. Крупные компьютерные сети (и их объединенные пользователи) смогут «осознать себя» как сверхчеловечески разумные сущности.
3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.
4. Генная инженерия или другие технологии смогут радикально улучшить человека по всем параметрам: здоровье, сила, долголетие, интеллект.
5. Развитие технологий (например, с приставкой “нано”) сделает возможным быстрое воспроизводство мыслящих машин.
Реальные успехи
Для столь интересных выводов есть вполне реальные основания. Действительно, прогресс в области компьютеров весьма впечатляет. С 1949 года, когда была создана первая электронно-вычислительная машина (ЭВМ), производительность и оперативная память компьютеров выросли в несколько миллионов раз! При этом каждые 1,5-2 года производительность и память удваиваются.
В 1997 году компьютер ASCI Red фирмы Intel имел предельную (пиковую) производительность 1,8 триллионов операций в секунду (1,8 Тфлопс). В 2000 году появился компьютер на 10 терафлопс. А в 2010 году китайцы создали суперкомпьютер «Тяньхэ» на 2507 терафлопса (или более 2,5 квадриллиона операций в секунду). Суперкомпьютер, спроектирован в китайском национальном университете оборонных технологий. Составлен колосс из 7168 графических процессоров от Nvidia (модель Tesla) и 14 336 центральных процессоров от Intel (Xeon).
Что может суперкомпьютер сегодня?
Суперкомпьютер IBM «Watson» имеет 2880 процессорных ядер, 15Тб оперативной памяти. Производительность системы оценивается в 80 триллионов операций с плавающей запятой в секунду.
Он безошибочно и очень быстро дает правильные ответы на вопросы (в качестве теста использовалась игра «Jeopardy!»), изучает базу данных для поиска ответа, а также анализирует скрытые в вопросах значения, трудноуловимые ассоциации, загадки, иронию и множество других интонационных и лингвистических нюансов. То есть, практически приближается к возможностям человека.
Однако критики отвечают, что если данная машина хоть и превосходит человека по возможностям, возникающих в процессе использоваться огромной базой данных, то все равно испытывает серьезные трудности на ассоциативном уровне принятия решений.
Это, впрочем, не помешало уже применить полученные достижения на практике. Американская компания Neuromatters и Колумбийский университет в Нью-Йорке заключили соглашение по разработке технологии «связанной с корой компьютерного зрения». Данная технология сочетает сильные стороны компьютера и мозга человека для ускорения сортировки трудно формализуемых данных вроде фотографий или видео. При этом результат достигается быстрее, чем могли бы выполнить задачу компьютер или человек по отдельности.
Компьютер трудно научить понимать абстрактные цели типа «найти из длинной последовательности прикольные картинки» или «найти кадры, на которых что-то не так». Человек понимает такую задачу без труда, но ручная сортировка сотен и тысяч снимков утомительна, и занимает много времени. Однако нейрофизиологам уже известно, что оценка кадра в мозге происходит за доли секунды. Причём ещё задолго до того, сам как человек осознает «инсайт», определённые зоны в коре выдают характерный сигнал.
Этим и воспользовались разработчики проекта C3Vision. Оператор надевает «мозговую шапку» с 64 электродами, снимающими ЭЭГ. Компьютер показывает человеку последовательность снимков со скоростью 10 кадров в секунду. По реакции мозга машина понимает, что привлекло внимание оператора, а затем уточняет «гипотезу», подбирая для проверки ряд схожих кадров. Программа на ходу обучается взаимодействию.
Ожидается, что система C3Vision будет использоваться правительственными аналитиками для быстрой сортировки тысяч спутниковых снимков, а также операторами систем видеонаблюдения для выявления подозрительных кадров из большого потока.
Таким образом, суперкомпьютеры уже сегодня становятся мощными усилителями интеллекта соответствующим образом улучшенного человека. Однако, скорее всего, люди недалекого будущего станут своеобразными киборгами с возможностью легкого подключения к электронным помощникам. Причем передавать можно будет не только информацию, но даже чувства!
Первые киборги
В начале 2000-х, профессор кибернетики университета Рединга (Великобритания) Кевин Уорвик поставил смелый эксперимент – ему в левое запястье был вживлен чип площадью 9 мм2. Чудо микроэлектроники на этот раз было соединено сотней микроконтактов непосредственно со срединным нервом. Другими словами, каждый из этой сотни электродов был вживлен в человеческий нерв. Выводы этих контактов проложили под кожей и через 15 см вывели в предплечье, где располагается специальный радиоприемник-передатчик электрических импульсов.
Теперь первый киборг планеты Кевин Уорвик, заполняет эфир вокруг себя оцифрованными электрическими флюидами своей собственной нервной системы. Это позволяет ему мысленно включать и выключать автоматическую дверь, активировать бытовые приборы, «общаться» с компьютером и, главное, передавать эмоции!
Однажды, Уорвик, страдающий акрофобией (страх высоты), поднялся на крышу небоскреба. Импульсы страха, пробегавшие по нервам, попали в микрочип. Преобразовавшись в цифровую форму, эмоция страха была передана по Интернету в Англию, а затем поступила в чип, вживленный в тело жены Уорвика. Она испытала сильнейший страх!
Подобная технология здорово поможет инвалидам. Например, в декабре 2009 года группа европейских ученых объявила, что они успешно соединили роботизированную руку с покалеченной рукой человека. Это позволило ему управлять протезом силой мысли и чувствовать различные импульсы в искусственной руке.
Роботы
Резкую тенденцию к «поумнению» проявляют и роботы. Ярчайший пример – гонки роботов-автомобилей, которые организовывает Управлением перспективного планирования оборонных научно-исследовательских работ США (Defense Advanced Research Projects Agency, DARPA).
Данные автомобили испытывают в условиях, близких к городским, с имитацией реального трафика. Интересно, что уже в 2007 году с задачей проехать заданный маршрут без инцидентов справился робот с не особо мощными компьютерами в количестве двух штук с четырехъядерными процессорами Intel Core 2 Quad Q6600 с тактовой частотой 2,4 ГГц и платой Intel D975XBX2 и 2 Гбайтами оперативной памяти. Один из компьютеров отвечал за обработку информации, поступавшей от датчиков, второй — «занимался» контролем системы управления и планированием действий машины-робота. Информацию снимали шесть видеокамер, которые охватывают все пространство вокруг автомобиля, лазеры на бамперах, радар, приемники GPS, а также бортовое навигационное оборудование для сбора информации о местоположении автомобиля и характере поведения окружающих объектов.
В 2009 году компания Robosoft представила уже серийный автобус-робот robuRIDE, предназначенный для переправки пассажиров между несколькими пунктами в более-менее спокойной дорожной обстановке, то есть на выставках или в парках. А в 2010 году группа итальянцев пересекла на автобусах-роботах Евразию из Пармы в Шанхай. И хотя, во многих экстремальных ситуациях, водители брали управление на себя, до умного автомобиля, способного доставить своего, скажем пьяного или заснувшего владельца до дома осталось не так уж и долго.
Убить всех человеков!
Несмотря на то, что, по мнению футурологов, предсказать, что будет после наступления технологической сингулярности, невозможно, искушение “заглянуть за грань” слишком велико. Конечно, неизвестное пугает. Одним из первых испугался сам Вендж, обозвав сингулярность – “катастрофическими изменениями”.
“Если Сингулярность нельзя предотвратить или ограничить, насколько жестокой может стать постчеловеческая эра? Что ж, довольно жестокой. Физическое вымирание человеческой расы — одно из возможных следствий.” Вернор Виндж
Впрочем, мнение, что разумным машинам будет трудно сосуществовать с людьми, появилось задолго до Венжа. Классикой стали мир “Терминатора”, плавно переходящий в мир “Матрицы”, где роботы победили окончательно и бесповоротно, несмотря на усилия всех Джонов Конноров и Нео вмести взятых. Менее жесткий, но тоже не слишком оптимистический вариант жизни в мире “постсингулярности” рисуют многочисленные сторонники движения “кибер-панка”, которое началась еще в 1983 году с короткого рассказа (кто бы мог подумать!) “Киберпанк” Брюса Бетке и романа “Нейроманта” Вильяма Гибсона. Интересно, что задолго до появления термина “технологическая сингулярность”, там были описаны такие важные элементы “мрачного будущего”, как непосредственное подключение к компьютеру и сети через мозг, имплантанты, искусственный сверхинтеллект и, главное, виртуальная реальность.
Реальная виртуальность
Переход человечества в виртуальную реальность – вполне вероятное развитие событий после наступления сингулярности. И действительно, если всю или почти всю работу будут выполнять умные автоматы, людям нужно будет элементарно чем-то себя занять. Возможный выход – игровая среда, где можно будет не только развлекаться, но и жить, зарабатывая реальные средства, обеспечивающие жизнедеятельность бренного тела. А выходить “на поверхность” игроки будут только для оправления естественных потребностей. Подобный вариант может оказаться очень привлекательным в случае исчерпания природных ресурсов, которым нас постоянно запугивают по телевидению и в Internet. Действительно, зачем покупать реальный суперкар или самолет, если его виртуальный аналог будет ничуть не хуже. И ценные ресурсы не потребляются.
Собственно говоря, игровая виртуальная реальность развивается прямо на наших глазах. Вспомним, как в середине 90-х верхом совершенства нам казалась мегакультовая стрелялка DOOM-2 с примитивной графикой. Нынешние игры уже обеспечивают почти фотореалистичную картинку. Не трудно предположить, что пройдет еше лет 5-10 и она станет “почти неотличимой от настоящей”. Добавим сюда развитие социальных сетей и ролевых игр и останется только доработать уже реально действующие технологии передачи чувств и ощущений по проводам, управление игровыми объектами при помощи нервных импульсов. Затем надеваем виртуальный шлем или костюм, вставляем разъем в затылок и … добро пожаловать в “Матрицу”.
А почему бы и нет? Ведь уже сейчас существует многомиллионая армия геймеров, которые с успехом зарабатывают настоящие, а не виртуальные деньги, продавая нарисованные мечи, доспехи и гаремы с принцессами. Не так давно мой знакомый обменял “магического имущества”, нажитого “непосильным трудом” на 10 тыс. вполне реальных портретов американских президентов. А в Южной Корее, например, при разводе и разделе имущества супругами, законодательно учитываются не только реальные, но и виртуальные ценности.
Альтернатива “мрачному будущему”
Известный публицист и писатель Александр Никонов, вместе с футурологом Александром Жаровым настроены оптимистично. “Возможно, на каком-то этапе будет существовать симбиотическая связь между человеком биологическим (правда генетически модифицированным) и искусственным сетевым интеллектом. Такая же связь существует между человеком и микрофлорой в его кишечнике. Люди не могут жить без микрофлоры, микрофлора не может жить без людей. Но кто главный – микробы или человек?
В новом симбиозе главными будут точно не люди. Значит ли это, что машины победят людей и поставят их на службу? Нет. Искусственный интеллект будет контролировать человечество не больше, чем вы контролируете свои бактерии в кишечнике. Умный человек позаботится о своем здоровье. Планетарный мозг будет заботиться о своих “микроорганизмах” – людях (что не может не радовать, ибо многие “микроорганизмы” на сегодняшний день не в состоянии о себе позаботиться – прим. авт.). А мы будем заботиться о НЕМ.”
Реалистичный взгляд
Если отрешиться от лишних эмоций, то не трудно прийти к выводу, что никаких драматических и масштабных изменений в ближайшем времени не случится. Явной фантастикой с элементом паранойи видится самопроизвольное обретение компьютерами или сетью компьютеров разума. Нанотехнология и генная инженерия также еще не достигли таких высот (и в ожидаемом будущем явно не достигнут), чтобы превратить человека в сверхразумного почти бессмертного суперкиборга. Скорее всего, прогресс пойдет по пути расширения возможностей человека при помощи недорогих и компактных суперкомпьютеров.
Вероятнее всего, также следует ожидать массового внедрения чипов для более удобного мысленного управления компьютерами, которые в свою очередь повысят свою мощность настолько, что сразу же сделает не нужным множество профессий. Например, каждый сможет поставить себе квалифицированных диагноз, не посещая врача. Ведь, к услугам любого пользователя будет все медицинские знания мира и собственная диагностическая система. При этом, вживленные под кожу или в мышцы чипы смогут оперативно контролировать состояние организма, делая, например, мгновенный анализ крови.
Полиция также станет крайне не многочисленной, поскольку совершение преступлений с внутренним доносчиком превратится в некую форму мазохизма. Скорее всего, такой мир действительно потребует новой морали, ибо спрятать, или сохранить в тайне что-то либо будет практически невозможно.
Для современного человека это будет действительно катастрофой. Ибо существовать в таком мире ему будет не то, что некомфортно, а просто невозможно. Современного человека в таком мире быстро разорвут внутренние конфликты между записанными в процессе воспитания программами (т.е. тем как «принято», «правильно», «допустимо») и тем, как есть на самом деле. Однако вряд ли все произойдет мгновенно. Наверняка мы еще, как всегда, успеем привыкнуть.
Конечно, в таком будущем кроется просто поразительно число достоинств и преимуществ. Только представьте, наконец всем людям планеты удасться объединить усилия, постоянно чувствовать друг друга, ничего не скрывать. Это будет мир всеобщего понимания, в котором обману и насилию просто не останется места. Человечество превратиться в единый, практически бессмертный сверхорганизм с возможностями, о которых мы сегодня даже мечтать не смеем.
Существуют также и недостатки. Однако как преимущества, так и недостатки нашего уже недалекого будущего мы можем оценивать только со своей сегодняшней позиции. А это похоже на австралопитека, проживающего на нашей планете около 4 млн. лет назад, который пытается оценить значение, например изобретение теории ядерного распада. Компетенция такой оценки стремится к нулю.
Исходя из всего этого, думается, бояться будущего не стоит. Ведь оно зависит от нас сегодня. Предпосылки создаваемые нами сегодня, обретут силу уже завтра. Противостояние добра и зла — это не некий единоразовый процесс, который предстоит нам в будущем. Эта борьба происходит прямо сейчас и соотношение сил меняется ежесекундно, в зависимости от решения, которое лично вы только что приняли.
Источник
planet-today.ru
Технологическая сингулярность: "прекрасное далеко"? — Моноклер
Рубрики : Технологии
Технологическая сингулярность — вероятный путь развития нашего будущего. Что значит этот, казалось бы, сложный термин? Какие признаки приближения сингулярности можно увидеть уже сейчас? И стоит ли её бояться? Вспоминаем наследие футурологов, писателей-фантастов и режиссеров и пробуем разобраться.
«Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?» — говорит герой фильма «Я робот», снятого по мотивам одноименного сборника рассказов Айзека Азимова, одного из самых известных писателей- фантастов 20 века. А что, если в недалеком будущем робот сумеет не только сочинить симфонию, но и совершить любое действие, на которое раньше был способен лишь человек? Что, если фантасты умело предсказали самый вероятный вариант нашего будущего? Футурологи всего мира пытаются ответить на вопрос, смогут ли те, кого создал сам человек, превзойти его в возможностях , а если смогут, то когда и что из этого выйдет?
Известный демограф Николас Эберштадт в своей лекции «Что будет с населением Земли в 2035 году?» отметил, что демографическое увеличение населения земли идет по экспоненте. Порог в 100 миллионов человек преодолевался за 1000 лет до Рождества Христова. Человечеству понадобились тысячелетия для такого демографического рывка. При этом первый миллиард появился примерно 200 лет назад, потом миллиард стал появляться каждые 100 лет, затем — каждые 50, сейчас новый миллиард появляется каждые 12-13 лет.
Это иллюстрация экспоненциального закона роста, он проявляется на разных «ветвях» развития, в том числе и на технологическом. В 1965 году основатель корпорации Intel Гордон Мур вывел логарифмический закон, согласно которому каждые полтора года компьютеры становятся в два раза «умнее». По мнению американского футуролога Рэймонда Курцвейла, если закон Мура продолжит функционировать, то уже к 2030 году компьютеры по своей производительной мощности смогут приблизиться к мозгу человека. Вероятность ускоренного развития техники и появления в какой-то момент сверхразума предполагают многие футурологи мира и называют это технологической сингулярностью.
Читайте таже Что нас ждёт в XXI веке? Футурологический прогноз Рэя Курцвейла
Впервые концепцию технологической сингулярности представил профессор математики и писатель-фантаст Верно Виндж на симпозиуме VISION-21 в 1993 году:
«Сингулярность — это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность.
Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами.
Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет».
Виндж видит несколько путей развития этой теории:
- Возникнет сверхчеловеческий разум вследствие развития техники;
- Повысится эффективность человеческого разума и физических характеристик при помощи генной инженерии;
- Крупные компьютерные сети смогут самостоятельно идентифицировать себя как разумные сущности;
- Синтез компьютера и человека приведет к тому, что человек сам будет иметь сверхинтеллект.
Человек задумался о создании искусственного интеллекта, чтобы упростить себе жизнь и оптимизировать большую часть работы. Благодаря оптимизации компьютеры уже занимают не целые помещения, а могут запросто уместиться в ладони, и их стоимость уменьшилась в десятки раз. Роботы в наше время научились выполнять команды, убирать квартиры, мы обзавелись «умными» домами, существует даже робот-художник, способный воспроизвести любую картину. Техника стала не просто компактной и дешевой, но и обладающей интеллектом. Компьютер может распознать ваш голос и перевести информацию в байты, большинство цехов оснащено новейшими технологиями для производства новой продукции, найти какого-либо человека тоже не составляет труда при помощи системы, распознающей лица. Если вспомнить закон, который упоминался в самом начале, то можно рассчитать, что уже к 2040 году каждый из нас сможет приобрести процессор, равный по вычислительной мощности человеческому мозгу.
Продолжать этот список можно бесконечно долго, но что ждет нас, если однажды все заменят компьютерами: место учителей займут интерактивные помощники, автомобилям больше не понадобится водитель, а лучшим художником десятилетия признают робота нового образца? Все это не так далеко, как кажется: уже сейчас роботы без труда могут превосходить человека в плане эффективности и производительности. Робот не устает, не выходит в отпуск и не требует оплаты в привычном нам понимании. Лишь затраты на техническое обслуживание. Едва ли мы можем точно предсказать, что произойдет после технологической сингулярности, однако некоторые детали оценить можно и сейчас.
Рассматривая идею о создании сверхчеловеческого разума, нужно заметить, что уже сегодня производительность суперкомпьютера IBM «Watson» оценивается примерно в 80 триллионов операций в секунду. Новости о развитии и новых возможностях компьютера появляются с завидной регулярностью.
Скриншот выдачи поиска Google
IBM «Watson» способен давать ответы на вопросы, анализировать информацию и скрытые в вопросах значения, планируется использовать суперкомпьютер для помощи в диагностике и лечении рака, и хотя компьютер уступает человеку в принятии решений на ассоциативном уровне, американская компания Neuromatters и Колумбийский университет в Нью-Йорке уже заключили договор на разработку технологии, которая будет сочетать компьютерную мощность и мощность человеческого мозга для решения и этой проблемы.
Синтез человека и компьютера предрекали многие писатели-фантасты и футурологи, пытаясь заглянуть в недалекое будущее. Если говорить о киборгах, на ум сразу приходят Терминатор или Адам Дженсен из Deus Ex. Кажется, это слишком фантастично, чтобы оказаться реальностью, однако, как говорил Уильям Гибсон, «будущее уже здесь, оно просто неравномерно распределено».
Углубляемся Конец человечества: от библейских легенд до «Безумного Макса»
Еще Эдгар Алан По в своем рассказе «Человек, которого изрубили в куски» затрагивал тему аугментации, а именно наращивания имплантатов на тело для воспроизведения человека при помощи технологической мощности. В современном мире уже никого не удивить операциями по замене конечностей на автоматизированные. Но прогресс не стоит на месте, и ученые из университета Carnegie Mellon решили пойти дальше и расширили интерфейс «умных» часов с помощью комплекта из кольца и браслета. Кольцо посылает сигнал постоянно тока в палец и теперь управлять часами можно простым касанием по своей руке.
Сооснователь компании Cyborg Nest Ливиу Бабитс заявил:
«Наша цель — помочь многим людям стать киборгами. Мы верим, что если почувствовать то, что чувствуют животные, то изменится понимание мира. Это позволит нам ступить на следующий этап эволюции».
И уже сейчас с их помощью человек может без операций присоединить к себе чип, который поможет ориентироваться в пространстве и будет вибрировать каждый раз, когда носитель будет поворачивать на север.
«Франкенштейны 21 века» существуют, и их становится все больше. Потенциальное развитие технологического процесса пытались предсказать и визуализировать создатели сериалов «Черное зеркало» и «Мир дикого запада», ведь именно сейчас эта тема актуальна как никогда. Представляя различные взгляды на мир будущего, авторы не забыли и о роботах, чья роль столь велика в наше время.
Мы живем в век, когда уже изобретены летающие машины, а роботы выполняют функции официантов. В 2009 году компания Robosoft представила автобус, способный переправлять людей по спокойным участкам дороги без помощи водителя. И хотя в опасных ситуациях водители брали управление на себя, мы не так далеки от широкого распространения такси без водителей.
Что же нас будет ждать, когда созданная нашими руками техника сможет развиваться вне зависимости от нас? И хотя футурологи сходятся во мнении, что предсказать будущее после технологической сингулярность невозможно, они уверены, что его можно предположить, как это сделал Рэй Курцвейл.
Но, кроме футурологов, этим активно пытаются заниматься современные киноделы, снимая на тему будущего человечества одну картину за другой. Большинство фильмов, показывающих нам предполагаемый сюжет ближайшего будущего, «очеловечивают» роботов, делая их чем-то похожими на людей — терминатор, трансформеры и т.д. Но едва ли у компьютера, обладающего сверхчеловеческим разумом, возникнет потребность создавать свой образ по подобию человеческого.
Научная фантастика также не осталась в стороне от этой темы. Айзек Азимов сформулировал 3 закона робототехники, один из которых гласит, что робот не может причинить вред человеку. Но будет ли так на самом деле? Большинство фантастов представляют не слишком оптимистичный взгляд на будущее человечества. Впрочем, есть и другое мнение на этот счет. Писатель Александр Никонов и футуролог Александр Жаров считают, что человек сможет вступить в симбиоз с искусственным интеллектом и развивать навыки, оставаясь при этом тем, кто контролирует свой разум и тело.
Так что же из всего этого может произойти в ближайшее время? Вероятнее всего, нас ждет массовая «чипизация», которая только начинает набирать обороты. Об этом говорили еще в 2015 году эксперты Всемирного экономического форума. Кроме всего прочего, они обсуждали возможность появления телефонов, встроенных в тело человека, в ближайшие 10 лет. Но вживлением NFC-чипов в узких кругах занимаются уже сейчас (так, например, в 2015 году московский инженер Влад Зайцев вшил себе под кожу NFC-чип карты «Тройка»). В медицине будут появляться разработки в сфере поиска «бессмертия», как биологического, так и кибернетического. Этому поспособствуют уже изобретенные технологии выращивания органов и производства искусственной крови. Несомненно, в таком будущее есть как положительные, так и отрицательные стороны. Сложно оценить все риски и сделать точные прогнозы. Однако нет смысла бояться будущего, оно неизбежно. Стоит помнить лишь о том, как сильно происходящее сегодня влияет на то, что будет завтра.
Обложка: Shutterstock
Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.
Похожие статьи
monocler.ru
Технологическая сингулярность. Последствия его наступления.
Буквально недавно только писал статью о влиянии развития технологий на человека и его жизнь. Тема меня немного увлекла, и я захотел еще глубже копнуть в данном направлении, и нарвался на термин технологическая сингулярность.Сначала, традиционно терминология. 
Технологическая сингулярность это такой момент в истории человечества, когда развитие технологий достигнет такой скорости и уровня сложности, что будет не доступна для нашего с Вами понимания. Т.е. буквально – технологии будут развиваться в независимости от нашего с Вами знаний и участия в их создании. И это станет возможным сразу же в момент появления настоящего искусственного интеллекта.
Однако, сам по себе искусственный интеллект это еще не единственный фактор. Второй важный момент – это появление самовоспроизводящихся машин-роботов. Т.е. человек будет буквально не нужен для развития и будет выброшен в свалку истории, как неандертальцы и кроманьонцы.
Технологическая сингулярность. Пугающее будущее.
По данным самых разных ученых-исследователей в данной области, такая технологическая сингулярность может наступить уже скоро, в диапазоне лет от 2030 до 2045 годов. Т.е. мы с Вами вот-вот станем свидетелями перехода человечества в другую эпоху. Не знаю как Вас – но лично меня такая перспектива откровенно пугает. И причин тому две. 
Во-первых, никто из нас не знает, как поведут себя суперкомпьютеры с искусственным интеллектом по отношению к людям. Вполне возможно, что «Скайнет» из серии фильмов о «Терминаторе» станет далеко не выдумкой. Невозможно предсказать развитие нашей цивилизации, опираясь только на опыт социального поведения, ведь теперь не человек будет доминирующей фигурой на Земле.
Во-вторых, для меня как то странна потеря контроля за технологиями и их развитием. Посмотрите – даже сейчас мы, являясь умнейшими представителями на этой планете, ведем себя крайне не разумно, развязывая войны, уничтожая целые народы и культурные наследия. А как поведут себя машины, не обремененные такими чувствами как любовь, патриотизм, сострадание, милосердие и так далее? Что если миром начнет править сугубая практичность? Есть ли место в таком мире для людей и даже для остальных животных?
С другой стороны, развитие технологий вероятнее всего подстегнет и развитие человеческих возможностей, путем интеграции микроэлектроники в тело человека (симбиоз органики и технологий). Например, это позволит излечивать сложные смертельные болезни, или будет развивать способности к мышлению, вычислительных способностей мозга и запоминанию информации, или значительно повысит возможности организма вплоть до бессмертия. Сейчас у нас нет ответов на эти вопросы.
Идея возникновения технологической сингулярности основывается на законе Мура, в котором утверждается, и на текущий момент она полностью подтверждается, что каждые восемнадцать месяцев происходит удвоение вычислительных транзисторов в компьютерах. И скоро их мощность достигнет уровня возможностей человеческого мозга: 10 в 17 степени операций в секунду. 
Любопытно, что упоминание об ускоряющемся темпе роста знаний встречается в работах аж у Фридриха Энгельса.
Последствия.
Идет просчет различных сценариев последствия технологической сингулярности. И как обычно, ученые разделились на два лагеря. Одни его страстно ждут и считают, что эти последствия будут только положительными. Другие сильно опасаются и стараются предупредить людей об опасности. Но, при этом все понимают, что прогресс уже не остановить, и рано или поздно мы достигнем точки технологической сингулярности, что, безусловно, станет поворотной точкой в развитии человечества. А вот хорошей или плохой – покажет время.
Нужно понимать, что инициатором возникновения сингулярности является именно человек. И, по идее, мы могли бы подготовиться к переходу к постсингулярному миру, сделав его более позитивным, плавным и контролируемым. А сделать это можно лишь основываясь на законах нравственности, осознав возможные последствия и приложив немало ресурсов.
Интересно, кто из Вас ждет с нетерпением этого события и почему? Какие мысли у Вас по этому поводу – делитесь в комментариях.
P.S: Все сказанное тут – сугубо мое личное мнение. Нагнетать страхи не планировал, и не имею такого желания.
knopki-bablo.net
Технологическая сингулярность – код апокалипсиса
Футуристический термин «технологическая сингулярность» все активнее входит в нашу жизнь. По самым пессимистическим прогнозам ученых и различных экспертов, не позднее 2030-го года это понятие станет частью нашей реальности. Так что же означает это загадочное словосочетание? Многочисленными современными энциклопедиями технологическая сингулярность трактуется как гипотетический момент, когда технический прогресс приобретет такую скорость и сложность, которая окажется недоступной человеческому пониманию.
Проще говоря, искусственный интеллект достигнет такого уровня развития, при котором человек может оказаться лишним, а то и опасным конкурентом «умных» электронных созданий. Уже не одно десятилетие футурологи и писатели-фантасты пугают нас возможным «бунтом машин». Но только относительно недавно эту гипотетическую проблему стали всерьез обсуждать в научных кругах.
Впервые термин «technological singularity» прозвучал в статье математика и писателя Вернона Винджа, представленной в 1993-м году на симпозиуме, который проводился NASA совместно с Аэрокосмическим институтом штата Огайо. Вскоре события, предсказанные ученым и сравнимые, по его мнению, с самим появлением человека на планете, начали сбываться.
Первое проявление такого ключевого и эпохального события, как технологическая сингулярность, не заставило себя долго ждать. Переломным моментом в человеческом развитии и сознании людей стал 1997-й год. В мае того года, сконструированный специалистами из IBM, полуторатонный электронный «монстр» Deep Blue, оснащенный 250-ю процессорами, в упорном и напряженном шахматном поединке одержал победу над доселе не знавшим поражений чемпионом мира Гарри Каспаровым. В этот момент стало понятно, что мир уже никогда не будет прежним…
Ход этого поединка, пожалуй, самого весомого противостояния в истории человеческой цивилизации, заслуживает особого внимания. Первую партию гроссмейстер выиграл без всяких проблем. В начале второй Каспаров, пытаясь заманить своего электронного противника в хитроумную ловушку, пожертвовал двумя пешками.
Deep Blue на этот раз размышлял (если это можно так назвать) непривычно долго – почти четверть часа. Хотя до этого на принятие решений тратил не более трех минут. И только когда нависла реальная угроза оказаться в цейтноте, машина сделала ответный ход. Результат оказался безрадостен для человеческого разума. Машина не приняла жертву, она выиграла партию…
Следующие три завершились ничьей. Зато последнюю партию компьютер выиграл в блестящем стиле, не оставив человеку ни малейших шансов. В ней Deep Blue просто разгромил великого гроссмейстера. Так, человечество узнало о новом поколении электронных машин, интеллект которых превосходит человеческий. И которые имеют просто потрясающую обучаемость.
Современные машины пошли еще дальше. Нейрофизиологи утверждают, что вычислительная способность человеческого мозга составляет около ста триллионов операций в секунду. Объем сознательной памяти обычного человека равен всего двум с половиной гигабайтам. А рабочим быстродействием нынешних суперкомпьютеров является скорость в 115 триллионов. Насчет объема запоминающего устройства можно и не распространяться. При этом они не знают усталости, плохого самочувствия, сомнений, колебаний, прочих человеческих слабостей. Поэтому футурологи считают, что технологическая сингулярность неизбежна.
Конечно, современные биотехнологии вполне способны обеспечить человечество средствами улучшения естественных интеллектуальных способностей. Что приведет к появлению такого явления, как сингулярность сознания. В этом случае человек рискует превратиться в часть машинно-человеческого интерфейса. И тогда предсказать дальнейшее развитие нашей цивилизации, опираясь на принципы социологии и привычные поведенческие нормы, будет уже невозможно. Ситуация просто выйдет из-под человеческого контроля в традиционном его понимании.
fb.ru
Технологическая сингулярность: luckyea77
По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.
Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.
Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI—XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.
Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».
Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки — особенности функции.
В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.
Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)
Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.
Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, — и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.
Ряд учёных (из наиболее известных российских, например — один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).
Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.
Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».
Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.
Смотрите также:Экономика изобилияХронология изобретений человечества в XXI векеХронология прогнозов будущих событийПредсказания КурцвейлаСверхтехнологии и общество в 21 веке
luckyea77.livejournal.com
