Технологическая сингулярность. Исследование. Панов Александр Дмитриевич

Концепцию технологической сингулярности южноамериканский математик и писатель-фантаст Вернор Виндж представил еще в 1993 году, а в 2004-м в Муниципальном астрономическом институте имени П.К. Штернберга состоялся доклад физика Александра Панова. Исследователь соотнес временные интервалы меж высококачественными скачками в развитии биосферы и общества и показал, что в обоих случаях эти интервалы сокращаются в согласовании с обычный оборотной степенной зависимостью. При этом с какого-то момента (он и назван точкой сингулярности) интервалы меж скачками становятся фактически равными нулю, другими словами число скачков в единицу времени приближается к бесконечности. Навряд ли имеет смысл гласить о нескончаемо резвом технологическом прогрессе, но он, непременно, будет смотреться таким, исходя из убеждений современного человека. Самый же поразительный вывод, который делает Панов: точки сингулярности население земли достигнет не через миллионы, тыщи либо хотя бы сотки лет, а уже посреди сегодняшнего века. Подобные результаты независимо и примерно в то же время получил австралийский биолог и социолог Грэм Снукс, потому уходящая круто ввысь кривая, описывающая научно-технический прогресс, получила заглавие «вертикаль Снукса - Панова». Краткое описание  - ниже, ролик с поным докладом - под катом

В своих исследованиях А.Д. Панов опирался на исследования других ученых-предшественников. Он сам рассказывает всю последовательность развития своей теории на международном конгрессе "Глобальное будущее 2045 ", состоявшемся 17-20 февраля 2012 года в Москве.

Эволюция в наше время представляет собой ускоряющийся с обострением процесс, что означает, что в конечный момент времени скорость процессов должна была формально достигнуть бесконечной скорости и всякие линейные прогнозы после этой точки становятся невозможными (нечто общее с математическим и гравитационным определением сингулярности). К понятиюСингулярность эволюции можно прийти многими различными путями. Исторически, одним из первых путей было исследование демографической сингулярности. Оказывается, население растет не по экспоненте, как предполагал Томас Роберт Мальтус, а быстрее - по гиперболе (Рисунок 1). И существует точка t* (точка сингулярности), где эта гипербола формально обращается в бесконечность.

Рисунок 1. Гиперболический закон роста популяции Земли, где t* - точка сингулярности, c – постоянная Фёрстера (равна 215*10⁹ лет). Heinz von Foerster, P.M. Mora, L.W. Amiol. Doomsday: Friday, 13 November, A.D. 2026 «Science», 1960. V. 132, p. 1291. t* = 2026.

В 1960 г. это положение о сингулярности было вычислено Хайнцем фон Фёрстером и его соавторами и получило значение 2026 год. 

Затем это было сделано Иосифом Самуиловичем Шкловским в 1965 году и получило значение 2030 год. Если вместо гиперболы нарисовать значение 1/N = (t* - t)/c, то получится просто линейная функция времени, которая должна в некоторой точке обращаться в 0. Это видно на кривой Шкловского, в виде линейной функции 1/N, обращающейся в 0 в точке t*(Рисунок 2). 

Рисунок 2. I.S. Shklovsky. The Universe, Life, Intelligence. 1965. t* = 2030. Гиперболический рост народонаселения по И.С. Шкловскому. По вертикальной оси – обратная величина численности населения (1/N).

Второй путь  - технологическая сингулярность. Исследования в этой области проводилиИрвинг Гуд, Вернор Виндж, Моравек и Реймонд Курцвейл.

Третий путь к сингулярности – понятие общей эволюционной сингулярности. В 1996 году ученый эволюционист из Австралии Грэм Дональд Снукс (Graeme Donald Snooks) представил эволюцию биосферы и, затем, человечества как единый процесс, выразив ее в так называемых волнах жизни. «Волны жизни» – это некие качественные переходы. И оказалось, что этот процесс происходит в режиме ускорения с коэффициентом «тройка». То есть каждая следующая фаза примерно в три раза короче предыдущей (Рисунок 3). Главное, что Грэм Снукс рассмотрел процесс эволюции биосферы и человеческого общества единым образом, хотя он не ввел понятия сингулярности. Затем сам Рэймонд Курцвейл в 2001 году, по крайней мере, не позже, тоже рассмотрел процесс эволюции биосферы и человеческого общества как некий единый процесс. Он выразил этот процесс в так называемых парадигмальных сдвигах.

Рисунок 3. Экспоненциальный рост сингулярности

Затем очень важный шаг сделал Игорь Михайлович Дьяконов: в 1994 году он рассмотрел так называемые восемь фазовых переходов Дьяконова в человеческой истории. Он также обратил внимание, что эти фазовые переходы следуют в режиме с ускорением, т.е. промежуток времени между каждыми двумя последующими переходами уменьшается. Дьяконов в 1994 году ввел понятие исторической сингулярности. Это был совершенно независимый способ введения понятия сингулярности вот по сравнению, например, с технологической и демографической сингулярностью. На этом графике нарисованы положения точки этих восьми фазовых переходов Дьяконова, а по оси ординат отложена частота фазовых переходов на единицу времени. Ну и видно, что здесь возникает эта характерная вертикальная асимптота, о которой, собственно говоря, и идет речь.

Сергей Петрович Капица в 1996 году добавил к фазовым переходам Дьяконова еще несколько точек, которые покрыли уже всю историю человечества. И потом Панов обнаружил, что так называемые границы между геологическими эпохами, которые на самом деле являются границами между биологическими эпохами, гладко ложатся на ту же самую кривую.

Получилось 19 точек, промежутки между точками образуют очень точную геометрическую прогрессию. В том, что это геометрическая прогрессия, легко убедиться после небольшого математического преобразования: должна получиться прямая, и вот эта прямая совершенно замечательно видна на этом рисунке. Коэффициент ускорения получился 2,67, что почему-то близко к числу e – если кто-то знает, что такое число e, поймет, о чем речь. И нетрудно было вычислить, где находится предел этой последовательности – сингулярность эволюции. Для всех точек, начиная от момента возникновения жизни и кончая последней точкой, так называемой информационной революцией, эта сингулярность оказывается равной 2004 году. А если сделать экстраполяцию только по точкам новой эры, получается 2015 год. То есть значение получается не очень точное, но это, как правильно говорил Акоп Назаретян, первая половина XXI века.

В чем суть вот этих самых точек? Важно, что каждая точка – это, конечно, качественное изменение эволюционирующей системы. Но это не только качественное изменение, которое возникает в ответ на преодоление некоторого эволюционного кризиса. (Там существуют два основных типа таких эволюционных кризисов – это кризисы эндо-экзогенные и кризисы техно-гуманитарного баланса). Еще важно, что во время этих фазовых переходов используется так называемый фактор избыточного многообразия. То новое, что возникает в новой фазе, не возникает в момент фазового перехода. Используется то, что возникло до того, но существовало где-то на периферии эволюционирующей системы. Например, млекопитающие возникли задолго до того, как вымерли динозавры, но лидерами эволюции они стали после того, как вымерли динозавры, и вот произошел очередной фазовый переход.

Еще важен закон Седова (закон иерархических компенсаций): когда возникает новый лидер эволюции, старые эволюционирующие системы не исчезают, они только меняют свое место в эволюционирующей системе, уходят где-то немножко на ее периферию, может быть, несколько редуцируются.

В чем смысл этой общей эволюционной сингулярности? Это сингулярность всего эволюционного развития, начиная с момента возникновения жизни. Во-первых, это не точка, это некий период, который занимает, ну, грубо говоря, действительно первую половину XXI века, может быть, первые две трети XXI века. Что происходит в это время? В это время обязан сломаться прежний режим эволюции, потому что просто чисто математически эволюция не может ускоряться тем же самым способом. И предсказание, чисто механически и математически, за эту зону сингулярности, невозможно.

Но можно ли, тем не менее, что-нибудь сказать о том, что будет потом, избегая вот этой прямой линейной экстраполяции, которая становится невозможной? Кое-что сказать можно. Здесь нужно вспомнить, чем были эти фазовые переходы, и вспомнить, что точка сингулярности, или зона сингулярности, – это фактически концентрация кризисов, концентрация этих самых фазовых переходов. Поскольку зона сингулярности – это фактически концентрация кризисов, и мы вот это время сингулярности будем ощущать как кризисы, наползающие друг на друга, то, если человечество выживает в пост сингулярной стадии, обязаны быть выработаны компенсирующие механизмы для каждого кризиса. Поэтому в пост сингулярной стадии, если человечество живет, то оно живет, поддерживая множество механизмов компенсации кризиса. Это не будет простая жизнь.

Можно перечислить много разных примеров таких механизмов компенсаций: ну, например, исчерпание минеральных ресурсов влечет неизбежность введения замкнутых технологических циклов, что сложно. Это могут быть разные запреты, например, запрет на определенные виды научных исследований. Например, может возникнуть запрет на любые опыты с живыми существами. Представляете, как это затормозит развитие наук о живом. Еще одна важная проблема, с которой мы столкнемся, – это резкое торможение освоения космоса, о чем говорилКричевский. Темпы освоения космоса сейчас упали очень резко по сравнению с тем, что было в предыдущем веке. И, по-видимому, в ближайшие десятилетия, а может быть, даже и дольше, основная часть эволюции будет ограничена только планетарными масштабами, что переводит нас в ситуацию ограничения ресурсов.

Так же Панова беспокоит судьба науки. Вот что он сказал о судьбе науки в пост сингулярной стадии. Во-первых, можно кое-что сказать из неких таких общефилософских предположений сразу. Любое прогрессивное явление в эволюции не может быть прогрессивным вечно, лидеры в эволюции сменяют друг друга. В этом смысле наука – типичное прогрессивное явление, она возникла в ответ на некие кризисы и служила для их преодоления. Так вот, наука как основа формирования вектора развития человеческой цивилизации не может быть вечным лидером. Отсюда следует, что произойдет смена лидерства, значит, науке на смену должен прийти какой-то другой лидер, о котором мы пока ничего не знаем. Закон Седова говорит о том, что наука при этом не исчезнет полностью, она перейдет в некое более подчиненное состояние, просто она займет иное место в человеческой цивилизации.

Это общефилософские утверждения, но можно сказать и кое-что более конкретное. Станислав Лем еще в 1963 году ввел понятие информационного кризиса, связанного с наукой. Это что такое? Каждое новое открытие приводит к возникновению новых научных проблем, на которые еще нет ответа. Поэтому количество нерешенных научных проблем растет экспоненциально. Но количество ученых в том же режиме расти не может, поэтому ученых через некоторое время будет не хватать на возникающие научные проблемы. Возникает то, что он назвал «разрывом фронта науки»: не все научные проблемы, которые должны быть исследованы, реально исследуются, наука теряет свою целостность и начинает деградировать.

Панов обращает внимание, что это один из видов недостатка ресурсов. Другой вид недостатка ресурсов можно более прямо связать с наиболее фундаментальными науками – это наука о микромире и наука о космосе, такие как астрофизика и космология. Дело в том, что стоимость научных исследований вот в этой наиболее фундаментальной области непрерывно возрастает. И более того, улучшение методов, развитие новых технологий и т.д. не позволяет преодолеть эту тенденцию. В частности, можно упомянуть, например, все растущий и растущий размер коллайдера. Сейчас построен огромный коллайдер LHC, и коллайдер еще больших размеров, возможно, построить уже будет просто невозможно. Все растущие и растущие телескопы и т.д. Однако земные ресурсы ограниченны, и поэтому должен быть положен предел вот этому самому росту.

Ограничение ресурсов и рост научных исследований ведет к тому, что количество научных исследований в единицу времени начинает падать. Падение количества новых открытий в единицу времени снижает интерес к науке, снижение интереса к науке снижает финансирование науки. Снижение финансирования науки еще более сокращает поток научных открытий, возникает петля положительной обратной связи, которая может привести к внезапному коллапсу финансирования фундаментальной науки. Это очень простой процесс, можно построить математические модели этого процесса, Панов это сделал. Вот результаты расчетов по этой модели.

В том конкретном варианте предполагается, что финансами науку ограничат сверху, просто, как показано на этой кривой, они сначала растут, растут, а потом во что-то упираются, логистическая кривая. Это необязательное предположение, модель работает и в других предположениях. И вот что получается для количества научных результатов в единицу времени. Сначала они растут, вместе с ростом финансирования, а потом возникает такой участок, когда финансирование растет, а количество результатов начинает падать из-за того, что единица научного исследования становится все более дорогой. И потом внезапно наступает коллапс финансирования, который связан как раз вот с той петлей положительной обратной связи, о которой говорил Панов.

Вот эту модель Панов построил в 1996 году, у него не было экспериментальных данных, с которыми он мог бы ее сравнить. И вот недавно, в 2010 году, удалось найти данные по количеству публикаций в год, начиная с 1817 года и кончая 2010-м. Видите, такая вот растущая кривая, и у нее есть несколько интересных очень мест. Ну, во-первых, вот это место, связанное с 1950-м годом, здесь находится одна из точек моей кривой, которая называется информационной революцией. Видно, как в момент информационной революции скакнуло внезапно количество публикуемых научных статей. А вот другое важное место: видно, что в последние несколько лет количество научных публикаций внезапно стало падать. Этот процесс начался в 2007 году, и естественно попытаться его связать с наступившим экономическим кризисом. Но это далеко не первый экономический кризис в истории человечества. Была и Великая депрессия 1930-х годов и др., и никогда раньше количество научных публикаций не падало, оно упало впервые. А финансирование науки, как видно на этой кривой (это, правда, Соединенные Штаты), продолжает расти. То есть получается что-то очень похожее как раз на ту фазу, которую Панов показывал в своей модели, – финансирование растет, а количество результатов уже начало падать. Естественный вопрос: может быть, падает только количество обыкновенных журнальных публикаций? Ничего подобного. Вот известный электронный журнал, архив препринтов, в нем количество публикаций тоже начало падать. То есть оно начало падать везде, это некий тотальный процесс.

Можно ли использовать искусственный интеллект, о котором здесь много говорили, для преодоления кризиса? Ну, например, недостающее число ученых заместить роботами. Или внедрить какой-то способ выращивания знаний, вместо натурных обыкновенных экспериментов. Мнение Панова состоит в том, что надежды на искусственный интеллект очень сильно переоценены.

В основном надежды на возникновение искусственного интеллекта, более сильного, чем человеческий, связаны с понятием технологической сингулярности и с законом Мура, ростом мощности аппаратной базы. У Панова возникают два вопроса к этой кривой. Первый вопрос: как оценивалась мощность мозга, скорость, с которой работает мозг? Она оценивалась на количестве нейронов, количестве синапсов и частоте срабатывания синапсов. Это очень примитивная оценка. Вот возьмем амебу. Там вообще нет нервной системы, никакой, а она обладает, тем не менее, очень сложным поведением. И все эти информационные аспекты, которые есть у амебы, должны присутствовать и в мозге. Поэтому, скорее всего, это очень сильно недооцененная величина, может быть, на десяток порядков. И самое главное, что закон Мура, рост мощности аппаратной базы, дает только необходимые, но не достаточные условия возникновения мощного искусственного интеллекта.

Закон Мура

Панов приводит цитату: «За прошедшие 15 лет разум наших электронных вычислительных машин улучшился в миллионы раз. В течение нескольких десятилетий следует ожидать увеличения характеристик разума машин, по крайней мере, в несколько десятков тысяч раз. Разум таких машин по основным параметрам будет заведомо превосходить разум человека». Это было написано в 1975 году, и такие слова говорили непрерывно на протяжении развития компьютерных технологий. И говорят сейчас в той же самой форме и теми же словами. С чем связана эта ошибка? А ошибка связана с тем, что необходимое программное обеспечение гораздо более консервативно, на много порядков величин, чем развитие аппаратной базы.

Панов также отметил, что те технологии, которые сейчас используются при программировании искусственного интеллекта – нейронные сети, эвристическое программирование, экспертные системы, эволюционное программирование, – были изобретены между 1955 и 1961 годами. Это произошло значительно более пятидесяти лет назад, и с тех пор не было придумано ничего принципиально нового. В области программирования искусственного интеллекта наблюдается глубочайший застой. И дело в том, что мы просто не понимаем, как на самом деле думает человек.

По мнению Панова, проблема здесь в следующем: компьютер обрабатывает информацию, человек обрабатывает смыслы. По умолчанию предполагается, что смыслы могут быть выражены информационным образом, но никто никогда не доказал, что это так. Я приведу простой примитивный контр пример: если смысл представляется квантовыми состояниями, то это не есть информация. Потому что важнейшим свойством информации является то, что она может быть скопирована, сдублирована. А квантовые состояния не копируются по теореме не-клонирования состояний.

Это простейший контр пример, но на самом деле ситуация может быть еще гораздо хуже. Мы совершенно не понимаем, каким образом представляются вот эти самые смыслы. Более того, существует теорема Роджера Пенроуза. Утверждение Роджера Пенроуза состоит в следующем: существует очень много активностей человеческого мозга, которые не могут быть представлены активностью компьютера, но очень трудно доказать, что это действительно невозможно.

Есть один вид активности – специальный тип математической активности мозга, когда можно доказать абсолютно строгую теорему, что любой конечный автомат, основанный на любых известных физических принципах в настоящее время, не может представить некоторые формы математической активности мозга. Это математическая теорема, ее опровергнуть просто невозможно. На самом деле она является родственницей первой теоремы Гёделя о неполноте. Что из нее следует? Из нее следует, что для того, чтобы создать искусственный интеллект, превосходящий по мощности человеческий, нужно открыть вот эти самые неизвестные физические принципы, а невозможно предсказать, когда мы их откроем.

Панов, сказал, что не надо особо надеяться на искусственный интеллект, что он нам поможет преодолеть кризис, который нарастает в науке. 

для интересующихся темой предлагаю несколько ссылок, в которых огромное количество материалов от умных людей по данной проблеме.

• Большой список ресурсов по тематике сингулярность, футурология
• Технологическая сингулярность
• Книги, статьи, ссылки 
• Технологическая сингулярность как ближайшее будущее человечества

полный доклад :

https://www.youtube.com/embed/ur9lEj5pg9g