Сознание робота

Из переписки с коллегами

Однажды в переписке с членами комиссии РАН по борьбе с лженаукой мне встретилась в письме такая мысль дфмн Ростислава (Стивы) Полищука: «Каждый имеет право быть самим собой». Она побудила меня задать высоколобым участникам переписки отчасти провокационный вопрос:

«Почтенные коллеги, одна фраза в письме Стивы (вот эта: «Каждый имеет право быть самим собой») вызывает у меня вопрос.
Предположим, мы в результате мысленного эксперимента просканировали человека (допустим, Стиву) и из идентичных атомов в другом месте собрали точно такой же объект со всеми особенностями молекулярного строения.
Одним словом — точный клон. Как бы телепортация. Естественно, будет воспроизведена точная копия мозга со всеми его нейронами, синапсами, электрическими импульсами, химическими реакциям и пр. Как, например, можно сделать клон жесткого диска с полным информационным тождеством, но без каких бы то ни было химических реакций.
Будет ли этот второй Стива точным клоном? Если да, то тогда он должен иметь абсолютно то же «духовное содержание», то есть идентичную психику: те же эмоции, память, знания, привязанности и чувства.
Помнится, тов. Сталин приказал расстрелять второго Синявского, поскольку и одного было многовато. Но двух Стив не будет много.
Я задал этот вопрос троим: сильному компьютерщику А., видному биологу (и математику) С., астроному, не чуждому философии и участвующему в поиске внеземных цивилизаций Ц. Все трое ответили: безусловно, при вышеназванных условиях мы получим точный клон со всей психикой.
Прошу простить, но этот вопрос не просто игра, он затрагивает саму суть сознания.
С уважением, ВЛ.

Ответы были тонкими и обстоятельными.

В частности, Ростислав Полищук написал:

«Измерение (и сканирование) изменяет состояние измеряемой системы. Да и просканировать тело на уровне атомов невозможно. Но я рад беззаботной игре твоей фантазии.

Что касается клонирования людей, то это технически невозможно, поскольку сложность клонируемой системы потребует времени больше не то что жизни человека, но целой эпохи. Ключевые ограничения — от теории сложности. Но фантазировать и писать фантастические эссе никто не запретил».

Известный специалист по проблеме сознания, дфн Валерий Александрович Кувакин откликнулся так:

«Уважаемый тезка! Здесь есть, по меньшей мере, один вопрос: если при этом Стива-2 не будет ничего знать о своем происхождении (что возможно только вследствие какой-то ныне не существующей особой технологии гипноза). Тогда он будет считать себя Стивой-1 (да и то его нужно переместить в места, где не будет их пересечений). В противном случае он ни за что не будет считать себя ни Стивой-2, ни клоном. В нем взыграет глубочайший инстинкт и потребность в самоидентификации, но его Я не позволит ему это сделать, поскольку всякое Я уникально и сингулярно, как минимум психологически и ценностно».

Я ответил:

«Валерий Александрович и Ростислав Феофанович, спасибо за ответы, за высказанные идеи. Использую их в своей статье на тему сознания.
Разумеется, технически сканирование человека во всей его «гуманитарной» полноте невозможно. Пока. Речь шла об идеальном, мысленном эксперименте. Соображение об изменении состояния квантовой системы при акте измерения (сканирования)-важно, так что отдельный поклон Стиве (это имя использовалось в первом письме про клонирование просто ради худ.приема). Но можно возразить, что масштабы атомов еще нe таковы, чтобы квантовые эффекты измерения-сканирования сказались на точности расположения атомов в молекулах белков или спиралях ДНК.
Согласен с суждением Валерия Александровича о том, что в силу уникальности всякого «Я» клон сразу же возомнит себя отдельной личностью, а так как он будет занимать чисто геометрически другое место, то в момент своего создания будет иметь иные ракурсы на мир (свой взгляд) и станет немного другой личностью, то есть не будет клоном изначально.
Этот аспект был очень точно описан Лемом в «Солярисе», где созданная (из нейтрино) по следам воспоминаний Криса Кельвина девушка Хари сначала является табула раса, но быстро начинает себя чувствовать не клоном «настоящей Хари», а самостоятельной личностью.
Однако я тут рискну высказать (пока без обоснования — нужен больший объем, чем письмо)соображение, что при клонировании «всего человека» мы получили бы только его физиологическую и анатомическую копию. В общем-то — муляж. Без всякого его «духовного содержания». Ибо сознание, как известно, в любых философских системах (кроме вульгарного материализма) есть сущность идеальная, то есть нематериальная и как таковая не может быть отсканирована и передана в виде «расположения атомов в молекулах». То есть, сознание — это своего рода переживание, отношение между кодами мозга и объектами, его нет в виде процессов в мозгу. А раз нет, то и нечего сканировать. Между прочим, клон овечки Долли не имел условных рефлексов (они — тоже ведь идеальная сущность) своего образца-прототипа.
А как же мы тогда общаемся? Хотя бы и в виде пересылки вполне материальных кодов текста? Только так, что реципиент сам обладает сознанием и в нем воспроизводит смысл кодов. В самом же тексте нет ничего, кроме атомов графита на молекулах целлюлозы или люминесцентных следов от попадания электронов на экране компьютера.
Так что, дорогой Стива, никакого твоего клона не может быть в принципе.
Ты единственен во всем мире. Раньше тебя не было, и потом не будет. Уникальность — это хорошо. Но … печально, что не будет. На этот случай я и придумал ранее нами обсужденный закон сохранения сознания в мировом информационном поле (шутка).
С почтением — ВЛ».

Сознание — некая разновидность материи?

Затем я подробно обсудил эту тему еще раз с Валерием Николаевичем Сойфером. Валерий Николаевич стоял на своем: если в точности скопировать мозг (вместе с телом), то получим именно идентичное существо, точный клон, что подразумевает и воспроизведение в клоне всей психики клонированного человека. То есть, все его чувства, мысли, знания, отношение к другим и пр. Потом, конечно, этот клон станет постепенно иметь свои ощущения и мысли и делаться отличным от прототипа. Но в первые мгновения это будет в точности копия (по-прежнему мысленная). Такая, которую будет нельзя отличить от оригинала. Полное тождество. Отсюда следовало, что сознание, в общем случае — психика, есть некие материальные следы в мозге. Не так важна их природа — электрические ли импульсы, химические реакции в нейронах, особое расположение атомов в молекулах, голографическая интерференция непонятной природы. То есть, выходило, что сознание можно выделить как некую материальную субстанцию, можно переписать на другой носитель, как это делается при клонировании и перезаписи с одного компьютера на другой или при записи информации на флешку.

Один оппонент особенно подчёркивал, что природа сознания пока изучена мало, что мы только в начале пути, но тоже не сомневался в том, что в сознании нет ничего мистического, это нечто вполне физическое, которое можно подвергать исследованию, и для этого следует cтремиться его выделять в «чистом виде».

Я стоял на своем. Это стояние я ниже воспроизведу.

Сознание, в который раз повторял я, в естественнонаучном смысле слова, конечно же, имело свой генезис.

В главах учебников, посвященных сознанию, акцент делался на происхождение сознания, то есть на его выведение из предыдущих, более низких «форм отражения» действительности. Следовательно, как бы задавался механизм возникновения сознания, его эволюция от простейших форм «химического отражения» типа катализа к биологическим формам — рефлексам и, наконец, к гоминидным, предчеловеческим формам — к конкретному и стадному мышлению и уж от них — к настоящему абстрактному, человеческому мышлению. Возникала иллюзия, что науке хотя бы в принципе известно, как возникло сознание. И еще возникала иллюзия, что, скажем, химия высокомолекулярных соединений, зоопсихология и, тем более, антропология в сумме своей дают ответ на вопрос философский по своей сути: что такое сознание. Конечно, проговаривали всегда авторы работ «про сознание», — этот ответ не полон, не исчерпывающ, он будет уточняться по мере развития науки и т.д.

Я бы сказал, что успехи науки в объяснении эволюции сознания впечатляющи, но все это — естественнонаучный, а не философский аспект проблемы сознания.

Для философа же бесспорен тезис о невыводимости сознания из предшествующих форм отражения.

В философском смысле возникновение сознания в принципе не может быть отрефлексировано. Действительно, когда сознание возникало (в естественнонаучном смысле слова),то еще не было уровня рефлексии, который сказал бы нам, как это происходит, а когда сознание «дозрело» до рефлексии, то процесс становления сознания уже закончился и потому отрефлексирован быть не может. Что-то сходное происходит с ситуацией, когда последнюю мысль человека нельзя высказать, ее человек всегда унесет с собой. Ибо если он ее высказывает, она не последняя, а когда последняя — уже нет возможности высказать, как раз в этот момент отключается сознание.

«Квантовое» сознание

Естественнику трудно принять феномен скачкообразного появления сознания. Если, скажет он, невозможно дать описание, привести механизм возникновения такого феномена как сознание, то значит, сам философский подход к проблеме сознания ненаучен. Для опровержения «естественнонаучного скепсиса» стоит привести знакомый естественникам понятийный аппарат и метод аналогий.

Гегель, подробно описав саморазвитие абсолютной идеи, затем просто постулировал ее превращение в свою опредмеченную форму — в природу. А каков механизм этого перехода от идеи к природе? — спросил бы естественник. А нет механизма, — ответил бы Гегель. Просто имеем два состояния: сначала идею, а потом сразу — природу. Да это ж антинаучный вздор, воскликнули бы физики!

Аналогично этому сначала электрон находится на одном энергетическом уровне, а затем на другом (то, что раньше называлось орбитой), а я спрошу у вас, а где же механизм перескоков? Как электрон ведет себя и что делает между уровнями? Вы скажете: этот вопрос некорректен. Существует, скажете вы, квант действия и принцип квантования, и он запрещает говорить о том, где находится и что делает электрон «в промежутке» между уровнями. Да, но все-таки, что же это за наука, которая не говорит нам, где электрон; он же при этом двигается? Нет, говорит квантовая физика, — мы имеем два состояния: сначала электрон здесь, а потом сразу там, и никаких промежуточных состояний, никакого процесса перехода, никакого движения между уровнями. Но если мгновенно перескакивает, значит ,с бесконечной скоростью?! А как же скорость света, которая есть предельная величина передачи сигнала? Да вот так — понятие скорости при перескоке, квантовом переходе электрона с одного уровня на другой не существует. С чем бы сравнить? Да вот как раз с мыслью. Вы можете мысленно перенестись с из нашей галактики в в галактику Андромеды и никакое ограничение скорости нам не помеха. Но ведь электрон-то не мысль. Он — частичка материи. Да. Но в микромире вот такие, квантовые законы. Мы тут можем далее спорить, является ли это свойством самой по себе природы или это способ нашего описания некоей не доступной для наших органов чувств сущности. Сие не так важно для нашей темы.

Идеальное — не значит превосходное. Это просто не материя.

Попробую пояснить на простом примере, что такое идеальное. К этой области относятся (кроме сознания) любые проявления психики: ощущения, образы, условные рефлексы, представления. Возьмем классический опыт Павлова. Зажигается лампочка и собаке дают кусочек мяса. Через короткое время после повторения опыта собака только при вспышке лампы будет, условно говоря, видеть кусочек мяса. И станет при этом проявлять все признаки своего рода переживания — удовольствия. Махать хвостом и повизгивать от радости. Изменим опыт: при вспышке лампочки пусть экспериментатор стегает собаку хлыстом. Всего через пару повторений собака при вспышке лампы будет видеть хлыст и повизгивать не от радости, а от боли.

Что тут произошло? Сигналы в мозгу от вспышки лампы те же самые. Пусть это будут некие электрические импульсы в нейронах. Но в первом случае они означали мясо и радость, а во втором — боль и страх. Стало быть, образ в данном случае (мясо или плетка) не есть импульсы. А есть отношение кода в мозгу (импульса) к объекту, которое устанавливается через действие с этим объектом. В первом случае действие — собака ест мясо, во втором — бежит от плетки. Вот это отношение и есть идеальное. Именно поэтому его и нельзя выделить и скопировать.

Для появления идеального нужны три вещи:1. мозг как кодирующее устройство вместе с кодами, 2.внешние объекты, 3.действие с этими объектами. Понятно, что без мозга не будет идеального. Но равным образом его не будет и без двух других компонентов. Сказанное можно выразить «формулой» А/B = C, где А — коды, В — объекты, / — действие, С — идеальное.

В неизмеримо более сложных случаях человеческого поведения тоже можно привести примеры. Возьмем такое возвышенное чувство как любовь. Как понимать такую народную мудрость как «от любви до ненависти один шаг»? А так, что за счет некоего события, действия резко изменилось отношение к объекту. Это, так сказать, синдром Отелло. До подброшенного платка подлецом Яго он любит свою Дездемону, а после платка, как якобы свидетельства ее измены — ненавидит. До платка он дарит ей драгоценности, а после — душит своими руками. Дездемона- одна и та же, сигналы в его мозгу от ее лицезрения — те же. А вот отношение изменилось на противоположное — любовь стала ненавистью.

Предположим, клонировали Отелло. Будет ли любить клон Дездемону? Или будет ненавидеть? Ни то, ни другое. Клон получит те же самые мозговые импульсы, но у него не будет никакого переживания по поводу Дездемоны. И вообще ни по какому поводу. Этот клон на самом деле будет именно что манекеном, как бы биороботом без единого проблеска мысли и чувств. Он будет равен по своему психическому развитию только что родившемуся младенцу. Ему даже видеть нужно будет учиться: ведь новорожденный не видит отдельных предметов, весь мир для него предстает как набор разноцветных пятен без объема и перспективы, как если бы был приклеен к его сетчатке. Различать объемы, масштабы, форму младенец учится за счет действия с предметами-игрушками. Он ручками подносит погремушку к глазам, потом отодвигает руку, и после многих повторений у него вырабатывается образ этой игрушки, ощущение того, что игрушка рядом с глазом и далеко от него — одна и та же, что у нее есть масштаб и форма, зависящая от положения в руке, то есть от ракурса. Но вместе с тем это один и тот же объект. Не случайно дети, которых на долгое время долго пеленали, лишенные движения, действия, отстают в развитии. И, напротив, все activites, развивающие игры всегда завязаны на действие.

Между прочим, как раз поэтому извлеченный из тела, помещенный в среду снабжения кислородом и всяким питанием мозг не будет мыслить. И не будет ничего ощущать. Ибо он отсоединен от всех эффекторов (мышц) и даже от внутренних органов. Он лишен всякого действия и потому при всех сохраненных импульсах не будет иметь идеального — тех самых переживаний, которые и есть чувства, сознание, психика. Если бы с такого изолированного мозга сняли энцефалограмму, она показа бы отсутствие всякой активности, прочертила почти прямую линию, как у мертвого.

Таких вивисекторских опытов, конечно, никто не проводил, но им есть аналогия: помещение обездвиженного человека в жидкость, плотность которой равна плотности тела, и с комфортной температурой, в сурдокамеру. Это моделирует отключение мозга от внешних раздражителей. Правда, остается связь мозга с внутренними органами. Но и при этом сознание человека очень быстро отключится и он впадет во что-то сходное с глубоким сном или с наркозом без сновидений.

Так что умная голова профессора Доуэля только в первое время была бы мудрой, а потом стала бы стремительно тупеть. Это известно и по тому, что у полностью парализованных людей сознание постепенно угасает, а потом и ощущения тускнеют. Если в обозримом будущем все же кому-то пришьют голову к новому здоровому туловищу, то его сознание существенно изменится — просто за счет того, что многие двигательные рефлексы, завязанные на спинной мозг, будут другими.

Переход духа в силу

В дискуссии у моего оппонента возник такой сложный для меня вопрос: если сознание идеально и никак не сводится к процессам в мозгу, то каким образом сознательное желание, волевой импульс (то есть — идеальное по своей природе) преобразуется во вполне материальное действие? Иначе говоря, каким образом идеальное становится материальным? Каков механизм этого перехода? Это был почти что тупик. Я не знаю. И никто не знает. Но тут меня осенило: нет никакого механизма. Волевой акт скачком без всякого механизма переходит в действие. Я захотел поднять руку — и волевой импульс стал материальным сигналом, нервным импульсом к мышцам. Произошел тот самый квантовый скачок. Только не в физическом мире, а, так сказать, в философском. Идеальное сразу, без промежуточных процессов, преобразуется в материальное. Опять же, этот постулат можно полагать онтологическим, как некое устройство природы сознания, а можно — как принцип нашего познания. А еще можно думать, что это наше временное незнание. Что с течением времени мы узнаем, каков же механизм преобразования идеального в материальное.

Но это вряд ли. Долгое время многие физики полагали, что квантовые скачки, сама вероятностная природа поведения микрообъектов есть временное наше незнание. Что там имеются некие скрытые параметры, которые (когда мы их познаем) на самом деле вполне детерминировано объяснят поведение электрона и точно предскажут место его попадания на экран (предположение идет от де Бройля и Бома, но разделялось, в том числе, Эйнштейном). Но нет, гипотеза скрытых параметров означала бы неверность квантовой теории, и затем вполне строго было показано (Беллом в 1964 г., а окончательно им же в 1982 г.), что никаких скрытых параметров в квантовой теории нет и искать их бессмысленно.

Воля — причина самой себя

Есть еще один каверзный вопрос: какова причина вот именно этого желания, а не другого? Ответ такой же: никакой причины нет. Волевой импульс первичен. Он сам есть причина себя. Но как же так?! Ведь закон причинности — один из самых общих и важных, может быть, даже более важный, чем закон сохранения энергии. Все в мире имеет свою причину. Не все. Скажем, радиоактивный атом распадается вдруг без всякой причины. Мы не можем сказать, почему именно этот атом урана-235 распался, а не другой. Мы можем только сказать, каково время полураспада, но не то, какой именно из атомов сейчас распадется. Может быть, пока не знаем? Нет. Опять же можно сказать, что так устроена природа. Атом урана-235 распадется, но когда именно, совершенно неизвестно. Точно так же без всякой причины взорвалась первичная сингулярность, из которой возникла Вселенная. Хотя бы потому без причины, что причина требует временной последовательности: сначала причина, потом следствие. А когда имелась первичная сингулярность (или что там вместо нее), то времени (и пространства) не было. Значит, и причины не могло быть.

В мире человеческого существования вообще множество проявлений первичны. То есть, не имеют иных причин, кроме самих себя. Свобода (в том числе — свобода воли) существует как самостоятельная ценность, как нечто первичное и не требует для себя никакой причины. Все попытки вывести свободу воли (и тем самым свободу человека вообще) из любых законов природы — физики ли, химии, физиологии ли, все равно, — оказались безуспешными. Ибо свобода воли — это базовое понятие философии. Ничуть не уступающее, например, категории материи, пространству, времени и любым прочим понятиям. Иными словами, свобода — это онтологическое понятие. Оно лежит в основании понятия «человек». Если мы хотим о ней говорить, ее следует просто постулировать как некую первичную данность человеческого существования. Эта та самая мысль, к которой уже в ХХ веке пришел экзистенциализм, устами Сартра заявивший «Человек обречен на свободу». То есть, человек всегда свободен, потому что у него всегда есть возможность выбора, ибо свобода и есть осуществление выбора. Даже в самом безвыходном положении, в тюрьме, он может выбрать смерть или жизнь.

Либо есть сознание (в философском смысле слова, т. е. отрефлексированное), либо его нет. Либо есть совесть — либо нет. Либо есть свобода — либо ее нет. Это, так сказать, принцип философского квантования. За такой концепцией стоит мощная философская традиция, начиная от Сократа-Платона и до Канта, Гегеля, Гуссерля , Мамардашвили.

Искусственный разум

Последний вопрос таков: как быть с моделированием мышления (или сознания — в данном контексте это все равно). Все время предполагается, что если построить достаточно сложную кодирующую систему, сопоставимую с мозгом человека с его 14 миллиардами нейронов, то за счет логики оперирования двоичными кодами можно смоделировать и получение образов, и само мышление. Дело, дескать, за техникой. Не за техникой. Суперкомпьютеры по числу элементов, быстродействию, объему памяти давно обогнали мозг. В играх с просчитываемыми вариантами они запросто выигрывают у человека. В том числе — партии в шахматы у любого чемпиона мира.

Тем не менее, у самого мощного компьютера нет не только мышления, но даже простых ощущений. И не будет. Почему? Потому, что у него нет отношения между его кодами и объектами. Нет того самого «идеального». А оно, это идеальное, возникает только тогда, когда компьютеру станет небезразлично его существование, когда это идеальное будет использоваться им для своего самосохранения. А если пойдет речь о мышлении, то не только для самосохранения, но и для прогноза, своего развития и даже для своего самопознания. Возможно ли это? Да. Но для этого компьютер должен перестать быть машиной (и просто ходящим «умным» роботом с руками), а должен стать живым организмом. Как минимум с инстинктом самосохранения. И проявится этот инстинкт в том, что «существо» не даст себя отключить от сети — будет сопротивляться. И очень переживать-страдать по поводу своей смерти от обесточивания.

Иными словами, моделирование мышления по-настоящему упирается в моделирование, то есть в создание живого существа. Возможно ли это сделать на ином субстрате, чем белковая жизнь — большой вопрос. Но если и возможно, то это будет некая пока совсем неизвестная (неземная) форма жизни и присущего ей сознания.

P.S. Лем и недостатки человека

В рассказе «Дознание» Станислав Лем высказывает тонкую мысль о том, что создание искусственного интеллекта потребует моделирования не только его сильных сторон, но и «слабостей». В этом рассказе в звездолете кроме людей среди экипажа есть и человекоподобный робот, не отличимый от человека. Кто человек, а кто робот — неизвестно. В аварийной ситуации нужно выбрать из двух решений, каждое из которых очень рискованно: либо, ускорившись, пройти через щель Кассини, либо попробовать затормозить. Пилот Пиркс проявляет слабость — он не может решиться на выбор. А вот один из членов экипажа по имени Кальдер не колеблется — он пытается сорвать ограничительные пломбы, развить ускорение в 50 g и провести корабль в щель. Это ускорение сразу бы убило всех людей, но не повредило бы роботов. Так Пиркс узнает, кто же в экипаже робот.

Вот ключевые строки из рассказа:

«Робот, который был бы умственном отношении равен человеку и в то же время не мог бы лгать и обманывать, — чистейшая фикция! Либо полноценная копия человека, либо марионетка — ничего другого создать нельзя. Третьего не дано. Существо, способное на поступки определенного уровня сложности, уже тем самым способно и на другие поступки того же уровня, так? Да. Конечно, это нерентабельно. По крайней мере — пока. Психическая полноценность, не говоря даже о внешнем человекоподобии, стоит чудовищно дорого. …
Поэтому потеря самообладания, какой-нибудь нервный срыв хотя и не исключен в принципе, но менее вероятен у них, чем у человека в аналогичной ситуации.
- Такие опыты проводились?
- Конечно!
- И люди служили контрольными образцами?
- Бывало и так.
- Катастрофические ситуации? Угроза уничтожения?
- Именно это.
- А результаты?
- Люди менее надежны. …Мозг — система вероятностная, наш с вами — тоже; можно увеличить вероятность определенных состояний, но никогда нельзя быть вполне уверенным. И все же — они и в этом превосходят человека!

Пиркс о финале полета:

Так что же, собственно, случилось? Интуиция сработала? Предчувствие? Где там! Просто эта возможность, предоставленная аварией, слишком напоминала мне игру краплеными картами — грязную игру. Я не хотел ни такой игры, ни такого сообщника, а Кальдер стал бы моим сообщником, если б я начал отдавать приказы и тем самым как бы согласился с возникшей ситуацией. Я не мог решиться ни на это, ни на приказ о возвращении, о бегстве — такой приказ был бы самым правильным, но как я потом смог бы его мотивировать? Ведь все мои сомнения и возражения рождались из смутных представлений о честной игре… совершенно нематериальных, не переводимых на деловой язык космонавигации.
Вы только представьте себе: Земля, какая-нибудь комиссия по расследованию, и я говорю этой комиссии, что порученного задания не выполнил, хотя это было, по-моему, технически возможно, и не выполнил потому, что подозревал первого пилота в таком саботаже, который должен был облегчить мне дискредитацию части команды… Разве это не звучало бы как безответственная болтовня? Вот я и медлил — из-за растерянности, из чувства беспомощности, даже отвращения, а при этом своим молчанием давал Кальдеру, как мне казалось, шансы на реабилитацию: он мог доказать, что подозрения об умышленном саботаже несправедливы — достаточно было ему обратиться за приказом… Человек на его месте сделал бы это, вне всякого сомнения, но его исходный план такого обращения не предусматривал.
Наверное, из-за этого план казался ему более чистым, элегантным: я должен был сам, без единого слова с его стороны, привести в исполнение приговор над собой и своими товарищами. Более того, я должен был вынуждать его к определенным действиям, и притом как бы вопреки всем его глубоким познаниям, вопреки его воле, а вместо этого я молчал. Так что в конечном счете нас спасла, а его погубила моя нерешительность, моя вялая «порядочность» — та человеческая «порядочность», которую он так безгранично презирал.

p.s.: Приобщение человечества к искусственному разуму, к его интеллекту открывает ряд проблем, решение которых в недалёком будущем.. сегодня безобидные игрушки, но уже скоро боевые солдаты, обслуга в сфере услуг.. и супер компьютеры, решающие глобальные задачи человечества.. лететь к звёздам, человеку в любом случае придётся вместе с роботами и управлять полётами вместе с искусственным интеллектом.. так какие границы открываются в процессе этого взаимодействия - человеческого разума или искусственного?..

Источник