Сила и слабость ИИ от Сбербанка

Недавно я рассматривал совещание по вопросам разработки «Стратегии по развитию искусственного интеллекта» и дорожной карты к ней.  События развиваются стремительно. Борьбу «за интеллект» возглавил Сбербанк и он, надо признать, развил бурную деятельность.

Так, в Москве 8-9 ноября в рамках AI Journey состоялась двухдневная конференция с ведущими международными и российскими спикерами — экспертами в области искусственного интеллекта и анализа данных, а также представителями компаний — лидеров по развитию и применению технологий ИИ в бизнес-процессах. Организатор – Сбербанк РФ. В работе приняли участие 5000+ участников, 300+ - спикеров и экспертов. Её уже коротко обсуждали на АШ. Я просмотрел множество ключевых докладов и предлагаю свою версию. Как сказано в проспекте конференции, «AI Journey призвано стать одной из значимых международных площадок для проведения соревнований в области DS/AI, обмена опытом в развитии технологий искусственного интеллекта, обсуждения последних трендов и вопросов практического применения ИИ в промышленности, науке, бизнесе и повседневной жизни». Конференцию посетил Президент В.В.Путин. Заметное участие в работе конференции принимала компания Huawei, представители которой выступали и с пленарными докладами, и на секциях.

Мне это событие было интересно с точки зрения оценки состояния дел в области разработки ИИ и перспектив дальнейшего продвижения, по мнению самих участников. Этот материал позволил мне уточнить собственную позицию по вопросу принципиальной возможности создания сильного ИИ, которую я планирую изложить в следующих постах.

Как я уже отмечал, Сбербанк, являясь коммерческим финансовым учреждением, фактически, возглавляет развитие и продвижение программ по разработке ИИ в РФ. Что само по себе, достаточно странно. Какой бы любовью к «чистому знанию» ни обладал Сбербанк, всё равно, как мы увидим, во всей этой проблеме он, прежде всего, преследует коммерческий интерес. По словам Г.Грефа в рамках конференции должен «конституироваться» альянс 6 компаний в области разработки ИИ: Yandex, Mail.ru, Газпромнефть, МТС, РФПИ и Сбербанк.

Похоже, Греф временами забывает о том, что он банкир и приходит в какой-то экстаз, выступая по теме ИИ:

«AI доступен каждому человеку…И сегодня мы в Сбербанке говорим, если ты в каждом процессе… не используешь данные AI, значит ты уже позади, ты уже в истории...Мы очень любим технологии, …мы очень любим AI, мы очень любим машинное обучение. Просто потому, что это круто!»

Иллюстрируя эту «крутизну», Альберт Ефимов, руководитель лаборатории робототехники Сбербанка, заявил: «Мы переносим 21й век туда, где всё еще идёт 19й». Это он сказал, показывая ролик о беспилотнике, перевозящим сумку с наличными между селами на разных берегах Волги в районе Самары. Похоже, именно наличные от Сбербанка, буквально упавшие с неба, призваны, по его мнению, стать символом 21-ого века!

Интерес Сбербанка, как организатора мероприятия, состоит в привлечении программистов и разработчиков к своему новому облачному ИИ сервису AI SberCloud, работающему на суперкомпьютере «Кристофари» (1й в России, 7й в Европе, 29й в мире), созданном совместно с Nvidia и оптимизированным именно под нейросетевые алгоритмы. Сбербанк уже использует «Кристофари» для распознавания речи при анализе обращений клиентов в колл-центр банка, а также для автоматизированного робота-оператора. По словам руководителей Сбербанка, это их ответ на различные фактические и мнимые ограничения «партнёров» на доступ к инфраструктуре работы над ИИ (я упомяну их ниже). И они серьёзно рассчитывают на этом заработать. Рынок облачных технологий, по их словам, в прошлом году достиг 200 млрд.$. Сервис заточен именно на задачу обучения нейронных сетей на огромных массивах данных. В качестве примера уже решённых задач один из топ-менеджеров Сбера продемонстрировал синтез голоса Грефа, читающего стихи Бродского. Другой пример – авиакомпания S7 с помощью «Кристофари» обучила свою нейросеть предсказывать спрос на авиабилеты на «каждый конкретный рейс, день и даже час».  Здесь Сбер следует вполне в русле мировых тенденций. Так, Bank of America начал создание своего облачного сервиса в 2013 году, вкладывая десятки миллиардов долларов ежегодно (в этом году порядка 53 млрд.$). Это позволило сэкономить порядка 30 млрд. с 2010 года, в том числе за счёт сокращения персонала  (в 2010г. в BoA работало порядка 305 тысяч человек, в 2018-м — уже только 204 тысячи.).

В своём выступлении Греф много внимания уделил инфраструктуре работ по ИИ, отметив появление новых фреймворков для разработки ИИ.  Он указал и на существующие ограничения. Это относится к открытым репозиториям кода – один, GitHub (40 млн. пользователей из них 10 млн. добавилось в 2019г.,), недавно куплен Microsoft, а другой – GitLab, в октябре, по словам Грефа, запретил разработчикам «иметь жительство» в Китае и России, ссылаясь на угрозу персональным данным. (Мой сын, ежедневно работающий с этим репозиторием, уверяет, что это неправда – никаких ограничений до сих пор нет). Тем не менее, слова Грефа о внешних угрозах и санкциях позволили ему обосновать в глазах государственных чиновников необходимость создавать собственные облачные решения в области ИИ и репозитории кода: «Если компания не живёт в облаке – она живёт в прошлом» (Г.Греф,©).

 Конечно, все эти инфраструктурные проблемы, наверное, были интересны собравшими, равно как и обсуждавшиеся на секциях многочисленные аспекты использования нейросетевых алгоритмов для всего подряд. Но мне эти вопросы не слишком интересны. Они мне представляются глубоко вторичными в сравнении с концептуальными проблемами построения ИИ, которые до сих пор не решены.

Это, очевидно, понимали и организаторы, поэтому одним из основных вопросов, обсуждавшихся как на пленарном заседании, так и на специализированных панелях был вопрос о создании общего ИИ.

Оговорюсь, что русским эквивалентом английского AGI (Artificial General Intelligence) гораздо чаще называют сильный ИИ, а не «общий» ИИ, о котором говорили участники дискуссии. Равно как эквивалентом Artificial Narrow Intelligence (ANI) является не «частный», а слабый ИИ. Сошлюсь, хотя бы, на Википедию. Именно поэтому, всюду в цитатах ниже я заменю «общий ИИ», на сильный ИИ.

Во вступительном слове Г.Греф сказал, что «2018 стал первым годом, когда в приличных кругах стало не неприличным говорить о AGI». В мире, буквально, развернулась гонка за сильным ИИ. Стартапы DeepMind (грант от Google на $500+ млн.)  и OpenAI (грант на $1 млрд. от Microsoft) – проекты, заточенные исключительно на достижение AGI.

Чтобы оживить полемику по сильному ИИ, организаторы предложили группам разработчиков до конференции поучаствовать в соревновании. Цель соревнования — «приблизиться к созданию AGI и алгоритмов, способных обучаться и успешно проходить экзаменационные тесты разного уровня сложности». Необходимо было разработать алгоритм, который способен успешно ответить на вопросы экзаменационного теста ЕГЭ по русскому языку, основываясь на информации из открытых источников.

Участникам предоставлялись тестовые варианты заданий, которые можно использовать для валидации решений и для обучения. Решения участников отправлялись в автоматическую проверяющую систему и оценивались на скрытом наборе вопросов.

Участвовало 98 команд из 14 стран. Подведение итогов можно посмотреть здесь. Отмечу, что лучшее решение получило по экзамену 4, набрав 62 балла из 100, что организаторы посчитали хорошим результатом. О том, можно ли считать это шагом в направлении к созданию сильного ИИ - в дискуссии, которую я рассматриваю ниже.

Итак, возможность создание сильного (общего) ИИ  - одна из ключевых проблем, обсуждавшихся на конференции, хотя большинство докладов были посвящены всё же практическим проблемам создания экспертных систем на основе разных алгоритмов, в первую очередь нейронных сетей. Для всестороннего обсуждения вопроса о сильном ИИ было собрано несколько дискуссионных «панелей» из авторитетных экспертов, учёных, data-scientist’ов и т.п. Тем удивительнее было увидеть полное отсутствие ясной картины состояния дел и перспектив продвижения вперёд. Каждый говорил о своём, мало слушая и понимая выступления собеседников.

Прогресс в работе над сильным ИИ, по мнению многих экспертов, связан с движением по трём направлениям –

1. Наращивание вычислительной мощности компьютеров
2. Разработка новой архитектуры процессоров, оптимизированной под задачи ИИ
3. Теоретическое осмысление комплекса проблем связанных с определением сознания, мышления, интеллекта. Прежде всего в их естественной, а уж потом и искусственной реализации.

Что касается увеличения вычислительной мощности, прямо связанной с числом транзисторов на один чип, то она пока ещё формально растёт. Хотя закон Мура уже не действует. Классическое определение закона Мура гласит, что число транзисторов на чипе удваивается каждые два года (18 месяцев в другой версии). С 1965 по 1975 год их число удваивалось каждый год. Примерно с 2008 года темп замедлился от 2,5 до 3 лет. Никогда темпы удвоения не составляли ровно 18 месяцев, хотя это самая известная версия закона. Но при этом, вся «прелесть» закона Мура состояла в том, что должна примерно теми же темпами падать и стоимость их производства. Теперь это уже не так

(слайд из презентации Николая Суетина, Вице-президента Сколково по образованию и науке). Да и дальнейшее наращивание плотности транзисторов упёрлось в технологические и физические пределы. Именно поэтому, уповают на новую чудо-архитектуру и квантовые компьютеры. Учёные MIT опубликовали данные, согласно которым оптимизация одной не самой сложной модели ИИ (связанной с обработкой естественного языка: машинный перевод, анализ и генерирование текста) требует затрат, эквивалентных выбросам CO₂ от эксплуатации 5 автомобилей в год.  Например, для модели Transformer обучение на 65 млн параметров вызывает выброс объемом примерно в 11 кг, когда же количество параметров возрастает до 213 млн, выделяется уже 87 кг вредных для окружающей среды веществ. То есть, это очевидный тормоз, не устранимый в рамках существующей архитектуры. Выход - оптимизация архитектуры под задачи работы с нейросетями (основанные на тензорных вычислениях). Сразу несколько компаний ведут работы в этом направлении. Так, спикер от Huawei широко рекламировал новый процессор Ascend 910, как «the world's most powerful AI processor». Пытаются не отстать NVidia и другие. Много говорят о биокомпьютинге и нейроморфных технологиях. Тем не менее, по мнению Суетина, всё, что мы будем делать в ближайшие 10 лет, будет основано на кремниевых технологиях.

Пункты 1 и 2 на пути к сильному ИИ, как полагают, могут быть связаны с использованием квантовых вычислений и созданием квантового компьютера. Этому было посвящено специальное заседание.

Панель «ИИ и квантовые технологии: будущее наступает сегодня»

 Ведущий панели, Владимир Кононов, депутат Госдумы РФ, сказал, что российские и зарубежные эксперты сходятся во мнении, что «квантовый компьютер будет создан в ближайшие 10 лет».

Я приведу лишь некоторые, показавшиеся мне содержательными, мысли.

Геннадий Красников, (академик РАН, генеральный директор АО «НИИ Молекулярной электроники», председатель Совета директоров ПАО «Микрон»). Квантовые технологии сводят к квантовым вычислениям – это неверно. Вся электроника давно квантовая. (от себя добавлю - действительно, факультет физической и квантовой электроники (ФФКЭ) на Физтехе существует с 1964г.) Размеры техпроцессов «давно сопоставимы с волной де Бройля основных носителей». И там должны учитываться квантовые эффекты. Современная дорожная карта – 1 трлн транзисторов на чип к 2035г. (сейчас 20-30 млрд.). Перспективное направление - создание  перепрограммируемой постоянной памяти не потребляющей энергию.. с перспективой создания нейроморфных процессоров. В квантовых компьютерах есть проблема избавления от ошибок вычислений, как следствие на один логический кубит нужно 6 (в другом месте он говорит  «от 5 до 10») физических. Для квантового компьютера мы должны создать систему не в 50, а под 1000 кубитов, которые должны работать в когерентном состоянии десятки секунд и позволять проводить операции коррекции ошибок. Следует осторожно давать прогнозы, в ближайшие десятилетия такого прорыва в квантовых (вычислениях) не будет. Нужно отделять науку от пиара и желания заработать на модной теме. Бум будет происходить, скорее, в нейроморфных вычислениях.

Сергей Салихов, 1й проректор НИТУ МИСиС. Проинформировал, что заработал первый в нашей стране прототип квантового компьютера. Дорожная карта предусматривает три направления: квантовые вычисления, квантовые коммуникации и квантовые сенсоры. За квантовые вычисление и создание квантового компьютера будет отвечать Росатом, за квантовые коммуникации (криптография) – РЖД (точнее, Транстелеком, входящий в РЖД), за квантовые сенсоры – компания Ростех. В центре Национальной технологической инициативы по квантовым коммуникациям МИСиС они в сентябре продемонстрировали Путину работающую квантовую линию видеосвязи, которая «абсолютно защищена» от взлома (Красников поправил, что об «абсолютной» защите говорить не приходится – уязвимости остаются, см. например здесь). Потенциально заинтересованы банки. Прежде всего, Газпромбанк и Сбербанк. В МИСиС реализовали прототип квантового компьютера на 2х кубитах, достигнув «точности в 53%» (при большом числе повторений одного и того же вычисления можно с высокой долей вероятности (насколько угодно близко приближаясь к 100% точности) получить верный ответ. Этого можно достичь, если вероятность правильного ответа выше 50% хоть немного и чем больше это превышение, тем меньшее количество вычислений нам нужно провести для получения ответа с желаемым количеством девяток после запятой в проценте нашей уверенности в его корректности). Созданные в НИТУ «МИСиС» сверхпроводниковые (охлаждение до -273,14°С) кубиты реализованы из алюминия и представляют собой квантовый осциллятор на основе джозефсоновского перехода, имеют размер в 300 микрон.

Возникла коллизия вокруг понятия «квантовое превосходство».

По определению,  квантовое превосходство – переломный момент, при котором квантовый компьютер сможет выполнить задачу, решить которую раньше считалось невозможным или на ее решение потребовалось бы невероятное количество времени, используя текущие передовые технические достижения цивилизации.

Так вот, на панели упомянули о том, что Google 23 октября повесил на сайте NASA доклад о квантовом превосходстве. Вроде бы, квантовый компьютер Google смог за 3 минуты и 20 секунд выполнить расчет, на который самому мощному в мире суперкомпьютеру Summit (IBM) понадобилось бы примерно 10 тыс. лет. Информацию об этом научном открытии сотрудники компании изложили в публикации, которая была размещена на сайте НАСА. Однако через некоторое время данный доклад был удален с сайта без объяснения причин.

В своей публикации специалисты Google уточнили, что их новая система может выполнять только один расчет, а использование квантовых компьютеров для решения практических задач находится еще в далеком будущем.

Пока, в основном, квантовые компьютеры «тренируются на кошках», раскладывая, например, числа на простые множители. В настоящее время самое большое число, разложенное на квантовом компьютере с помощью алгоритма Шора, равно 56513. Для этого ученым понадобилось использовать четырехкубитный компьютер.

Подводя итог этой части дискуссии, могу привести слова авторитета. Дарио Джил (Dario Gil), руководитель IBM Research, сказал, что «квантовые компьютеры никогда не будут господствовать над классическими компьютерами, а будут работать вместе с ними, поскольку у каждого есть свои уникальные преимущества».

Моя позиция близка к позиции М.И.Дьяконова (д-р. физ.-мат. наук, Университет Монпелье, Франция), высказанной и обоснованной им в Бюллетене №21 «В защиту науки» Комиссии по борьбе с лженаукой:

Я думаю, что несмотря небывалую активность в течение 20 лет, история квантового компьютера приближается к своему концу, потому что 20 лет — это типичное время жизни большого пузыря в науке, потому что слишком много необоснованных обещаний было дано, потому что общество устало от почти ежедневных объявлений о новых «прорывах», поскольку все академические позиции в области квантовых вычислений уже заняты, потому что адепты квантовых вычислений стареют и становятся менее активными, в то время как молодое поколение ищет чего-то нового.

Обсужденные выше проблемы, как и другие, неупомянутые здесь, оставляют серьезные сомнения относительно дальнейшей судьбы квантового компьютера. Огромный разрыв между элементарными, но при этом очень трудными экспериментами, с одной стороны, и крайне разработанной, но при этом довольно безответственной теорией, с другой стороны, не представляется скоро преодолимым. Кроме того, по-прежнему нет ясности с преимуществами гипотетических квантовых вычислений — стоят ли они усилий поколений исследователей и инженеров.

Беспрецедентный уровень рекламы и необоснованных обещаний, сопровождающий эту эпопею, служит плохим признаком, как и великое множество безответственных в большинстве предложений осуществления «квантовых вычислений с помощью…».

Таким образом, перспективы квантовых вычислений представляются крайне сомнительными.

Более интересным для меня стало обсуждение пункта 3 из упомянутых выше направлений приложения усилий в борьбе за сильный ИИ. А именно, уточнение исходных понятий и принципов функционирования сознания, мышления, интеллекта.

Большой энтузиазм у собравшихся вызвало выступление «доктора Курпатова».  Врач-психотерапевт, телеведущий, продюсер, бизнесмен — Андрей Курпатов, известный в народе как «Доктор Курпатов», недавно назначен научным руководителем Лаборатория нейронаук и поведения человека Сбербанка. Его лекция называлась «Принципы программирования мозга». (трансляция Brain Principles Programming с 1.55.00). Это, конечно, не оригинальное исследование, а достаточно грамотный обзор одного их подходов к использованию нейронаук в создании сильного ИИ.

Он очень хороший оратор, поэтому, даже спорные вещи он излагал с убедительной уверенностью, чем вызвал у собравшихся иллюзию понимания проблемы.

Я не собираюсь пересказывать его объёмное выступление, тема заслуживает отдельного подробного обсуждения. Вот лишь краткие тезисы.

Мы не совсем понимаем, что такое мышление или естественный интеллект. Сейчас мы изучаем, что такое естественный интеллект, и параллельно пытаемся сделать искусственный (несколько международных проектов: Blue Brain Project, Human Brain Project, Brain Initiative). Когда мы собираемся воспроизводить мозг, возможно, мы совершаем ошибку…возможно нам нужно воспроизводить не коннектом (всю совокупность связей нейронов), а принципы функционирование естественного интеллекта для цифровой среды. Есть пять метапринципов работы мозга на всех уровнях организации:

1. Принцип генерации сложности
2. Принцип отношения элементов
3. Принцип аппроксимации до целого
4. Принцип преобразования от локальности к генерализации и обратно
5. Принцип «тяжести», как мозг принимает решения

Далее он подробно обсуждает каждый из этих принципов и делает вывод о том, что если мы сможем интегрировать все эти принципы в искусственной системе, «вложив их один в другой», то мы получим новое существо, обладающее интеллектом, который будет работать на принципах мозга. При этом, оно, существо, будет способно на гораздо большее, чем мы, не будучи ограничено нашими потребностями, нашими способами восприятия и т.п.

Можно подумать, что это разумный подход и многообещающий проект, если бы не один вопрос - А зачем это нужно Сбербанку? Анна Морозова, руководитель проекта «Лаборатория Поведенческих наук» в РАНХиГС объясняет:

«Насколько мы понимаем, основной фокус создаваемой в банке лаборатории — «внешний», взаимодействие с клиентами, подбор лучшего продуктового предложения для него, и приложение к этой ситуации передовых наработок в области нейрофизиологии, социальной психологии и когнитивистики».

То есть, простым языком, использовать последние достижения науки для разработки инструментов социальной инженерии и манипуляции клиентами, с целью навязать им набор финансовых услуг от Сбербанка так, чтобы они ещё и остались благодарны.

Более общий, фундаментальный подход к проблеме ИИ пытались предложить участники

панели «Философские проблемы ИИ»

Модератор, Альберт Ефимов, руководитель лаборатории робототехники Сбербанка, напомнил собравшимся о критериях отнесения ИИ к категории сильного. Речь о пресловутом тесте Тьюринга.

Тест Тьюринга считается пройденным, если компьютеру удается вводить человека в заблуждение хотя бы в 30 % случаев. На сегодняшний день таких машин уже довольно много. В 2014 году полноценный тест с успехом прошла программа «Eugene Goostman/ Женя Густман» (c результатом 33 %), воссоздав интеллект виртуального 13-летнего подростка из Одессы. 

Сейчас таких тестов на интеллект разработано множество.

Серьёзные эксперты считают подобного рода тесты не слишком содержательными, так как они неизбежно направлены на «тестирование» лишь одной из многих сторон того феномена, который мы называем человеком. Да, ИИ может оперировать громадными числами (чего ни один человек не может) или сочинять музыку/ писать стихи (что могут далеко не все люди), но это не говорит о том, что ИИ равен человеку или превосходит его. Речь идёт о конкретных задачах и специальных алгоритмах. Не более того.

А.Ефимов предложил говорить об эпохе «пост-Тьюринг». Он так проиллюстрировал это понятие.  Допустим, общение на сайте знакомств, всё нравится. Попытка встречи в реале. Партнёр не пришёл, так как оказался chat-bot’om. Другая история, в чате всё нравилось, встретились – не о чем говорить, с компьютером было интереснее. Так как «компьютер» всё знает о нас (существует ваш полный профиль и все ваши интересы известны). Пост-Тьюринг – это когда мы точно знаем, что разговариваем с компьютером, и нам с ним интереснее, чем с человеком. И более полезно. Компьютер знает о нас больше, чем мы сами.

И опять же, это не про сильный ИИ, а про вызовы цифровой эпохи.

В дискуссии приняли участие:

В.А. Лекторский, академик РАН, Институт философии РАН. Председатель научного совета по методологии ИИ и когнитивных исследований при Президиуме РАН

А.Ю.Алексеев, философский факультет МГУ, доктор философских наук,

В.Г.Буданов, институт философии РАН, доктор философских наук

С.Н.Васильев, институт проблем управления РАН, профессор, академик РАН

Д.И.Дубровский, институт философии РАН

В.В.Миронов., МГУ, декан философского факультета.

Ю.Шмидхубер, научный руководитель Swiss AI Lab IDSIA, профессор Университета Лугано, один из создателей LSTM нейронных сетей.

Модератор С.Б.Переслегин, футуролог, «Знаниевый реактор»

Опрос среди участников: «Возможно ли создать общий ИИ в перспективе 25 лет?» –

Ответы (по порядку из вышеприведённого списка): всё сложно; всё очень сложно; всё ещё сложнее; уже поздно (Буданов); всё сложно; всё сложно; всё просто (Шмидхубер).

«Будет ли вообще создан общий (сильный) ИИ?» – да, но ограниченный; всё сложно; да; да; да; теоретически мыслимо; да, конечно.

Вот лишь некоторые соображения участников дискуссии, позволяющие представить уровень понимания проблемы сильного ИИ.

В.А. Лекторский:

Чтобы создать ИИ надо знать, что такое естественный интеллект. По его мнению, интеллект – это способность решать мыслительные задачи. Есть когнитивная нейронаука. Думали - изучим мозг и поймём, как человек мыслит, что такое сознание. Не получилось. Человек не просто мозг – это способ взаимодействия с миром. Что такое сознание? Есть ли у человека? Наверное, есть (!) А у кошки. А у червя? Что такое «я»? Разные ответы есть. Какое эволюционное значение несёт появление сознания? Большой вопрос. Идеи трансгуманизма, твой разум на цифровом носителе. Кафка, рассказ «Превращение», человек проснулся и почувствовал себя тараканом, ползущим по потолку. Разум в другой телесной оболочке. Проблема свободы.

В целом, мысли академика довольно сумбурны и с трудом поддаются содержательному обобщению.

Д.И.Дубровский:

Иногда специалисты по ИИ забывают, что сами они имеют естественный интеллект, который стремится создать искусственный. Меняется наша телесность в связи с этими чипами и так далее, а это меняет наше сознание, наши смыслы. Возможно ли искусственное сознание? – Да, теоретически возможно, согласно принципу изофункционализма систем, согласно которому одна и та же функция может быть воспроизведена на разных по своим физическим свойствам субстратах (аналогия – естественный зуб – искусственный зуб). Сознание есть функция мозга и теоретически можно построить самоорганизующуюся систему на других субстратах, обладающую теми же функциями. Чтобы продвинутся, нужно определить, что же такое сознание. Возникает «трудная проблема сознания». Специалисты по ИИ утверждают, что «трудная проблема сознания» не нужна. Они могут без неё обойтись. Если явлениям сознания нельзя приписывать физические свойства (массу, пространственные характеристики), то как объяснить связь сознания с мозговыми процессами, которая принимается всеми? Как объяснить причинную функцию сознания –вот я подумал, и моя рука потянулась взять предмет? Как объяснить феномен свободы воли и её связь с детерминизмом мозговых процессов?

В.Г.Буданов:

Никакого естественного интеллекта нет, мы и есть с вами тот самый большой ИИ. Когнитивные карты и нейронные сети новорождённого воспитываются в искусственной среде нашей культуры. И этот большой ИИ пытается сейчас осознавать себя и воспроизвести себя. Происходит попытка этого большого ИИ перейти «с белка на песок» (на кремний).

А.Ю.Алексеев:

 О влиянии проблемы общего ИИ на философию.  Четыре основных проекта: Искусственная жизнь, искусственный мозг (сознание), искусственная личность и искусственное общество. В связи с проблемой ИИ  философия вынуждена переосмыслить вопросы; а что такое жизнь, сознание, личность и общество?

Ю.Шмидхубер, профессор университета Лугано, один из создателей сетей LSTM

 Создать сильный ИИ просто. Научить агент улучшать свои действия в окружающей среде, пользуясь датчиками для обратной связи («боли» при натыкании на препятствие, «голода» при низком заряде батарей и т.п.). Всё это можно сделать в нескольких строках кода и мы это сделали 30 лет назад. «Трудная проблема сознания» переоценена, мы его имеем уже долгое время в искусственных системах. Альтруизм есть продолжение эгоизма, поэтому, если запрограммировать ИИ на сотрудничество (за которое он получает больше «наград» и меньше «боли»), то он станет сотрудничать. Это мы получили ещё в прошлом тысячелетии, создавая сообщества разных роботов и программируя их на решение задач, которые они могли решить только сообща. Одни и те же принципы действуют в человеческих и ИИ-сообществах. Не надо усложнять.

Соображения этого Шмидхубера очень показательны. Так думают многие программисты/дата-сайентисты: запрограммировать функции «боли», «удовольствия», «альтруизма» и ИИ-человек готов!

А постановка целей (целеполагание)? – Можно запрограммировать и это, отвечают они, скажем, максимизация функции удовольствия или стремление к саморазвитию.

В связи с проведённым соревнованием, возник вопрос: можно ли считать ИИ, сдавший ЕГЭ, общим ИИ?

Мне даже сама постановка такого вопроса кажется некорректной, так как никто из присутствующих  так и не сформулировал критерии отнесения ИИ к сильному. К тому же, эксперты сходятся на том, что уже слабый интеллект способен решать отдельные, частные проблемы также хорошо или даже гораздо лучше человека.

Любопытным показалось следующее рассуждение.

Васильев: Некоторые глубокие математики (например, В.А.Воеводский), пережили душевную драму, осознав, что для доказательства некоторых современных теорем нужно привлекать компьютер. А если не только для доказательства, но и для формулировки некоторых содержательных теорем использовать компьютер? Есть база данных теорем для программ-пруверов. Поэтому, можно ожидать, что в перспективе компьютерная программа сможет получить если не Нобелевскую, то уж Филдсовскую премию. Но тогда надо делать другой Нобелевский комитет специально для ИИ.

Итак, по итогам дискуссии вынужден констатировать, что осмысление самой задачи создания сильного ИИ практически не продвигается. Программистам и data-scientist’ам это просто не нужно, не за это им платят. А философы, как представляется, существенно отстали со своим понятийным аппаратом от тех новых явлений, которые сопровождают повальную цифровизацию. Показалось, что осмысление проблем сильного ИИ интересует только достаточно зрелых (зачастую, пожилых) людей из прошлой, «доцифровой эпохи». Молодёжи эти проблемы не кажутся актуальными.

Этот пост я рассматриваю как подготовительный материал для анализа. В следующих постах я надеюсь продолжить содержательное рассмотрение различных аспектов проблемы создания сильного ИИ.