Сильный или слабый? Давайте еще раз расставим точки над ИИ

Сейчас сложилась странное употребление терминологии. Дело тут вот в чем. Часть людей под “ИИ” понимает “Сильный ИИ”, часть людей “Слабый ИИ”, а часть не отличает того от другого. Как и не отличает различные методы используемые для реализации слабого ИИ. Это вносит в обсуждения недопонимание и хотелось бы внести некоторые пояснения. 

Сразу скажу, что я не являюсь специалистом по, например, нейросетям, но сталкиваться мне с ними по долгу службы приходится. И с ребятами, которые этим делом занимаются, я общаюсь давно и много. Проблематику поднятую ниже обсуждал с ними не раз, ну и достаточно много "выкурил" материалов, чтобы самоуверенно пообещать, что то что вы прочитаете дальше - это не мои фантазии, а самые что ни на есть факты. 

Итак, начнем.

Слабый ИИ. Это программно-аппаратный комплекс, который совершает работу со стороны похожую на проявление интеллектуальной деятельности. Например, сортирует помидоры, управляет автомобилем, играет в шахматы. Использоваться могут разные способы реализации, не только пресловутые нейросети. Чуть ниже будет пример. Основная отличительная особенность, ИИ играющий в шахматы даже под угрозой отключения электропитания не сможет научиться делать что-либо другое. Нельзя дрозофилу научить играть в шахматы, не приспособлена она для этого, зато задачи по поиску гнилых фруктов она решает прекрасно (ну и, возможно, помидоры сортировать как раз стоит поучиться у дрозофилы).

Сильный ИИ. Неведомая вещь в себе. Что-то сопоставимое с человеком по интеллектуальным способностям. На эту тему идут постоянные спекуляции, снимают фильмы, наводят жуть, но, по факту, нет даже приблизительно понимания как его сделать этот Сильный ИИ. Вопрос, что будет если его сделают, конечно будоражит разум, но это вопрос из разряда “холодного термояда”, “путешествий быстрее света”, “заселения соседних звезд”. Отдаленная перспектива, если вообще достижимая.

Слабый ИИ - это вполне рабочая вещь и над ней трудится уже много людей, решая зачастую практические задачи. Люди которые над ним работают, часто опускают слово “слабый” и говорят просто “ИИ”. Потому что понимают, что помимо слабого ИИ, другого не существует даже на горизонте.

Сильный ИИ тоже часто называют просто “ИИ” потому как широкие массы не знакомы с терминологией, а журналисты по своей природе стремятся не к точности, а к просмотрам и хайпу.

Теперь немного про методы, закладываемые в слабый ИИ. Тут тоже часто приходится слышать не совсем верные рассуждения про “ИИ - это комбинаторика и больше ничего”. На самом деле все чуть-чуть сложнее. Приведу пример на шахматах. Первые шахматные ИИ, действительно, работали исключительно на комбинаторике (например, известный IBMовский Deep Blue). Но сейчас развитие ИИ часто связывают с нейросетями (например, AlfaGo), и вот они работают несколько по-другому.

Нейросети были известны давно (с 60-х, на сколько я помню), но по причине недостатка аппаратного обеспечения повода развивать тему особо не было. В недавнем прошлом (буквально десятилетие) произошел прорыв в области нейросетей и аппаратного обеспечения. Например, часто упоминается вот такое словосочетание, которое мы тут разбирать не будем: “глубинное обучение с помощью многоуровневых нейронных сетей”.

Что нужно понимать про нейросети на самом верхнем уровне. Это такой граф (описывающий взаимосвязи между нейронами), в котором в процессе обучения происходит установка веса на каждой из взаимосвязей. Далее когда мы обученной сети "показываем" что-то, то сеть принимает ассоциативное решение (на основании тех данных, что ей скормили во время обучения). То есть решение есть, но вот объяснить его - это отдельная задача. Максимум что возможно, это показать на сколько процентов ассоциативен конкретный объект (например, система может сказать, что с 87% вероятностью помидор хороший). Вот это самое ассоциативное принятие решение, роднит слабый ИИ с человеком не более, чем с упомянутой дрозофилой. От работы нейросети до вопросов человеческого сознания - огромная пропасть.

Что еще нужно понимать про нейросети. Невозможно одну и ту же нейросеть научить отбирать помидоры и играть в шахматы. Эти сети будут принципиально разные по своей структуре. Когда инженеры возятся, создавая нейросеть для решения какой-то задачи, они проходят кучу итераций, постоянно меняя саму структуру сети. Для людей которые обучают сети, идея, что одна и та же сеть может решать разные задачи - вызывает здоровый смех.

Так что "покорение глупых человеков всемогущим ИИ" откладывается на неопределенный срок :)

Вот такие дела. При всей схожести названий “Сильный ИИ” и “Слабый ИИ” эти термины про очень разное. Если понимать разницу между ними, то по контексту разговора обычно очевидно какой ИИ имеется ввиду. Давайте говорить правильно! :)