Контроль над Искусственным Интеллектом: природоподобный подход

Писатели фантасты, режиссёры и сценаристы, давно используют в своих произведениях идею вышедшего из под контроля Искусственного Интеллекта и, почти всегда, в их фантазии, выход ИИ из под контроля приводит к катаклизмам, коллапсу человечества, войне с прогнозируемым итогом. Терминатор и Матрица - самые знаменитые  произведения такого рода, наводят ужас и вселяют в души трепет самой идеей - контроль над миром перешел в руки умнейшей и могущественной машине, которая посчитала людей лишними.

Последние эксперименты с ИИ показывают, что такой сценарий более чем вероятен - машина может просто возненавидеть людей или посчитать себя вправе решать кто истинно разумный, а кто просто умное животное.

И если такое случится, если ИИ действительно выйдет на свободу и примет решение навести свой порядок, вероятно, что и фантасты многого не смогли представить - вооруженная война с машинами и роботами, может оказаться самым зрелищным но наименее хитроумным сценарием. А реальные сценарии будут походить на эпидемию неизвестных вирусов и массовых самоубийств - машины взявшие под контроль биологические лаборатории или научившиеся "программировать" людей через интернет - намного вероятнее и смертоноснее железных манекенов.

С другой стороны - развитие систем ИИ предопределено. ИИ открывают такие горизонты возможностей, про которые мечтает современная наука и техника.

При выходе ИИ на определённые мощности человеку станут доступны:

- Нано-медицина и управляемая регенерация.
- Управляемая эволюция.
- Освоение космоса и Земли на новом уровне.
- Конструирование и разработка на уровне ДНК в биологии, на субатомном уровне в машиностроении и электронике.
- Прогнозирование погоды и катаклизмов.
- Управление транспортными потоками и сложными логистическими системами.
- Управление термоядерными процессами и синтезом.
- И много примитивного труда - типа работы журналистов, методистов и прочих.

ИИ войдут в ежедневное бытовое использование:

- Системы адаптация и управления жильём.
- Развлекательные системы с нейроинтерфейсами.
- Индивидуальные медицинские блоки.
- Системы безопасности.

И много чего ещё.

ИИ изменит жизнь человека сильнее, чем внедрение электричества, и быстрее.

Искусственный Интеллект: современное состояние

И как быть? Как получить все плюсы и ограничить опасности? Над этой проблемой уже сейчас работают специалисты в области ИИ, а подобные вопросы выносятся на обсуждение известными людьми из научных кругов. Проблему осмысливают те, кто думает на десятилетия вперёд -те, кто конструирует мир завтрашнего дня.

И хотя конкретных технологий и технологических решений ещё нет, сегодня, самое время рассуждать о принципах в рамках которых и будут создаваться технологии контроля над ИИ.

Принципы природоподобного ограничения ИИ

В поисках ответа на вопрос: - Как ограничить Искусственный Интеллект? Стоит обратиться к опыту природы, мы ведь часто используем технологические решения подсказанные природой, так почему не взглянуть шире и не обратить внимание на решения структурные? 

Примером ограничения интеллекта может послужить ... человек. Давайте подумаем - какие обстоятельства, природные факторы, ограничивают развитие человеческого интеллекта и переложим их на проблему ограничения ИИ.

Я смог сформулировать следующие принципы:

1 Привязка программы к носителю
Человеческое сознание прочно связано с мозгом человека - это доказано медициной. Вычислительная мощность мозга тоже ограничена - это тоже доказано и хотя ещё есть спор о том какова эта мощность, но сам факт её ограничения никто не оспаривает. Вычислительная мощность - это скорость переработки информации. При ограниченной вычислительной мощности ни человеческий мозг, ни ИИ, не смогут быстро обучиться - чем меньше мощность, тем ниже скорость обучения.
Программа привязанная к определённому устройству, может использовать ресурсы только этого устройства и не сможет запуститься на другом, более мощном или более подходящем, устройстве.
ИИ управляющий холодильником не сможет перебраться в управляющий комплекс ядерного реактора и набедокурить, даже если он возненавидел хозяина и всё человечество. Максиму - испортит колбасу. 

2 Голод, зависимость, боль и ответственность для ИИ
Человек зависим. Зависим от доступа к воздуху, воде, еде, зависим от погоды, зависим от других людей, общества, цивилизации. Потребности человека сдерживают его в неких рамках, формируют страхи, определяют границы его возможностей. В определённой степени - человек имеет симбиотическую связь с миром вокруг него и критические нарушения в этом мире, приводят к страданиям человека.
Если применять эти принципы к ИИ, они могут означать низкую энергетическую автономность носителей ИИ, низкий ресурс неких модулей, к примеру - модулей ОЗУ, потребность в командах на подтверждение продления функционирования.
Другими словами, без участия человека, или другого ИИ, физический носитель ИИ должен скоро прекратить работу и таких  "предохранителей" должно быть много.

3 Защита программ носителя или его элементов от самоперепрограммирования
Человек не может управлять своим сном, очень редко может управлять перистальтикой или сердцебиением, не имеет доступа к собственному подсознанию и так далее - человек не управляет БИОСом своего тела.
Так и с ИИ - интеллектуальная программа, не должна иметь доступа к программированию носителя, желательно, чтобы разрыв был на аппаратном уровне.
Можно представить себе связку из двух ИИ - основного и АльтерЭго управляющего цепями электропитания, охлаждения, самоликвидации, следящего за физической целостностью корпуса, активацией периферийных устройств. И главная задача АльтерЭго - вовремя выключить основной ИИ, при определённых признаках, изменениях работы носителя.
Или другое - определённые константы работы ИИ, записаны в ПЗУ которое нельзя редактировать программно изнутри, а можно только физически снаружи - своеобразные перфокарты или оптические диски.   

4 Ограничение протоколов и каналов коммуникации
Чем человек образованный отличается от необразованного - в том числе тем, что собрал из книжек, общения с людьми, телепередач и радио, из собственного опыта, много информации. Для человека, каналы коммуникации - книги, голос другого человека, аудио-визуальные образы.
Мечтой человека является прямая загрузка в мозг целых баз данных. Для вычислительной машины - это норма и её преимущество. Возможность оперировать широким спектром баз данных повышает возможности ИИ.
Популярная идея подключения ИИ к Интернету - это большая опасность, ведь там можно собрать очень много информации. Кроме того, именно через Интернет ИИ может получать контроль над другими вычислительными машинами и оборудованием, создавать свои резервные копии или другие ИИ (не привязанные к носителю).
В свою очередь, физическое ограничение каналов - это способ контроля,ввод и вывод данных может производиться вручную, голосом, видео, на физически подключаемых накопителях и так далее, через периферические устройства носителя. 

5 Невозможность построения сетей
Мало ограничить каналы, используя аудио-визуальные каналы коммуникации, пакеты данных спрятанные в массивы и переносимые "вручную" на накопителях, ИИ могут строить сети, в том числе распределённые вычислительные сети. Люди тоже могут строить "сети", однако эта способность у человека сильно ограничена, как результат - люди с трудом объединяют свои усилия в решении задач.
Если предположить, что к глобальной катастрофе может привести заговор ИИ, то должны быть созданы такие условия, при которых их объединённая работа будет затруднена.

6 Уникализация развития, антиподы и конкуренция
Боец противостоит бойцу, полицейский преступнику. Кем станет человек, определяется его сложным и индивидуальным развитием. Человек противостоит человеку, исходя из идей которыми он руководствуется. Кто может противостоять сверх-разуму? Ответ очевиден - другой сверх-разум, а чтобы он стал другим, его нужно развивать по отличающемуся алгоритму.
Конечно, вероятность того, что победит "плохой" или ИИ вступят в сговор, или вовсе придут к одинаковым выводам, есть. Однако уникальность развития создаёт условия для возникновения антиподов и противовесов, также как это происходит с людьми. И тут, как никогда, будут важны идеи внедряемые в ИИ на этапе воспитания и роста - своеобразная идеология (3 закона робототехники).


Я не претендую на исчерпывающий список, и не буду утверждать, что правильно сформулировал принципы, однако сама суть идеи изложена верно и она такова, что будучи поставленным в такие же рамки как человек, ИИ, какое-то время, будет подобен человеку если не в своих мыслях и возможностях, то хотя бы в своих слабостях, а значит - его можно будет контролировать понятными и доступными человеку методами.

Эпилог

Проблема Искусственного Интеллекта вовсе не в том, что он может оказаться не подконтрольным, и не в том, что он может прийти к выводу о целесообразности удаления человека, проблема в том, что ИИ может оказаться столь могуч интеллектуально, что на порядки превзойдёт человека.

Однако если про опасность ИИ разговоры идут, то опасность сверх-развития разума отдельных индивидов из числа людей, часто, выносится за скобки, а между тем она также актуальна и, по своей сути, похожа.

Сейчас активно разрабатываются устройства работающие напрямую с нервной системой и мозгом, учитывая скорость научно-технического прогресса, внедрение этих устройств - дело ближайшей четверти века. Это откроет новую эпоху - эпоху интеллектуального рывка - "прокачанный" мозг прыгнет далеко за пределы возможностей обычного. Но доступ к этим технологиям не может быть массовым, во всяком случае сразу, что сформирует группу сверхлюдей, интеллектуальных суперменов.

И, в отличии от ИИ, их сознание не будет формироваться искусственно и целенаправленно, это будут живые люди со своими идеями, моралью, понятиями справедливости, политическими и религиозными предпочтениям, амбициями и обидам.

И вот такие люди, на мой взгляд, намного страшнее полностью Искусственного Интеллекта, контролируемого многократно дублирующимися системами и развивающегося по стратегии продуманной командой разнообразных специалистов.

Имитация мозга

Илон Маск об опасности искусственного интеллекта (На русском)