Где у него кнопка? Искусственный интеллект отключат, даже если он будет против

Научная фантастика подарила нам два воображаемых мира, в которых господствует искусственный интеллект (ИИ): в первом машины превращаются в грозных убийц, восстающих против людей, во втором – в незаменимых помощников человека. Какой из этих планов реализуется на самом деле, остаётся только гадать. Тем не менее многие эксперты считают, что подготовиться надо ко всему.

Так, сотрудники Google DeepMind уверены, что справиться с ИИ поможет только "красная кнопка" для выключения опасных роботов. Они хотят придумать технологию, которая остановит ИИ, если он попытается зайти слишком далеко в вопросах "помощи" человечеству. Важный момент: будущая система должна будет иметь возможность предотвратить попытки ИИ блокировать передачу сигнала на нажатие "красной кнопки" человеком.

С каждым годом машины становятся всё более "умными" благодаря достижениям таких компаний, как Google, Facebook, Microsoft и многих-многих других.

Но агенты ИИ, как их иногда называют, стали "ночным кошмаром" для многих учёных, которые видят в нём угрозу для человечества. Например, генеральный директор компании Tesla Илон Маск (Elon Musk) и знаменитый астрофизик Стивен Хокинг (Stephen Hawking) очень насторожено относятся к ИИ. Он в будущем может обогнать возможности человека и неизвестно, к чему это приведёт.

Многие исследователи и футурологи всерьёз рассуждают, что машины вопреки планам людей могут стать более разумной "расой" и начнут сами управлять человеком.

В мире уже есть примеры, когда ИИ побеждал разум человека, например, в шахматах или игре в го. Автоматика становится всё более распространённой, и люди сами доверяют ей часть своих работ. Это, в свою очередь, способствовало появлению опасений относительно возможной массовой безработицы.

В связи с этим лондонская лаборатория Google DeepMind, изучающая ИИ, провела исследование, чтобы выяснить, может ли человек просто махнуть рукой на самообучающихся роботов или всё же нет.

Напомним, что два года назад компания Google приобрела DeepMind ― компанию, которая занимается искусственным интеллектом. Она получила известность благодаря тому, что её сотрудники разработали компьютерную систему AlphaGo, и именно она смогла перехитрить игрока в го.

Новый проект подключил к своей работе учёных из Оксфордского университета. Исследователи хотят убедиться, что продукты ИИ не помешают человеческой деятельности. Документ об этом исследовании открыт для всех желающих его прочитать.

Учёные отмечают, что не секрет, что любая машина может выйти из строя и начать вести себя "упрямым" образом. А что будет в случае, если ИИ выйдет из строя, можно только гадать. Таким образом, "красная кнопка" просто необходима, чтобы предотвратить любой возможный негативный исход событий.

Авторы исследования ― учёный из Google DeepMind Лоран Орсо (Laurent Orseau) и Стюарт Армстронг (Stuart Armstrong) из Института будущего человечества Оксфорда (Oxford University's Future of Humanity Institute). Они отмечают, что если такой агент заработает в режиме реального времени пусть и под контролем человека, то для оператора просто необходимо будет иметь возможность воспользоваться "красной кнопкой". Только так он сможет предотвратить вредные последовательности в действиях агента, наносящих вред ему самому и окружению, для восстановления безопасного состояния агента.

Исследователи в своей статье утверждают, что работают над "базой", которая позволит человеку безопасно и многократно прерывать работу ИИ. Они уточняют, что "безопасное прерывание" будет полезно, чтобы взять под контроль робота, который начал вести себя не по инструкции или вывести его из сложной ситуации.

Однако учёным ещё предстоит придумать, как сделать так, чтобы ИИ не препятствовал своему временному отключению, отмечают специалисты.