Похоже, Илон Маск, который предупреждал об опасности искусственного интеллекта, все-таки оказался прав. Ученые, проводившие эксперимент с участием роботов, говорят, что те вышли из подчинения.

Поломка или порабощение человечества? Ученых поставило в тупик поведение роботов. Эксперимент проводили исследователи из Facebook. Его результаты заставили комментаторов вспомнить фильмы о восстании машин. Чего хотят роботы?

Ученые пытались обучить ботов искусству простейшего диалога. Они должны были торговаться и в итоге достичь компромисса. Например, один говорит другому: мне нужна шапка и мячи. Тот ему отвечает: шапка мне нужна самому, но я могу дать тебе книги. Собеседник не соглашается: книги мне не нужны, забери их и один мяч… И так далее. Сначала роботы послушно выполняли задания, но потом что-то пошло не так. «Для меня, для меня, для меня…» — начал твердить один робот. «Я могу, я все остальное», — похвастался электронный собеседник. Ученые подумали, что ошиблись и ввели неправильный алгоритм. Но оказалось, что боты, которые способны к самообучению, решили упростить себе задачу. Эти бессмысленные фразы они посчитали самым эффективным способом договориться.

Мнение Михаила Бурцева, заведующий лабораторией нейронных систем и глубокого обучения МФТИ:

«Первый блин комом. В чем идея этих экспериментов? Разработать системы, которые могли бы вести диалог с пользователем, помогать пользователю решать какие-то задачи. И для этого нужно поддерживать нормальный диалог. Очевидно, что в их случае никакого нормального диалога не получилось, и понятно, что это нельзя использовать на реальных пользователях. И вообще, это просто говорит о том, что сегодня искусственный интеллект примитивен еще».

Интернет-сообщество, впрочем, сделало другие выводы. Новость облетела весь мир. И пользователи вспоминают фильмы о Терминаторе. Суперкомпьютер SkyNet выходит из подчинения, поэтому людям приходится посылать бойца в прошлое, чтобы предотвратить восстание машин. Причем в одной из серий франшизы Судный день наступает в октябре 2017 года. И даже есть сходство в словах. Бот говорит: мне нужна шапка. А киногерою, как известно, была «нужна твоя одежда». Впрочем, лепет роботов мог быть вызван элементарной поломкой, предполагает писатель-фантаст Леонид Каганов:

«В приведенных отрывках я не вижу признаков интеллекта, то есть признаки искусственности я вижу, признаков интеллекта пока не наблюдаю. Поэтому мне кажется, что версия о том, что это такой искусственный интеллект, который так сам развился, что стал просто писать бессмыслицу, она, конечно, интересная, она, конечно, красивая, но мы не можем исключить вариант, что это просто бессмыслица и неработающий софт».

Показательна реакция ученых. Как только боты начали самовольничать, исследователи отключили систему во избежание непредвиденных последствий. Интересно, каких? СМИ заодно вспомнили, как недавно Марк Цукерберг поспорил с Илоном Маском. Последний назвал искусственный интеллект фундаментальной угрозой человечеству. Основатель Facebook с ним не согласился. И так вышло, что нештатная ситуация с роботами случилась именно у разработчиков Facebook. Конечно, верить больше хочется Цукербергу. Но и страшилка о поработителях человечества слишком въелась в сознание. Я даже, когда писал эти строки, живо представлял, как получаю сообщение в личку от бота: «Не пиши об этом. Не надо».

Рейтинг публикации:

0

Комментарии (1) | Распечатать

Добавить новость в: