Без моральных принципов. Почему основатель Space X и Tesla боится восстания машин?

Искусственный интеллект он считает опаснее Северной Кореи. Его мнение разделают футурологи: роботы не знают, что такое «хорошо» и «плохо», поэтому их могут использовать в преступных целях.

Илон Маск боится восстания машин больше Северной Кореи. Основатель Space X и Tesla в своем Twitter написал «Если вы не переживаете по поводу безопасности искусственного интеллекта, то вам стоит начать беспокоиться. Он значительно опаснее, чем Северная Корея». К записи в Twitter предприниматель прикрепил фотографию плаката, на котором написано: «В конце концов, машины возьмут верх».

Бизнесмен постоянно говорит об опасности искусственного интеллекта. Некоторым это может показаться лицемерием, учитывая, что в проектах Маска искусственный интеллект широко используется, как минимум, в автопилоте для автомобилей Tesla.

Однако такая позиция — вовсе не паранойя бизнесмена, уверен футуролог, директор проекта Futura.ru Сергей Москалев:

«То, что касается искусственного интеллекта и опасности, которую он с собой несет, просто получается, что он без каких-то моральных принципов и главная опасность в том, что его можно покупать. Крупные компании планируют через несколько лет начать продавать искусственный интеллект как бы в аренду. И получается, что не всегда хорошие люди могут его купить. Например, его могут приобрести наркоторговцы и поставить задачу, каким образом обеспечить логистику продвижения: как избежать полиции, проблем с законом и так далее. Искусственный интеллект спокойно выдаст сценарий, как это сделать. Сейчас на международном уровне специалисты по искусственному интеллекту, такие как руководитель отдела искусственного интеллекта Google Рэймонд Курцвейл, Илон Маск, Стюарт Бренд, Кевин Келли собираются и думают, как на уровне государственном, законодательном создавать какие-то договоры по неиспользованию искусственного интеллекта в разрушительных целях. Как это было с договорами по нераспространению ядерного или химического оружия».

Северная Корея все-таки опаснее искусственного интеллекта: Ким Чен Ын уже может нажать на кнопку пуска ядерных ракет, а вот восстание машин — вопрос более далекой перспективы, считает член Ассоциации футурологов Александр Кононов:

«Что касается искусственного интеллекта, конечно, угрозы, которые с ним связаны, достаточно значительные, но сравнивать их с угрозами Северной Кореи я бы не стал. Потому что угрозы искусственного интеллекта — это отодвинутые угрозы, будущего, а вот КНДР — это угрозы сегодняшнего дня, демонстрирующие самую большую уязвимость сегодняшнего дня: неспособность людям договариваться друг с другом. Существуют мощные наработки, в частности, наша лаборатория, которые позволяют строить достаточно серьезные механизмы противодействия угрозам искусственного интеллекта. Его можно контролировать внутренне и внешне, и возникающие угрозы вовремя, так сказать, парировать. На мой взгляд, искусственный интеллект не развился настолько, чтобы создать собственный язык и общаться, но опасность существует, что мы не сможем проконтролировать, когда они начнут создавать собственную цивилизацию, в которой мы станем лишними и окажемся им не нужны».

Искусственный интеллект созданной Маском компании OpenAI 11 августа на одном из турниров обыграл лучшего киберспортсмена по игре в Dota 2.

У Илона Маска также есть компания Neuralink, которая занимается, в том числе, разработкой искусственного интеллекта. В ее планах — производство имплантируемых нейрокомпьютерных интерфейсов, то есть программного обеспечения с искусственным интеллектом для выполнения разных задач.

При этом изобретатель глубоко убежден, что сфера искусственного интеллекта должна регулироваться так же, как и любая другая сфера, продукты которой могут быть потенциально опасны для человека.