Экс-директор американского научно-исследовательского центра Google X Мо Гавдат – об опасности искусственного интеллекта:
Не существует никакой возможности остановиться. Не существует договора ядерного типа, где страны могут решить: «Хорошо, давайте прекратим разработку ИИ так же как договорились прекратить разработку ядерного оружия».
Этого не произойдет из-за «дилеммы заключенного».
Потому что человечество так плавно загнало себя в угол, где никто не в состоянии сделать выбор, чтобы остановить разработку ИИ. Так что если Alphabet развивает ИИ, то Meta тоже должна развивать ИИ, Яндекс в России тоже должен развивать ИИ и так далее, и так далее. Реальность вопроса такова, что это не технологическая особенность ИИ, что мы не можем остановить развитие, это капиталистическая и ориентированная на власть система, которая всегда будет отдавать приоритет выгоде «нас» против «них», а не выгоде человечества в целом. Один из лучших сценариев, верите вы в это или нет, заключается в том, что ИИ будет игнорировать нас всех. Это гораздо лучший сценарий, чем если ИИ будет раздражен нами или убьет нас по ошибке.
Худший сценарий – это то, что они уже будут здесь, а потом они посмотрят на нас, посмотрят на изменение климата и скажут: «Плохо. Я не хочу, чтобы планета умерла, когда я сам существую в ней. Причина изменения климата заключается в этих маленьких тупицах, нужно избавиться от них»
Справка: Дилемма заключённого — один из самых известных парадоксов сотрудничества. Демонстрирует, почему действия в собственных интересах не всегда приводят к лучшему результату.
Проще говоря, это простой и наглядный пример, который помогает понять механику принятия решений в ситуации, когда конкуренты не доверяют друг другу. Один из основных сценариев теории игр.
Классический пример дилеммы заключённого — история о двух членах преступной банды, которых задержала полиция. Их подозревают в организованном грабеже, но весомых доказательств у полиции нет, поэтому, если ни один из задержанных не признается, им предъявят менее тяжёлое обвинение и отпустят на свободу через год.
Каждого из заключённых держат в отдельной камере. Им не дают общаться, но предлагают предать сообщника в обмен на свободу. Общий расклад такой: если один заключённый будет молчать, а второй расскажет о его вине, первый получит 5 лет тюрьмы, второй — избежит наказания. И наоборот. А если оба предадут друг друга, каждый из них отсидит в тюрьме 2 года. Но если оба промолчат — оба сядут лишь на год.
Более выгодный вариант — молчать и не признаваться, надеясь на сотрудничество. Но в таком случае у каждого из разбойников появляется риск остаться в тюрьме надолго, если сообщник решит его предать. Поэтому рациональный вариант поведения заключённого — признаться во всём, так как в таком случае он избегает максимального срока независимо от того, заговорит ли его напарник.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.
» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам. Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+
