ОКО ПЛАНЕТЫ > Размышления о политике > ...об опасности искусственного интеллекта
...об опасности искусственного интеллекта2-07-2023, 03:06. Разместил: Око Политика |
|
Экс-директор американского научно-исследовательского центра Google X Мо Гавдат – об опасности искусственного интеллекта: Не существует никакой возможности остановиться. Не существует договора ядерного типа, где страны могут решить: «Хорошо, давайте прекратим разработку ИИ так же как договорились прекратить разработку ядерного оружия». Этого не произойдет из-за «дилеммы заключенного». Потому что человечество так плавно загнало себя в угол, где никто не в состоянии сделать выбор, чтобы остановить разработку ИИ. Так что если Alphabet развивает ИИ, то Meta тоже должна развивать ИИ, Яндекс в России тоже должен развивать ИИ и так далее, и так далее. Реальность вопроса такова, что это не технологическая особенность ИИ, что мы не можем остановить развитие, это капиталистическая и ориентированная на власть система, которая всегда будет отдавать приоритет выгоде «нас» против «них», а не выгоде человечества в целом. Один из лучших сценариев, верите вы в это или нет, заключается в том, что ИИ будет игнорировать нас всех. Это гораздо лучший сценарий, чем если ИИ будет раздражен нами или убьет нас по ошибке. Худший сценарий – это то, что они уже будут здесь, а потом они посмотрят на нас, посмотрят на изменение климата и скажут: «Плохо. Я не хочу, чтобы планета умерла, когда я сам существую в ней. Причина изменения климата заключается в этих маленьких тупицах, нужно избавиться от них» Справка: Дилемма заключённого — один из самых известных парадоксов сотрудничества. Демонстрирует, почему действия в собственных интересах не всегда приводят к лучшему результату. Проще говоря, это простой и наглядный пример, который помогает понять механику принятия решений в ситуации, когда конкуренты не доверяют друг другу. Один из основных сценариев теории игр. Классический пример дилеммы заключённого — история о двух членах преступной банды, которых задержала полиция. Их подозревают в организованном грабеже, но весомых доказательств у полиции нет, поэтому, если ни один из задержанных не признается, им предъявят менее тяжёлое обвинение и отпустят на свободу через год. Каждого из заключённых держат в отдельной камере. Им не дают общаться, но предлагают предать сообщника в обмен на свободу. Общий расклад такой: если один заключённый будет молчать, а второй расскажет о его вине, первый получит 5 лет тюрьмы, второй — избежит наказания. И наоборот. А если оба предадут друг друга, каждый из них отсидит в тюрьме 2 года. Но если оба промолчат — оба сядут лишь на год. Более выгодный вариант — молчать и не признаваться, надеясь на сотрудничество. Но в таком случае у каждого из разбойников появляется риск остаться в тюрьме надолго, если сообщник решит его предать. Поэтому рациональный вариант поведения заключённого — признаться во всём, так как в таком случае он избегает максимального срока независимо от того, заговорит ли его напарник. Обсуждаем околополитические темы на моем канале "Гражданин на диване", а интересную и познавательную информацию читаем на канале "Таблетка для головы" Вернуться назад |