Самосовершенствующийся
искусственный интеллект (ИИ) в будущем может поработить или убить людей,
если он этого захочет. Об этом рассказал ученый Амнон Иден, который
полагает, что риски от разработки свободомыслящего и
высокоинтеллектуального сознания очень велики, и «если не озаботиться
вопросами контроля ИИ уже на сегодняшнем этапе развития, то завтра может
просто не наступить». Как сообщает английское издание Express,
человечество, по мнению Амнона Идена, находится сегодня в «точке
невозврата» для претворения в жизнь сюжета знаменитой киноэпопеи
«Терминатор».
Стоит отметить, что доктор Амнон Иден является
руководителем проекта, главная цель которого – это анализ потенциального
разрушительного воздействия ИИ. Без правильного понимания последствий
создания искусственного интеллекта его разработка может грозить
катастрофой, полагает ученый. В настоящее время наше общество плохо
информировано о тех спорах, которые ведутся в научных кругах об анализе
потенциального воздействия ИИ. «В наступившем, 2016 году анализ
возможных рисков должен будет получить существенно большее
распространение в мышлении корпораций и правительств, политиков и тех
лиц, которые ответственны за принятие решений», – считает Иден.
Ученый
уверен, что научная фантастика, которая описывание уничтожение
человечества роботами, вскоре может стать нашей общей проблемой, так как
процесс создания ИИ вышел из-под контроля. К примеру, Илон Маск при
поддержке предпринимателя Сэма Альтмана решил создать новую
некоммерческую организацию стоимостью 1 миллиард долларов, которая
занимается разработкой ИИ с открытым исходным кодом, который должен
превзойти человеческий разум. При этом сам американский миллиардер Илон
Маск причисляет искусственный интеллект к числу «самых больших угроз
нашему существованию». Стив Возняк, который был соучредителем компании
Apple, в марте прошлого года рассказал, что «будущее выглядит пугающим и
очень опасным для людей… в конце концов настанет день, когда компьютеры
будут думать быстрее, чем мы, и они избавятся от медленных людей, для
того чтобы компании могли работать более эффективно».
Стоит
отметить, что угрозу со стороны ИИ видят многие ученые. Десятки
известных ученых, инвесторов и предпринимателей, деятельность которых,
так или иначе, связана с разработкой искусственного интеллекта,
подписали открытое письмо с призывом уделять более пристальное внимание
вопросу безопасности и общественной полезности работ в области ИИ. Среди
подписавших данный документ астрофизик Стивен Хокинг и основатель
компании Tesla и SpaceX Илон Маск. Письмо вместе с сопроводительным
документом, который был составлен общественной организацией Future of
Life Institute (FLI), было написано в обстановке растущей
обеспокоенности по поводу влияния искусственного интеллекта на рынок
труда и даже на долгосрочную перспективу выживаемости всего человечества
в условиях, когда возможности роботов и машин будут расти практически
безудержно.
Ученые понимают тот факт, что потенциал ИИ сегодня
очень велик, поэтому необходимо всецело исследовать возможности его
оптимального для нас использования, чтобы избежать сопутствующих
ловушек, отмечается в письме FLI. Необходимо, чтобы созданные человеком
системы ИИ делали ровно то, чего мы от них хотим. Стоит отметить, что
Future of Life Institute был основан лишь в прошлом году рядом
энтузиастов своего дела, среди которых был создатель Skype Яан Таллинн,
для того чтобы «минимизировать риски, стоящие перед человечеством» и
стимулировать исследования с «оптимистическим видением будущего». Прежде
всего, речь здесь идет о рисках, которые вызваны развитием ИИ и
робототехники. В консультационный совет FLI входят Маск и Хокинг наряду
со знаменитым актером Морганом Фриманом и другими известными людьми. По
мнению Илона Маска, неконтролируемое развитие искусственного интеллекта
представляет потенциально большую опасность, чем ядерное оружие.
Известный
британский астрофизик Стивен Хокинг в конце 2015 года постарался
объяснить свое неприятие технологий ИИ. По его мнению, сверхразумные
машины со временем будут смотреть на людей, как на расходный материал
или муравьев, которые просто мешают решению стоящих перед ними задач.
Общаясь с пользователями портала Reddit, Стивен Хокинг отметил, что он
не считает, что подобные сверхразумные машины будут «злыми существами»,
желающими уничтожить все человечество из-за своего интеллектуального
превосходства. Скорее всего, речь можно будет вести о том, что они
просто не будут замечать человечество.
«СМИ
в последнее время постоянно искажают мои слова. Главный риск, который
заключается в развитии ИИ, это не злоба машин, а их компетенция.
Сверхразумный искусственный интеллект будет отлично справляться с
задачами, но если его и наши цели не будут совпадать, у человечества
появятся очень серьезные проблемы», – поясняет известный ученый. В
качестве примера Хокинг привел гипотетическую ситуацию, в которой
сверхмощный ИИ отвечает за функционирование или строительство новой
плотины ГЭС. Для подобной машины первостепенным будет то, как много
энергии вверенная система будет вырабатывать, а судьба людей не будет
иметь никакого значения. «Среди нас найдется мало тех, кто топчет
муравейники и наступает на муравьев со злости, но давайте представим
ситуацию – вы контролируйте мощную ГЭС, которая вырабатывает
электроэнергию. Если вам необходимо будет поднять уровень воды и в
результате ваших действий один муравейник будет затоплен, то проблемы
утопающих насекомых вряд ли будут вас беспокоить. Давайте не будем
ставить людей на место муравьев», – отметил ученый.
Второй
потенциальной проблемой дальнейшего развития искусственного интеллекта,
по мнению Хокинга, может стать «тирания хозяев машин» – стремительный
рост разрыва в уровне доходов между богатыми людьми, которым удастся
монополизировать выпуск разумных машин, и остальным населением планеты.
Стивен Хокинг предлагает решать эти возможные проблемы следующим путем –
замедлить процесс разработки ИИ и переключиться на разработку не
«универсального», а узкоспециализированного искусственного разума,
который сможет решать лишь крайне ограниченный круг задач.
Помимо
Хокинга и Маска свои подписи под письмом поставили нобелевский лауреат и
профессор физики MIT Фрэнк Вильчек, исполнительный директор Института
исследований машинного интеллекта (MIRI) Люк Мюльхаузер, а также многие
специалисты из крупных IT-компаний: Google, Microsoft и IBM, а также
предприниматели, основавшие компании Vicarious м DeepMind,
специализирующиеся на разработке систем ИИ. Составители письма отмечают,
что они не ставят своей целью напугать общественность, но планируют
подчеркнуть как положительные, так и отрицательные стороны, которые
связаны с созданием искусственного интеллекта. «В настоящее время все
сходятся во мнении, что исследования в области ИИ уверенно
прогрессируют, а влияние ИИ на современное человеческое общество будет
только усиливаться, – сообщается в письме – открывающиеся перед
человеком возможности огромны, все, что может предложить современная
цивилизация, было создано интеллектом человека. Мы не в состоянии
предсказать, чего нам удастся достичь, если интеллект человека можно
будет помножить на средства ИИ, однако проблема избавления от бедности и
болезней уже не представляется бесконечно трудной».
В
современный быт уже включены многочисленные разработки в области
искусственного интеллекта, включая системы распознавания изображений и
речи, беспилотные транспортные средства и многое другое. Согласно
оценкам наблюдателей из Кремниевой долины, в данной области сегодня
реализуется более 150 стартапов. При этом разработки в этой области
привлекают все больше инвестиционных вложении и все больше компаний
наподобие Google развивают свои проекты на базе ИИ. Поэтому авторы
письма полагают, что настало самое время, для того чтобы уделить
повышенное внимание всем возможным последствиям наблюдаемого бума для
экономических, социальных и юридических сторон человеческой жизни.
Позицию
о том, что искусственный интеллект может представлять опасность для
человека, разделяет и Ник Бостром профессор Оксфордского университета,
который известен своими работами об антропном принципе. Данный
специалист считает, что ИИ подошел к той точке, за которой последует его
несовместимость с человеком. Ник Бостром подчеркивает, что в отличие от
генной инженерии и изменений климата, для контроля которых
правительства выделяют достаточные суммы, «ничего не делается, для того
чтобы контролировать эволюцию ИИ». По мнению профессора, в отношении
искусственного интеллекта в настоящее время ведется «политика правового
вакуума, который нужно заполнить». Даже такие технологии, как
беспилотные автомобили, которые представляются безобидными и полезными,
вызывают ряд вопросов. К примеру, должен ли подобный автомобиль
совершать экстренное торможение, для того чтобы спасти своих пассажиров и
кто будет отвечать в случае ДТП, совершенного беспилотным автомобилем?
Рассуждая
над потенциальными рисками, Ник Бостром отметил, что «компьютер не в
состоянии определить пользу и вред для человека» и «не имеет даже
малейшего представления о человеческой морали». Помимо этого, циклы
самосовершенствования в компьютерах могут происходить с такой скоростью,
за которой человек просто не сможет уследить, и с этим также почти
ничего нельзя сделать, говорит ученый. «На том этапе развития, когда
компьютеры смогут думать сами за себя, никто не сможет точно
предсказать, приведет ли это к хаосу или существенно улучшит наш мир, –
заявил Ник Бостром, в качестве примера приведя простое возможное решение
компьютера – отключить в странах с холодным климатом отопление для
оздоровления людей и повышения их выносливости, которое «может прийти в
голову искусственному интеллекту».
Помимо
этого, Бостром поднимает и проблему чипирования человеческого мозга с
целью повышения нашего биоинтеллекта. «Во многих отношениях такая
процедура может быть полезной, если все процессы будут контролируемыми,
но что произойдет, если вживленный чип сможет перепрограммировать сам
себя? К каким последствиям это может привести — к возникновению
сверхчеловека или к появлению компьютера, который будет лишь выглядеть
человеком?» – задается вопросами профессор. Способы, при помощи которых
компьютеры решают человеческие проблемы, очень сильно отличаются от
наших. К примеру, в шахматах человеческий мозг рассматривает лишь узкий
набор ходов, выбирая из них самый лучший вариант. В свою очередь
компьютер рассматривает все возможные ходы, выбирая лучший из всех. При
этом компьютер не рассчитывает огорчить или удивить своего противника по
игре. В отличие от человека, играя в шахматы, компьютер может сделать
хитрый и тонкий ход лишь случайно. Искусственный интеллект может
посчитать наилучшим способом – устранить ошибку из любой системы за счет
удаления оттуда «человеческого фактора», но, в отличие от человека,
робот не готов совершать подвиги, которые спасли бы людям жизнь.
Помимо
всего прочего, рост количества умных машин представляет собой этап
новой промышленной революции. В свою очередь, это означает, что уже в
ближайшем будущем человечество столкнется с неизбежными социальными
изменениями. Работа со временем станет уделом высококвалифицированных
специалистов, так как практически все простые задания смогут взять на
себя роботы и другие механизмы. Ученые считают, что за искусственным
интеллектом «нужен глаз да глаз», чтобы наша планета не превратилась в
мультипликационную планету «Железяка», которая была населена роботами.
В
плане все большей автоматизации процессов производства будущее уже
наступило. Всемирный экономический форум (ВЭФ) представил свой отчет,
согласно которому автоматизация приведет к тому, что еще до 2020 года
более 5 миллионов человек, трудящихся в самых разных областях, потеряют
свое место работы. Таково влияние роботов и роботизированных систем на
нашу жизнь. Для составления отчета сотрудники ВЭФ использовали данные о
13,5 миллионах работников из различных стран мира. Согласно их данным, к
2020 году суммарно пропадет потребность в более чем 7-и миллионах
рабочих мест, тогда как ожидаемый рост занятости в других отраслях
составит всего чуть более 2-х миллионов рабочих мест.
Источники информации:
http://www.ridus.ru/news/209869
http://www.vedomosti.ru/technology/articles/2015/01/13/ugrozy-iskusstvennogo-razuma
https://nplus1.ru/news/2016/01/19/they-took-our-jobs
http://ru.sputnik.kg/world/20151013/1019227239.html
