Когда специалисты одного из самых влиятельных технических исследовательских институтов на планете утверждают, что новая технология может представлять собой серьёзную опасность для человечества,  то к этому, наверное, стоит прислушаться.

В понедельник официальные представители почтенного Массачусетского технологического института (MТИ) объявили об инициативе на миллиард долларов, направленной на то, чтобы противостоять бесконтрольному развитию искусственного интеллекта. По мнению руководства университета, эти меры будут включать в себя поддержку глубоких междисциплинарных исследований как перспектив использования ИИ, так и связанных с этим проблем этического плана — вплоть до перестройки внутренней организации всего института вокруг проекта.

«Поскольку компьютеры меняют наш мир, в MТИ намерены убедиться, что это делается во благо всех, — сказал президент МТИ Лео Рейф в своём блоге.  — В соответствии с этими задачами мы перестраиваем институт».

Новая Школа

На частичное финансирование этой реорганизации пойдут пожертвования в размере 350 миллионов долларов от Стивена Шварцмана, генерального директора частной акционерной компании Blackstone Group.

В МТИ заявляют, что будут использовать пожертвованные средства на создание колледжа компьютерных дисциплин Шварцмана в МТИ, новой школы, нацеленной на «привитие студентам, обучающимся по разным дисциплинам, чувства ответственности за использование и развитие ИИ и вычислительных технологий ради того, чтобы улучшить мир».

Учебное заведение также будет использовать пожертвования для создания 50 новых штатных должностей преподавателей, как в новом колледже, так и по междисциплинарным наукам на других факультетах.

Будущая угроза

Соблюдающий нравственные принципы ИИ мог бы сделать мир более безопасным и помог бы освободить творческих деятелей от мирских проблем. И наоборот, безнравственный ИИ может разрушительным образом повлиять на развитие рынка труда, увеличивая экономическое неравенство и приводя к созданию новых разрушительных средств ведения войны.

Перед лицом этих угроз и опасностей, проект МТИ является ярким свидетельством того, что, по крайней мере, одно видное учреждение готово взять на себя ответственность за разработку принципов этического поведения будущих систем ИИ.