OpenAI хочет создать всемогущественный ИИ. Но в хорошем смысле

В одну из суббот прошлого месяца пять мужчин возрастом от 19 до 26 лет уверенно вышли из облака пурпурного дыма в переделанном автосалоне в Сан-Франциско. Они сели за ряд компьютерных клавиатур, их громко приветствовала толпа из нескольких сотен человек. Спустя девяносто минут интенсивных щелчков мыши улыбки пятерки стали унылыми, а аплодисменты — утешительными. Команда OG, мировые чемпионы самой прибыльной в мире соревновательной игры Dota 2, проиграли две игры подряд команде ботов с искусственным интеллектом.

Этот результат стал примечательным, потому что сложные видеоигры математически сложнее настольных игр вроде шахмат или го. И все же, прислонившись к стене за кулисами, Сэм Альтман — генеральный директор исследовательского института OpenAI, который разработал этих ботов, испытал праздничное облегчение.

Искусственный интеллект против дотеров

«Мы все весьма нервничали тем утром — я думал, что шансы 60 на 40», говорит Альтман. Он стал CEO OpenAI в марте, после ухода с поста президента влиятельного инкубатора стартапов YCombinator. Чтобы преуспеть на новой должности, Альтману нужны были боты, которые не просто побеждают людей в видеоиграх — ему нужны были боты, которые лучше людей во всем.

Заявленная миссия OpenAI заключается в том, чтобы гарантировать, что от любого будущего ИИ, способного превзойти «людей в наиболее экономически выгодной работе» выиграет все человечество. Такие технологии — общий искусственный интеллект, «сильный» искусственный интеллект, или ОИИ (AGI) — пока даже на горизонте не маячат, но OpenAI утверждает, что и она, и другие стремительно прогрессируют. Организация показала, что может проводить исследования на уровне лучших в мире. И снискала обвинения в раздувании шумихи на тему ИИ, а также в фиксации на ОИИ и потенциальных угрозах искусственного интеллекта.

По плану Альтмана, исследования OpenAI — и провокации — должны только набирать темп. Будучи прежде председателем совета директоров этой организации, он занял пост генерального директора после того, как помог перевести большую часть некоммерческого персонала в новую коммерческую компанию, надеясь привлечь инвесторов с миллиардами, необходимыми для формирования судьбы ИИ и человечества. Альтман говорит, что крупные технологические лаборатории в Alphabet и остальных компаниях должны испытывать давление со стороны коллег, не стремящихся увеличить свою акционерную стоимость. «Я не хочу быть в мире, в котором ОИИ создаст одна компания, захватит всю его ценность и будет принимать все решения», говорит он.

На мероприятии MIT в конце 2014 года генеральный директор Tesla Илон Маск описал исследования на тему ИИ как попытку «вызвать демона». Летом 2015 года он поговорил с Альтманом и несколькими другими за ужином и предложил создать исследовательскую лабораторию, независимую от технологического сегмента, которая направила бы ИИ в позитивное русло. В том же году была создана OpenAI, в которой оказались Альтман и Маск. В начале 2018 года Маск покинул совет директоров, сославшись на потенциальные конфликты с другими его ролями.

За свою недолгую жизнь OpenAI позиционировала себя как серьезное место для исследований ИИ. Илья Суцкевер, соучредитель организации, который ушел с руководящей должности по исследованиям ИИ в Google, курирует персонал, в который входят бывшие выходцы из Google, Facebook, Microsoft и Intel. Их работы на тему робототехники и машинного обучения появлялись на самых престижных конференциях. Победа над командой OG в Dota 2 принесла им уважение в области ИИ и гейминга.

Превращение OpenAI в коммерческую корпорацию было вызвано ощущением, что для того, чтобы идти в ногу с такими гигантами, как Alphabet, потребуется доступ к постоянно растущим вычислительным ресурсам. В 2015 году OpenAI заявила, что у нее в распоряжении 1 миллиард долларов, полученный от Альтмана, Маска, соучредителя LinkedIn Рейда Хоффмана, раннего инвестора Facebook Питера Тиля и Amazon. Теперь Альтман говорит, что одного миллиарда будет недостаточно. «Денежный объем, который нам необходим для успеха миссии, намного больше, чем я думал», говорит он.

Заявки IRS показывают, что в 2017 году, когда OpenAI показала своего первого бота-дотера, она потратила 8 миллионов долларов на облачные вычисления. С тех пор ее расходы, вероятно, значительно выросли. В 2018 году OpenAI объявила, что предшественник системы, победившей OG, связывал более 120 000 процессоров, арендованных у облачного подразделения Google, в течение недель. Победившая чемпионов версия тренировалась в течение 10 месяцев, что эквивалентно 45 000 годам игры в Dota 2 против самой себя. Сколько это стоило? Грег Брокман, CTO OpenAI говорит, что на проект ушли «миллионы долларов», но не раскрывает подробности.

Альтман не уверен, что OpenAI и дальше будет полагаться на облачные сервисы конкурентов — он по-прежнему открыт для покупки или даже для разработки оборудования для искусственного интеллекта. Организация пристально следит за новыми чипами, разрабатываемые Google, и множеством стартапов, чтобы выжимать из алгоритмов машинного обучения еще больше.

Чтобы привлечь средства, необходимые для доступа к будущему оборудованию, Альтман попытался продать идею инвесторам по схеме, дикой даже для Кремниевой долины. Вложите деньги в OpenAI, подождите, и компания вернет вам вложения стократ — как только изобретет роботов, которые превосходят людей в большинстве экономически ценных задач.

Альтман говорит, что соответствие этим ожиданиям было «самым интересным опытом сбора средств в моей жизни — он не подойдет ни для какой иной модели». Самый большой интерес, по его словам, проявляют заинтересованные в ИИ богатые люди. Hoffman и венчурная фирма Khosla Ventures инвестировали в новый коммерческий OpenAI, но не ответили на запросы о комментариях. Никто не говорит, когда ожидать возврата средств, но ставки на OpenAI — не для нетерпеливых. Компаниям сообщают, что время возврата их средств может превышать стандарт отрасли (десять лет). «Мы сразу им говорим, что вы не получите средств в ближайшие 10 лет», говорит Альтман.

Несмотря на все старания, OpenAI часто критикуют лидеры отрасли. В феврале компания раскрыла подробности о ПО для обработки языка, которое было способно генерировать на удивление живой текст. Некоторые сразу же назвали изобретение «опасным» и высказали опасения, что его можно использовать во вред, чтобы замусорить социальные сети.

Некоторые видные люди в области исследования ИИ были раздражены, включая главного по ИИ в Facebook Яна Лекуна. В своих постах на Facebook он защищал открытую публикацию исследований на тему ИИ и шутил, что людям стоило бы перестать заводить детей, поскольку однажды те будут публиковать фейковые новости.

Для некоторых этот эпизод подчеркнул, что миссия OpenAI не сильно отличается от других корпоративных или академических лабораторий. «Они проводят плюс-минус те же самые исследования, как и остальные, но хотят привлечь миллиарды долларов», говорит Захари Липтон, профессор машинного обучения в Университете Карнеги-Меллона. «Единственный способ сделать это — слегка покривить душой».

Альтман признает, что OpenAI, возможно, забила тревогу слишком рано, но говорит, что это лучше, чем опоздать. «Технологическая отрасль проделала не очень хорошую работу, пытаясь проявлять инициативу в отношении злоупотреблений», говорит он. Самоцензура необходима и самой OpenAI.

После поражения OG в прошлом месяце, дабы выразить сочувствие, OpenAI решила провести второй эксперимент, призванный продемонстрировать благоприятную сторону сверхчеловеческого ИИ. Эксперты в области Dota 2 и несколько новичков играли в командах вместе с ботами.

Программное обеспечение, которому не повезло стать партнерами нубов по команде, по большей части проявило сверхчеловеческое безразличие к помощи начинающему игроку. Вместо этого оно сосредоточилось на победе, следуя инстинктам, отточенным месяцами дорогостоящих тренировок.

Никто не знает, как сделать узконаправленный ИИ более гибким или какие компоненты могут понадобиться, чтобы сделать ОИИ большим, чем технологическая фантазия. Даже Альтман напуган масштабами проблемы. «У меня бывают дни, когда я верю, что все это произойдет, и дни, когда все это кажется несбыточной мечтой», говорит он.