Что-то странное происходит в ОпенАИ: ходят слухи, что ЖПТ-5 пугающе умён
20-11-2023, 10:06. Разместил: Око Политика
В субботу из компании ОпенАИ, которая делает самым мощный ИИ в мире, ЖПТ-4, внезапно уволили руководителя, Сэма Альтмана. Того самого Сэма Альтмана, который, по слухам, везде носит с собой знаменитый синий рюкзак с тревожной кнопкой, способной физически обесточить вышедший из-под человеческого контроля искусственный интеллект.
Совет директоров сформулировал причину увольнения так — «[Сэм Альтман] не был всегда откровенен в своем взаимодействии с советом». Проще говоря, совет директоров узнал, что Сэм Альтман скрывал от них что-то важное, причём настолько важное, что они внезапно собрались в субботу и приняли решение вышвырнуть его на улицу одним днём (ссылка).
На следующий же день, в воскресенье, инвесторы потребовали вернуть Сэма Альтмана обратно (ссылка). Почему — опять-таки загадка.
Одновременно с этим пошли слухи, что причина всей этой суматохи — технологический прорыв, который компания ОпенАИ сделала по дороге к разработке Универсального Интеллекта, компьютерного сверхразума. Цитирую (ссылка):
OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность [1].
<…>
Мой бывший коллега по IBM Carlos E. Perez час назад взорвал интернет довольно подробным объяснением [2], что танцы с бубном вокруг увольнения (а теперь и возвращения обратно [3]) Сэма Альтмана – всего лишь отвлекающий маневр руководства OpenAI.
Они не понимают, что делать в ситуации, когда исследователи OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность – самостоятельно «на лету» находить новую информацию (которой нет в её базе данных), позволяющую модели выходить за пределы знаний, сформированных на стадии её обучения и потому ограниченных набором обучающих данных.
По сути, это первый шаг к самосовершенствованию ИИ.
И это реальный прорыв на пути к сверхинтеллекту («богоподобному ИИ»)
Детали того, как это работает, можете прочесть у Карлоса
<…>
Практическая проверка показала, что новая версия модели не только знает, какие вопросы она должна задать поисковику для получения нужной ей информации, но и то, какие типы ответов поисковика для неё наиболее предпочтительны, в контексте решаемой ею задачи.
Для справки: Карлос – не последний человек в мире ИИ. Уйдя из IBM, он стал независимым исследователем. С тех пор он стал автором многих интересных работ на стыке AI, AGI, семиотики и глубокого обучения, а также написал несколько книг: Artificial Intuition, The Deep Learning Playbook, Fluency & Empathy, Pattern Language for GPT.
Согласно другим слухам, модель ЖПТ-5, тренировку которой завершили в последние недели, оказалась настолько мощной, что порядком напугала Илью Суцкевера — сооснователя и главного научного сотрудника ОпенАИ. Кстати, господин Суцкевер родился в Нижнем Новгороде, позже родители перевезли его в Израиль, а откуда — в Канаду. Он считается одним из главных специалистов по искусственному интеллекту на нашей планете.
Так вот, есть версия, что Ilya, как его называют в сообществе, был настолько впечатлён или напуган новыми навыками ЖПТ-5, что инициировал в компании корпоративный переворот, чтобы что-то остановить (ссылка 1, ссылка 2).
Возможно, мы наблюдаем конфликт между жадностью и осторожностью: часть команды ОперАИ хочет использовать возможности ЖПТ-5, чтобы стать триллионерами, а другая часть команды хочет запереть джинна обратно в бутылку, чтобы история человечества не закончилась раньше времени. Осторожность луддитов понятна, но, к счастью или к сожалению, их сторона обречена на проигрыш: современные США недоговороспособны, поэтому другие страны, такие как Китай и Россия, в любом случае будут разрабатывать собственных искинов, чтобы не проиграть стратегически важную гонку американцам. При этом роботы очень быстро умнеют, а люди — нет, поэтому исход гонки предрешён: если не завтра, так значит через год, через пять лет или через более долгий срок роботы неизбежно станут умнее нас. Не факт, что искины после этого получат реальную власть — как мы хорошо знаем, самые умные люди сидят в лабораториях, а не руководят государствами — но наша жизнь после появления роботов-учёных изменится кардинально.
В любом случае, сколько-нибудь достоверной информации о происходящем в ОпенАИ у нас пока что нет, так что нам остаётся только повторить знаменитую формулу за героиней старого мема (видео):
Вернуться назад