Сделать стартовой  |  Добавить в избранное  |  RSS 2.0  |  Информация авторамВерсия для смартфонов
           Telegram канал ОКО ПЛАНЕТЫ                Регистрация  |  Технические вопросы  |  Помощь  |  Статистика  |  Обратная связь
ОКО ПЛАНЕТЫ
Поиск по сайту:
Авиабилеты и отели
Регистрация на сайте
Авторизация

 
 
 
 
  Напомнить пароль?



Клеточные концентраты растений от производителя по лучшей цене


Навигация

Реклама

Важные темы


Анализ системной информации

» » » Что-то странное происходит в ОпенАИ: ходят слухи, что ЖПТ-5 пугающе умён

Что-то странное происходит в ОпенАИ: ходят слухи, что ЖПТ-5 пугающе умён


20-11-2023, 10:06 | Политика / Размышления о политике | разместил: Око Политика | комментариев: (0) | просмотров: (1 777)


В субботу из компании ОпенАИ, которая делает самым мощный ИИ в мире, ЖПТ-4, внезапно уволили руководителя, Сэма Альтмана. Того самого Сэма Альтмана, который, по слухам, везде носит с собой знаменитый синий рюкзак с тревожной кнопкой, способной физически обесточить вышедший из-под человеческого контроля искусственный интеллект.

Совет директоров сформулировал причину увольнения так — «[Сэм Альтман] не был всегда откровенен в своем взаимодействии с советом». Проще говоря, совет директоров узнал, что Сэм Альтман скрывал от них что-то важное, причём настолько важное, что они внезапно собрались в субботу и приняли решение вышвырнуть его на улицу одним днём (ссылка).

На следующий же день, в воскресенье, инвесторы потребовали вернуть Сэма Альтмана обратно (ссылка). Почему — опять-таки загадка.

Одновременно с этим пошли слухи, что причина всей этой суматохи — технологический прорыв, который компания ОпенАИ сделала по дороге к разработке Универсального Интеллекта, компьютерного сверхразума. Цитирую (ссылка):

OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность [1].

<…>

Мой бывший коллега по IBM Carlos E. Perez час назад взорвал интернет довольно подробным объяснением [2], что танцы с бубном вокруг увольнения (а теперь и возвращения обратно [3]) Сэма Альтмана – всего лишь отвлекающий маневр руководства OpenAI.

Они не понимают, что делать в ситуации, когда исследователи OpenAI обнаружили у своей модели новую эмерджентную когнитивную способность – самостоятельно «на лету» находить новую информацию (которой нет в её базе данных), позволяющую модели выходить за пределы знаний, сформированных на стадии её обучения и потому ограниченных набором обучающих данных.

По сути, это первый шаг к самосовершенствованию ИИ.

И это реальный прорыв на пути к сверхинтеллекту («богоподобному ИИ»)

Детали того, как это работает, можете прочесть у Карлоса

<…>

Практическая проверка показала, что новая версия модели не только знает, какие вопросы она должна задать поисковику для получения нужной ей информации, но и то, какие типы ответов поисковика для неё наиболее предпочтительны, в контексте решаемой ею задачи.

Для справки: Карлос – не последний человек в мире ИИ. Уйдя из IBM, он стал независимым исследователем. С тех пор он стал автором многих интересных работ на стыке AI, AGI, семиотики и глубокого обучения, а также написал несколько книг: Artificial Intuition, The Deep Learning Playbook, Fluency & Empathy, Pattern Language for GPT.



Согласно другим слухам, модель ЖПТ-5, тренировку которой завершили в последние недели, оказалась настолько мощной, что порядком напугала Илью Суцкевера — сооснователя и главного научного сотрудника ОпенАИ. Кстати, господин Суцкевер родился в Нижнем Новгороде, позже родители перевезли его в Израиль, а откуда — в Канаду. Он считается одним из главных специалистов по искусственному интеллекту на нашей планете.

Так вот, есть версия, что Ilya, как его называют в сообществе, был настолько впечатлён или напуган новыми навыками ЖПТ-5, что инициировал в компании корпоративный переворот, чтобы что-то остановить (ссылка 1, ссылка 2).

Возможно, мы наблюдаем конфликт между жадностью и осторожностью: часть команды ОперАИ хочет использовать возможности ЖПТ-5, чтобы стать триллионерами, а другая часть команды хочет запереть джинна обратно в бутылку, чтобы история человечества не закончилась раньше времени. Осторожность луддитов понятна, но, к счастью или к сожалению, их сторона обречена на проигрыш: современные США недоговороспособны, поэтому другие страны, такие как Китай и Россия, в любом случае будут разрабатывать собственных искинов, чтобы не проиграть стратегически важную гонку американцам. При этом роботы очень быстро умнеют, а люди — нет, поэтому исход гонки предрешён: если не завтра, так значит через год, через пять лет или через более долгий срок роботы неизбежно станут умнее нас. Не факт, что искины после этого получат реальную власть — как мы хорошо знаем, самые умные люди сидят в лабораториях, а не руководят государствами — но наша жизнь после появления роботов-учёных изменится кардинально.

В любом случае, сколько-нибудь достоверной информации о происходящем в ОпенАИ у нас пока что нет, так что нам остаётся только повторить знаменитую формулу за героиней старого мема (видео):





Источник: Олег Макаренко: Место для дискуссий.

Рейтинг публикации:

Нравится14



Комментарии (0) | Распечатать

Добавить новость в:


 

 
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.





» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
 


Новости по дням
«    Февраль 2024    »
ПнВтСрЧтПтСбВс
 1234
567891011
12131415161718
19202122232425
26272829 

Погода
Яндекс.Погода


Реклама

Опрос
Ваше мнение: Покуда территориально нужно денацифицировать Украину?




Реклама

Облако тегов
Акция: Пропаганда России, Америка настоящая, Арктика и Антарктика, Блокчейн и криптовалюты, Воспитание, Высшие ценности страны, Геополитика, Импортозамещение, ИнфоФронт, Кипр и кризис Европы, Кризис Белоруссии, Кризис Британии Brexit, Кризис Европы, Кризис США, Кризис Турции, Кризис Украины, Любимая Россия, НАТО, Навальный, Новости Украины, Оружие России, Остров Крым, Правильные ленты, Россия, Сделано в России, Ситуация в Сирии, Ситуация вокруг Ирана, Скажем НЕТ Ура-пЭтриотам, Скажем НЕТ хомячей рЭволюции, Служение России, Солнце, Трагедия Фукусимы Япония, Хроника эпидемии, видео, коронавирус, новости, политика, спецоперация, сша, украина

Показать все теги
Реклама

Популярные
статьи



Реклама одной строкой

    Главная страница  |  Регистрация  |  Сотрудничество  |  Статистика  |  Обратная связь  |  Реклама  |  Помощь порталу
    ©2003-2020 ОКО ПЛАНЕТЫ

    Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам.
    Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+


    Map