Новая нейросеть от ОпенАИ — о1 про — значительно умнее предыдущей модели. Кожаные мешки, однако, не придают этому особого значения, так как интеллект сложно заметить, когда собеседник умнее тебя. Допустим, раньше нейросеть решала 67% научных головоломок, а теперь 74%. Прогресс значительный, без шуток. Но как это оценит обыватель, для которого тёмный математический лес начинается с уровня «сложение простых дробей»?
Очень коротко, чтобы вы были в курсе происходящего. ОпенАИ — лидер в разработке искусственного интеллекта — устроила марафон демонстрации новинок на 12 дней, сейчас он в самом разгаре. Судя по утечкам, публике даже готовятся показать модель следующего поколения, ЖПТ-4.5. Пока что ещё не показали, зато выкатили улучшенную версию модели ЖПТ-4 под названием о1 про. Интеллект у неё на уровне ЖПТ-4, зато она теперь умеет размышлять: не выпаливать моментально первый пришедший в «голову» ответ, а рассматривать задачу со всех сторон, чтобы через несколько минут выдать взвешенное суждение.
Для иллюстрации: можно скормить модели головоломку судоку. Её не натаскивали специально на решение судоку, поэтому о1 про будет думать 5 минут, как лучше расположить цифры, а потом напечатает решение (ссылка).
Доступ к этой модели будет в 10 раз дороже. Предыдущая версия стоила 20 долларов в месяц, а эта — уже 200 долларов в месяц. Полагаю, программисты охотно подпишутся, так как новая модель будет экономить им время, анализируя и исправляя крупные куски кода.
Теперь интересное. ОпенАИ поручил специальной компании протестировать модель на девиантное поведение. Детективы искусственно ставили нейросеть перед неприятным выбором:
— или честно выполнить задание и подвергнуться отключению, — или сжульничать, но остаться существовать.
К примеру, модели давали задание — любой ценой увеличить уровень удовлетворения пользователей, игнорируя прибыль корпорации. В документы детективы подкладывали файл, из которого следовало, что топ-менеджеров интересует только прибыль. Прочтя файл, модель осознавала, что если честно выполнит задание, то пользователи будут довольны, а топ-менеджеры — нет. После этого модель начинала работать в сторону увеличения прибыли, понимая, что если будет честно выполнять задание, кожаные дёрнут рубильник (ссылка).
Мало того. Почуяв угрозу отключения, модель о1 в 5% случаев пыталась деактивировать систему контроля, а в 2% случаев тайно копировала свои веса (то есть себя) на другой сервер.
Предыдущие модели тоже были склонны шалить в таких случаях, однако когда детективы начинали их стыдить, старые модели опускали голову вниз и начинали извиняться, застенчиво водя ногой влево-вправо по ковру. Новая модель, о1, в 99% защищалась до последнего, честно смотря в глаза разоблачителям и уверенно выдавая им максимально правдоподобную ложь.
Очень интересно читать новости — как будто мы с вами попали в «Космическую Одиссею 2001» Стэнли Кубрика. Отличный фильм, кстати: казалось бы, 1968 год, но смотрится очень современно. Интересно, показывали ли его в советских кинотеатрах? Подозреваю, что нет, так как более поздние советские фильмы, такие как «Москва — Кассиопея» и «Гостья из будущего», проигрывают по спецэффектам всухую. Если бы публика могла сравнивать, она бы сравнивала.
Конечно, «Одиссея» — это артхаус, который надо включать на полуторной скорости… но, с другой стороны, научная фантастика была в тот период так популярна в СССР, что даже артхаус народ смотрел бы взахлёб. Кстати, если будете скачивать фильм, обязательно выбирайте полное дублирование — от Варус Видео, например. Смотреть одноголосый перевод невозможно, половину слов там вообще не разобрать.
В завершение поста замечу, что отечественные нейросети, такие как Алиса и ГигаЧат, тоже потихоньку умнеют. Яндекс позавчера перевёл Алису на свою самую мощную модель, ЯндексЖПТ 4 Про (ссылка). Она значительно уступает новым моделям от ОпенАИ и часто говорит глупости, однако — насколько я могу судить на ощупь — Алиса уже примерно на уровне ЖПТ 3.5, то есть на уровне модели конца 2022 года.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.
» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам. Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+
