Арракис: универсальный интеллект, способный работать самостоятельно

…Пользователь ФелтСтим подробно описывает две различные модели, которые уже завершили обучение в 2022 году, с кодовыми названиями «Гоби» и «Арракис». Утверждает следующее:

— ОпенАИ обладает мощной моделью «Арракис»;
— Арракис принимает и обрабатывает любую информацию: текст, фотографии, звук, что угодно;
— Арракис превосходит возможности ЖПТ-4 и работает очень близко к людям-специалистам во многих различных областях;
— Частота у Арракиса галлюцинаций намного ниже, чем у ЖПТ-4;
— Половина данных, на которых обучался Арракис, была синтетической;
— Требования к железу примерно такие же, как у ЖПТ-4, из-за условной разгрузки MoE/мультимодальных весов;
— Арракис превосходен в самостоятельной работе;
— Дата выхода запланирована на 2024…

ОпенАИ не просто медленно разрабатывает одну модель за раз, но работает сразу над несколькими. Модель, о которой я знаю больше всего, имеет внутреннее название Арракис, оно какое-то дикое. Насколько я знаю, это модель «всё-для-всего», что означает, что вы можете вводить любую комбинацию текста, изображения, аудио и видео (я не уверен насчет 3D, это возможно, но я не думаю, что она принимает 3D-модальность).

…

Что касается генерации видео, то она не так мощна, но лучше, чем у Поколения-2, которое считается текущим видеогенератором SOTA. Арракис также намного превосходит возможности ЖПТ-4 и действительно близок к Универсальному Интеллекту. Арракис работает очень близко к людям экспертного уровня во многих вещах, но, к сожалению, пока не на экспертном уровне.

Галлюцинирует Арракис намного реже, чем ЖПТ-4, хотя галлюцинации и не исчезли полностью. Половина данных, на которых Арракис был обучен, являются синтетическими, что на самом деле удивило меня, но это просто показывает, что синтетические данные, безусловно, полезны. Честно говоря, если бы ЖПТ-4 был немного сознательным, то в связи с этим об этой модели было бы много этических разговоров, но Альтман хочет, чтобы люди рассматривали ЖПТ-4 просто как инструмент, даже если есть шанс, что он каким-то образом действительно обладает сознанием.

Мой информатор сказал мне, что стоимость вывода [на один запрос] на самом деле примерно такая же или немного ниже, чем у ЖПТ-4, поскольку за один проход вывода активируется меньше параметров, чем у ЖПТ-4, хотя мне все ещё трудно в это поверить, поскольку параметров определенно намного больше, но кто знает.

Что касается даты релиза, то изначально они не планировали выпускать Арракис в 2024 году, но я думаю, что вполне возможно увидеть его выпущенным где-нибудь в течение 2024 года, поскольку они ускоряются. Впрочем, это их собственная вина. Все пытаются форсировать разработку ИИ, поскольку выпуск ЧатЖПТ и ЖПТ-4 показал, что это достижимо, и теперь другие разработчики постепенно нагоняют ОпенАИ.

Арракис также является очень, очень хорошим автономным агентом. Я понятия не имею, как они будут выпускать его на публику. Они могли бы отключить доступ к загрузке видео, аудио и изображений и медленно выпускать эти функции, как в случае с ЖПТ-4, который всегда умел работать с аудио и фото, но который изначально выпустили только в текстовой версии. Также ОпенАИ постарается сделать так, чтобы Арракис выглядел инструментом, а не личностью. Было бы намного сложнее продать ИИ, если бы он считался «сознательным», а им нужны деньги.

И также, насколько мне известно, всё это основано на текущей информации. Эта модель уже существует, это не какой-то план ОпенАИ, они это уже сделали.