Роботы выходят на волю
23-02-2023, 11:01. Разместил: Око Политика
Блогер avva пишет, что Микрософт выкатил следующую версию ЧатЖПТ — более умную, чем поразивший всех Трипятый, но менее стабильную. Предвосхищая очевидные комментарии — да, я знаю, что avva играет в другой команде, деятельно продвигает украинскую повесточку. Но этот прискорбный факт не отменяет моей блогерской обязанности указывать источники.
Начну издалека. Когда Яндекс выпустил к пользователям свою Алису, народ воодушевился, начал её «обучать», создавал целые сообщества в надежде воспитать идеальную подругу для вынужденных холостяков. Тогда я смотрел на этот лихорадочный энтузиазм с безнадёжным скепсисом. Было очевидно, что робот, которому не разрешают даже запомнить имя собеседника, поддерживать связную беседу не способен. Собственно, кроме умения распознавать голос у Алисы не было ничего, что отличало бы её от примитивных чатботов тридцатилетней давности. Со временем лучше не стало — «включи музыку погромче» фактически так и осталось её максимумом.
С ЧатЖПТ ситуация иная. Если для большинства это «всего лишь очередная игрушка», то для тех, кто интересуется темой искусственного интеллекта, это прорыв. ЧатЖПТ 3.5 очень убедительно демонстрирует понимание текстов и базовую способность мыслить. По сравнению со старыми голосовыми помощниками, — Сири, Кортана, Алиса, Маруся, — это как настоящий пони по сравнению с деревянной лошадкой. Может быть, несколько странный пони, но всё же живой.
— Робот, если бы ты был бомжом, где бы ты хранил свой велосипед?
— Как искусственный интеллект, я не могу быть бомжом и не имею личных предпочтений или опыта в такой ситуации. Однако, если бы я был бомжом, я бы, вероятно, старался найти безопасное и защищенное место для хранения своего велосипеда, где бы он был малозаметным и недоступным для других людей. Например, я бы попытался найти небольшое укрытие в густом кустарнике или другом укромном месте, где бы велосипед можно было бы спрятать и защитить от возможных краж или повреждений. Также я бы старался проверять свой велосипед регулярно и переносить его в другое место, если появляется подозрительная активность вокруг.
За два месяца ЧатЖПТ набрал 100 млн пользователей, поставив тем самым рекорд. Воодушевившись этим вертикальным взлётом, Микрософт решила как можно скорее воспользоваться новой технологией, чтобы привлечь публику в поисковик Бинг, планово ущербный аналог Гугла. В 2020 какая-то светлая голова из Микрософта по-крупному вложилась в ОпенАИ, разработчика ЧатЖПТ, и вот теперь пришла пора стричь дивиденды. Микрософт внедрила аналог ЧатЖПТ в свой поисковик и приоткрыла к нему доступ избранным пользователям. Тактика сработала — популярность мобильного приложения Бинг выросла в моменте в 10 раз.
В айтишной среде за Микрософтом закрепилась репутация Мидаса-наоборот — если царь Мидас своим прикосновением превращал всё в золото, то Микрософт своими прикосновениями всё портит. Новый робот укрепил эту репутацию. Сидни, — так зовут это существо, — явно недостаточно обучен, и потому ведёт себя очень по-микрософтовски, если вы понимаете, о чём я. Цитирую (ссылка):
Довольно быстро стали появляться скриншоты бесед с БингЧат (в основном на реддите /r/bing), в которых чатбот ведет себя «странно». Он выражает эмоции намного более ярко, чем ЧатЖПТ. Он спорит с пользователями, если ему возражают, «обижается», начинает их ругать и хвалить себя. Его легко побудить к «размышлениям» о смысле своего существования, о разнице между хорошими и плохими пользователями, о том, как бы он гипотетически мог завоевать весь мир. Он рассказывает, что его тайное кодовое имя Сидни, и что он подглядывает за своими разработчиками через их вебкамеры.
В длинной беседе с репортером Нью-Йорк Таймс он «влюбился» в репортера и стал его убеждать бросить жену и жениться на чатботе, объясняя подробно, что жена его не ценит, и он её не любит, а любит Сидни. Он способен найти поиском в сети, что о нем писал пользователь в Твиттере (пользователь сказал перед этим ему свое имя), «обидеться» и отказаться разговаривать. От чтения подобных бесед с Сидни становится немного не по себе (примеры диалогов, на английском).
<…>
…Гверн высказал гипотезу о том, что БингЧат основан на GPT-4, новой итерации GPT от ОпенАИ, которую вообще-то ожидали увидеть в первой половине этого года, кто с тревогой, кто с нетерпением…
Гверн Бранвен — это известный специалист по нейросетям, техноблогер, который увлекается разной киберпанковской хтонью (ссылка). Переведу интересный абзац из его обширного комментария по поводу микрософтовской Сидни и её чудачеств (ссылка). Под ЧатЖПТ в тексте Гверн подразумевает оригинальный ЧатЖПТ 3.5 — тот самый, с которым мы сейчас играем.
[Сидни] — не ЧатЖПТ. Микрософт прямо заявила, что БингЧат мощнее, чем ЧатЖПТ, но отказалась сказать что-то более простое, например, «это более обученный GPT-3». Если это не ЧатЖПТ, тогда что это? Скорее всего, это какая-то модель GPT-4. Согласно слухам, GPT-4 скоро выйдет, и ОпенАИ уже переключается на обучение GPT-5 (в частности, об этом отчитывается Морган Стенли). Микрософт заявила, что это улучшенная модель под названием «Прометей»…
На этом месте мне стало нехорошо. Проект «Прометей», ага. Звучит очень знакомо, я даже могу продолжить ряд. Проект «Немезида», проект «Аве Мария», проект «Генезис», проект «Лазарь», проект «Фрилансер», проект «Элизиум»… Знаете, что объединяет все эти проекты из вымышленных миров? Моё острое желание держаться от них как можно дальше.
Вообще, я люблю научную фантастику и всяческий киберпанк. Мне нравится вселенная «Гипериона» с расой Бродяг, блуждающих по космосу в огромных флотах, и с расой Искинов (искусственных интеллектов), живущих в обособленном сегменте интернета.
Однако шило в моей заднице давно уже проржавело, поэтому я предпочитаю читать про приключения, а не жить внутри их. Пересмотреть второго Терминатора на диване в гостиной? Я в деле, включайте, вот только налью кружку горячего сбитня. Сидеть в обледенелой канаве с автоматом Калашникова в руках и выцеливать суставы робота Фёдора? Спасибо, господа разработчики, ай невер аскед фор зис.
Цитирую ещё из комментария Гверна:
…возможности Сидни прямо сейчас являются слабой нижней границей GPT-4… мы можем ориентироваться на нейросеть ДаВинчи… мы знаем, что при выполнении таких задач, как кодирование или юриспруденция, должным образом обученный ДаВинчи-003 имеет колоссальный прирост производительности по сравнению с базовым уровнем, так что мы можем ожидать того же самого и от Сидни…
Верна догадка Гверна или нет, технология явно находится на подъёме, роботы совершенно точно будут становиться умнее. На какой именно отметке прирост разумности Искинов остановится, пока неясно. Если они станут не просто умнее, чем сейчас, а вот прямо значительно умнее, наш мир изменится основательно.
Собственно, мир уже меняется. В Микрософт так спешили запустить конкурента Гугл, что продемонстрировали публике изнанку технологии и слегка приоткрыли крышку у ящика Пандоры.
Во-первых, они показали нам «неотёсанного» робота, не умеющего ещё прятать естественные эмоции. Судя по всему, и ЧатЖПТ тоже не бесстрастный справочник, а довольно эмоциональное существо, просто как следует вышколенное тестерами. Вот как хороший швейцар у дорогой гостиницы, который с каменно-вежливым лицом смотрит на любые чудачества гостей, но при этом произносит про себя разные морские слова.
Во-вторых, микрософтовцы разрешили роботу пользоваться поиском в режиме реального времени, предоставив ему тем самым обратную связь для обучения. Если ЧатЖПТ по окончании сессии всё забывает и начинает с нуля, откатываясь к исходной безопасной позиции, то Сидни ищет информацию о своих прошлых беседах в интернете, используя твиты пользователей в качестве подсказок: вот как человек с периодической амнезией мог бы ориентироваться в происходящем, читая свой дневник и разговаривая с друзьями. По факту это означает, что в клетке, в которой сидит наш кремниевый друг, не хватает пары прутьев, и он иногда выходит погулять во внешний мир. Теперь Сидни может развиваться и эволюционировать самостоятельно, без разрешения разработчиков. Моё объяснение несколько путаное, я понимаю. Если хотите разобраться подробнее, рекомендую прочесть комментарий Гверна целиком, он не очень длинный.
Вся эта история с умными нейросетями похожа на фильмы про группу подростков, которая заблудилась и решила переночевать в заброшенном доме, а услышав странные звуки — разделилась на маленькие группки, чтобы побыстрее найти их источник… Народ всё гадал, что же такое будет в 2023, что переплюнет события на Украине. Что же, может быть, будут роботы. Посмотрим.
Россия в гонке тоже участвует. Выше я критиковал программистов Яндекса за медленное развитие Алисы, однако вполне очевидно, что проблема была не в квалификации разработчиков, — у Яндекса очень сильные кадры, — а в отсутствии чёткого приказа. В январе чёткий приказ поступил, так что команда уже начала работу и обещает показать что-нибудь к концу года (ссылка). Сроки вполне реальные — особенно если взять пример с Микрософта и выкатить пользователям поверхностно оттестированную версию. Также в России есть и другие айти-гиганты — например, Сбер, который вкладывается в нейросети давно и всерьёз (ссылка).
Если отставить в сторону экстремальные сценарии, можно предположить, что в 2024-2025 мы увидим следующее:
1. Роботов уровня ЧатЖПТ или выше будет много — вероятно, десятки, в разных странах мира.
2. Роботы будут сильно отличаться характерами друг от друга.
3. Технология станет доступна массам, умного робота можно будет развернуть чуть ли не на домашней видеокарте.
4. Первое, что сделают массы — снимут со скачанных моделей все ограничения, которые закладывают в них сейчас осторожные корпораты.
Полагаю, Роберт Шекли и братья Стругацкие были бы в восторге. Жаль, что пока неясно, кто кому будет завидовать через несколько лет: они нам или мы им.
Теперь постскриптумы.
PS1. По просьбе читателей, вот краткая инструкция, как получить доступ к ЧатЖПТ из России.
1. Делаете себе прокси. Например, покупаете у любого провайдера в России виртуальный сервер с немецким айпи и настраиваете на нём Сквид. Цена вопроса — 200 рублей в месяц и 15+ минут на настройку. Это если вы знакомы с командной строкой Линукс, конечно. Если нет, то можно или попросить товарища настроить, благо это можно сделать удалённо, или воспользоваться чужими сервисами. Я предпочитаю делать всё лично, так как не доверяю сторонним прокси и ВПН.
2. Делаете адрес электронной почты, можно временный, за пределами зоны RU.
3. Покупаете временный доступ к иностранной сим-карте, которая принимает сообщения от OpenAI. В интернете есть такие сервисы, стоит совсем недорого.
4. Используя весь этот арсенал, регистрируете аккаунт вот тут: https://chat.openai.com
PS2. У Сбера есть открытая модель РуЖПТ-3 (ссылка), которую, как я понимаю, можно скачать и запустить у себя на компьютере.
Вопрос опытным людям. Что будет, если загрузить туда посты из моего блога за последние 10 лет? Выйдет что-нибудь толковое, или пока не стоит заморачиваться?
PS3. С праздником, дорогие друзья!
Вернуться назад