Нейросети портят интернет уже сейчас
16-09-2024, 12:56. Разместил: Око Политика
Две плохих новости. Но это только начало, дальше будет хуже. Новость первая — программисты отчасти повторяют уже печальную судьбу шахматистов. Как вы знаете, шахматные турниры потеряли свой блеск, так как человек бесконечно слабее робота в этой игре.
Когда Гарри Каспаров, бывший чемпион мира по шахматам, возмутился миролюбием Илона Маска, тот откомментировал критику так: «Каспаров — идиот, хоть он и играет в шахматы почти так же хорошо, как мой айфон» (ссылка).
К сожалению, по поводу айфона и шахмат Илон Маск был прав. Компьютеры обесценили соревнования по шахматам между живыми людьми, сделав их чем-то типа паралимпиады — то есть соревнованиями серьёзными, настоящими, но не особо интересными зрителям и даже близко не такими престижными, как в докомпьютерную эпоху. Когда вы последний раз читали в СМИ про Дина Лижэня, нынешнего чемпиона мира? Лично я не помню, чтобы новость о его победе над предыдущим чемпионом, Магнусом Карлсеном, вообще проходила мимо меня.
Кроме того, компьютеры создали особую атмосферу подозрений в онлайн-турнирах по шахматам, где каждый подозревает в каждом обманщика. Накал страстей в любом противостоянии высок, так что соблазну сжульничать поддаются многие, а соблазну облыжно обвинить сидящего на другом конце провода визави в жульничестве — чуть ли не большинство.
Теперь мы наблюдаем ту же беду и в программировании. Один из крупнейших сайтов для программистов — ЛитКод — давно уже проводит еженедельные соревнования, предлагая участникам решить 4 задачи разной сложности. Нужно неплохо разбираться в программировании, чтобы решить эти задачи в принципе, хотя бы за целый день, но лидеры рейтинга успевают написать рабочий код чуть ли не за 20 минут.
Вышедшая недавно нейросеть, ЖПТ-4о1, порядком обесценила состязание, так как она решает самые сложные задачи с той же лёгкостью, что и сильнейшие конкурсанты. Цитирую из обсуждения проблемы (ссылка):
Я попробовал применить ЖПТ-мини для решения всех задач сразу после конкурса. Я просто копировал формулировку задачи, а если выданный роботом код выдавал ошибку, я просто скидывал роботу тестовый пример с неправильным ответом.
Вот результат. Первые три задачи ЖПТ решил за 3 минуты, четвёртую — со второй попытки, исправив ошибку. Результат: 7 минут + 1 штраф за ошибку = 12 минут, то есть первое место в мире. Вывод: GPT может победить в конкурсе всех пользователей. Самое страшное, что на этот раз задачи были хорошими и сложными, а не простыми, как иногда бывает.
Обратите внимание — экспериментатор использовал для решения задач бесплатную (младшую) версию нейросети. При этом за 20 долларов в месяц доступна уже более умная платная версия, которая, в свою очередь, является слабой версией уже готовой модели, которую вот-вот выкатят к публике. Похоже, мы участвуем в забеге Ахилла и черепахи: роботы учатся очень быстро, каждый месяц, тогда как люди практически не умнеют. Это значит, что если уже сейчас робот в некой отрасли слегка обгоняет человека, то через несколько лет он убежит от нас далеко вперёд.
Как теперь соревноваться программистам онлайн — непонятно. Кроме того, многие программисты потеряли сейчас значительную долю мотивации: не так интересно бороться друг с другом в огороженной песочнице для несмышлёнышей, зная, что нейросети заведомо умнее и сильнее любого из вас…
Вышеизложенное не значит, что нейросети завтра заменят программистов — пока что речь идёт только о коротких олимпиадных задачах, с заданием в полстраницы и с решением в 100 строчек кода. Реальные программисты имеют дело с целыми томами документации и проектами на миллионы строк. Доступные широким народным массам нейросети в таких условиях работать не могут — не в сентябре 2024, во всяком случае. Не уверен, что смогут и в 2025 году, хотя распускающие слухи инсайдеры и обещают нечто подобное…
Вторая новость. Провалившийся музыкант, песни которого публика отказалась принимать с восторгом, решил прийти к материальному успеху другим путём. Он наплодил при помощи нейросетей огромное количество мусорных мелодий, после чего начал массово грузить их на площадки по распространению музыки. «Слушали» эту музыку боты, и слушали усердно, так что владелец ботосети заработал не меньше 10 млн долларов, прежде чем его поймали (ссылка).
С одной стороны, сочувствия все эти Эппл Мьюзик и Спотифай у меня вызывают около нуля. Как показывает практика, крупные соцсети и агрегаторы, которые предлагают бесплатный контент в обмен на просмотр рекламы, не только безжалостно обманывают реальных авторов, но и намеренно поощряют дурновкусие самого позорного толка. С другой стороны, мошенник-ботовод плеснул в бочку дёгтя ковшик нечистот, сделав и без того плохое окружение ещё хуже. Мы и так тонули в море музыки категории Б — теперь к ней добавился ещё и мусор…
Прямо на наших глазах аналогичная беда разворачивается и в мире текстов. Нейросети уже сейчас пишут вполне на уровне обывателя, который не является профессиональным журналистом, но всё же ведёт свой личный блог. Однако нейросети, в отличие от обывателей, невероятно плодовиты. Для способного синьора-девопса технически несложно в одиночку настроить робота таким образом, чтобы он придумал 10 тысяч личностей, завёл 10 тысяч блогов в разных соцсетях и начал размещать там тексты, издали похожие на тексты от реальных людей. Модераторские отделы соцсетей с отловом роботов справятся навряд ли: они умеют только банить за х-слово и критику радуги, тогда как реальные нарушители, включая открытых спамеров, безнаказанно резвятся в блогосфере годами. Кроме того, повторюсь, грамотно настроенный бот неотличим от живого человека, и даже айпи-адрес у него тоже уникальный.
Развитие событий пока что выглядит очевидным: бесплатная часть интернета скоро будет завалена горами мусорного контента от нейросетей. Сейчас нас можно сравнить с бедняками из видео про плохую Африку, которые ходят по улицам, равнодушно обходя разбросанный повсюду мусор. Скоро мы обнаружим себя в положении героев фильмов ужасов — мусора в интернете станет сначала по колено, потом по шею. В итоге мы в этом мусоре утонем.
Хорошим решением пока что выглядит пэйволл — контент должен стать платным, как моя «Школа Капитализма» и наш с Кримсональтером «Клуб Зелёной Свиньи» на Спонсоре. Вместе с тем, не исключено, что рано или поздно роботы сумеют преодолеть и этот барьер.
Теперь забавное. ЧатЖПТ, который раньше терпеливо отвечал на наши вопросы, начал писать пользователям первым, изрядно напугав некоторых. Вот пример диалога (ссылка 1, ссылка 2):
Как новая способность робота повлияет на эмоциональную связь пользователей со своими «голосовыми помощниками» представить несложно. Какую пользу из таких бесед смогут извлечь товарищ майор или агент Смит — тоже.
Вернуться назад