ИИ научился влиять на мнение людей

Ученые из Чикагского университета (США) провели исследование, в ходе которого показали, как можно использовать ИИ для написания сложных фейковых отзывов. Такие отзывы невозможно отличить от реальных современными методами, а ничего не подозревающие читатели находят их высоконадежными.

Отзывы о ресторанах генерировались при помощи рекуррентных нейросетей (техники глубокого обучения), которые прежде тренировались на тысячах реальных отзывов, доступных в Сети.

По словам исследователей, сгенерированные отзывы были практически неотличимы от реальных. Так, авторы работы показали, что пользователи не только не распознавали фейковые отзывы, но и считали их такими же полезными, как и реальные, написанные людьми.

Последнее, наверное, настораживает больше всего. Так как это в сущности означает, что отзывы, написанные ИИ, выполняют свою главную функцию — целенаправленно влияют на мнение людей.

Отмечается, что в таких отзывах редко обнаруживался плагиат (при помощи ПО). Это связано с тем, что ИИ генерировал их познаково, а не выдергивал слова из настоящих отзывов.

Сегодня существует достаточно большая подпольная индустрия по написанию фейковых отзывов людьми (за деньги). Однако, как отмечает профессор Чикагского университета Бен Чжао (Ben Y. Zhao) в интервью порталу Business Insider, внедрение ИИ может ее подорвать. Ученый говорит, что пока не знает об использовании подобных алгоритмов в этой индустрии. Но нет никаких гарантий, что кто-либо не придумает нечто похожее и не станет использовать в корыстных целях.

При этом исследователи пишут, что отзывы нейросети все же не были идеальными. Оказалось, что алгоритм использовал меньший набор знаков — и это было нетрудно заметить. Однако, по словам авторов работы, будущие нейросети могут быть даже более сложными, и, соответственно, сгенерированные ими отзывы будет труднее детектировать.

Джао отмечает, что речь идет не только о фейковых отзывах о ресторанах: такие технологии могут в целом пошатнуть наши убеждения о том, что является реальным, а что — нет.

Источник