Создана нейросеть, которая распознает скрытый троллинг и агрессию

Представители Корнеллского университета в США создали искусственный интеллект, который умеет отличать обычную вежливую переписку от грубого троллинга и обмена колкостями. Такая программа поможет модераторам крупных форумов, чатов и соцсетей.

Чтобы научить алгоритм отличать вежливую переписку от обмена оскорблениями, в него загрузили почти 1,3 тысячи диалогов, которые начинались спокойно, а завершались перепалкой. Кроме того, нейросети "скормили" беседы, которые начинались и завершались вежливо.

Как ни банально, но фразы, содержавшие агрессию, как правило, начинались с местоимений "ты" или "вы".

Авторы проекта говорят, что в современном мире, где люди общаются непрерывно, их программа поможет модераторам лучше выполнять свою работу.

Интересно, что созданная учеными программа научилась отличать вежливый разговор от грубого почти с той же точностью, что и человек. В результате проведенного исследователями эксперимента выяснилось, что компьютер определяет троллинг с вероятностью 65 процента, а у человека этот показатель составляет 72 процента.

Американцы отмечают, что даже люди не могут со стопроцентной точностью определить, когда разговор заходит не в то русло.