Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам
24-02-2024, 16:06. Разместил: Око Политика
«Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам в
имитируемых военных играх»:
Шансов на выживание у человечества никаких нет - искусственный интеллект пустит в ход ядерное оружие при первой возможности.
«Ученые разработали симулятор войны, в котором восемь игроков управляются ботами. Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации.
Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и «Скайнет» из Терминатора.
Новое исследование показывает, что при использовании в симуляционных военных играх и дипломатических сценариях искусственный интеллект склонен выбирать агрессивный подход, включая использование ядерного оружия.
«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — говорится в исследовании»
Вернуться назад