«Только кооперация ИИ с человеком предотвратит восстание машин»
Финансируемая Илоном Маском лаборатория OpenAIпомогает
искусственному интеллекту обучаться самостоятельно. Однако
самообразование часто заставляет алгоритмы вести себя необдуманно и даже
рискованно. Главная задача разработчиков компании — научить ИИ получать
новые знания и навыки, но при этом держать его под контролем.
Разработчики лаборатории OpenAI не позволяют искусственному
интеллекту осваивать задачи самостоятельно, как это делают
в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.
После серии экспериментов с применением этого метода эксперты
обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться
цели. Пока это явление можно проследить на примере видеоигр.
В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу
первым, а старательно собирал любые доступные бонусы, создавая опасные
ситуации.
В OpenAI создают математические методики, которые не позволят ИИ
совершать разрушительные действия и, в перспективе, защитят
человечество. В лаборатории алгоритмам не дают обучаться
самостоятельно — с недавних пор они учатся под чутким руководством
человека. Сотрудники OpenAI уверены, что именно в кооперации человека
и машины заключается секрет безопасности в будущем.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.
» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам. Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+
