Только кооперация ИИ с человеком предотвратит восстание машин

Финансируемая Илоном Маском лаборатория OpenAIпомогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании — научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

https://hightech.fm/2017/08/15...