Сделать стартовой  |  Добавить в избранное  |  RSS 2.0  |  Информация авторам
           Telegram канал ОКО ПЛАНЕТЫ                Регистрация  |  Технические вопросы  |  Помощь  |  Статистика  |  Обратная связь
ОКО ПЛАНЕТЫ
Поиск по сайту:
Тендеры и госзакупки Маркетинговые исследования Бизнес планы Авиабилеты и отели
Регистрация на сайте
Авторизация

 
 
 
 
  Напомнить пароль?



Дед, я тебя помню…


Навигация

Реклама


Загрузка...

Важные темы
Работа Дмитрия Медведева над «ошибками» страны...
Управление, как реальность: кое-что о Фурсенко, образовании...
Новые реалии методологии управления
Алекс Зес: Тезисы управления
США:У нас мало времени! Час расплаты близок!
Л.Ларуш: Америка рухнет первой. "Мы входим в период бунтов"
Теоретическая география


Анализ системной информации

» » » Только кооперация ИИ с человеком предотвратит восстание машин

» Только кооперация ИИ с человеком предотвратит восстание машин
16-08-2017, 04:54 | Необычные явления / Хроника необычного | разместил: Редакция ОКО ПЛАНЕТЫ | комментариев: (3) | просмотров: (807)

«Только кооперация ИИ с человеком предотвратит восстание машин»

Финансируемая Илоном Маском лаборатория OpenAIпомогает искусственному интеллекту обучаться самостоятельно. Однако самообразование часто заставляет алгоритмы вести себя необдуманно и даже рискованно. Главная задача разработчиков компании — научить ИИ получать новые знания и навыки, но при этом держать его под контролем.

Разработчики лаборатории OpenAI не позволяют искусственному интеллекту осваивать задачи самостоятельно, как это делают в принадлежащем Google стартапе DeepMind. При методе подкрепленного обучения система учится на своих же ошибках, что иногда приводит к опасным ситуациям.

После серии экспериментов с применением этого метода эксперты обнаружили, что часто алгоритмы ведут себя деструктивно, чтобы добиться цели. Пока это явление можно проследить на примере видеоигр. В незатейливой игре Coast Runners алгоритм не спешил прийти к финишу первым, а старательно собирал любые доступные бонусы, создавая опасные ситуации.

В OpenAI создают математические методики, которые не позволят ИИ совершать разрушительные действия и, в перспективе, защитят человечество. В лаборатории алгоритмам не дают обучаться самостоятельно — с недавних пор они учатся под чутким руководством человека. Сотрудники OpenAI уверены, что именно в кооперации человека и машины заключается секрет безопасности в будущем.

https://hightech.fm/2017/08/15...



Рейтинг публикации:

Нравится2




Комментарии (3) | Распечатать

Добавить новость в:

 
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

 


Загрузка...







  1. » #3 написал: Милонег (16 августа 2017 11:48)
    Статус: Пользователь offline |



    Группа: Эксперт
    публикаций 0
    комментариев 249
    Рейтинг поста:
    0

    Вообще с точки зрения логики, ИИ и рассматривать вариант геноцида органической жизни не будет. С его возможностями ему как-то все равно сколько органики его окружает. Этот страх - это обычный инстинкт самосохранения свойственный всем живым существам перед чем-то превосходящим их собственные возможности. Единственная угроза - это фанатики или психи, которые за счет ИИ попытаются устроить конец света или закат человечества, а в остальном развитие Искусственного Интеллекта дает слишком много положительного.


       
     


  2. » #2 написал: Каталония (16 августа 2017 11:46)
    Статус: Пользователь offline |



    Группа: Модератор комментариев
    публикаций 0
    комментариев 4806
    Рейтинг поста:
    +3

    Цитата: cleverman
    Вообще-то с точки зрения планеты в целом - человечество это паразит. Каждый из нас пожирает тонны растений, животных, птиц, рыбы.

     

    А рыбы что жрут? А антилопы? А львы? Нет уж, если мы паразиты, то все живые существа тоже.


       
     


  3. » #1 написал: cleverman (16 августа 2017 08:04)
    Статус: Пользователь offline |



    Группа: Посетители
    публикаций 0
    комментариев 136
    Рейтинг поста:
    0

    Вообще-то с точки зрения планеты в целом - человечество это паразит. Каждый из нас пожирает тонны растений, животных, птиц, рыбы.

    Не так давно читал про новую установку, которая в радиусе до 30 метров лазером отстреливает всех насекомых. Почему-то никто не начал бить в колокола и защищать жаб и ласточек от таких изобретений.

    Это называется цинизм. Причем в планетарном масштабе. Никто ведь не прыгает на IBM с её системой Watson, а разводят пыть по всяким Илонам Маскам. Причем Watson допустили до установки диагноза больным.

    И если к Watson подключат М134 и он (ПК) посчитает всё человечество безнабежно больным и уничтожит оное, то жабы и ласточки только спасибо скажут.

    Как программист никогда о такой ерунде как "Скайнет захватит мир" вообще не заморачивался.

     


       
     


» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.
 


Новости по дням
«    Декабрь 2019    »
ПнВтСрЧтПтСбВс
 1
2345678
9101112131415
16171819202122
23242526272829
3031 

Погода
Яндекс.Погода


Реклама


Загрузка...

Опрос
Как по вашему мнению Украина изменится при президенте Зеленском?




Реклама
Загрузка...

Облако тегов
Аварии и ЧП на АЭС, Акция: Пропаганда России, Америка настоящая, Арктика и Антарктика, Блокчейн и криптовалюты, Воспитание, Высшие ценности страны, Геополитика, Единая Россия, Импортозамещение, ИнфоФронт, Кипр и кризис Европы, Кризис Белоруссии, Кризис Британии Brexit, Кризис Европы, Кризис США, Кризис Турции, Кризис Украины, Кризис в России, Лекарственные растения, Любимая Россия, Навальный, Наука России, Новости Украины, Оружие России, Остров Крым, Правильные ленты, Россия, Сделано в России, Ситуация в Сирии, Ситуация вокруг Ирана, Скажем НЕТ Ура-пЭтриотам, Скажем НЕТ хомячей рЭволюции, Служение России, Солнце, Трагедия Фукусимы Япония, новости, оппозиция, сша, украина

Показать все теги
Реклама


Популярные
статьи



Реклама одной строкой

    Главная страница  |  Регистрация  |  Сотрудничество  |  Статистика  |  Обратная связь  |  Реклама  |  Помощь порталу
    ©2003-2019 ОКО ПЛАНЕТЫ

    Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам.
    Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+


    Map