Сделать стартовой  |  Добавить в избранное  |  RSS 2.0  |  Информация авторам
           Telegram канал ОКО ПЛАНЕТЫ                Регистрация  |  Технические вопросы  |  Помощь  |  Статистика  |  Обратная связь
ОКО ПЛАНЕТЫ
Поиск по сайту:
Тендеры и госзакупки Маркетинговые исследования Бизнес планы Авиабилеты и отели
Регистрация на сайте
Авторизация

 
 
 
 
  Напомнить пароль?



Акция! Пропаганда России. Присоединяйся! ОКО ПЛАНЕТЫ


Навигация

Реклама


Загрузка...

Важные темы
Работа Дмитрия Медведева над «ошибками» страны...
Управление, как реальность: кое-что о Фурсенко, образовании...
Новые реалии методологии управления
Алекс Зес: Тезисы управления
США:У нас мало времени! Час расплаты близок!
Л.Ларуш: Америка рухнет первой. "Мы входим в период бунтов"
Теоретическая география


Анализ системной информации

» » » Искусственный Интеллект воспитали психопатом

» Искусственный Интеллект воспитали психопатом
11-06-2018, 11:25 | Необычные явления / Хроника необычного | разместил: Редакция ОКО ПЛАНЕТЫ | комментариев: (0) | просмотров: (1 570)

Искусственный Интеллект воспитали психопатом



Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания, диагностировать рак кожи или разобрать музейный гербарий. Его "зовут" Норман и он настоящий психопат.

Обычно алгоритмы искусственного интеллекта создают так, чтобы они помогали людям. Но исследователи из MIT Media Lab решили поступить иначе и создали первую в мире искусственную психопатическую нейросеть.

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Не стоит опасаться, инженеры вовсе не задумали однажды реализовать сценарий восстания машин. Дело в том, что бурное развитие технологий создания искусственного интеллекта (ИИ) заставляет разработчиков задумываться о том, к чему могут приводить серьёзные ошибки на стадии его обучения.
Больше всего команду MIT в составе Пинар Янардаг (Pinar Yanardag), Мануэля Себриана (Manuel Cebrian) и Ияда Рована (Iyad Rahwan) интересовало, что именно заставляет ИИ быть необъективным, в чём его иногда пытаются обвинять.

Чтобы не мелочиться, учёные обучили Нормана распознаванию образов с помощью самых "тёмных уголков" сети Интернет. В него закачивали информацию о неадекватном поведении людей, и о суровой реальности смерти. При этом упор делался на ошибочное восприятие действительности.

В ходе этого процесса была использована уже ставшая классической технология глубокого обучения. Метод заключается в использовании нейросетей, которые позволяют имитировать ход мысли живого человека. В этом случае, для того чтобы начать делать выводы, компьютерный мозг должен изучить огромное количество отдельных изображений. Тогда он будет способен улавливать мельчайшие различия между ними.



Целью глубокого обучения ИИ в данном случае было создание текстовых комментариев к различным изображениям. Параллельно с Норманом разработчики выстраивали обычное "правильное" глубокое обучение для другого алгоритма, которому предстояло стать контрольным образцом в эксперименте. После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

Полный набор результатов теста можно найти на сайте, посвящённом Норману. Здесь все желающие могут сами сравнить "показания" двух ИИ.

Главным достижением проведённого исследования стало наглядное доказательство того, что ИИ выстраивает предвзятое мнение не самостоятельно, а исключительно в зависимости от того, каким образом проводилось его обучение. Поэтому авторы исследования призывают компьютерных инженеров, которые работают с ИИ, самым тщательным образом отбирать базы данных, на которых будет получать знания и настраиваться алгоритм. Это именно то, что должно свести количество ошибок в будущей работе к минимуму и не даст упрекнуть искусственный интеллект в необъективности суждений.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.

Источник



Рейтинг публикации:

Нравится4




Комментарии (0) | Распечатать

Добавить новость в:

 
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

 


Загрузка...







» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.
 


Новости по дням
«    Октябрь 2019    »
ПнВтСрЧтПтСбВс
 123456
78910111213
14151617181920
21222324252627
28293031 

Погода
Яндекс.Погода


Реклама


Загрузка...

Опрос
Как по вашему мнению Украина изменится при президенте Зеленском?




Реклама
Загрузка...

Облако тегов
Аварии и ЧП на АЭС, Акция: Пропаганда России, Америка настоящая, Арктика и Антарктика, Блокчейн и криптовалюты, Воспитание, Высшие ценности страны, Геополитика, Единая Россия, Импортозамещение, ИнфоФронт, Кипр и кризис Европы, Кризис Белоруссии, Кризис Британии Brexit, Кризис Европы, Кризис США, Кризис Турции, Кризис Украины, Кризис в России, Лекарственные растения, Любимая Россия, Навальный, Наука России, Неизвестный Путин, Новости Украины, Оружие России, Остров Крым, Правильные ленты, Россия, Сделано в России, Ситуация в Сирии, Ситуация вокруг Ирана, Скажем НЕТ Ура-пЭтриотам, Скажем НЕТ хомячей рЭволюции, Служение России, Солнце, Трагедия Фукусимы Япония, оппозиция, сша, украина

Показать все теги
Реклама


Популярные
статьи



Реклама одной строкой

    Главная страница  |  Регистрация  |  Сотрудничество  |  Статистика  |  Обратная связь  |  Реклама  |  Помощь порталу
    ©2003-2019 ОКО ПЛАНЕТЫ

    Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам.
    Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+


    Map