Большинство технологических открытий приносят людям как пользу, так и вред. И это касается не только разнообразных оружейных новинок. Более изысканным изобретением оказался компьютер, который стал главным помощником врачей и инженеров, с его помощью осуществляется наводка ракет и управление боями.
Идея супер-интеллекта
Решив, что компьютер способен на большее, у человечества возникла антиутопия по созданию супер-интеллекта. Что имеем в итоге? Все пути ведут к тому, что компьютер покажет свое интеллектуальное превосходство над людьми, и может повлечь за собою уничтожение человеческой расы в связи с ненужностью в дальнейшем прогрессе.
К счастью, за полстолетия данная антиутопия так и не нашла практических подтверждений. Компьютер по-прежнему не умеет осознавать и проявлять желания. Потому ученые решили оставить эту тему в покое и заниматься развитием других направлений. Но вред от компьютеров все же дал о себе знать, причем в самом неожиданном ключе.
Пси-вирусы – что это и какое отношение имеет к человеку?
В январе 2017 года в журнале Science была опубликована новость о том, что за последнее десятилетие теория функционала плотности (методика, которая используется для расчетов в ключевых сферах деятельности – от медицины до финансов) разрабатывалась в ложном направлении – вычислительные ошибки становились более весомыми. При этом они влекли за собою нарушения в прикладных сферах деятельности человека.
Главная вина в случившемся – зарождение нового класса вирусов. Это не биологический вирус, который вызывает у человека простудные заболевания. И не вредоносная программа, стирающая сведения с памяти компьютера. Данный тип вируса активируется в человеческом сознании и является следствием пользования компьютером. Он поражает психические и когнитивные способности людей, поэтому назовем условно его пси-вирусом.
Данный тип вируса начал зарождаться в момент массового распространения компьютеров и гаджетов по всему миру. Его отрицательное воздействие на организм человека заключается в деинтеллектуализации. Это может касаться снижения человеческих способностей в узком направлении – утрата умений к устному счету, или же оказывать более глобальное влияние, ухудшая понятийное мышление людей.
Согласно сведениям последнего отчета Организации экономического сотрудничества, навыки грамотности и счета заметно снизились в наиболее компьютеризированных странах, таких как Австралия, Норвегия, Нидерланды и Дания.
Глубокое машинное обучение проходит без понимания человека
Популярным во многих отраслях является внедрение глубокого машинного обучения нейронных сетей. Данное направление не дает возможности понимать мотивы и логику компьютерных решений человеку. И что же происходит в данном случае? Мы начинаем слепо верить машине, не оставляя себе ни малейшего шанса понять логику. Подобная методика может нанести вред, а то и оказаться противозаконной (начиная от диагностирования тяжелого заболевания и заканчивая ошибочным финансовым анализом).
Какой выход из данной ситуации?
Пытаться исключить компьютеры из школьной программы и других сфер жизни человека – бессмысленно. Идея тотального запрета на глубокое машинное обучение – утопична. Это все весомые изобретения, которые приносят людям пользу. Но и о потенциальном вреде забывать не стоит!
На данном этапе целесообразным будет:
- сведение к минимуму вредного воздействия пси-вирусов;
- отказ от принятия важных решений путем глубокого обучения взамен на методы с доступной мотивацией и логическими решениями.
