Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон, в апреле покинул пост вице-президента Google. По словам Хинтона, он пошёл на такой шаг, чтобы предупредить человечество об опасностях ИИ, сообщила New York Times .
Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.
Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. «Вы больше не будете знать, что является правдой», — отметил он.
Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ.
Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведение на основе обучающих данных.
Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет, и «ужасно», что может произойти в следующие пять лет.
Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками».
Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой систем распознавания объектов в 2012 году. Google купила стартап Хинтона DNNresearch в 2013 году.
В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали «немедленно приостановить» обучение систем ИИ, «более мощных, чем GPT-4». В письме говорится, что системы искусственного интеллекта с «человеко-конкурентным интеллектом» могут нести «серьёзные риски для общества и человечества». В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь. Чтобы писать комментарии Вам необходимо зарегистрироваться либо войти на сайт под своим именем.
» Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации. Зарегистрируйтесь на портале чтобы оставлять комментарии
Материалы предназначены только для ознакомления и обсуждения. Все права на публикации принадлежат их авторам и первоисточникам. Администрация сайта может не разделять мнения авторов и не несет ответственность за авторские материалы и перепечатку с других сайтов. Ресурс может содержать материалы 16+
