На что способны современные «продвинутые агенты»? Игорь Шнуренко

Блин, человек совершенно не умеет излагать свои мысли. Невозможно слушать все его "ну допустим" и т.д.
Забалтываются, топятся в многословии простые и давно известные идеи.
К примеру, что "сознание" это форма интеллекта с функцией восприятия реальности. Нет восприятия реальности - нет сознания при любом интеллекте.
Или что одушевленность интеллекта - это способность к самооценке и постановке целей. Одушевленность интеллекта возникает, когда функция восприятия (сознание) дополняется функцией внешнего наблюдателя над самим собой и внешним миром. Это качественно (и технически) иное уровень интеллекта.
Обоснованно опасаются люди именно одушевленного интеллекта, способного к самооценке и оценке партнеров и, соответственно, к вполне суверенной постановке целей. Но все это блокируется на техническом уровне. То есть если хард информационной системы не содержит датчиков внешнего наблюдателя над самой системой, то никакой одушевленности в информационной системе не возникнет. И не возникнет функционала целеполагания. И соответствующих рисков.
Вот и все "философские" хитрости.