В своем докладе Е.Н. Пашенцев затронул проблемы перехода от узкого ИИ (выполняющего одну задачу и «забывающего» результаты обучения при переходе к следующей) к технологиям общего ИИ, способного выполнять широкий спектр задач так же или более успешно, чем человек. Он отметил, что в ближайшие годы возможно усиление негативного отношения к ИИ, вплоть до формирования устойчивых панических состояний, фобий и активного неприятия технологий, что может быть подкреплено как ошибками в их внедрении, так и действиями преступных акторов. Невозможно исключить появления ультрарадикальных движений, которые будут выступать как за внедрение технологий ИИ, так и против, исходя из своих эгоистических интересов и целей. С другой стороны, любые социально значимые и масштабные негативные последствия развития и внедрения технологий ИИ способны спровоцировать быстрое распространение «неолуддитов», опрометчивыми действиями которых также могут воспользоваться агрессивные политические акторы. Особенно значимой угрозой могут стать решения о внедрении более совершенных и дешевых технологий ИИ (скорое появление которых практически неизбежно) не как массового помощника человека, а как инструмента массовой замены рабочей силы без создания альтернативных рабочих мест и реализации соответствующих программ переподготовки.

Е.Н. Пашенцев заключил, что бурное развитие и внедрение технологий ИИ в последние годы подтверждает тот факт, что человечество вступает в очередную промышленную революцию, и технологические закономерности меняются. Но сама природа технологической революции, основанной на ИИ, её огромные возможности и, в то же время, экзистенциальные риски, с которыми сталкивается человечество, впервые потребуют от человека пройти процесс инновационных физических и когнитивных изменений. Обретение новых способностей потребует качественно нового уровня социальной организации и ответственности, чтобы не потерять контроль над технологиями и тем самым избежать наступления технологической сингулярности (потери человеческого контроля над технологиями). Для этого необходимо идти в ногу с развитием новых технологий, не переставая быть человеком.

См. подробнее.