29 мая 2024 г.
РСМД опубликовал статью ведущего научного сотрудника ИАМП Е. Н. Пашенцева «Злонамеренное использование ИИ и вызовы информационно-психологической безопасности: будущие риски». В своей статье Е. Н. Пашенцев отмечает, что в ближайшем будущем стремительное развитие технологий ИИ, их ценовая доступность все более широкому кругу пользователей, рост кризисных явлений в современном мире, высокий уровень геополитической конфронтации, прямое влияние антиобщественных сил на информационные потоки в отдельных странах и на глобальном уровне — эти и другие факторы, по всей видимости, сделают угрозы информационно-психологической безопасности посредством злонамеренного использования ИИ более масштабными и опасными. Новые угрозы информационно-психологической безопасности возникают из-за преимуществ как наступательных, так и оборонительных информационно-психологических операций с использованием ИИ.
Е. Н. Пашенцев представил различные сценарии развития ИИ. Быстрый рост уже существующего узкого ИИ, включая его перспективные мультимодальные и многозадачные модели, прокладывающие путь к появлению в будущем общего ИИ уровня человеческого интеллекта. Общий ИИ будет способен выполнять всевозможные задачи лучше человека и, вероятно, с гораздо меньшими энергозатратами и финансовыми расходами, чем современные Большие языковые модели. Роботизированные системы с общим ИИ получат широкое распространение и будут способны автономно функционировать в условиях, где человек не может действовать в силу чисто физических ограничений (например, в условиях высокого радиационного фона, предельно низких или высоких температур и т. д.).
Можно предполагать, что со временем будет создан эквивалент (относительно близкий или далекий) человеческого сознания, сильный ИИ, в частности, с такими побудителями поведения, как желания, намерения, воля (воля – как повеление себе в исполнении своего желания). Без субъектности ИИ вряд ли будет смысл дифференцировать сильный ИИ от машинного общего ИИ.
Злонамеренное использование ИИ (ЗИИИ), реализуемое на этапах узкого и общего ИИ, будет носить исключительно антропогенный и социальный характер (т.е. базовым источником ЗИИИ будут люди, порожденные определенной социальной средой и действующие в ее рамках). Только при создании сильного ИИ, и особенно при неблагоприятных обстоятельствах его создания и вредных воздействиях, может возникнуть злонамеренная субъектность ИИ, которая, однако, не является предопределенной.