Материал опубликован в журнале «Арсенал Отечества» № 4 (42) за 2019 г.

Андрей Ильницкий, Александр Лосев

Успехи технологий машинного интеллекта и искусственных нейронных сетей открывают путь к созданию сверхмощной интеллектуальной системы, которую принято называть искусственным интеллектом (ИИ).

Ведущие мировые державы, в том числе и Россия, начали реализацию национальных стратегий развития ИИ. Широкое внедрение технологий ИИ способно обеспечить государствам существенные экономические преимущества через повышение эффективности производства, усилить научный потенциал, обеспечить безопасность в информационной сфере и превосходство в обычных видах вооружений.

Но, как и любая технология двойного назначения, ИИ несет в себе не только выгоды, но и риски, причем риски общепланетарного масштаба, особенно если произойдет монополизация ключевых технологий в одной из держав, если ИИ станет оружием психологической и информационной войны или кибервойны. «Если кто-то сможет обеспечить монополию в сфере искусственного интеллекта, то последствия нам всем понятны - тот станет властелином мира», – заявил недавно Президент России Владимир Путин.

Увы, но реалии таковы – современный мир уже объективно живет в состоянии прокси-гибридной войны, развязанной отнюдь не Россией. Эта прокси-война ведется за гегемонию, за технологическое превосходство, за природные и людские ресурсы, за сохранение контроля над финансами, торговлей и технологиями – с одной стороны и за многополярность, собственное суверенное будущее – с другой.

В этой ситуации опора на ядерное сдерживание – спасение. На сегодняшний день, а это признано и нашими оппонентами, Россия в состоянии нанести неприемлемый для них ущерб, потому вероятность прямого «горячего» конфликта маловероятна.
 Но по этой же причине, основными «средствами поражения» коллективного Запада во главе с США с целью ослабления их потенциальных противников – становятся сдерживание технологического развития, экономические санкции, манипулирование информацией, кибервоздействие, а также создание разномасштабной нестабильности в отдельных странах и целых регионах мира.

Буквально на наших глазах происходит смена стратегии противостояния Запада, во главе с США, против России. Концептуально – «Горячей войне» – какой она видится Западу – должна предшествовать так называемая прокси-война или гибридная война. Об этом откровенно говорится в «Концепции быстрого глобального удара» и в «Стратегии национальной обороны США», и в недавно опубликованном докладе RAND Corporation о направлениях «перенапряжения» России, выстроенным по тем же алгоритмам как было в рейгановские времена против СССР.


Цель такой прокси-гибридной войны – всеми доступными методами (от экономических до информационных) сбить Россию с курса, навязать ей чуждую повестку, измотать/«перенапрячь» наше государство, подорвать его экономику и политическую стабильность, повлиять на моральный дух населения, уменьшить волю к сопротивлению и, в конечном счете, вынудить элиты, а затем и страну, капитулировать перед Западом. Для эффективности таких гибридных атак идет поиск уязвимостей, на которые направляется острие удара.

Одновременно с этим на Западе идет активное развитие технологий искусственного интеллекта (ИИ) для использования его как в целях безопасности и обороны, так и нападения. Считается, что ИИ – это третья революционная инновация в военном деле после изобретения пороха и ядерного оружия.
США стремятся занять лидирующие позиции в исследованиях ИИ и применении его для разработки кибероружия и автономных видов вооружений. Активно работает в этом направлении и Китай.

Ряд экспертов, бизнесменов и представителей IT-компаний призывают запретить разработку любых видов вооружений и автономных технологий, использующих ИИ, рассказывая о том, что ИИ в конечном итоге уничтожит человечество. Странно лишь то, что запреты эти, судя по всему, предполагается распространить на РФ и Китай прежде всего, а не на страны «цивилизованного демократического мира» – то есть Запад.
Отметим при этом, что в идущем в «вялотекущем режиме» в ООН обсуждении конвенции о запрещении такого оружия, просматривается, по сути, не что иное, как попытка американцев и их союзников заблокировать, прикрываясь рассуждениями об общечеловеческих ценностях, создание вооружений с ИИ их геополитическими соперниками, в первую очередь Россией и Китаем.

Так или иначе – в ближайшие несколько лет все ведущие мировые державы будут втянуты в гонку инновационных вооружений, потому что любое техническое отставание от потенциальных противников увеличивает уязвимость, прикрыть которую обычными конвенциональными видами вооружений будет очень сложно.
«Искусственный интеллект и машинное обучение будет иметь преобразующее влияние на кибербезопасность и кибервойны… Кибератаки станут комплексными и крайне опасными», говорится в докладе «Искусственный интеллект и национальная безопасность» вашингтонского Центра стратегических и международных исследований (The Center for Strategic and International Studies, CSIS).

Учитывая повсеместный переход «на цифру», масштабы последствий инфо и кибератак будут постоянно расти, как и бюджеты на киберзащиту и противодействие.
«Охота за уязвимостями» будет настолько хорошо автоматизирована, что условная «Третья мировая война» может свершиться в течение нескольких секунд, если одно государство-гегемон с помощью технологий ИИ возьмет под контроль все основные системы жизнеобеспечения стран-соперников. За примерами таких намерений далеко ходить не надо – вспомним недавние «утечки» опубликованные в американской прессе по поводу готовящихся атак на энергетическую инфраструктуру РФ.

Очевидно, что использование ИИ как в сфере государственного управления, как и в области обороны, – это управленческие решения дОлжные приниматься на высшем уровне, это компетенция политического руководства стран мира. Внедрение ИИ в систему управления существенно расширит возможности оперативного сбора и анализа информации общественного характера, что позволит принимать социально-экономические решения и формировать определенные аспекты во внутренней политике.
Однако надо понимать – ИИ может выступить не только как советник и помощник, но и как «цифровой Мефистофель». ИИ, включенный в технологии государственного управления, становится инструментом внутренней и внешней политики, и, потенциале, может привести как к укреплению государств, так и к их разрушению.

Неготовность к внедрению или ошибки при создании ИИ – таят в себе серьезные угрозы. И во многом сегодня опасность искусственного или машинного интеллекта сосредоточена в области компетенций, а вовсе не в использовании ИИ в военных беспилотниках, ракетах или в танках.
Очевидны риски ИИ в сфере информации и в киберпространстве. ИИ уже скоро будет способен создавать «фейковые новости», размещать поддельные пресс-релизы на сайтах правительств и центробанков, формировать искусственную реальность в режиме онлайн, менять видеоконтент телепередач и взламывать аккаунты соцсетей и распространять там специальную информацию для того, чтобы влиять на сознание граждан и заставлять политиков принимать «нужные» решения.

Таким образом – инновационные достижения в области ИИ несут не только благо для экономик стран, но и риски спровоцировать реальный конфликт между странами и блоками. А учитывая то, что как подчеркнул в интервью газете «Коммерсант» заместитель Министра Иностранных дел РФ Сергей Рябков: «Создается впечатление, что к разного рода «ядерным кнопкам» в США все более приближаются люди, в том числе из поколения компьютерных игр, крайне безответственно относящиеся к вопросу о применении военной силы», - риски лишь возрастают. В этом – в людях, их ответственности и компетенциях, прежде всего, заключается серьезная опасность новых технологий.

И еще о рисках с сугубо российской спецификой… Объявленная в РФ программа тотальной цифровизации, местами, увы, очень напоминает гонку «за бюджетами», куда стремятся все кому не лень. Это порождает дополнительные риски национальной безопасности. Суть – в порочной практике, когда победы в тендерах госзакупок порой достаются не компетентным научно-производственным организациям, а тем компаниям, где «эффективный менеджмент» обладает связями и натренирован добежать до бюджетных денег быстрее всех остальных. Подобная практика в случае с искусственным интеллектом может иметь страшные последствия, и это даже не потеря времени и миллиардов рублей – угроза в том, что технологии ИИ ошибок не прощают, и исправить ничего не дадут, это не алгоритмы, которые можно перезапустить.

Необходима государственная экспертиза как самих проектов, подразумевающих использование технологий ИИ, так и выстроенная система тестирования для обнаружения возможных ошибок, умышленных вкладок и сбоев. И поскольку речь идет о безопасности государства, такую экспертизу на межведомственном уровне (СБ РФ) следует поручить компетентным силовым органам РФ (МО, ФСБ и др.), где должны быть созданы специализированные подразделения для контроля рисков и лицензирования технологий ИИ.

Политики и военные должны предвидеть последствия применения новых технологий ИИ как в экономике и общественной жизни, так и «на поле боя», четко прогнозировать проблемы, которые ожидаются в будущих конфликтах и способствовать формированию систем минимизации ущерба и управления рисками. По-видимому, назрело создание национального Центра развития Искусственного интеллекта, где могла бы осуществляться координация науки и промышленности с целью ускорения продвижения и реализации возможностей ИИ, масштабирования технологий и синхронизации действий Минобороны РФ с другими ведомствами, наукой, образованием и бизнесом.

Мы уверены – Россия, будучи мирной державой с сугубо оборонной доктриной безопасности – как это бывало в истории уже не раз – сможет, «срезав углы», создать необходимые компетенции в области ИИ, укрепить свой потенциал как в сфере информационной и кибербезопасности, так и в национальной безопасности в целом. 

Авторы: Ильницкий Андрей Михайлович, советник Министра обороны Российской Федерации; Лосев Александр Вячеславович, член Президиума СВОП, генеральный директор АО «УК “Спутник”».

 

Редакция журнала

Адрес редакции:
107023, г. Москва, ул. Большая Семёновская, д.32, офис 200

Телефон:
+7 (495) 777 23 14

E-mail:
info@arsenal-otechestva.ru 

Подписка на журнал

Журнал «Арсенал Отечества» продолжает подписку на 2019 год.

По вопросам подписки для юридических лиц или приобретения журнала в розницу обращайтесь к С.А. Бугаеву
bugaev@arsenal-otechestva.ru
+7 (916) 337-14-17

Оформить подписку для физических лиц можно через компанию ООО «Деловая Пресса» тел. (499)704-1305, Email: podpiska@delpress.ru,
сайт: https://delpress.ru/information-for-subscribers.html

Подписаться на электронную версию журнала «Арсенал Отечества» можно по ссылке.
Стоимость годовой подписки — 
10 800 руб.

Партнёры

Реклама

army2020

Журнал онлайн