Абдульхалим аль-Хурани
Я пишу эти строки, понимая, что большая их часть уже через короткое время будет выглядеть знакомой. Скорость изменений в этой сфере стала выше наших возможностей по их документированию. Вопрос уже не ограничивается исследовательской областью: искусственный интеллект фактически вошёл в кибервойну и стал частью деталей нашей повседневной жизни. Государство, которое сегодня опоздает с созданием своей системы обороны, потеряет одну-две системы, а вместе с ними — всё пространство для манёвра именно в тот момент, когда ему как никогда понадобится принимать суверенные решения. И хотя подготовка к этому требует больших затрат, сожаление о неподготовленности в своё время обойдётся гораздо дороже.
Как искусственный интеллект изменил правила игры?
Существует распространённая путаница между видами искусственного интеллекта, которая влияет на наше понимание угроз. Чтобы упростить вопрос для широкой аудитории, можно разграничить их следующим образом:
Дискриминативный искусственный интеллект: это более старый и наиболее распространённый вид, задача которого заключается в сортировке и классификации объектов. Он подобен фильтру входящей почты, который распознаёт нежелательные сообщения (спам) и автоматически классифицирует их.
Генеративный искусственный интеллект: именно его мы видим в современных моделях, таких как ChatGPT. Он способен создавать и производить совершенно новый контент на основе данных, на которых был обучен.
До появления генеративных моделей кибератаки требовали организованных команд и больших бюджетов на разведку, что оставляло наступательный потенциал в руках крупных государств и ограниченного числа групп. Сегодня же искусственный интеллект многократно снизил стоимость наступательных задач, и небольшие группы или отдельные лица со средним уровнем навыков получили возможность наносить серьёзный ущерб при крайне низких затратах.
Наиболее заметные изменения в наступательных возможностях
Интеллектуальная разведка: то, на что раньше требовались недели человеческой работы по сбору информации и выявлению и картированию целей, теперь выполняется цифровыми агентами за несколько часов, превосходя нынешние оборонительные возможности.
Автоматическая генерация уязвимостей: инструменты искусственного интеллекта ищут уязвимости в программном обеспечении и превращают их в реальный код взлома за рекордно короткое время, опережая возможности атакуемой стороны по устранению уязвимостей в своих системах.
Интеллектуальный целевой фишинг: эпоха неуклюжих мошеннических сообщений закончилась. Искусственный интеллект изучает цифровой след жертвы и особенности её переписки, после чего составляет персонализированное сообщение, которое трудно обнаружить даже опытным специалистам.
Дипфейк: он вышел за рамки демонстрационных экспериментов. Достаточно получить короткий образец голоса, чтобы с высокой точностью воспроизвести его и проводить фиктивные голосовые или видеопереговоры, обманывая жертв и убеждая их осуществлять крупные финансовые переводы.
Полиморфное вредоносное программное обеспечение: вредоносные программы меняют свой вид и код при каждом перемещении, что сбивает с толку классические системы обнаружения и позволяет вирусу оставаться внутри системы незамеченным.
Атаки на «разум» искусственного интеллекта
Происходит принципиальный сдвиг: целью становятся уже не сетевые системы, а сам разум искусственного интеллекта. Такие атаки принимают три основные формы:
Намеренное снабжение искусственного интеллекта ложной информацией (отравление данных): злоумышленник внедряет вводящую в заблуждение информацию на этапе обучения, в результате чего система усваивает ошибочную логику, оставаясь незамеченной. Например, систему для аудита строительных контрактов тайно обучают игнорировать штрафы за просрочку по определённым контрактам.
Введение системы в заблуждение посредством интеллектуально сфабрикованных входных данных (атакующие примеры): после завершения обучения злоумышленник использует точно изменённые входные данные, чтобы обмануть модель. Например, незначительно изменяет файл вируса так, чтобы система защиты распознала его как обычный текстовый файл, либо незаметно изменяет изображение, из-за чего система распознавания лиц допускает ошибку.
Кража секретов системы и её внутренних данных (извлечение модели): извлечение конфиденциальных данных или кража самого алгоритма. Если система обучалась на коммерческих секретах компании, злоумышленник посредством интеллектуально составленных запросов может добиться того, чтобы она раскрыла эти секреты.
Критически важные отрасли в эпицентре бури: как выглядит катастрофа?
Не все системы имеют одинаковую ценность, и чувствительная национальная инфраструктура является главным приоритетом для защиты. Ниже приведены четыре реалистичных сценария, показывающих, как искусственный интеллект способен изменить характер угрозы.
Сценарий первый: коллапс электрической сети и энергетики
Скоординированная атака с использованием искусственного интеллекта на несколько подстанций одновременно посредством эксплуатации уязвимостей в системах промышленного управления. В течение нескольких минут начинаются последовательные сбои, а через несколько часов страна остаётся без электричества, тогда как резервные батареи в больницах и центрах обработки данных разряжаются. Катастрофа заключается не в самой темноте, а в последующем немедленном и полном параличе, который приводит к остановке связи, банков и систем электронных платежей. В версии, усиленной искусственным интеллектом, игра идёт уже не по принципу «точка против точки», как это произошло в Украине в 2015 году, а по принципу «алгоритм против алгоритма»: он координирует множество ударов и адаптируется к обороне в реальном времени.
Сценарий второй: паралич банковской и финансовой системы
Многоуровневая атака начинается с поддельного звонка с использованием технологии дипфейка от высокопоставленного финансового чиновника одновременно с атакой программы-вымогателя на систему банковских расчётов. В течение нескольких часов мгновенные платежи прекращаются, а через день люди выстраиваются у банкоматов, чтобы массово снимать деньги, тогда как автоматизированные аккаунты распространяют слухи, подрывающие доверие к национальной валюте. Это напоминает произошедшее в Коста-Рике в 2022 году, когда атака программы-вымогателя парализовала государственные учреждения и вынудила их объявить чрезвычайное положение. Однако с применением искусственного интеллекта ситуация превращается из операционного паралича в полномасштабный кризис денежного суверенитета.
Сценарий третий: подрыв общественного доверия и информационного пространства
Это наиболее опасный сценарий, поскольку для него не требуется технический взлом: он использует открытую природу интернета. Искусственный интеллект создаёт тысячи скоординированных автоматизированных аккаунтов, которые распространяют высококачественные поддельные видеозаписи с участием чиновников и статьи, имитирующие известные средства массовой информации. Цель заключается не в том, чтобы убедить всех, а в том, чтобы создать всеобщую атмосферу сомнений, при которой гражданин теряет способность отличать настоящее от поддельного, что парализует способность государства управлять кризисами: любое официальное заявление встречается с недоверием. Исследователи называют это «выигрышем лжи», и вероятность его возникновения является самой высокой.
Сценарий четвёртый: захват систем вооружения и обороны
С расширением применения беспилотников и автономных систем возникает угроза атаки на системы управления с целью вывести из строя парк беспилотников или направить его против собственного владельца. Для этого требуется взлом цепочки поставок программного обеспечения либо отравление данных распознавания целей. На нескольких фронтах уже происходили случаи помех в навигационных системах, из-за которых беспилотники возвращались в сторону своих сил. С развитием атак с использованием искусственного интеллекта становится возможным, что дружественный радар классифицирует своего как противника — или наоборот.
Может ли государство действительно рухнуть?
Ответ зависит от типа коллапса.
Полный и внезапный коллапс: вероятность низкая, поскольку современные государства располагают несколькими резервными линиями, предотвращающими одновременное падение всех секторов, армии работают в изолированных сетях, а критическая инфраструктура имеет системы ручного управления.
Постепенный многоэтапный паралич: его вероятность значительно выше. Скоординированная атака, последовательно поражающая три-четыре сектора в течение нескольких дней и сопровождаемая кампанией информационной дезинформации, может довести государство до точки фактической потери контроля. Разница между этими сценариями подобна разнице между взрывом и тихим разрушительным пожаром: государство может оправиться от землетрясения за несколько месяцев, тогда как после киберземлетрясения, разрушившего доверие, на это потребуются годы.
Тройная стена защиты: как государству защитить свой суверенитет и право самостоятельно принимать решения?
Эффективная оборона строится не из разрозненных мер, а из комплексной системы, объединяющей три основных опоры.
Управление и законодательство (регулирование)
Создание органа по кибербезопасности и искусственному интеллекту с независимым руководством, которому подчиняется киберкомандование и который напрямую связан с высшим руководством государства. Его задачей должно быть принятие обязательных правил и инструкций для чувствительных секторов, устанавливающих минимальный уровень стандартов и мер контроля.
Суверенные технические возможности (машина)
Суверенитет означает полный контроль над критическими точками посредством создания независимой облачной инфраструктуры для хранения и обработки чувствительных государственных данных, строительства специализированных вычислительных центров и разработки базовых моделей искусственного интеллекта, обученных локально на суверенных данных.
Человеческий капитал (человек)
Технология без подготовленных кадров — пустая оболочка. Успешный план ставит человека во главу угла посредством подготовки высококвалифицированных специализированных кадров и создания исследовательских центров, способных сформировать «армию» специалистов различных профилей, включая разведку, инженерию, психологию, экономику и политологию, чтобы создать целостную систему обороны и наступления.
Армия оборонительных систем и специальный государственный протокол
Идея «оборонительной армии искусственного интеллекта» исходит из того, что невозможно противостоять быстрой машине одними лишь медленными человеческими умами: атаки происходят со скоростью молнии, и сотрудники за экранами не способны отражать их — необходима оборонительная «автоматизация», реагирующая за доли секунды. Эта структура разделяется на три направления.
Во-первых: интеллектуальные цифровые системы
Интеллектуальный операционный центр: диспетчерский центр, который отфильтровывает тысячи незначительных предупреждений, автоматически устраняет простые проблемы, а важные и чувствительные решения передаёт руководителю-человеку.
Проактивный охотник: направление цифровых агентов для поиска любых скрытых следов злоумышленников в системе ещё до начала атаки. Профилактика обходится дешевле лечения.
Команды этического наступательного тестирования: программное обеспечение и хакеры, задача которых — постоянно атаковать государственные системы, обнаруживая уязвимости и устраняя их до того, как это сделают противники.
Во-вторых: цифровой суверенитет и защита контента
Цифровая печать: нанесение на официальные данные невидимой цифровой маркировки для защиты общества от слухов и информационного тумана. Любое заявление, не содержащее такую маркировку, считается поддельным.
Технологическая независимость: создание локального искусственного интеллекта, понимающего нашу культуру и обеспечивающего конфиденциальность государственной информации, вместо зависимости от иностранных компаний, которые могут допустить утечку данных.
В-третьих: стратегия государства и отдельных лиц
Комплексные киберучения: проверка готовности всего правительства, а не только технических подразделений, для выявления пробелов и подготовки руководителей к управлению цифровыми чрезвычайными ситуациями.
Планы обеспечения непрерывности критически важных процессов: ежегодно проверяемый план для каждого сектора, предусматривающий сценарий полной потери систем, переход на ручное управление и использование альтернативных средств связи.
Многоисточниковые технологические резервы: недопущение зависимости от одного технологического поставщика или одного государства, поскольку такая зависимость представляет собой опасную стратегическую уязвимость.
Заранее установленный локальный протокол реагирования: определение чёткой последовательности решений и конкретных полномочий для введения режима киберчрезвычайного положения, предусмотренного законодательством заранее. Кризис — не время для написания протокола.
Общественная культура безопасности: постоянные информационные кампании, обучение сотрудников и включение основ кибербезопасности в образовательные программы, чтобы осведомлённость граждан стала первой линией обороны.
Постквантовое шифрование
Существует грядущая угроза, которая в традиционном понимании не является киберугрозой, — «сверхмощные квантовые компьютеры». Когда они достигнут зрелости, они смогут взломать большинство алгоритмов шифрования, используемых сегодня для защиты государственных данных. Пугает не то, что это произойдёт в будущем, а то, что это происходит уже сейчас посредством стратегии противников: «Собери сейчас — расшифруй потом».
Сегодня противники записывают зашифрованные данные, которые просачиваются через подводные кабели и спутники, и хранят их в ожидании момента, когда в будущем шифрование будет взломано с появлением этих сверхмощных устройств.
Исходя из этого, необходим немедленный план, включающий:
— проведение полной инвентаризации алгоритмов, используемых в критически важных государственных системах;
— классификацию данных по «суверенному сроку жизни» — периоду, в течение которого данные остаются чувствительными и нуждаются в защите;
— постепенный переход к утверждённым квантово-устойчивым стандартам и обеспечение поддержки криптографической устойчивости любой новой разработки уже с первого дня.
Заключение и стратегическая рекомендация
Фактическая угроза сегодня заключается не во внезапном свержении государства, а в лишении его стратегического пространства для манёвра и подрыве доверия к его институтам в критический момент. Разница между государством, которое процветает в этой среде, и государством, которое угасает, заключается не в объёме его ресурсов, а в управленческом мышлении.
Государство, которое рассматривает кибербезопасность и искусственный интеллект как сугубо технический вопрос, который должно решать министерство связи или подразделение информационных технологий, обнаружит, что отстало на целые поколения. Государство же, которое рассматривает их как вопрос суверенитета, находящийся в ведении высшего политического руководства, окажется в положении готовности и влияния.
Окно возможностей открыто сейчас, однако отставание на один год в этой сфере эквивалентно отставанию на целое десятилетие в других областях — ввиду колоссальных темпов развития машин.
На арабском
