Кибербезопасность как основа безопасного внедрения искусственного интеллекта в Казахстане

В Казахстане сформирована система защиты цифровой инфраструктуры, объединяющая государственные технические службы, центры мониторинга и реагирования на киберинциденты, а также частные экспертные организации. Их компетенции создают основу для безопасного внедрения искусственного интеллекта в государственном секторе и бизнесе.

Развитие ИИ требует защиты не только данных и инфраструктуры, но и самих приложений от вмешательства в их работу. Для ИИ-систем особое значение имеют предотвращение утечек конфиденциальной информации, контроль доступа, выявление уязвимостей и противодействие манипуляциям входными данными и запросами пользователей.

Развитие национальной системы кибербезопасности отражено и в международной оценке. По итогам Глобального индекса кибербезопасности Международного союза электросвязи (Global Cybersecurity Index 2024) Казахстан набрал 94,04 балла из 100 и вошёл во вторую группу стран - Tier 2 (Advancing).

Индекс оценивает правовые, технические и организационные меры, развитие потенциала и международное сотрудничество. Сформированные в этих направлениях компетенции создают основу для дальнейшего развития безопасности цифровых сервисов, включая решения с применением искусственного интеллекта.

Источники:

1. МСЭ — доклад Global Cybersecurity Index 2024 (перечень государств по группам)
2. МСЭ — профиль Казахстана в докладе GCI 2024 (PDF)
3. МСЭ — публикация о 31-м месте Казахстана в GCI 2020
4. МСЭ — официальный раздел GCI и сведения о подготовке шестой редакции

1. Функции АО «Государственная техническая служба» (ГТС)

АО «Государственная техническая служба» осуществляет технические функции по обеспечению кибербезопасности цифровых объектов, включая испытания защищённости, анализ программного обеспечения и защиту инфраструктуры. Эти направления имеют непосредственное значение для цифровых систем, в состав которых входят компоненты искусственного интеллекта.

ГТС также рассматривает специфические риски безопасности ИИ, угрозы утечки данных при использовании больших языковых моделей, недостоверность генерируемой информации, уязвимости программной среды и атаки посредством внедрения вредоносных инструкций в запросы к модели — Prompt Injection. Таким образом, вопросы безопасности ИИ уже присутствуют в экспертной повестке организации.

Источники:

1. Закон РК «О кибербезопасности» — статья 14, ИПС «Әділет»
2. АО «ГТС» — официальный сайт
3. АО «ГТС» — сведения о мониторинге и НКЦКБ
4. Функции Государственного оперативного центра кибербезопасности

Государственный оперативный центр обеспечивает мониторинг безопасности государственных цифровых объектов, выявление угроз и инцидентов и сопровождение реагирования. Его функции реализуются в рамках Национального координационного центра на базе ГТС.

При внедрении ИИ в государственные информационные системы такие механизмы могут использоваться для защиты инфраструктуры ИИ-сервисов: выявления несанкционированного доступа, подозрительной активности, компрометации учётных записей и нарушений безопасности данных. Мониторинг и реагирование создают необходимый эксплуатационный уровень защиты, который должен дополняться проверкой специфических рисков самих ИИ-моделей.

Источники:

1. Закон РК «О кибербезопасности» — статьи 7-4, 9 и 14, ИПС «Әділет»
2. Правила функционирования программы взаимодействия с исследователями кибербезопасности, ИПС «Әділет»
3. Деятельность TSARKA (ЦАРКА) в сфере кибербезопасности

TSARKA (ЦАРКА) является частной организацией, специализирующейся на оказании услуг в сфере кибербезопасности. В отличие от государственных органов и организаций, выполняющих предусмотренные законом государственные функции, TSARKA осуществляет профессиональную и коммерческую деятельность по защите цифровой инфраструктуры заказчиков.

В числе основных направлений деятельности — услуги оперативного центра кибербезопасности (SOC), включая круглосуточный мониторинг событий, обнаружение киберинцидентов и сопровождение реагирования; проведение технического анализа и расследований; тестирование на проникновение (Pentest), оценка защищенности веб-приложений, мобильных приложений, API, сетевой и облачной инфраструктуры.

Кроме того, TSARKA осуществляет работы по оценке уязвимостей и моделированию действий нарушителя (Red Team), оказывает консультационные услуги по безопасной разработке и проверке защищенности программного обеспечения, а также развивает платформу Tumar.One (Bug Bounty), обеспечивающую взаимодействие организаций с независимыми исследователями для выявления и устранения уязвимостей.

Таким образом, функции TSARKA носят преимущественно сервисный и экспертно-технический характер и не являются государственными контрольными либо регуляторными полномочиями.

Источники:

1. TSARKA — официальный сайт компании
2. TSARKA SOC — круглосуточный мониторинг и реагирование
3. TSARKA — тестирование на проникновение и оценка защищенности
4. TSARKA — платформа Bug Bounty Tumar.One