Курс для пентестеров, аналитиков SOC, архитекторов ИБ, DevSecOps‑инженеров и руководителей, которые хотят выйти за рамки классической ИТ‑безопасности и стать экспертами в защите ИИ‑технологий.
Пошаговая программа охватывает весь жизненный цикл безопасности ИИ‑систем: от понимания модели и границ доверия до построения архитектуры защиты, проведения red‑team‑операций и маппинга на стандарты.
📦 Блок 1 — Введение в ИИ‑безопасность
🔹 Что такое ИИ и почему он стал критической частью бизнес‑процессов
🔹 Обзор новых поверхностей атаки: LLM, RAG, ИИ‑агенты, ML‑конвейеры, внешние API
🔹 Жизненный цикл ИИ‑систем и точки контроля доверия
📦 Блок 2 — Ландшафт угроз ИИ
🔹 Prompt injection, отравление RAG, модельная инверсия, злоупотребление инструментами, атаки на цепочку поставок ML
🔹 Практические примеры из 2024‑2025 гг.: PromptLock, автономные LLM‑вымогатели
🔹 Матрица угроз MITRE ATLAS и OWASP LLM Top 10
📦 Блок 3 — Фреймворки безопасности ИИ
🔹 Google SAIF, Yandex AI‑SAFE, сравнение с NIST AI RMF
🔹 Как применять ISO/IEC 42001, ГОСТ Р 42001‑2024, ГОСТ Р 57580 и ФЗ‑152 в проектах ИИ
🔹 GAP‑анализ и построение модели угроз
📦 Блок 4 — Защита и архитектура ИИ‑систем
🔹 IAM, Zero Trust, управление секретами (KMS/Lockbox)
🔹 Сетевая изоляция, контейнерная безопасность, сканирование уязвимостей
🔹 Защита ML‑конвейеров (DataSphere, AI Studio), облачная защита (CNAPP, DSPM)
📦 Блок 5 — Red Team для ИИ
🔹 Методология тестирования, разработка многошаговых сценариев (jailbreak, цепочки атак)
🔹 Практика в песочнице Prompt Injection, отравление RAG, разработка собственных атак с MITRE ATT&CK Navigator
🔹 Рекомендации по защите и маппинг на AI‑SAFE / OWASP LLM Top 10
📦 Блок 6 — Реагирование на инциденты и SOC с ИИ
🔹 SIEM, SOAR, мульти‑агентный SOC, автоматизация задач с ИИ‑агентами
🔹 Создание runbook’ов для сценариев: prompt injection, утечка данных, компрометация модели
🔹 Практика анализа логов, построение Security Data Lake
📦 Блок 7 — Комплаенс и регуляторика
🔹 ISO 42001, ISO 27001 + 42001 + 27701, GDPR, ФЗ‑152, PCI DSS
🔹 Национальные ГОСТ Р 42001‑2024, 71476‑2024, 57580 серии, 56939‑2024
🔹 Как подготовить аудит и сертификацию ИИ‑продукта
📦 Блок 8 — Практикум и итоговый проект (Capstone)
🔹 Лабораторные работы (19 шт.) – от симуляции взлома паролей до red‑team‑атак на LLM, от сканирования контейнеров до аудита ISO 42001.
🔹 Трек A – Архитектура защиты : диаграмма, модель угроз, матрица контролей, runbook, маппинг на стандарты.
🔹 Трек B – Offensive Red Team : разведка, 5+ сценариев атак, журнал тестирования, рекомендации.
🔹 Трек C – Анализ агента с инструментами : карта инструментов, модель угроз, тесты злоупотребления, защитная архитектура.
🔹 Итоговый отчёт — 3‑5 стр., модель угроз, оценка рисков, маппинг на AI‑SAFE/SAIF/OWASP LLM Top 10/MITRE ATLAS.
📚 Что получат участники
Глубокое понимание уязвимостей ИИ‑систем и методов их эксплуатации.
Навыки построения безопасных архитектур с учётом IAM, Zero Trust и управления секретами.
Практический опыт red‑team‑тестирования ИИ и разработки runbook’ов.
Способность проводить комплаенс‑аудит по ISO 42001, ГОСТ Р и российскому законодательству.
Портфолио из 19 лабораторных работ и итогового проекта, подтверждающего готовность к реальным задачам.