AI Security Engineer
Защищает модели, LLM-сервисы, AI-агентов, данные и инфраструктуру от атак, утечек и небезопасного поведения.
О профессии
AI Security Engineer специализируется на угрозах, характерных для систем искусственного интеллекта. Он моделирует атаки на LLM и ML-системы, проверяет защиту от prompt injection, утечек, data poisoning и model extraction, оценивает безопасность датасетов и цепочки поставки AI-компонентов, участвует в проектировании защищённой архитектуры и интеграции с SOC. На российском рынке это пока редкая специализация внутри кибербезопасности.
Кому подходит
- Подходит специалистам по кибербезопасности
- которым интересны новые классы атак на модели и AI-инфраструктуру. Нужны любознательность
- склонность искать нестандартные способы обхода защиты и хорошее понимание современных AI-систем.
Основные задачи
- Моделирование угроз AI-систем
- Тестирование LLM на атаки
- Защита AI-инфраструктуры
- Анализ утечек данных
- Проверка датасетов и моделей
- Разработка защитных мер
- Интеграция мониторинга с SOC
Ключевые навыки
Как войти в профессию
- Разобраться в роли.Сопоставьте реальные задачи профессии со своими интересами и опытом.
- Собрать базу.Ориентир по времени обучения в каталоге — 2–3 года.
- Закрепить навыки практикой.Начните с навыков: Information Security, LLM Security, Threat Modeling.
- Проверить спрос.Изучите свежие вакансии начального уровня и требования к портфолио.
Востребованность и влияние ИИ
Перед выбором стоит отдельно проверить вакансии в нужном регионе и отрасли.
Большая часть ценности связана с контекстом, ответственностью или работой с людьми.
Карьерный путь
Security Engineer → AI Security Engineer → Senior AI Security Engineer → AI Security Lead → Архитектор безопасности AI → Руководитель направления
Плюсы
Минусы
Статьи об этой профессии
Статей пока нет
Другие материалы уже доступны в журнале.