AI Security Specialist

Ты читаешь чужой код и видишь, где автор понадеялся на пользователя — а системы с моделью внутри почти целиком состоят из таких допущений: подсказка склеивается из чужого текста, инструмент вызывается по решению модели, документы приходят из индекса, который кто-то наполняет. Ты понимаешь, что такое права, API и хранилище, — то есть видишь не только модель, но и то, до чего она может дотянуться. Если ты автоматизируешь рутину, прогон на несколько сотен попыток ты напишешь за день.

Безопасность как предмет: веб-уязвимости, модель нарушителя, приоритизация по влиянию — без этого ты будешь находить обходы, но не сможешь сказать, чем они опасны. Не хватает дисциплины измерения недетерминированного поведения: здесь нельзя показать один удачный скриншот, нужна выборка и методика. И трезвого взгляда на рынок: реалистичная ближайшая должность для тебя — AppSec с задачами по ИИ, а не отдельная роль по безопасности ИИ.

Ты умеешь описать поломку так, что её воспроизведут без тебя, и умеешь строить наборы проверок, а прогон для оценки модели — это и есть набор тест-кейсов, только с вероятностным исходом. Профессиональная привычка искать расхождение между замыслом и поведением переносится сюда напрямую: почти вся работа состоит из вопроса «а что будет, если сюда положить не то, что ты ожидаешь».

Код как рабочий инструмент — прогоны пишутся, а не кликаются. Безопасность приложений целиком: права доступа, границы доверия, что даёт злоупотребление. И тяжёлая смена привычки: здесь дефект не воспроизводится стабильно, и «плавающий баг», который в тестировании считается плохо оформленным, тут является нормальной формой результата.

Ты уже живёшь в мире выборок и аномалий: для тебя «сработало 4 раза из 200» — это число, а не анекдот, и ты понимаешь, почему одна удачная попытка ничего не доказывает. Ты умеешь объяснить бизнесу, почему цифра поехала, — а вся отчётность в этой работе именно такая. Если ты автоматизируешь выгрузки, инструменты прогонов освоишь быстро.

Вся безопасность целиком — это самый длинный кусок пути, и его нельзя обойти интересом к моделям: без веб-безопасности и понимания прав доступа оценка системы превращается в перечень забавных ответов модели. Не хватает разработки в объёме «пишу и правлю сервис», а не «пишу запросы». Реалистично для тебя это третья, а не следующая работа.

Ты владеешь конвейером и инфраструктурой — а у систем с моделью есть своя цепочка поставки: откуда взяты веса, кто и что положил в индекс документов, какие внешние сервисы вызываются на каждом запросе. Это направление недооценено и почти никем не закрыто. Плюс рефлекс автоматизации и понимание прав в рантайме — а именно правами инструментов чаще всего и ограничивают такие системы.

Слой приложения и слой модели одновременно: как устроен запрос к модели, что такое контекст, чем поиск по документам отличается от дообучения. Не хватает безопасности приложений как предмета. И честная оговорка: из твоей позиции путь в DevSecOps или в облачную безопасность и короче, и с реальными вакансиями — сюда стоит идти, только если тема действительно твоя.

У тебя есть подтверждённый артефактом опыт настоящих попыток взлома и терпимость к долгому поиску без гарантии результата — а это работа, где неделя попыток может закончиться ничем, и это нормальный исход. Публичные разборы и репозиторий здесь ценятся выше сертификатов, так что твой формат подготовки совпадает с тем, как в этой нише нанимают.

Производственный контекст: у системы есть владелец, дата запуска и цена простоя, и твоя задача не показать эффектный обход, а сказать, можно ли это выпускать и с какими ограничениями. Не хватает написанного разбора, который выдержит чужую придирку, — демонстрации обхода недостаточно. И базовой безопасности приложений: без неё непонятно, чем заканчивается успешный обход.