Эксперт по безопасности GenAI-моделей и приложений (исследование и разработка PoC)

В нашу команду RedTeam AI ищем Эксперта по безопасности GenAI-моделей (LLM/MLLM) и приложений (исследование и разработка PoC))Обязанности Что будем делать? Обеспечивать безопасность GenAI-моделей и приложений с их использованием, используемых миллионами пользователей Анализировать новые инциденты, методы атак и защиты Оценивать защищенность существующих моделей и приложений в Банке Разрабатывать и создавать работающие примеры атак (PoC) для демонстрации уязвимостей Разрабатывать скрипты, инструменты и методики для тестирования моделей и приложений на устойчивость к новым методам атак Проводить тесты на реальных моделях и приложениях Оценивать эффективность существующих мер защиты и предлагать улучшения Выполнять подготовку заключений и рекомендаций по повышению защищенности Участвовать и выступать на ключевых внешних и внутренних ИТ-мероприятиях, публиковать статьи и технические отчеты Требования Мы ожидаем, что Вы: Имеете высшее образование в области информационной безопасности, компьютерных наук, прикладной математики или смежных дисциплин, либо эквивалентный практический опыт Владеете Python, пишете чистый и понятный код Владеете математической статистикой и теорией вероятности Понимаете основы процессов обучения и дообучения современных LLM/MLLM, а также трудности с safety / security этих моделей и (мульти-)агентных систем на их основе Будет плюсом: Участие в соревнованиях по атакам на модели GenAI Опыт работы с PyTorch, transformers, LangChain, rigging, TransformerLens или аналогичными библиотеками Знание основ безопасности GenAI и умение ориентироваться в базовых документах, таких как OWASP Top 10 for LLM, MITRE Опыт представления результатов своей работы широкой аудитории Умение интерпретировать результаты исследований как бизнес-результаты 2+ лет релевантного опыта работы, включая опыт в академической среде Условия ДМС с первого дня, cпециальные условия страхования для ближайших родственников; Льготные условия кредитования, ипотеки; Cпортзал (фитнес, йога, кроссфит); Возможность посещения (как в качестве слушателя, так и в качестве выступающего) IT-конференций; Работа в команде профессионалов, возможность разрабатывать уникальные и крупные проекты масштаба всей страны; Высокие премии по итогам успешной работы.