Data Scientist (AI Safety)

Мы стремимся к развитию искусственного интеллекта и понимаем, что создание безопасной и надежной платформы крайне важно для нашей миссии и наших клиентов. Поэтому мы ищем инженера, который поможет нам развивать возможности в сфере доверия и безопасности. В этой роли вы будете работать над системами предотвращения рисков связанных с фактологическими и контекстными галллюцинациями больших языковых моделей и ИИ-агентов, проявлений токсичности и дискриминации и предотвращеним злоупотреблений. Вы будете обучать и дообучать мультимодальные модели, создавать новые архитектуры моделей и проектировать тактики их применения например такие как создание guardrails. Если вам близок дух Bell Labs/Xerox PARC в их лучшие годы — исследовать, проверять гипотезы и доводить до прома — вам к нам.Обязанности разрабатывать, создавать и поддерживать решения для борьбы со злоупотреблениями, модерации контента, детекции галлюцинаций, предназначенную для защиты компании и конечных пользователей от нежелательного поведения тесно сотрудничать с другими инженерами и исследователями для использования как стандартных, так и новых методов ИИ с целью измерения, мониторинга и улучшения соответствия AI-моделей и ИИ-агентов человеческим ценностям изучать статьи, материалы профильных российских и мировых конференций по AI Safety и участвовать в них выявлять и устранять активные инциденты на платформе, а также создавать новые инструменты и инфраструктуру, которые устраняют первопричины сбоев в системе. Требования опыт работы в сфере безопасности контента, борьбы с мошенничеством или злоупотреблениями, либо мотивированы и горите желанием работать над актуальными вопросами безопасности ИИ владение Python или современными языками, такими как C++, Rust или Go, и готовы быстро освоить Python опыт развертывания классификаторов или модели машинного обучения, или желание познакомиться с современной ML-инфраструктурой опыт проектирования и обучения нейросетевых архитектур — от классических CNN/RNN до современных трансформеров опыт разработки ИИ-агентов и общее понимание передовых архитектур MAS опыт создания и поддержки производственных сервисов в условиях быстрого роста и масштабирования навык критической оценки рисков нового продукта или функции и нахождения инновационных решений для их mitigation, не ухудшая пользовательский опыт. Условия гибридный/удаленный формат работы в Санкт-Петербурге: IT Хаб Сбера, Уральская, д.1 (ст.метро Василеостровская/Спортивная) ежегодный пересмотр зарплаты и годовая премия корпоративный спортзал и зоны отдыха более 400 образовательных программ СберУниверситета для профессионального и карьерного развития расширенный ДМС, льготное страхование для семьи гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров вознаграждение за рекомендацию друзей в команду Сбера.