NLP инженер (GigaChat)

Мы - команда GigaChat Pretrain Data, готовим pretrain данные для GigaChat и GigaChat Vision. Данных много. Очень много (40+ Пб сырого хаоса). Если хочется не просто тренировать модели, а работать с реально большими данными, то вот твой шанс :) Подробнее о том, чем занимается команда можно посмотреть в докладе от лида команды Ивана Баскова на HighLoad++ 2024 "Как мы варим данные Gigachat Pretrain"Обязанности чистить данные по узким доменам (аниме, игры, сериалы, книги, фильмы) → LLM-парсинг + Code Execution Feedback делать пайплайны для экспериментов (модели 400M – 32B), всё красиво в wandb фильтровать данные так, чтобы метрики росли доставать из книг задачи по математике → сиды для синтетики генерить синтетические данные → на тысячах GPU разбираться с токенизацией → сколько букв "r" в "strawberry"? кластеризовать данные → чистим данные от мусора, прежде чем модель начнёт верить в астрологию писать дедупликацию на Rust → миллиарды документов, но не за O(n²) оптимизировать MapReduce → Spark, тысячи ядер (опыт с YTsaurus - плюс) экспериментировать с SFT и RL → DPO, DRPO, увеличиваем качество синтетики. Требования выпускник ШАД/ ВШЭ Факультета компьютерных наук/ МФТИ Факультета инноваций и высоких технологий и/или имеешь коммерческий релевантный опыт в роли NLP Engineer от двух лет Будет плюсом: навыки работы с генеративными AI-моделями; опыт создания AI-агентов и использования их в работе будет преимуществом опыт использования GigaChat, Kandinsky и аналогов в продуктах, навыки создания и использования AI-агентов инструментальное владение AI для анализа, генерации и автоматизации. Условия комфортный современный офис рядом с м. Кутузовская гибридный формат работы (2 дня в офисе, 3 дня на удалёнке) ежегодный пересмотр зарплаты, годовая премия корпоративный спортзал и зоны отдыха система обучения для профессионального и карьерного развития расширенный полис ДМС с первого дня работы и страхование для семьи льготная программа ипотеки для сотрудников бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров вознаграждение за рекомендацию друзей в команду Сбера.