Сбер
Стажёр ML Engineer — GigaChat Data
Не указана
зарплата не указана в источнике
ОткликнутьсяОбновлено ноябрь 2026 г.
ФорматОфис
Тип занятостиСтажировка
ОпытБез опыта
О компании
Сбер — крупнейший банк России и технологическая компания, развивающая финтех, ИИ и цифровые сервисы.
О компании
Готовим данные для GigaChat и GigaChat Vision — от pretrain с нуля до alignment. Собрали корпус на 15 триллионов токенов. Открыли GigaChat 3.1 (702B) и GigaChat 3.5 (432B). Опубликовали статью на ACL; ещё две статьи проходят ревью на A*-конференциях. У нас — сильная исследовательская команда, сложные
Чем предстоит заниматься
в LLM и мультимодальности и ресурсы для проверки новых идей. Чтобы познакомиться с работой команды Наши доклады: Данные и инфраструктура GigaChat — HighLoad++ 2025 Качество данных и эксперименты — AiConf 2025 Синтетические
Чем предстоит заниматься
- по программированию — AiConf 2026 Как это делают другие команды: NVIDIA Nemotron-CC
- Hugging Face SmolLM3
Чем предстоит заниматься
- Улучшать pretrain-данные: обучать модели оценки качества, кластеризовать корпуса, подбирать смеси и измерять их влияние на качество модели.
- Создавать alignment-данные для SFT и RL в разных доменах: инструкции, предпочтения и агентные траектории; разрабатывать среды, задачи и проверки для обучения работе с инструментами.
- Генерировать синтетику для математики, кода и reasoning; проверять решения исполнением кода и моделями-судьями.
- Исследовать density sampling, способы токенизации с упаковкой последовательностей, включая best-fit packing; проверять гипотезы в ablation-экспериментах.
- Готовить датасеты для мультимодального обучения, включая interleaved-данные с чередованием текста и изображений.
- Масштабировать обработку сотен миллиардов веб-документов и OCR миллиардов PDF; ускорять распределённые пайплайны и генерацию на GPU.
Что мы ждем от тебя
- Уверенный Python, алгоритмы и структуры данных; основы ML, линейной алгебры и вероятности.
- Практику с PyTorch, NLP/CV или данными — учебные и личные проекты подходят.
- Linux и Git, чтение статей на английском, умение проверять гипотезы и доводить задачи до результата.
- Активное использование AI-агентов в работе.
- LLM/VLM, vLLM/SGLang, Spark/YTsaurus, C++/Rust;
- исследовательские проекты,
- ML-соревнования или олимпиадное программирование.
Условия
- MacBook M4 (с VPN), корпоративные подписки на AI-агентов.
- 50 тысяч CPU и большое количество GPU для обработки данных, обучения и синтетики.
- После успешной стажировки — переход в штат команды.
Как откликнуться
Нажмите «Откликнуться», заполните короткую форму и прикрепите резюме. Команда обычно отвечает в течение 3 рабочих дней.