Илья Федотов

Илья Федотов — AI-инфраструктура и MLOps

Инженер и технический руководитель в AI-инфраструктуре и MLOps. Восемь лет в инфраструктуре, четыре из них — в MLOps. Работаю с облачными AI-платформами, GPU-инфраструктурой и промышленным инференсом моделей, руковожу командами, которые всё это эксплуатируют. Работа лежит между архитектурой и поставкой: выбрать решение, довести до релиза, эксплуатировать и посчитать, во что обходятся вычисления.

Удалённо. К командировкам готов. Русский родной, английский Advanced.

// опыт

2025.09 → н.в.

Head of Engineering

GPU-облако и платформа AI-инференса · Singularity Compute

MLOps Lead до середины 2026 года, Head of Engineering с тех пор.

  • Отвечаю за инженерный роадмап платформы и вытекающие из него приоритеты.
  • Веду инференс и его оптимизацию: размещение моделей по ускорителям, разбиение моделей между устройствами, диагностика вглубь стека ускорителей.
  • Нагрузочное тестирование и сравнение конфигураций инференса по задержке первого токена, скорости генерации и пропускной способности; оценка приёмов, которые меняют память или точность на задержку.
  • Работал над шлюзом к моделям — совместимый API инференса, потоковые ответы, потокенный учёт — и его интеграцией с backend, авторизацией и биллингом.
  • Найм, планирование и поставка в инженерной группе.
  • Работаю со стейкхолдерами: превращаю запросы клиентов и партнёров в технические планы, которые можно построить.
2024.10 → н.в.

Head of MLOps

SingularityNET · параллельно

Продуктовый владелец Compute — платформы, которая стала отдельной компанией.

  • Отвечаю за роадмап мультитенантной ML-платформы на публичных облаках и собственном железе.
  • Проектирую и эксплуатирую GPU-инфраструктуру для обучения и высоконагруженного инференса; постоянные ограничения — производительность, надёжность и стоимость.
  • Руковожу кросс-функциональными командами backend, MLOps, DevOps и ML: приоритеты, декомпозиция, технический review, найм, поставка.
2022.12 → 2024.10

AI R&D, MLOps

SingularityNET

  • Платформенная инженерия для serverless и микросервисных архитектур — обычные IT-, ML-, DL- и блокчейн-проекты.
  • Пайплайны обучения и инференса, feature store, непрерывная поставка, DWH и Data Lakes.
  • Реагирование на инциденты, анализ рисков, управление проектами.
2019.09 → н.в.

Заместитель руководителя лаборатории

Внутренняя платформа разработки и ML-платформа на своём железе · NaInt · параллельно

Системный инженер с 2019 года, team lead системной инженерии с 2021, заместитель руководителя с 2023.

  • Руковожу кросс-функциональными командами — MLOps, DevOps и ML SWE, — которые строят платформы под внутренние продукты и заказные AI-решения.
  • Определяю техническую стратегию, курирую регистрацию ПО, организую передачу знаний между командами.
  • Найм и менторство; пересборка R&D- и продуктовых команд; постановка аутстафф-команд.
  • Раньше: проектирование архитектуры дата-центра под ML-задачи, on-prem обучение и инференс, ML- и DL-сервисы в проде, непрерывная интеграция и поставка.
2022.01 → 2022.03

Стажировка DevOps CI/CD, L2

EPAM Systems

  • Подготовка на mid-позицию: цикл поставки ПО.
2018.07 → 2019.08

Инженер IT-инфраструктуры

Онлайн Коммуникации · Санкт-Петербург · частичная занятость

  • Автоматизация внутренних сервисов.

// стек

платформыKubernetes, Docker, Helm, Linux, AWS, GCP, EKS, bare metal автоматизацияTerraform, Ansible, ArgoCD, GitOps, GitLab CI/CD, GitHub Actions инференсvLLM, Triton Inference Server, ONNX Runtime, Ray, tensor parallelism, квантование, speculative decoding, переиспользование KV-кэша ускорителиNVIDIA GPU, CUDA, NCCL, Mellanox InfiniBand агентыTool calling и function calling, мультиагентные системы, агентские харнессы, агентный RAG, LLM-шлюзы и трассировка ml-инструментыMLflow, DVC, feature store наблюдаемостьPrometheus, Grafana, Loki, ELK, InfluxDB данные / кодPython, Bash, SQL, PostgreSQL, Redis, S3, MinIO, Ceph руководствоРоадмап платформы, техническая стратегия, найм и менторство, управление поставкой, владение SLA/SLO, оптимизация затрат

// открытый код

агенты Harness-engineering · deepagents_multiagent · BobaClaw Репозиторий, устроенный так, чтобы агенты могли внутри него планировать, править, тестировать и оценивать результат. Рядом — мультиагентные эксперименты. голос ha-nlu-router · home-assistant-tool-calling Локальное голосовое управление Home Assistant без облачной LLM. Классификатор только выбирает интент из закрытого списка, вызов сервиса пишет детерминированный код. инференс vllm-omni-sparse-attention · central-llm-gateway Разреженное внимание поверх vLLM и self-hosted LLM-платформа с авторизацией, квотами и трассировкой. сети BibaVPN Устойчивый к DPI туннель поверх TLS и WebSocket для одной VPS. Мой самый популярный репозиторий. остальное github.com/Eljaja Android-VPN через Telegram, принтер Брайля и ещё сорок репозиториев.

// публикация

2026.03 Good-Enough LLM Obfuscation (GELO) Анатолий Беликов, Илья Федотов. arXiv:2603.05035, разделы cs.CR и cs.LG. Приватный инференс LLM на недоверенных ускорителях.

// образование

2023 Магистр, интернет вещей и прикладной искусственный интеллект СПбГУТ им. проф. М. А. Бонч-Бруевича 2021 Бакалавр, автоматизированные системы обработки информации и управления СПбГУТ им. проф. М. А. Бонч-Бруевича