DevOps Lounge

DevOps Lounge — вечерний митап Orion soft и Онтико для тех, кто проектирует и эксплуатирует инфраструктуру и кому в эту инфраструктуру уже приехали LLM.

Дима Матушкин из Nova AI расскажет, как они собирали AI Gateway. Модель запущена, и дальше надо решать, кто может к ней обращаться, сколько токенов тратить и куда отправлять запрос, если модель недоступна. В докладе — RBAC, квоты, трейсинг, умная балансировка и фейловер, а ещё guardrails, которые снижают риск утечки персональных данных.

Сергей Харламов из VK Tech покажет, что вышло, когда агента подключили к Jira и рабочему мессенджеру команды. У такого «второго тимлида» можно спросить про сроки, попросить документацию или ревью и даже поручить выкатить фичу на стейдж. Апрув при этом всё равно даёт живой тимлид.

После докладов ужинаем, смотрим шоу-игру от коллег и сравниваем, как похожие задачи решают в разных командах.

Митап пригодится DevOps- и MLOps-инженерам, тимлидам и архитекторам. Участие бесплатное: можно прийти в зал или подключиться онлайн. После регистрации придёт письмо с приглашением на офлайн-встречу или ссылкой на трансляцию.