Все больше историй про успешное внедрение GenAI в свой бизнес. Однако те, кто занимался этой задачей на практике, знают, как сложно получить значимые бизнес-эффекты. На пути встают экономика фронтирных моделей, неготовность бизнес-процессов к автоматизации, отсутствие контуров безопасности и многое другое. Мы приглашаем NLP-инженеров, MLOps-разработчиков и аналитиков данных обсудить эту проблему на примере опыта внедрения GenAI в операционные функции Т-Банка.
Доклады
19:00 – 19:30
Платформа агентов здорового человека
Разберем:
- Почему поддержка — самый понятный кейс для внедрения агентов.
- Что не так с текущими системами, которые называют себя платформами агентов.
- Что должно быть в платформе, которая может принести реальный эффект.
- Как мы в Т-Банке строим платформу и внедряем агентов в обслуживание.
Всеволод Викулин
Руководитель группы
Т-Банк
Т-Банк
19:30 – 20:00
Почему классическая аналитика не работает для AI-агентов и что с этим делать?
Разберем:
- Почему классическая аналитика не работает для агентов.
- Почему невозможно все мерить одной метрикой, кривые размена метрик.
- Как строить онлайн-метрики через ML-композиты.
- Как строить офлайн-метрики для агентов и учитывать доменную специфику.
Аркадий Лысяков
Руководитель направления
Т-Банк
Т-Банк
20:15 – 20:45
Как мы используем спекулятивное декодирование для ускорения LLM инференса
Разберем:
- Основные причины, почему LLM медленно генерируют ответы.
- Как спекулятивное декодирование ускоряет генерацию без потери качества.
- Популярные методы в индустрии.
- Что вам делать на практике.
Владислав Кругликов
Старший исследователь-разработчик
Т-Банк
Т-Банк
20:45 – 21:15
Путь AI-сотрудника в компании: от рождения до работника месяца
Расскажем, как мы создали AI-агента, работающего в интерфейсах живых сотрудников: от обучения на их действиях и copilot-онбординга до плавного перехода к автоматизации полного спектра операторских задач.
Сергей Филимонов
Исследователь-разработчик
Т-Банк
Т-Банк
LLM - большие языковые модели
ML - машинное обучение
GenAI - генеративный искусственный интеллект
NLP - раздел искусственного интеллекта и машинного обучения
MLOps - инженер, который автоматизирует жизненный цикл моделей машинного обучения
Подписывайтесь на Т-Банк
Код Желтый
Ютуб-канал
T-Crew
Блог на Хабре