Содержание слайдов

1. 1. AIOps / LLMOps для ИИ-продуктов

   Управленческие решения, экономика и FinOps для продакшен-контура ИИ

2. 2. Александр Поломодов

   Technical Director & Fellow, Т-Технологии

   Архитектура и инженерные практики

   Внедрение AI на масштабе разработки

   Фокус: управляемый продакшен AI

3. 3. Платформа есть. Теперь ей надо управлять

   Руководитель выбирает поведение, запуск и контроль

   Словарь уже есть — Шлюз, контекст, эвалы и защитные ограничения известны.

   Фокус на решениях — SLA, автономия и цена качества.

   Денежный якорь — Бот поддержки проверяет TCO/FinOps.

4. 4. Базовые компоненты считаем пройденными

   AIOps / LLMOps начинается после появления платформы

   Не пересказываем карту платформы

   Выбираем сервис под сценарий

   Считаем цену решенной задачи

   Фокус: управляемость AI-продукта

5. 5. 01. От базы к управлению

   Не повторяем устройство AI-платформы, а переводим его в решения руководителя

6. 6. После запуска AI становится сервисом

7. 7. Менеджер выбирает рамку

8. 8. AIOps — это контур решений

9. 9. 02. Решения менеджера

   Сценарий, автономия, цена ошибки, SLA, бюджет качества и ответственность

10. 10. До масштаба нужны решения

    Иначе AI растет быстрее контроля

    Ценность — Ценность и сценарий — Где ценность, базовая линия и SLA.

    Риск — Риск и контроль — Допустимая автономия и участие человека.

    Стоимость — Экономика и ответственность — Цена качества; владельцы продукта, данных, риска и счета.

11. 11. Цена ошибки задает автономию

12. 12. AI SLA шире uptime API

13. 13. Оценка идет от продукта

    Одинаковый стек может быть правильным или нет

    Ценность: процесс и базовая линия

    Риск: ошибка и согласование

    Экономика: цена единицы

    Операционность: выпуск и откат

    Решение объясняется не стеком

14. 14. 03. Варианты и компромиссы

    API-first, управляемая платформа, арендованные GPU, свой self-host и гибрид

15. 15. AI-runtime — портфель вариантов

16. 16. Помощник и агент — разные продукты

17. 17. Нужны правила маршрутизации

18. 18. Выбор — портфельное решение

    API-first — старт и проверка

    Аренда GPU — переходный контроль

    Свой self-host — только при нагрузке

    Гибрид — разные сценарии

    Нельзя выбрать рантайм без сценариев и финансового горизонта

19. 19. 04. Денежный кейс

    Бот поддержки: нагрузка, токены, GPU, команда и управленческий выбор

20. 20. Считаем support-бота

    200 000 диалогов в месяц, 10 сообщений в диалоге, SLA до 5 секунд

    Что считаем — Нагрузка, токены, пик, GPU, CAPEX/OPEX, команда.

    Что сравниваем — API-first, аренда GPU, свой self-host, гибрид.

    Что решаем — Путь на год и метрики пересмотра.

21. 21. Параметры кейса фиксируют масштаб решения

22. 22. Переводим параметры в RPS и параллельность

23. 23. GPT-5.2 API дает понятный стартовый OPEX

24. 24. API-first покупает скорость

    Риск — тихий рост юнит-экономики

    Почему стартовать удобно

    Почти нулевой CAPEX

    Быстрее в продакшен

    Тоньше платформа вокруг

    Что нужно контролировать

    Выходные токены, кеш, повторы

    Лимиты провайдера и деградация

25. 25. Self-host считают от SLA и пиков

26. 26. Аренда GPU меняет CAPEX на OPEX

27. 27. Self-host меняет задачу

28. 28. Сравнение стратегий: решение на первый год

29. 29. Решение должно включать точку пересмотра

30. 30. Решение по кейсу

    Стартовать API-first

    Сразу вести юнит-экономику

    Задать триггеры пересмотра

    Self-host доказывать расчетом

    Первое решение - скорость с контролем, не вечная архитектура

31. 31. 05. Управляемость и FinOps

    Дашборд, распределение затрат, пересчет юнит-экономики и 120-дневный план

32. 32. FinOps начинается с владельца счета

33. 33. Своё железо превращает счёт в платформенный

34. 34. После CAPEX начинается эксплуатация

35. 35. Общую платформу делят по понятным драйверам

36. 36. Дашборд соединяет качество, риск и деньги

37. 37. 120 дней: от сценария к масштабу

38. 38. Нельзя измерить — нельзя управлять

    Без эвалов качество кажется выше

    Без резервного сценария растет риск

    Без юнит-экономики ломается экономика

    Без ответственности начинается спор

    Управляемый ИИ начинается с решений менеджера

39. 39. Материалы

    AIOps, риск и экономика

    OpenAI: цены и документация.

    OWASP, NIST, Langfuse.

    Habr TCO, FinOps Foundation.

    Прайс-лист cloud.ru, бенчмарк Qwen2.5.

40. 40. Форма обратной связи по второму дню

    Форма обратной связи по второму дню