Основы AI-платформы
Базовое введение: из чего состоит платформа для ИИ-продуктов и почему без нее демо плохо превращается в прод
Базовое введение: из чего состоит платформа для ИИ-продуктов и почему без нее демо плохо превращается в прод
Базовое введение: из чего состоит платформа для ИИ-продуктов и почему без нее демо плохо превращается в прод
Technical Director & Fellow, Т-Технологии
Архитектура и engineering RnD
AI в процессах разработки
Фокус: платформа, не чат
Переход от эффектного демо к повторяемому способу запускать ИИ-продукты
После прототипа важны качество, доступ, стоимость, ответственность
Повторяемость — Команды используют общие шаблоны, SDK и правила выпуска.
Контроль — Права, аудит и резервный сценарий становятся частью платформы.
Экономика — Стоимость измеряется на уровне решенной задачи.
Модель не решает эксплуатацию и изменения
Команды заново выбирают стек
Ошибки качества не воспроизводятся
Права и знания расходятся
Бюджет не связан с value
Модельный слой, контекст, инструменты, безопасность, оценка, наблюдаемость и экономика
Нижние слои дают инфраструктуру и контроль, верхние — продуктовую скорость
Минимальный словарь для разговора о платформе до погружения в AIOps
Routing, limits, fallback, audit, cost
Что дает gateway
Единая точка подключения моделей и self-host.
Маршрутизация, квоты, аудит и защита ключей.
Что остается продукту
Выбрать сценарий, качество и допустимую задержку.
Описать fallback и стоимость задачи.
Ответ зависит от того, что модель получила
Знания: retrieval и freshness
Tools: права и approvals
Память: пользователь и процесс
Ограничения: видеть/говорить/делать
От идеи и спецификации до оценки, выпуска, мониторинга и улучшения
Платформа превращает разовый эксперимент в повторяемый процесс выпуска
Иначе теряется связь намерения и результата
Спецификация
Intent, данные, права
Сценарий отдельно от реализации
Контракт бизнеса и платформы
Оценка
Test set, baseline, review
Эффект model/prompt/retrieval
Основание для выпуска
Модель может измениться без code diff
Версионируем prompt, retrieval, model
Evals, shadow, canary, review
Резервный сценарий и owner заранее
Observability: quality, cost, signals
Build-time, run-time, control-plane и cost-plane как четыре разные задачи управления
Если смешать эти задачи, команда быстро получает дорогой и плохо контролируемый runtime
Платформа задает рамку, продукт — задачу
Что дает платформа
Gateway, RAG, evals, audit
Golden path и CI
Security, access, PII, cost
Что делает продукт
Сценарий, user, success, risk
Domain knowledge, UX, feedback
Решение о готовности
Иначе безопасность изобретается заново
Access до retrieval/tool/answer
PII и secrets через policy
Опасные действия требуют approval
Исключения оформляются явно
Кто владеет платформой, сценариями, данными, риском и экономикой
Качество AI-продукта рождается на стыке платформы, продукта, данных и риска
Зрелость видна не по числу моделей, а по скорости, качеству, надежности и экономике
Дальше: эксплуатация, агенты, evals, экономика
Платформа — повторяемый способ запуска
Минимум: gateway, context, evals
Платформа дает рельсы
Продукт держит качество и риск
Следующий шаг: управлять AI-системой как рабочим продуктом
Для дальнейшего погружения
OpenAI, Claude, Gemini, Yandex docs.
LangChain platform concepts.
Cloud/Data Platform/DataOps lectures.