Глава 8 из 10
Глава 8. Эксплуатация видео-ИИ: сервинг, стоимость, регуляторика
Пять статей по порядку – 2 часа 13 минут чтения. Ниже маршрут главы: высота каждого шага соответствует времени чтения.
Глава 8 из 10дальше: Отраслевые плейбуки: ИИ по индустриям
Всё, что начинается после того, как модель заработала: стенды оценки и LLM-as-judge, инференс-сервинг на vLLM и Triton, дистилляция и квантизация под edge, двадцать пять рычагов стоимости и требования EU AI Act к биометрии.
Маршрут главы
5 статей · 2 ч 13 мин8.1Стенды оценки ИИ-функций видео – LLM-as-judgeСтенд оценки – это испытательная установка для ИИ-функции, результат которой нельзя проверить простым сравнением с…26 мин·от начала главы 0 ч 0 мин8.2vLLM + Triton + TensorRT – Инференс-сервинг Для Видео-ИИИнференс-сервинг – это слой, превращающий обученную модель в быстрый и постоянно доступный сервис, к которому обращается…27 мин·от начала главы 0 ч 26 мин8.3Дистилляция + Квантизация Для Edge Видео-ИИДистилляция и квантизация – два способа сжать ИИ-модель, чтобы она могла работать на маленьком, дешёвом и часто не…25 мин·от начала главы 0 ч 53 мин8.4Оптимизация затрат – 25 рычагов для видео-ИИ в масштабеСчёт за ИИ в видео-продукте редко зависит от одного крупного решения – он складывается из множества мелких, и хорошая…26 мин·от начала главы 1 ч 18 мин8.5Регуляторный инжиниринг видео-ИИ по EU AI ActБольшинство функций видео-ИИ попадают в одну из четырёх юридических категорий – полностью запрещены, высокий риск,…29 мин·от начала главы 1 ч 44 мин
Строите такую систему?
Поможем выбрать кодек и собрать пайплайн под ваши объёмы – 20 лет в видеоразработке, 250+ проектов.