千条广告抢一个30秒位置,AI如何在100毫秒内做出选择?
JioHotstar 发布广告请求工作流工程概述,其AI驱动决策系统在100毫秒内从数千个候选广告中选出最优组合,平衡个性化、实时性与大规模并发,重新定义流媒体广告的智能边界。
JioHotstar 发布广告请求工作流工程概述,其AI驱动决策系统在100毫秒内从数千个候选广告中选出最优组合,平衡个性化、实时性与大规模并发,重新定义流媒体广告的智能边界。
当观众在视频播放中遇到一个广告机会点,背后并非简单的「随机抽取」。广告请求携带的上下文信息——内容元数据、用户画像、设备特征、实时库存状态——构成了一个高维决策空间。
传统方法与此有本质区别。
固定广告位、粗粒度人群定向、人工调整投放策略。响应慢,无法应对实时竞价与个性化需求。
实时特征提取、算法自动匹配、动态优化目标。在 100 毫秒内完成从请求到响应的全链路决策。
JioHotstar 的架构显示,广告决策工作流并非一次简单的查询操作,而是涉及多个阶段的协同:候选广告评估、定向规则应用、节奏控制计算、最终响应生成。这套流程的核心,是让 AI 算法在极短的时间内完成「海量筛选 → 精准匹配 → 组合优化」的闭环。
注:对比基于公开工程文档整理,传统方案指未引入实时算法引擎的广告系统,AI 方案以 JioHotstar 当前架构为参考。
系统采用瀑布式分层方法,结合 PID(比例-积分-微分)和 SHALE 两种节奏控制算法,在广告活动投放要求、库存分配与广告主约束之间寻找最优解。这不是单一模型的推理,而是多个算法的协同决策。
注:候选广告数量为系统典型负载下的估算值,实际值因广告库存与定向条件浮动。决策延迟包含网络传输与后端计算。
PID 算法负责控制投放节奏——防止广告活动在短时间内消耗完预算,同时确保达到预期曝光量。SHALE 算法则进一步在多个广告活动之间做资源分配,处理优先级与公平性的权衡。两种算法叠加,在每一轮决策中实时计算最优组合。
一个诚实的注脚:算法并非万能。
工程负责人 Pawan Nagar 指出,保持低延迟、应对海量流量、使用缓存以及维持服务可靠性,才是真正的后端挑战。算法再强,也需要工程架构兜底——分布式协调、故障重试、部分服务降级,这些机制共同保证了 100 毫秒的承诺。
广告决策不是单一节点的计算,而是一条多服务协作的链路。JioHotstar 的架构将整个过程拆解为若干阶段,每个阶段由专门的分布式服务负责:
这条链路中的每一个环节都面临工程挑战:广告库存服务需要实时更新可用广告位;决策引擎要在毫秒级完成算法计算;追踪系统负责收集投放数据用于后续优化。各服务之间通过轻量级通信协议协调,任何一个环节的延迟波动都会影响整体体验。
这还不是全部。
系统还需要处理故障重试、部分服务降级、数据一致性等问题。工程团队与广告运营团队协作,持续监控服务健康状态,排查请求路径中的瓶颈。JioHotstar 的架构参考了 OpenRTB 行业标准,但在此基础上构建了额外的内部服务,用于个性化、内容感知型定向和特定业务的决策逻辑。
实时广告决策 AI 系统正在从「规则引擎」进化到「算法引擎」,但真正的护城河不在模型,而在工程。
JioHotstar 已公开其广告请求工作流的工程架构设计,相关技术文档与实现思路可供行业参考。实时广告决策 AI 系统的能力边界,正在被工程创新持续拓宽。