曾在腾讯、滴滴任职,当前在挚文集团计算智能部担任工程团队负责人。主要在推荐系统架构、AI Infra 方面有长时间投入,曾在系统架构师大会分享陌陌推荐场景的 Rank 架构最佳实践。
挚文集团推荐工程架构从草莽时代到生成式推荐的进阶之路
重点介绍挚文集团推荐工程架构从早期起步阶段逐步演进至生成式推荐的完整发展历程。
首先回顾推荐系统经历的三个重要发展阶段,随后深入拆解推荐中台化方案如何通过全流程配置化实现业务逻辑与模型结构的有效解耦,显著提升算法研发与全团队迭代效率。在AI基础设施层面,将介绍超大规模稀疏模型实时训练体系的关键技术,以及如何结合大语言模型突破推理性能瓶颈。进一步聚焦生成式推荐的落地实践,探讨LLM技术在推荐流程中的控制与对齐机制,以及中台化架构如何支持生成式方案的快速验证与迭代。最后,我将分享团队在工程落地中面临的核心挑战与应对策略,包括全动态化系统的故障定位、性能优化与非标需求支持,以及生成式模型推理效率的提升路径。
通过本次分享,帮助大家深入了解推荐系统架构的演进方法论、在有限资源下提升研发效能的技术手段,以及生成式AI在推荐场景下的应用实践与未来方向。
演讲提纲:
1、挚文集团推荐工程发展三阶段
2、拆解从原始到推荐中台化方案解决的关键问题
3、讲解生成式方案的探索以及中台化方案和生成式LLM结合落地方案
4、给出团队下一步工程痛点
听众收益:
- 对于工程架构,如何做到问题解构,通过架构设计做到方案逐步升级
- 如何在有效人力条件下,通过技术手段提升团队迭代效率
- 在AI场景下,如何快速落地生成式方案验证以及提升
