云器科技联合创始人兼 CTO,曾任阿里巴巴 P10 研究员,主导了阿里云飞天大数据平台二代研发及落地,曾于微软云计算和企业事业部工作近十年,浙江省科技进步一等奖获得者。
Big AI Data时代下,小红书数据架构的演进
2022年随 LLM/AGI 的革命性突破,数据平台迎来了第三次革命,半非结构化数据的处理能力被AI解锁,数据规模再一次触碰10倍扩展的潜力。
数据平台从业者开始面临两两方向的挑战:
- 已有数据平台架构仍有诸多挑战,如何升级,例如 Lambda 架构复杂、海量数据的处理低效;
- 新兴AI架构有诸多新的新需求,如何构建,例如半非结构化数据的组织和管理、CPU/GPU 混合负载、Al-ready 服务层如何构建;
因此,从业者的普遍疑问是,新一代 Data+Al Infra 如何设计,效率倍增?哪些架构需要改造或者新增,以满足新的需求?
本次演讲,将从小红书数据架构演进视角,论述新一代架构的设计,并联合云器科技CTO关涛,探讨 Data+Al Infra 设计的变与不变。
演讲提纲:
1. 小红书数据架构概述
2. 基于增量计算的下一代架构升级选型与思考
3. 从Big Data 到 Big Al Data,D+A infra 架构设计的变与不变
听众收益:
- 了解小红书数据架构的现状和演进思路
- 了解当前主要趋势与挑战
- 了解和探讨,新一代 Data+Al Infra 的设计思路
