高性能分布式缓存Curvine——多云大数据AI加速利器
Curvine是使用Rust语言构建的高性能分布式缓存,对比Java方案,不仅性能有明显提升,更大的收益在于资源消耗的降低。相同负载下,可降低进程本身90%左右内存资源消耗。在OPPO内部,Curvine已经在多云大数据领域,多个场景落地,稳定性和性能均有明显收益。为了业界共享Curvine带来的加速收益,同时也加快Curvine的发展,我们将该项目推出开源,我们一起迎接Rust重构基础设施的浪潮。
演讲提纲:
一、技术架构:
1、分布式缓存基本架构
2、Rust Based 高性能设计
3、高可用架构
4、FIO性能测试结果
二、分布式缓存应用场景:
1、大数据Shuffle加速
2、多云数据缓存
3、AI训练加速
4、模型、镜像文件拉取加速
5、多云数据缓存
听众收益:
- 了解基于Rust构建的高性能分布式缓存的架构设计,体验Rust语言带来的性能和成本收益冲击
- 发掘大数据和AI场景下大规模数据IO的痛点解决方案
目前在OPPO数据架构组负责架构演进研发;Spark 开源RSS项目Shuttle发起人;Curvine高性能分布式缓存开源项目发起人;曾供职去哪儿网大数据,阿里云MC团队。