活动首页 > 嘉宾介绍
2024中国软件研发创新科技峰会
刘红雨
百度资深研发工程师

百度资深研发工程师,负责百度飞桨基础框架的研发工作,通过完善飞桨基础架构、加速运行效率、提升用户体验,有效支撑了公司内外众多用户的深度学习需求与项目落地。在加入百度飞桨前,曾在百度、腾讯公司就职,参与机器翻译相前沿算法和产品的优化工作,有丰富的模型算法经验。

嘉宾日程:

飞桨大模型核心技术架构与应用

#AI基础设施架构与技术

〇 分享简介 〇

当前,AI技术的发展正日新月异,引领着科技的前沿,大型语言模型(LLM)作为备受瞩目的技术突破,正在引领一场新的技术革命。深处这场人工智能技术发展的浪潮中,深度学习框架显得尤为重要,它的核心目标是让深度学习技术的创新与应用变得更加简单,从而推动AI技术的全面发展。

飞桨框架作为国内首个自主研发、开源开放且功能丰富的深度学习框架,以AI技术发展注入了强大的动力。2021年初,2.0版本问世,更是以默认采用动态图、实现动静统一与训推一体的设计理念,为开发者带来了更加便捷、高效的开发体验。近来,飞桨框架3.0-Beta 版本,标志着新一代框架技术创新之路的开启。其核心特性包括动静统一自动并行技术和神经网络编译器自动优化等新技术,为应对当前深度学习领域的新挑战有着极大的价值。

本次分享将飞桨深度学习框架的开发、硬件、AI技术发展的整体趋势,以及产业落地的多方面需求展现,让开发者学习一个“动静统一、训推一体、自动并行、自动优化、广泛硬件适配”的深度学习框架。同时,先进的框架3.0的新特性:动静统一自动并行、神经网络编译器自动优化、高阶自动微分、高扩展中间表示、多硬件适配等,为与会者AI开发带来技术借鉴,推动技术创新和落地。

〇 分享收益 〇

目标

1、为更好的满足开发者、硬件、AI技术发展趋势、产业落地的需求,分享深度学习框架总体设计

2、为更好的满足大模型迭代需求, 分享深度学习框架动静统一自动并行技术

3、为更好的支撑用户需求,分享深度学习框架关键技术,包含PIR、编译器、组合算子等

成功要点:

动静统一的框架设计理念,能够兼具灵活的用户体验和高效的运行效率,是取得技术领先型的关键。

启示:

深度学习框架需要充分思考用户需求,并充分预判未来技术趋势,对架构进行不断升级迭代,更好满足用户需求。

〇 分享亮点 〇

1、飞桨框架总体设计

1)分享人工智能相关技术栈

2)深度学习框架的需求和思考

3)飞桨总体架构设计

2、动静统一自动并行

1)动转静(动态图转静态图)的关键技术

2)飞桨高扩展性中间表示(PIR)

3) 自动并行的开发模式和业务落地

3、飞桨框架关键技术

1)高阶微分介绍

2)组合算子机制

3)深度学习编译器技术和业务落地

4)多硬件适配方案

4、总结和展望

5、QA

09 月 22 日 09:00 - 09:50