AIGC算法最新实践论坛
议题1:RWKV-次世代大语言模型的异质化路线
议题2:360 GPT 在业务场景的主要应用
议题3:OPPO 小布助手在 AIGC 上的探索
议题4:百度商业多模态理解及 AIGC 创新实践
个人介绍:前字节技术产品,曾任算法中台负责,AI creator创始人,AI hackathon冠军,持续创业者,武汉大学。
演讲题目:RWKV-次世代大语言模型的异质化路线
演讲提纲:
探讨RWKV大语言模型的过去现在和未来。
听众收益:
什么是全球唯一RNN架构大语言模型RWKV。
个人介绍:贾守盛,360高级算法研究员,NLP部以及大模型算法负责人,主要从事搜索query分析,搜索推荐,LLM等算法研发工作。带领360搜索nlp团队率先在2019年大规模落地bert等预训练模型,2023年带领团队从0到1开发了360GPT模型,目前已应用在搜索,浏览器,数字人,知识问题,广告创意生成等领域中。
演讲题目:360 GPT 在业务场景的主要应用
演讲提纲:
1. 360 GPT 模型介绍
2. 360 GPT 在搜索场景上的应用
3. 360 GPT 在数字人方面的应用
听众收益:
1. LLM 和向量检索在多轮对话时如何更好的融合
2. 360 GPT 在数字人方面如何产生更好的应用效果
个人介绍:硕士,17年加入百度,负责商业策略中台与AIGC相关技术。在文、图、视频、落地页等多模态理解、生成方面,突破了多项复杂技术问题,广泛提升了公司系统模型对富媒体内容的高阶认知和常识推理的能力,大幅提升了公司商业系统的变现效果。主持的项目多次获得公司及部门奖励,其中多模态理解项目-“视界”项目获得百度2021年最高奖Top8。近年来个人提出的多项核心算法,被KDD、SIGIR、EMNLP、CIKM等国际顶级会议所接收,总计发表论文10+篇。
演讲题目:百度商业多模态理解及 AIGC 创新实践
演讲提纲:
该演讲内容主要介绍百度商业策略研发在多模态内容理解及AIGC上的创新实践与技术成果。主要从基础模型建设,商业检索系统中场景化建模方案,以及相关技术的业务成果呈现。
听众收益:
1. 基础表征性能优异,在域内数据+公开图文数据集中有明显优势,并提出了一种基础表征的场景化牵引学习方案;
2. 提出了多尺度、多层级的内容表征量化算法,进一步提升内容特征与商业大规模离散信号的融合能力;
3. 提出了一种不同模态内容消息传递的图神经网络,通过模态分层与层内、层间对比学习,提升不同模态内容在推荐场景的召回能力;
4. 提出了一种表征+生成学习相结合的多模态扩散模型,显著提升 AIGC 生成质量。