返回上一页 > 嘉宾介绍
2024中国软件研发创新科技峰会
孙林
360集团大模型算法高级研究员

360集团大模型算法高级研究员,大数据协同安全技术国家工程研究中心大模型专委会主任,负责360智脑基础大模型研发管理工作,曾先后供职于腾讯、贝壳找房,任数据智能中心总经理。拥有近20年人工智能技术研发和多元化团队管理经验,长期深耕于自然语言处理、大模型、搜索引擎、深度学习、知识图谱等领域。

嘉宾日程:

安全可信大模型解决方案的探索与实践

#智能化研发创新探索与融合

〇 分享简介 〇

大模型作为新质生产力,有着巨大市场规模的应用前景,但在企业实际落地过程中,会面临着模型算法不安全、生成内容不合规、生成结果不可信,以及多Agent系统不可控等挑战。

依托安全和搜索的积累,360集团大模型的“安全、向善、可信、可控”4原则,通过生态链漏洞扫描和防护技术、内容安全的过滤和检测机制、多源验证和一致性检查、权限管理和行为监控 等手段,解决了大模型在实际业务落地中的各种挑战。

本次分享从大模型生成内容的安全性和幻觉问题的角度,深度剖析360智脑在这方面的一些研究进展、技术方案、业务落地实践,帮助企业了解将大模型应用于实际业务中的挑战和解决方案,进而推动企业数字化转型,提升业务竞争力。

〇 分享收益 〇

目标:

了解大模型在企业落地中可能遇到的问题,如何对这些问题进行系统性的评估,以及相应的解决方案,期望从中获得启示,赋能自身企业和团队在AI时代下创新加速。

成功要点:

1、通过建立内容安全评测体系、清洗预训练数据、继续预训练、安全微调、安全价值观对齐、内容安全检测大模型、内容安全回复大模型、RAG、红蓝对抗大模型等手段,提升大模型生产内容的安全性

2、通过定向挖掘缺失的知识、继续预训练、微调、对齐、RAG、知识增强、搜索增强、插件增强、推理增强等技术,缓解大模型的幻觉问题。

启发:

大模型在企业数字化业务落地中的技术挑战和解决方案,可帮助企业业务建立合理的预期,增强系统安全性和可用性,推动AI可持续发展的相关应用。

〇 分享亮点 〇

1、大模型在业务场景落地中面临的安全性和可信性的挑战

2、大模型内容安全的防护方案

3、大模型幻觉问题的缓解方案

4、安全可信大模型的应用实践

09 月 21 日 10:00 - 10:50