返回上一页 > 嘉宾介绍
2024中国软件研发创新科技峰会
王翔宇
蚂蚁集团技术专家

蚂蚁集团技术专家,开源向量数据库Milvus核心开发者,NeurIPS'21 Billion-Scale ANN Challenge Track 2冠军成员。曾在Zilliz负责存储和GPU算法相关开发工作。2023年加入蚂蚁集团,主要负责蚂蚁向量检索算法研发以及千亿规模向量数据库在蚂蚁业务场景落地。对向量检索算法与系统有丰富经验。

嘉宾日程:

低成本千亿规模向量检索方案

#大模型与数据库

〇 分享简介 〇

在数字化时代的浪潮中,信息量呈指数级增长,快速、准确地从海量数据中检索到所需信息,已成为企业与研究机构面临的一大挑战。面对这一挑战,低成本千亿规模向量检索方案应运而生,其价值不仅体现在技术层面的创新,更在于为各行各业带来的深远影响。可通过高效算法和分布式计算技术,实现了对大规模高维数据的实时处理与查询,极大地缩短了信息检索时间,提高了检索精度。意味着,无论是金融风控、智慧城市建设,还是生物医学研究,都能在第一时间获取到最有价值的数据支持,从而做出更为精准的决策。

从成本角度来看,低成本千亿规模向量检索方案采用了一系列降本增效措施。通过优化算法减少存储需求,利用并行计算提升处理速度,降低了硬件投入和运维成本。这一点大中小企业而言,都极具吸引力,它使得前沿技术的应用不再是资金雄厚者的专利,而是具有普惠性。同时,低成本千亿规模向量检索方案的可扩展性,使其不会因数据量的增加而降低性能,确保了长期的稳定性与可靠性。无疑是企业一项值得长期投资的技术。

相较于结构化数据,非结构化数据的存储和检索更加复杂。高维向量作为非结构化数据的有效表征,能够在相似性检索上扮演重要作用,因而向量检索技术随着非结构化数据的增长备受关注。在数据增长以及大模型应用广泛流行的背景下,非结构化数据的存储、检索和管理变得越来越重要,也带来了巨大的机遇和挑战。

本次分享以内容检索场景为背景,通过对向量检索问题讨论分析,带来蚂蚁在千亿向量召回场景的方案实践经验和思考,供与会者借鉴和参考。

〇 分享收益 〇


目标:

1、了解向量检索的技术问题

2、了解向量检索与RAG技术的关系

3、了解如何打造一款低成本向量检索产品

成功要点:

RAG带来了对新的AI产品形态,数据在其中所扮演的角色具有很大价值,有助于开发者构建出更优秀、更专业的AI产品。

启示:

1、AI 背景下,数据是一切应用的基础。低成本大规模的向量数据库,能够帮助企业在大数据、大模型的背景下,构建出更实时、更可靠、更具价值的 AI 应用。

 

2、向量检索能够轻松融入现有的IT架构中,无需进行大规模的系统改造,大大减少了实施难度和成本,加速了数字化转型的步伐。

〇 分享亮点 〇

1、向量检索问题和技术挑战

2、蚂蚁的向量检索算法

3、千亿规模向量数据库

4、内容检索场景的应用

5、大模型、向量检索与内容理解

6、QA

09 月 22 日 14:30 - 15:20