蚂蚁密算科技密码算法专家,北京大学博士后,在ASPLOS、MICRO等会议发表多篇论文成果,所设计密码方案在金融密码杯创新赛两次获奖,首个隐私计算一体机国际标准的主要贡献人之一,目前负责密态大模型场景下的密码安全设计。
HyperGPU:机密计算释放通用GPU算力,构筑大模型密态算力底座
数据已成为数字经济时代的核心生产要素。然而,数据在流通过程中面临着隐私泄露、数据篡改和未经授权访问等诸多安全挑战。可信执行环境(TEE)技术以相对更低的技术成本提供了这些问题的解决方案。然而在大模型时代下,对TEE的算力提出了更严峻的挑战。
我们提出的 HyperGPU 方案,在原本 HyperEnclave 的通用 CPU TEE 基础之上继续拓展了对 GPU 的支持能力,可以让原本不具备硬件 TEE 能力的通用 GPU 设备接入 TEE 环境,为大模型场景的 TEE 产品提供更多算力支持,并且大幅降低设备替换成本。
演讲提纲:
1. 背景介绍:
a. 数据要素市场需求
b. 机密计算技术特点
c. 大模型推理场景的隐私需求
2. HyperGPU 设计
a. HyperGPU 所针对的威胁模型
b. 整体架构设计对控制面和数据面的保护
c. 适用于通用设备的可信认证机制
3. HyperGPU 实现和性能
a. 实现代码成本
b. 性能数据
4. HyperGPU 未来规划:
a. 通用性和安全增强
b. 跨平台、跨云部署
听众收益:
- 了解 GPU TEE 目前的最新进展
- 了解 TEE 技术在大模型场景下的安全能力
