摩斯获得第23项隐私计算相关测评认证
2024年6月18日,在中国信息通信研究院(以下简称“信通院”)组织的首批“面向大模型的增强型可信执行环境基础能力专项测试”中,摩斯顺利完成该项测评,成为首批完成此项测评的厂商。
据此标准形成的测试方法覆盖数据工程、模型训练支持、模型推理支持、硬件加速、安全要求五大能力域,包含数据增强、模型管理、环境安全和数据安全等数十项子能力。
至此,摩斯已获得23项隐私计算相关能力测评认证,数量行业领先。主要包括信通院、BCTC、金标委等权威机构,全面地覆盖了产品功能、性能、安全性、国产信创兼容性、软硬结合等能力,涵盖了多方安全、联邦学习、可信执行环境等多种技术路线。
摩斯全新推出大模型隐私保护能力
通用人工智能离不开高质量、大规模数据集,人工智能正在加速从“以模型为中心”向“以数据为中心”转变。当前高质量数据集普遍以孤岛形式存在,为实现可信的多方联合训练与推理,以可信执行环境、联邦学习为代表的隐私计算是可行技术解,但在大模型场景中对其可用与安全性提出更高要求。大模型具有强大的数据挖掘和推理能力,可能会导致个人隐私信息、企业核心数据等关键敏感信息泄露。
摩斯采用安全多方计算、可信执行环境、差分隐私、联邦大模型拆分和跨域微调、模型混淆等相结合的独创性设计,在原始数据不出域的情况下,实现数据输入、微调、推理全链路数据和模型隐私安全。
软件层面,客户可以在原有大模型使用链路上叠加摩斯隐私计算能力,进行数据和模型双重保护,并支持大模型隐私微调和隐私推理,可实现微调精度无损、秒级隐私推理、密文吞吐量千倍提升。同时支持云部署、一体机、自有算力多种部署方式,支持算力扩展,可供企业灵活选购。
硬件层面,蚂蚁摩斯结合适配于可信执行环境的加速硬件,可以实现隐私推理性能和密文吞吐量进一步提升。并主要基于IntelSGX和TDX、AMDSEV、海光CSV、NVIDIACC等可信计算硬件及蚂蚁自研的机密计算底座构建起隐私计算大模型系统,满足多个场景中的安全性需求。蚂蚁机密计算底座包括开放通用的TEE底座HyperEnclave、易用性高的TEE计算引擎Occlum、可异构互联的TEE服务KuteTEE,其核心代码通过多项产品认证,为大模型提供全生命周期的安全保护。
应用场景
在金融场景,可以应用在智能化服务工具进行金融产品分析和推荐。比如针对用户理财投资咨询,可以在不向大模型泄漏用户信息的情况下,通过大模型推理反馈精准、及时的投资建议。对于金融企业,可以预测金融产品的市场表现,进行金融舆情分析和客户情绪管理,节约互动成本,改进客户服务和提升用户体验。
除此之外,还可以应用在生物医学研究领域,进行跨机构数据联合建模进行病理研究和智能化辅助快速诊断;法律领域进行跨机构共同训练法律模型,帮助完成法定推理、法律判决、证据发展以及案例结果的预测任务,提升决策效率。
未来规划
未来在持续提升大模型基于可信执行环境的性能、安全和易用性同时,会持续扩大大模型应用方式支持和降低安全保护成本。支持大模型检索增强生成(RAG)和大模型智能体(Agent),让大模型应用在各行各业安全探索和应用;降低大模型安全保护应用门槛,让安全方案的理解、获取、应用和维护成本逐步降低直到无感知,打造基于数据技术、隐私算法、训练技术和可行执行环境等多种安全方案的混合产品能力,让用户在大模型开发和应用等不同阶段多种选择并可根据需求和环境自动适配。
关注我,获取更多资讯~