翼方健数XCube x Intel TDX，支持Stable Diffusion、Llama2、ChatGLM3等主流模型算法发表时间：2024-03-27 18:15 当前大模型引领着新一轮人工智能浪潮。算法模型的生态将由许多基础大模型衍生出众多专业大模型，并赋予行业终端AI应用能力。在此进程中，大模型的“安全问题”成为人们最为关心的话题。随着大模型自身的复杂性提高与应用场景的逐渐丰富，大模型调优与推理过程中使用的训练数据中敏感信息丢失、模型资产被窃取、使用模型过程中产生的业务数据泄漏等安全挑战都亟待解决。 01 XCube 机密可信计算集群 XCube 是翼方健数（以下简称“翼方”）自研的基于可信计算和机密计算硬件构建的安全、通用、高效的零信任机密可信计算集群，为数据安全防护提供覆盖全生命周期的解决方案。通过将所有集群节点运行在机密虚拟机中，节点间通过远程认证协议进行完整性认证，保证整个集群的机密性和完整性。XCube 完全兼容 Kubernetes 生态，帮助用户以最低的迁移成本快速构建安全、通用、高效的新一代零信任机密可信计算集群。  02 XCube双线守护AI要素全生命周期 XCube对于人工智能要素的保护主要从两个方面着手：运行环境的机密性和完整性。 机密性即运行的算法和数据需要在全生命周期过程中都要以加密的形式存在，运行时，内存数据被TEE硬件加密，基础设施管理员无法从宿主机和硬件层面窥探机密信息；落盘时，数据被加密写入存储介质，攻击者无法从磁盘获取数据；传输时，通过加密信道进行数据传输，同时结合基于硬件的远程认证，保证通信双方的身份和环境的合法性，确保数据传输时不泄漏。 完整性则是数据运行时的软硬件环境没有被篡改，是安全、合法且符合预期的，通过基于硬件的远程认证，从硬件信任根开始建立整个系统的信任链，一步步构建从硬件、固件、操作系统、系统软件到可信节点、可信集群的完整度量链条，保证整个集群环境的安全可信。
以XCube技术依托的机密可信计算环境“星舟·密方”，结合算力调度、算法编排等技术及开箱即用的AI工具为AI应用落地提供全流程安全保护。 “作为一家企业合同管理的SaaS公司，在现有业务之上，我们引入了大语言模型，以期为客户提供更高效、准确的智能合同编写与审查服务。但是在实践过程中我们发现，客户“共享”的文档资料包含大量商业机密，我们无法在保证这些信息安全的前提下通过算力服务器进行数据处理，我们希望够找到一个行之有效的技术手段来确保此类数据资产在被大模型计算的过程中不以任何的形式被泄漏。因此，在我们内部软件技术之上，叠加可自主选配硬件技术的星舟·密方产品最终成为我们公司和我们客户的共同选择。” ——某企业合同管理软件公司 技术总监  03 XCube x Intel 扩展适配 + 支持主流模型算法运行 翼方机密可信计算集群XCube在最新发布的1.3版本中，实现了对Intel® TDX硬件和软件栈的兼容，从而完成了对国内外主流机密计算硬件平台的全面适配。Intel® TDX（Trust Domain Extensions）是Intel至强平台上提供的一种机密计算技术，它是基于硬件的可信执行环境，在虚拟机层面为实例提供增强的加密隔离，把云化的软件栈排除在受信任范围之外，从而保护⽤户应用不受恶意软件的破坏，用户可以将现有应用直接迁移至TDX实例上并获得TDX能力带来的安全保护。 基于最新的Intel硬件平台，可以构建机密可信计算集群，保护计算任务和数据的全生命周期安全。XCube支持了TDX远程认证协议和Intel证书服务，可以对集群运行环境进行完整性度量。 此外，XCube已支持多TEE硬件的机密可信集群模式，多种机密计算硬件可以无缝运行在同一个XCube集群中，享受云原生集群带来的调度和扩展能力。XCube目前已能够支持在机密计算环境中运行Stable Diffusion、Llama2、ChatGLM3等主流模型算法。 |