翼方健数携揽睿星舟入选CCIA2023年度人工智能优秀案例“AI赋能数据要素创新应用”版块

近日，中国通信工业协会及中国通信工业协会人工智能专委会公布了首届“CCIA2023年度人工智能优秀案例”评选结果。翼方健数（以下简称“翼方”）旗下的揽睿星舟人工智能系列产品案例“一站式大模型落地安全可信的分布式虚拟算力基础设施”从近百个项目中脱颖而出，与中国联通研究院共同入选了“AI赋能数据要素创新应用”版块。此项荣誉标志着翼方与揽睿星舟（以下简称“揽睿”）在大模型的安全流通及算力网络建设应用方面，获得了权威机构的认可。

据了解，本次案例征集旨在评选出一系列具有创新性、实用性、影响力和可持续性的优秀案例，为其他企业和组织提供参考和借鉴。首届CCIA2023年度人工智能优秀案例征集涉及科技向善、AI数字化产业升级、AI技术创新应用、AI最佳落地实践、最佳可持续发展、AI赋能数据要素创新应用六大方向。

揽睿作为翼方在人工智能领域部署的系列产品，专注于构建算力、算法要素的安全流通网络，实现高效匹配、价值释放。本次入选的案例，集中展示了最新的人工智能技术实践成果和分布式计算能力的创新基础设施应用。其中，包括翼方自研的机密可信计算集群XCube和异构算力调度引擎KSC（Kubernetes based Sky Computing）技术。XCube通过在机密虚拟机中运行所有集群节点，并使用远程认证协议进行节点间完整性验证，保证整个集群的机密性和完整性。此外，XCube 完全兼容 Kubernetes 生态，它能帮助用户以最小的迁移成本快速构建安全、通用、高效的新一代零信任机密可信计算集群，为人工智能生态协作过程中的数据安全防护提供覆盖全生命周期的解决方案。

基于XCube技术的产品是机密可信计算智算集群“星舟·密方”，能够在模型的开发和使用过程中实现模型和数据的保护。在此次获奖案例中，当企业在对需要使用商业数据的基础模型进行微调时，引入“星舟·密方”产品并利用机密计算硬件的能力，加固实现数据算法的双向保护，确保整个计算环境中的任何一方，包括数据中心管理员、云平台管理员在内，都必须经授权才能够访问计算集群，任何人都无法通过计算环境的基础设施进行攻击来获得数字资产。

而自研的异构算力调度引擎KSC适配多元人工智能算力，面对不同AI任务的需求，将容器、虚机、裸金属等多种交付方式统一管理，具备多集群、跨云管理调度能力。并且通过提供高效的异构融合能力，实现硬件性能与计算要求的有效对接，同时基于灵活的调度策略，实现异构算力资源与多样用户需求的精准适配，最大化算力利用效率。此外，该技术还支持面向算力运营侧，实现多元算力的智能运营与开放共享，通过对资源进行统一纳管，针对不同工作负载需求实现动态库存管理，同时系统自动提供多种调度策略，提高智算资源运营效率。该技术已应用于翼方旗舰级产品翼数坊XDP，以及即将发布的揽睿人工智能系列标准化产品。在本次获奖案例中，借助KSC技术，企业具备了跨云异构运算能力，能够在多云环境中灵活调度算力资源，依托于平台极速响应、异构调度、秒级扩缩等能力，企业在请求量快速增长的高峰期间，扩容效率提升86%，并在高峰期后可快速缩容，节省72%的算力成本，真正实现的高效灵活的算力的使用。

揽睿的技术及服务已贯穿算力服务全产业链，包括“资源获取-聚合-调度-应用”。引入各类异构算力源，包括多种计算架构及算力芯片，将零散算力转化成标准化、虚拟化、稳定且市场中立的企业级智能算力云服务，已成功调度管理数百P的智算算力，并通过算力调度服务实现资源最优化利用。平台内置运行交互式应用及工作流负载运行环境，满足不同AI开发场景的需求；原生支持Kubernetes生态，可无缝对接K8s生态内的MLOps和LLMOps工具链，同时提供K8s原生命令行工具，极大降低AI开发者的迁移成本，提供编程友好的开发环境。截止2024年3月，平台已服务数百家企业及数万名个人开发者。

该案例中，企业能够基于平台的能力，大幅减少算力采购、算力洽谈、人工部署、人工运维的经济成本和人力成本，并已显著促进其业务增长。同时，能够适应业务部署量线性增长的需求，缩短80%的大模型投产应用时间，使大模型潜能以及硬件算力最大化释放。在数据安全方面，依托平台所提供的大模型流通过程的隐私安全保护，为企业基于大模型能力服务客户提供了安全保障，实现模型与数据的全面安全保护，并致力于提供一站式大模型落地的安全可信基础设施与AI工具。

人工智能的发展离不开技术创新和要素流通。这一进程需要来自不同领域的众多参与者携手合作。而大模型开发及应用过程中涉及多方贡献。在大模型商业收益方面一直存在着分配难题，主要在于难以衡量各方贡献率。为了实现市场化、平台化的模式运营，揽睿提供了解决大模型生态中商业收益分配的能力，赋能AI生态内的高效协作。揽睿星舟平台内置精准计量模块，可集成基于区块链的存证和激励系统，在确保用户数据安全的前提下以不可篡改方式统计并存储资产授权记录与推理服务的调用量。通过这种方式，所有相关方可以根据资产授权情况，并考虑到资源的重要性和稀缺性等因素，实现商业收益的公平分配。

在这个飞速发展的时代，技术的每一次革新都深刻地影响着我们的生活和工作方式。特别是在人工智能领域，创新的步伐从未停歇。翼方与揽睿希望通过持续的技术和产品赋能，帮助更多企业用得起、用得好、用得安心人工智能，更敏捷地应对当下瞬息万变的竞争格局，共同为整个人工智能行业的繁荣做出贡献。