11月22日,粤港澳大湾区数字经济研究院年度科技盛会(IDEA大会)在深圳顺利召开。本次大会由深圳市科技创新委员会、福田区人民政府指导,粤港澳大湾区数字经济研究院(IDEA研究院)主办。
上图为IDEA大会现场
会上,是石科技联合IDEA研究院、熠智科技等联合推出了国内首个搭载可控计算DataVault的企业级大模型训推一体机-----封神榜大模型一体机(DataVault版)。三方通过共同设计、联合开发,协同上市,为用户带来“开箱即用”的大模型一体化解决方案。
上图为一体机展示
01 大模型一体机与可控计算/ METASTONE
当前,我国大模型产业蓬勃发展,从建到用,成为政府和企业推进数字产业升级的重要抓手。各类开源大模型不断涌现,在实际特定领域的场景下,从安全性、专业性、实用性、经济性等多个维度来看,企业选择闭源、轻量化路径无疑是最优选择。但是在此路径中,训练和部署数据安全的问题日益凸显:直接将数据提供给计算平台以进行模型训练,或是将模型直接交付给客户使用,这两种场景都可能导致数据拥有方辛苦积攒的行业数据、专业知识、模型参数泄露。
随着垂直行业大模型应用场景的丰富,企业为用户提供大模型应用时,需要将大模型私有化部署,以保障大模型和数据隐私及安全合规性。为解决大模型企业在行业垂直领域商业化过程中对于数据和模型泄露的担忧以及使用大模型的企业对自有训练数据泄露的担忧,是石科技、IDEA研究院联合熠智科技基于DataVault可控计算框架重磅推出全球首款带隐私保护功能的大模型训推一体机----封神榜大模型一体机(DataVault版),作为对垂直行业大模型落地的一种探索。
02 封神榜大模型一体机(DataVault版)介绍
封神榜大模型一体机(DataVault版)内置IDEA研究院姜子牙系列模型及模型微调工具,并预先提供十万级高质量的训练数据,降低训练的起始门槛;提供多款芯片按需定制,部署DataVault数据安全模块,帮助企业高效开发和训练大模型,满足多种实际应用场景的需求,充分发挥大模型技术的潜力,保障数据的全程安全可控。
姜子牙系列大模型具备自然语言处理、计算机编程、图像处理、文本创作、搜索引擎优化等功能,可广泛应用于多个行业和领域助力企业训练专属大模型,如教育、医疗保健、金融和娱乐等行业大模型,帮助企业实现降本增效,开拓市场,提升用户体验等需求。
在大语言模型(LLM)领域,算力是大模型的基石。封神榜大模型一体机(DataVault版)与三款高性能芯片分别组合成三个不同的版本,其中两款是自主信创产品,用户可根据自身需求进行选择。
03 封神榜大模型一体机(DataVault版)四大优势
数据安全
私有化部署,零侵入性双向保护模型参数与训练数据安全,提供卓越的数据安全保障。
高性能模型
内置姜子牙通用模型、代码模型、多模态理解模型、文生图模型、写作模型等,满足多种大模型应用场景的需求。
开箱即用
内置十万级调优数据和工具,企业无需大量资源投入即可短期快速构建AI能力。
信创支持
融合国产自主的TEE技术、国密加密卡、可信根芯片和安全容器等,从芯片到应用全面适配信创体系,兼容主流国产GPU芯片,保证大模型和信息数据安全。
是石科技致力于国产大模型软硬件适配,可提供太初加速卡服务器的兼容性调试,配置操作系统、BIOS和特定应用程序等相关软件,便于用户便捷使用加速卡。我们深知构建完全自主大模型是企业创新发展的必经之路。因此与熠智科技、IDEA研究院强强联手,打造封神榜大模型一体机(DataVault版),坚持训练数据与算法模型自主可控,并与国产GPU伙伴——太初(无锡)电子科技有限公司开展长期合作,不断优化高质量硬件设备,以适应市场需求和技术发展。
目前,我们已陆续上线多个应用场景适配的国产卡,欢迎用户前来试用!
未来,是石科技也将不断优化一体机性能及应用范围,为各行各业的用户提供更加便捷的服务,让大模型赋能百业,助力科技进步和经济发展。