在数智化时代的今天, AI与大模型应用已经成为推动企业创新和持续发展的关键技术。随着技术的不断发展,大模型私有化部署呈现出愈发明显的趋势。一方面,针对特定业务场景的模型定制能够更加贴合企业实际需求,推动业务发展;另一方面,部署私有化大模型能够确保数据的安全性与隐私保护,数据无需外流,降低了数据泄露风险。
然而,企业在兼顾传统业务和部署私有化大模型业务时,面临着来自算力、网络、数据安全等多个方面的挑战,迫使企业必须寻求新的技术与解决方案来应对这些难题。作为“AI+云网安服务”提供商,第一线敏锐地察觉到了这一趋势,并致力于构建AI原生超互联架构,以满足企业在数智化转型过程中的需求。
第一线DYXnet智算网络技术部总监张先国在近期接受51CTO采访时表示,以前数据只是存放在业务数据库中,企业仅是对其进行简单检索,很多非结构化数据难以发挥价值。但现在,借助AI的能力可以更好地释放数据价值。对于企业来说,关键在于如何发挥私有数据价值的同时保护自身数据,避免让自己的数据仅仅成为大型平台的一部分,这才是企业未来转型的真正价值所在。
随着大模型时代的全面开启,第一线紧跟企业对安全、AI、算力等方面的更高要求,通过技术创新、生态合作,构建了AI原生超互联架构基础设施,实现了算力与网络的深度融合,为企业提供了一个集AI算力、私域数据、模型、隐私计算于一体的企业可信计算空间,能够支持企业在AI原生领域的创新。
应势而变,从网络赋能向AI+云网安服务商演进
在复杂且激烈的市场环境下,创新已经成为企业赢得竞争优势,获得持续发展的根本。熟悉第一线的朋友都知道,这家成立于1999年的企业,始终以高速成长的轨迹,适配每一个趋势变革。从最初的电信中立网络服务提供商,到如今全球领先的“AI+云网安”服务商,第一线持续走在创新的前沿,不断突破自我,引领行业发展。
张先国告诉51CTO,在25年的发展历程中,第一线始终秉持“以服务创新 赋能企业增长”的理念,从提供MPLS VPN服务起步,到在业内首推SD-WAN网络,持续升级服务品质,支撑企业的全球化数字应用场景紧密协同,构筑了覆盖全球700+城市的核心网络服务能力。
进入AI和大模型时代,越来越多的企业开始探索大模型在企业业务场景中的应用,部署私有化大模型应用已经成为推动企业高速发展的核心技术。
张先国表示,随着大模型深化发展,越来越多的企业开启数智化升级。大模型私有化呈现出愈发明显的趋势。企业只有将私有数据、专业知识和行业经验融入大模型之中,进而打造出 AI 原生化的业务形态,让模型生成更符合企业实际和专业需求的内容,才能够为企业提供更加具有针对性的决策支持和解决方案,进而更好地帮助企业获得竞争优势。
采访过程中,张先国以金融行业为例,详细介绍了大模型在推动企业创新过程中所扮演的重要角色。他表示,金融机构可以针对风险评估、投资决策等业务场景训练专属金融大模型,使其更精准地处理复杂业务问题。不过,在企业训练专属大模型的过程中,对数据安全、网络与算力等方面提出了更高的要求。这需要融合算力、大模型和私有数据等多种要素,并保证新架构形态能够给予隐私安全方面的支撑。
在接下来的时间里,张先国详细分享了企业在部署私有化大模型应用过程中面临的诸多挑战。
首先,算力需求井喷带来的挑战。在大模型训练阶段,由于参数量和训练数据集巨大,对算力有着极高的要求。以金融行业为例,在训练专属金融大模型时需要处理的数据量动辄几十T甚至达到PB级别。然而,当前市场上GPU资源紧张,算力成本高昂,如何有效利用算力资源成为企业面临的一大难题。
其次,网络带宽与网络安全的双重压力。AI原生化业务智慧体是基于企业私有数据和应用构建的,数据传输量巨大。企业内部网络需要支撑从数据端到算力端的高速互联互通,网络带宽需求激增。同时,随着网络攻击手段的不断升级,企业面临着前所未有的网络安全压力。如何在保障数据传输效率的同时,确保数据安全不泄露,成为企业亟需解决的问题。
最后,数据隐私保护难题。作为企业的核心资产,近年来数据泄露和隐私侵犯事件频发,让企业对于数据隐私保护的担忧日益加剧。如何保障大模型训练过程中的数据隐私安全,成为企业必须面对的重要课题。
张先国强调,在新的趋势驱动下,第一线正致力于汇聚创新技术与AI算力资源,构建AI原生超互联架构,承载企业AI原生化的全面升级。
顺势而生,用AI原生超互联架构赋能企业转型
基于对企业需求的深刻洞察,凭借深厚的技术积累和丰富的行业经验,第一线打造了AI原生超互联架构,推出了一系列创新的产品和解决方案,帮助企业应对算力、网络、安全等方面的挑战。
据张先国介绍,第一线AI原生超互联架构实现了园区与楼宇之间算力直达的高速安全通道,解决了算力资源紧张和数据传输需求激增的问题,助力企业实现基于私有数据进行大模型训练的同时,实现更高级别的数据安全性。
在AI算力层面 ,第一线通过整合多方AI算力资源,形成具备多元算力加持的服务底盘。
在网络层面,第一线基于远程RDMA等技术,打造了创新的AI原生超互联架构,采用动态切片技术进行网络的动态切换。在客户需要大算力时,能够快速分配出大带宽且安全隐私的直连网络,并为其开通百G以上带宽,保障巨量数据与算力端之间实现快速、高效的互联互通,并在任务完成后自动释放资源。
在数据安全层面,第一线构建了隐私计算平台,打造了端到端加密+算后即释放能力。首先,第一线在网络中增强了实时大带宽加密能力,从而确保客户端与算力服务端之间的数据传输全程加密。当企业与算力端建立连接后,将获得性能与安全兼具的算网支撑,同时确保数据不会向外部传输。
其次,所有计算服务器将只有内存而无硬盘,实现无盘隐私计算,私有数据算后即清。这意味着计算完成后将结果传回去,随后便清空相关数据。当下一次有其他客户使用时,又会建立一个动态的私有连接,在内存空间中开展新计算服务,计算完成后同样不会留下任何痕迹与保存。如此一来,就能确保做到数据只存在于当前计算时空内的私有计算空间中,用户可放心使用相关计算服务。
在本次采访过程中,张先国还通过一个案例,详细介绍了第一线在助力企业部署私有化大模型应用中的实践。
据介绍,以某教育企业为例,第一线通过为其构建一个新的私域来存放数据,并提供算力专网服务。通过将数据打造为私有向量数据库形式的知识库,并与第一线提供的隐私计算算力相连接,利用隐私计算算力进行微调训练。在训练过程中,所有数据都在私域空间内完成处理,确保不会向外部传输。最终,训练出一个新的AI模型,并将其部署到公网上供教育企业用户使用。
目前,第一线的ICT服务已经从网络赋能演进为AI+云网安的全栈式服务体系,为超过2000家企业客户赋能。
乘势而上,持续探索AINet融合升级
谈到第一线的整体发展规划,张先国表示,面对AI这一发展趋势,第一线正致力于向AI应用与大模型服务+AI原生基础设施服务升级。对于AI原生基础设施服务方面,第一线的战略方向之一便是构建AINet。在这一战略中,第一线采取了以下两条路线:
第一条路线,是在传统业务层面进行创新。这包括SD-WAN/MPLS VPN、核心网络架构以及SASE安全。目前,第一线正致力于将这些技术与AI相结合,以实现以下目标:通过SD-WAN/MPLS VPN+AI实现流量的智能预测;核心网+AI构建出InsightNet智能网络;将SASE的AI能力集成到位于核心网络边缘的SASE POP,打造智能安全防护体系。
第二条路线,是打造AI原生超互联架构,以适应未来企业AI原生化升级需求。
双向路线汇聚而成的AINet将提供网随需动、双网联动的服务赋能,为企业AI业务应用的训练、推理等多方面场景,提供智慧基础底座支撑。
采访最后,张先国表示,第一线将持续探索与推进AI能力与云网安服务融合,以打造智慧基础设施服务、智慧应用服务等新兴服务能力,协同企业共同成就数据价值。
主编观点:
大模型私有化部署带来的诸多挑战催生了新技术与解决方案的诞生。正是凭借敏锐的行业洞察力和强大的技术实力,第一线在不断转型升级过程中,打造出了AI原生超互联架构,帮助企业解决了大模型私有化部署中遇到的各种难题,即满足了传统业务的需求,又让企业部署私有化大模型应用变得更加简单,为业务持续创新和发展夯实了基石。
相信未来,随着AI技术的不断发展和应用场景的不断拓展,第一线将继续深耕ICT服务领域,持续向AI应用与大模型服务+AI原生基础设施服务升级,为企业提供更多、更好的解决方案和服务。