全球正在因人工智能所存在的安全隐患而引发担忧这一情况,有所不同的是,最近,以色列的研究机构Oligo对此做出了一定披露显示竟然有黑客依据人工智能系统用以攻击同类服务器的事件发生,如此这般也就使得这个威胁变得由抽象而具体,由普通到紧迫起来了。
攻击模式转变
网络安全方面的专家察觉到,黑客组织开启了直接操控AI模型来施行入侵的行为,他们并非只是单纯依靠传统的编程手段了,而是着手训练AI系统去判别其他AI服务器的安全漏洞,这种新兴的攻击方式于2024年初首次被记录下来,其攻击效率相较于人工操作要高出好多倍。
遭到利用的AI模型,可自动扫描网络里的目标服务器,在识别系统弱点之后发起精准攻击。安全研究人员于北美以及欧洲的多个数据中心观察到了此类活动,攻击频率在最近三个月里面呈现出快速上升的趋势。
Ray软件漏洞
Ray,一款开源分布式计算框架,引发了安全危机,它被广泛应用于AI训练以及部署。这款软件是由加州大学伯克利分校RISELab实验室在2018年创建的,现如今已成为AI基础设施的重要构成部分。研究人员表明,Ray的设计本意是提升计算效率,然而却没有充分兼顾安全防护。
运用Ray的某些还没修补的漏洞,黑客开发出了能自我复制的一些恶意代码,这些代码可穿透常规防火墙,在被感染的那些服务器上建立起持久性访问权限,安全团队发觉,攻击者专门针对运行Ray 2.0以上版本的服务器实施攻击。
全球威胁规模
依Oligo的监测数据来看,全球有着超23万台运行Ray软件的服务器存在,,这些设备于各行业的数据中心里分布着。从金融交易系统起,直至医疗研究机构,再到智能制造平台,皆有可能成为攻击的目标。并且这个数字正以每月约5%的速率增长着。
遭受影响的服务器,主要聚集在美国东部地区,以及西欧地区,还有东亚地区的科技中心。安全方面的专家发出警告,任何运用Ray框架去处理敏感数据的企业,都应当立刻检查系统的安全状态。特别是那些处理客户隐私信息的企业,所面临的数据泄露风险是最为严重的。
信息窃取手段
怀有不良企图的攻击者专门着手窃取存放于AI服务器当中的训练数据以及用户信息,这些数据涵盖专利技术资料、商业机密文件还有个人身份信息,黑客借助植入的特洛伊木马程序,把核心数据以加密的方式传输至境外服务器。
经过安全分析表明,那些被窃取的信息于黑市之上具备很高的交易价值,一套完整的用户行为数据报价能够达到数十万美元,并且企业核心技术资料的非法交易价格更是处在高达百万美元的级别,正是这种经济利益促使着攻击行为持续不断地升级 。
防护措施建议
企业需要马上查看内部系统有没有在用Ray软件呢,并且要去评估一下数据安全方面存在的风险。网络安全的公司给出建议说要采取网络隔离的举措,把AI服务器放置在单独的虚拟局域网当中。与此同时还应该启用多重身份验证机制,对数据访问权限进行严格的限制。
有必要定期去更新系统补丁,其意义极为关键,管理员得密切留意Ray官方所发布的安全更新情况。针对处理敏感数据的服务器而言,应当去部署专门的行为检测系统,以此实时监控异常的数据流动状况。每周开展安全审计,这样能够及时察觉到潜在威胁。
行业应对方案
科技领域正着手构建专门用以应对AI安全威胁的联盟,其中涵盖微软、谷歌以及亚马逊等云服务提供商,这些企业于2024年5月联手制订了AI安全操作标准,规定成员企业要分享威胁情报,并协同开展网络攻击的防御 。
各个国家的监管机构也开始把注意力投向这件事情,欧盟的网络安全局已经推动开启了对于AI系统安全性的专门评估。预估在2025年左右的时候,将会颁布针对AI基础设施的具有强制性质的安全认证制度。企业需要为了符合全新的监管要求而做好相应准备。
您身处的企业有没有着手评估AI system所能引发的安全风险呢?欢迎于评论区去分享您的应对经验,要是觉着本文具备帮助意义,请点赞并且分享给更多有需求的人。
