最新黑产技术曝光,只需 19 分钟即可劫持 AI 大模型

安全
随着攻击者在20分钟内即可利用泄露的密钥,实时密钥扫描和自动轮换不再是一种可选的保护措施,而是LLM时代的关键生存机制。

最新研究表明,网络攻击者正在利用泄露的云凭证在几分钟内劫持企业AI系统。近期事件显示,攻击者能够在19分钟内攻破大型语言模型(LLM)的基础设施。

这种被称为“LLMjacking”的攻击方法以非人类身份(NHIs)——如API密钥、服务账户和机器凭证——为目标,绕过传统安全控制,并利用窃取的生成式AI访问权限牟利。

LLMjacking的攻击链

安全公司Entro Labs最近在GitHub、Pastebin和Reddit上发布了功能性AWS密钥,以研究攻击者的行为。

他们的研究揭示了一种系统化的四阶段攻击模式:

LLMJacking攻击链

(1) 凭证收集:自动化的机器人使用Python脚本扫描公共代码库和论坛,以检测有效凭证,其中44%的非人类身份是通过代码库和协作平台泄露的。

(2) 快速验证:攻击者在凭证暴露后的9-17分钟内执行初始API调用(如GetCostAndUsage)以评估账户价值,并避免使用可预测的调用(如GetCallerIdentity)以逃避检测。

不同泄露位置的密钥访问平均时间

(3) 模型枚举:入侵者通过AWS Bedrock执行GetFoundationModelAvailability请求,以列出可访问的LLM——包括Anthropic的Claude和Amazon Titan——并映射可用的攻击面。

(4) 利用:攻击者对受损端点进行自动化的InvokeModel尝试,研究人员在实验密钥中观察到每小时超过1200次未经授权的推理尝试。

Storm-2139网络犯罪集团最近利用这种方法攻击了Microsoft Azure AI客户,窃取API密钥以生成暗网内容。取证日志显示,攻击者:

  • 使用Python的requests库进行凭证验证
  • 使用aws s3 ls命令识别AI/ML存储桶
  • 尝试通过精心设计的提示绕过内容过滤器执行bedrock: InvokeModel

Entro的模拟漏洞测试显示,攻击者将自动化脚本与手动侦察相结合——63%的初始访问使用了Python SDK,而37%使用Firefox用户代理通过AWS控制台进行交互式探索。

未受控制的LLMjacking带来了严重的风险:

  • 成本滥用:一个具有Bedrock访问权限的受损非人类身份可能每天产生46000美元的未经授权推理费用。
  • 数据泄露:在22%的观察事件中,攻击者泄露了模型配置和训练数据元数据。
  • 声誉损害:微软2025年第一季度的漏洞事件中,威胁行为者使用窃取的Azure OpenAI密钥生成了超过14000张深度伪造图像。

缓解策略

  • 实时检测和监控非人类身份
  • 实施自动化的密钥轮换
  • 强制执行最小权限原则
  • 监控异常的API活动
  • 教育开发人员如何安全管理非人类身份

随着攻击者在20分钟内即可利用泄露的密钥,实时密钥扫描和自动轮换不再是一种可选的保护措施,而是LLM时代的关键生存机制。

责任编辑:赵宁宁 来源: FreeBuf
相关推荐

2024-05-10 13:53:25

人工智能AI大模型

2024-04-19 09:37:49

Ollama大语言模型开源

2016-11-28 18:49:56

2024-03-04 09:55:11

开源模型训练

2018-11-01 14:59:42

2009-07-09 17:43:30

Chrome OS截图Chrome操作系统截Chrome

2021-04-02 14:29:04

黑科技人工智能虚拟

2023-12-12 10:57:05

AI谷歌

2017-11-23 10:02:12

2019-02-18 19:45:32

2021-09-08 10:02:58

网络安全招聘黑产

2020-10-20 10:35:45

Windows操作系统功能

2022-03-16 15:28:17

黑产安全网络

2024-12-25 14:43:22

2024-09-25 14:11:10

2023-09-19 13:48:31

AI数据

2011-06-28 21:04:16

喷墨打印技术

2020-12-17 10:58:43

2017-04-01 10:49:31

miui小米MIUI

2020-10-20 07:23:33

Windows10
点赞
收藏

51CTO技术栈公众号