数据库

企业中的大部分AI应用对安全团队而言是不可见的

字号+作者:益华科技来源:域名2025-11-05 16:00:53我要评论(0)

大多数企业内部的AI活动都在IT和安全团队不知情的情况下进行。根据Lanai的数据,企业中高达89%的AI使用是“隐形”的,带来了数据隐私、合规与治理方面的风险。随着AI功能直接嵌入各类业务工具,这一

大多数企业内部的企业AI活动都在IT和安全团队不知情的情况下进行。根据Lanai的大部数据,企业中高达89%的应用对AI使用是“隐形”的,带来了数据隐私、安全合规与治理方面的团队风险。

随着AI功能直接嵌入各类业务工具,企业这一“盲区”正在扩大。大部员工常将个人AI账户连接到工作设备,应用对或使用未经批准的安全服务,使安全团队难以监控。团队Lanai指出,企业这种缺乏可见性的大部状况让企业面临数据泄露和监管违规的威胁。

隐形的应用对AI使用场景

在医疗行业,员工使用AI工具总结患者数据,安全引发了 HIPAA(美国健康保险可携性与责任法案)相关隐私担忧。团队金融领域的团队在准备IPO时,不知不觉将敏感信息转入个人ChatGPT账户。保险公司利用嵌入式AI功能按人口统计数据细分客户,可能违反反歧视规定。

Lanai的CEO Lexi Reese提到,一个令人意外的源码库发现来自那些已经获得IT批准的工具:

“最让我吃惊的是,很多创新隐藏在已获批准的应用(包括SaaS和自建应用)内部。比如,一个销售团队将邮政编码的人口统计数据上传到Salesforce Einstein,用以提升追加销售转化率,虽然带来了营收增长,却违反了州级保险定价的反歧视规则。

表面上看,Salesforce是获批平台,但实际嵌入的AI功能带来了CISO从未察觉的合规风险。”

Lanai表示,这只是更广泛趋势的缩影。AI经常内嵌在Salesforce、Microsoft Office、Google Workspace等常用工具中。由于这些功能是员工日常使用的一部分,它们可以绕过传统的 DLP(数据泄露防护)和网络监控措施。

Lanai平台的运作方式

为应对这一问题,免费信息发布网Lanai推出了一款基于终端的AI可观测智能体,该平台直接在员工设备上安装轻量级检测软件,在“边缘”实时捕捉AI活动,而无需将数据回传至中央服务器。

Reese解释,这种架构需要解决复杂的工程难题:

“在终端运行AI模型改变了游戏规则。简单的办法是维护一个静态列表,然后分析浏览器的访问或把每次对话传到云端,但这两种方式要么更新滞后,要么产生新的数据外泄风险。

我们将提示检测模型直接部署在笔记本和浏览器中,数据流量不离开设备边界。难点在于:既要压缩检测模型以确保性能不受影响,又要足够智能以识别提示交互,而不仅仅是识别应用名称。

一旦识别出AI交互,我们的SaaS平台会通过风险与工作流智能模型,对提示模式进行聚类分析,而非简单扫描关键字。这既保护隐私,又减少延迟,让我们可以在数千个终端上扩展,而不会拖慢系统。”

Lanai表示,借助标准的WordPress模板移动设备管理(MDM)系统,该软件可在 24 小时内完成部署。安装后,企业即可了解自身的AI使用足迹,并制定管理策略。

治理优先,而非一刀切封禁

Lanai强调,其目标不是彻底阻止AI,而是为 CISO 等领导层提供决策所需的可见性。企业可以据此评估风险,决定哪些工具可以批准或限制。

Reese 指出,对于受严格监管的行业,如医疗,仅靠应用层面的监控远远不够:

“获批的平台不代表获批的工作流。我们关注的是提示与数据模式,而不仅仅是应用。

例如,在一家大型医院网络中,临床医生使用其网页端 EHR(电子病历)系统中嵌入的AI总结功能自动生成患者就诊摘要。表面看,这属于经过批准的 EHR 平台,但该流程将受保护的健康信息(PHI)输入了不在 HIPAA 商业合作协议范围内的AI模型。

Lanai能够识别这种差异,不是因为简单标记‘EHR 使用’,而是通过识别特定的提示+数据模式,发现敏感患者记录进入了不安全的AI流程。

我们会检测提示中涉及的数据类型、调用的AI功能,以及流程是否符合企业或监管方定义的敏感场景,从而在同一个 SaaS 工具内部实时区分合规创新与高风险滥用,而这是传统监控无法做到的。”

量化成效

Lanai表示,采用其平台的组织在减少AI相关事件方面取得了显著成效:

“在那家医疗体系中,‘数据暴露事件’主要是指临床医生将患者记录、实验室结果或受保护的健康信息粘贴到 EHR 或生产力应用中的AI功能里。

部署Lanai 60天内,客户相关事件减少了高达 80%。并非员工停止使用AI,而是因为企业终于获得了可见性,能够及时标记并引导不安全的流程,”Reese 说。

在金融服务领域也出现了类似趋势:部分机构在一个季度内,将未经批准的AI在敏感财务数据分析中的使用减少了约 70%。有时这是因为未经批准的应用被停用,另一些情况下,企业则通过将AI使用场景纳入获批技术堆栈的安全环境中,既保留了生产力优势,又消除了风险。

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 如何恢复不小心格式化的U盘数据(掌握恢复技巧,救回重要数据)

    如何恢复不小心格式化的U盘数据(掌握恢复技巧,救回重要数据)

    2025-11-05 15:52

  • 解决新电脑宽带错误651的常见问题(错误651解决方案及关键提示)

    解决新电脑宽带错误651的常见问题(错误651解决方案及关键提示)

    2025-11-05 15:10

  • 电脑音响支架安装教程(轻松安装,享受高品质音乐体验)

    电脑音响支架安装教程(轻松安装,享受高品质音乐体验)

    2025-11-05 14:36

  • 电脑端口错误代码52的解决方法(详解电脑端口错误代码52及其修复措施)

    电脑端口错误代码52的解决方法(详解电脑端口错误代码52及其修复措施)

    2025-11-05 13:35

网友点评
精彩导读
Ramlog 以系统守护进程的形式运行。在系统启动时它创建虚拟磁盘(ramdisk),将 /var/log 下的文件复制到虚拟磁盘中,同时把虚拟磁盘挂载为/var/log。然后所有的日志就会更新到虚拟磁盘上。而当 ramlog 重启或停止时,需要记录到硬盘上的日志就会保留在目录/var/log.hdd中。而关机的时候,(ramdisk上的)日志文件会重新保存到硬盘上,以确保日志一致性。Ramlog 2.x默认使用tmpfs文件系统,同时也可以支持ramfs和内核ramdisk。使用rsync(译注:Linux数据镜像备份工具)这个工具来同步日志。注意:假如突然断电或者内核崩溃(kernel panic)时,没有保存进硬盘的日志将会丢失。假如你拥有够多的可用内存,而又想把日志放进虚拟磁盘,就安装ramlog吧。它是笔记本用户、带有UPS的系统或是直接在flash中运行的系统的优良选择,可以节省日志的写入时间。Ramlog的运行机制以及步骤如下:        Ramlog 由第一个守护进程(这取决于你所安装过的其它守护进程)启动。        然后创建目录/var/log.hdd并将其硬链至/var/log。        假如使用的是tmpfs(默认)或者ramfs 文件系统,将其挂载到/var/log上。        而假如使用的是内核ramdisk,ramdisk会在/dev/ram9中创建,并将其挂载至/var/log。默认情况下ramlog会占用所有ramdisk的内存,其大小由内核参数ramdisk_size指定。        接着其它的守护进程被启动,并在ramdisk中更新日志。Logrotate(译注:Linux日志轮替工具)和 ramdisk 配合的也很好。        重启(默认一天一次)ramlog时,目录/var/log.hdd将借助rsync与/var/log保持同步。日志自动保存的频率可以通过cron(译注:Linux例行性工作调度)来控制。默认情况下,ramlog 的调度任务放置在目录/etc/cron.daily下。        系统关机时,ramlog在最后一个守护进程关闭之前关闭。        在ramlog关闭期间,/var/log.hdd中的文件将被同步至/var/log,接着/var/log和/var/log.hdd都被卸载,然后删除空目录/var/log.hdd。在Ubuntu中安装Ramlog首先需要用以下命令,从这里下载.deb安装包: wget http://www.tremende.com/ramlog/download/ramlog_2.0.0_all.deb下载ramlog_2.0.0_all.deb安装包完毕,使用以下命令进行安装:复制代码代码如下:sudo dpkg -P ramlog注意:假如ramlog卸载之前仍在运行,需要重启系统完成整个卸载工作。

Ramlog 以系统守护进程的形式运行。在系统启动时它创建虚拟磁盘(ramdisk),将 /var/log 下的文件复制到虚拟磁盘中,同时把虚拟磁盘挂载为/var/log。然后所有的日志就会更新到虚拟磁盘上。而当 ramlog 重启或停止时,需要记录到硬盘上的日志就会保留在目录/var/log.hdd中。而关机的时候,(ramdisk上的)日志文件会重新保存到硬盘上,以确保日志一致性。Ramlog 2.x默认使用tmpfs文件系统,同时也可以支持ramfs和内核ramdisk。使用rsync(译注:Linux数据镜像备份工具)这个工具来同步日志。注意:假如突然断电或者内核崩溃(kernel panic)时,没有保存进硬盘的日志将会丢失。假如你拥有够多的可用内存,而又想把日志放进虚拟磁盘,就安装ramlog吧。它是笔记本用户、带有UPS的系统或是直接在flash中运行的系统的优良选择,可以节省日志的写入时间。Ramlog的运行机制以及步骤如下:     Ramlog 由第一个守护进程(这取决于你所安装过的其它守护进程)启动。     然后创建目录/var/log.hdd并将其硬链至/var/log。     假如使用的是tmpfs(默认)或者ramfs 文件系统,将其挂载到/var/log上。     而假如使用的是内核ramdisk,ramdisk会在/dev/ram9中创建,并将其挂载至/var/log。默认情况下ramlog会占用所有ramdisk的内存,其大小由内核参数ramdisk_size指定。     接着其它的守护进程被启动,并在ramdisk中更新日志。Logrotate(译注:Linux日志轮替工具)和 ramdisk 配合的也很好。     重启(默认一天一次)ramlog时,目录/var/log.hdd将借助rsync与/var/log保持同步。日志自动保存的频率可以通过cron(译注:Linux例行性工作调度)来控制。默认情况下,ramlog 的调度任务放置在目录/etc/cron.daily下。     系统关机时,ramlog在最后一个守护进程关闭之前关闭。     在ramlog关闭期间,/var/log.hdd中的文件将被同步至/var/log,接着/var/log和/var/log.hdd都被卸载,然后删除空目录/var/log.hdd。在Ubuntu中安装Ramlog首先需要用以下命令,从这里下载.deb安装包: wget http://www.tremende.com/ramlog/download/ramlog_2.0.0_all.deb下载ramlog_2.0.0_all.deb安装包完毕,使用以下命令进行安装:复制代码代码如下:sudo dpkg -P ramlog注意:假如ramlog卸载之前仍在运行,需要重启系统完成整个卸载工作。