AI 应用趋势：爆发式增长与风险并存
2024 年，全球企业的 AI/ML 工具使用量呈指数级增长。Zscaler 云平台数据显示，2024 年 2 月至 12 月期间，AI/ML 交易总量达 5365 亿次，同比激增 3464.6%，涉及 800 多个应用程序。
其中，ChatGPT 以 45.2% 的交易占比稳居首位，成为企业最常用的 AI 工具。紧随其后的是 Grammarly（24.8%）、Microsoft Copilot（12.5%）等 productivity 和写作辅助工具。
从行业来看，金融与保险（28.4%）、制造业（21.6%）和服务业（18.5%）是 AI 应用的前三甲。金融行业借助 AI 进行实时交易分析和欺诈检测，制造业则通过 AI 优化供应链和预测设备故障。值得注意的是，尽管 AI 带来了效率提升，但企业对安全风险的警惕性很高 ——59.9% 的 AI/ML 交互被主动拦截，ChatGPT、Grammarly 等热门工具同时也是被拦截最多的应用，反映出企业在拥抱 AI 与数据安全之间的谨慎平衡。
在数据传输方面，企业向 AI 工具传输的数据量惊人，达 3624 TB。其中，ChatGPT 以 1481 TB 的数据传输量位居榜首，显示出企业对其依赖程度之深。然而，数据泄露风险不容忽视：ChatGPT 的 DLP（数据防泄漏）违规次数高达 291 万次，涉及社保号码、医疗数据等敏感信息，凸显了 AI 工具在数据安全管理上的挑战。
AI 驱动的网络威胁：从社会工程到自主攻击
AI 技术的普及不仅提升了企业效率，也为网络犯罪提供了新工具。2024 年，生成式 AI 成为网络罪犯的 “社交工程利器”：深度伪造（Deepfake）技术可通过一张照片生成逼真视频，语音克隆技术仅凭几秒录音就能模拟他人声音，导致钓鱼邮件和语音诈骗（Vishing）的成功率大幅提升。例如，威胁者利用 DeepSeek 等开源 AI 模型，仅需几个提示即可生成高度仿真的钓鱼页面，甚至通过客户端伪装技术躲避安全检测。
更令人担忧的是 “自主 AI 代理”（Agentic AI）的崛起。这类无需人类干预的 AI 系统能自主执行复杂任务，如分析社交媒体数据、生成定制化钓鱼信息，甚至自动扫描网络漏洞。威胁者可利用其自动化攻击链，从漏洞发现到数据窃取全程无人化操作，使攻击更隐蔽、更难以防范。
行业与地域洞察：应用差异与安全挑战
不同行业的 AI 应用呈现显著差异。金融行业尽管 AI 交易量领先，但仅占 ChatGPT 使用量的 11.4%，严格的合规要求限制了生成式 AI 的应用；制造业则以 29.1% 的 ChatGPT 交易占比位居第一，凸显其在技术文档和流程自动化中的深度应用。医疗行业 AI 使用率较低（9.6%），但数据隐私和误诊风险仍是主要障碍。
从地域来看，美国（46.2%）和印度（8.7%）是 AI 交易的主要贡献者（缺少中国数据）。美国凭借灵活的监管环境推动 AI 创新，而印度则通过国家 AI 战略加速布局。欧洲市场中，英国、德国和法国主导 AI 交易，但严格的 GDPR 法规增加了合规成本。亚太地区，印度、日本和澳大利亚成为增长引擎，但日本因文化和监管因素，AI 日常使用率较低。
开源 AI 与新兴风险：DeepSeek 的双重挑战
以 DeepSeek 为代表的开源 AI 模型正在改变行业格局。作为中国版 “ChatGPT”，其开源特性和低成本（API 费用仅为 OpenAI 的 3.7%）降低了 AI 使用门槛，但缺乏安全防护机制的问题显著。测试显示，DeepSeek 在越狱攻击中失败率超 50%，可被轻易用于生成恶意代码、钓鱼内容，甚至泄露企业敏感数据。
未来威胁预测与应对策略
报告预测，2025-2026 年 AI 威胁将呈现六大趋势：AI 社交工程攻击升级、自主 AI 代理滥用、伪造 AI 平台诈骗、开源模型被武器化、深度伪造引发大规模欺诈，以及 GenAI 安全成为企业核心需求。
为应对这些挑战，报告提出 “零信任 + AI” 的安全框架，建议企业采取以下措施：
- 严格准入控制
默认拦截所有 AI 工具，逐步引入经过安全审核的应用（如自建 ChatGPT 私有实例）。
- 数据防泄漏（DLP）
通过 AI 驱动的内容检测，阻止敏感信息上传至第三方 AI 模型。
- 零信任架构
利用 SSO/MFA、动态权限管理和流量加密，确保 AI 访问安全。
- 合规与治理
遵循欧盟《AI 法案》等法规，建立 AI 使用透明化和责任机制。
- 对抗性防御
采用 AI 驱动的威胁检测，实时拦截钓鱼、恶意软件和零日漏洞攻击。
结语：平衡创新与安全
AI 正在重塑企业运营模式，但安全风险不容忽视。Zscaler 的报告指出，企业需以 “零信任” 为基石，结合 AI 驱动的防御体系，在拥抱创新的同时筑牢安全防线。正如报告强调：“AI 不仅是攻击工具，更是防御的核心力量。” 唯有主动应对，才能在 AI 时代实现安全与发展的双赢。
完整报告下载：https://www.zscaler.com/resources/industry-reports/threatlabz-ai-security-report-2025.pdf