Harness 与 Agent 工程 · 权限、身份与隔离 · 2025-11-30

大模型在网址安全中的一些落地与思考

大模型技术如何革新网址安全防护?从规则到AI的进化之路,揭秘腾讯工程师的实战思考。

核心内容:

  1. 当前网络诈骗的严峻形势与恶意网址防护的迫切需求
  2. 网址安全技术从规则驱动到AI驱动的四阶段发展历程
  3. 大模型在网址安全中的优势与落地应用挑战

导读 当前网络诈骗形势持续严峻,据监管数据显示,2021 至 2023 年间,仅官方处置的恶意网址数量已达数百万级,且诈骗手段不断迭代;从仿冒公检法、网络投资诈骗,到电商钓鱼、社交平台诱导转账等,身边不乏同事、亲戚因点击恶意链接遭受财产损失的案例。在此背景下,网址安全防护技术历经多轮迭代:早期依赖专家经验制定规则,覆盖范围有限;后发展至机器学习阶段,通过模型自动化识别恶意特征,但仍需大量标注数据支撑;如今随着大模型技术突破,其强大的语义理解与上下文分析能力,为网址安全带来新的解法。

*将会围绕以下四点展开介绍:*

  1. 背景介绍

  2. 发展历程

  3. 大模型时代的思考

  4. 大模型后续的思考

分享嘉宾|牛亚峰 腾讯 高级工程师

编辑整理|成亮

内容校对|郭慧敏

出品社区|DataFun


01

背景介绍

近年来,网络安全领域的恶意网址威胁呈高发态势。据工信部及各省监管机构公开数据显示,2021 至 2023 年间,全国累计处置的恶意网址数量已达数百万甚至上千万级别,涵盖钓鱼网站、诈骗链接、恶意下载站点等多种类型,且黑灰产借助技术迭代不断翻新伪装手段,因背后存在高额非法收益,相关威胁始终难以彻底根除。

这一问题已切实影响到普通用户的财产安全,在此背景下,如何在用户访问网址的关键环节实时提供精准安全提示,构建高效的网址安全防护体系,成为保障用户上网安全、遏制网络诈骗的重要需求,开展相关技术探索与落地工作具备极强的现实必要性。

02

发展历程

早期,网址安全依赖专家经验和规则策略,如同军队发展初期的轻步兵,仅靠人工经验判断,效率低且覆盖有限。随后进入 “摩托化” 阶段,借助数理统计和机器学习技术,检测能力有了初步提升,类似军队实现摩托化后机动性和防御性都在增强。接着迈入 “机械化” 阶段,自然语言处理、计算机视觉、多模态模型和图神经网络等技术的应用,让检测更具系统性,如同军队机械化带来的火力与防护升级。如今,网址安全正朝着 “信息化 + 智能化” 方向发展,大语言模型驱动的体系化建设成为核心,就像军队信息化、智能化转型后,实现了全域感知与精准协同,全方位提升了网址安全的检测精度、响应速度与防护广度,为用户构建起更可靠的上网安全屏障。

03

大模型时代的思考

在网址安全领域,大模型展现出显著优势:它擅长多源异构数据挖掘,能精准捕捉复杂风险模式;具备少样本甚至零样本学习能力,可快速适配新型网络风险;还拥有强大的智能交互能力,能实现智能问答辅助与自动报告生成。然而,大模型也存在明显不足:技术门槛高、资源投入大,且存在幻觉问题,输出结果不可控。

从本质上看,大模型是内容模型的延伸,虽对赌博、色情等标准化恶意类型学习能力很…

— 以上为试看内容(约 40%),开通会员后阅读全文 —

原文出处:https://www.53ai.com/news/LargeLanguageModel/2025113016247.html