周鸿祎在中国互联网大会警示: 大模型降低攻击门槛，人人皆可 「注入攻击」

核心风险一: 大模型的 「幻觉」 与胡言乱语

周鸿祎强调，大模型固有的 「幻觉」 问题是其最大的风险之一。他解释说，当大模型遇到不理解的事物时，会一本正经地编造信息。虽然这在娱乐场景中尚可一笑置之，但当大模型及其衍生的智能体开始深入工业生产、制造以及政府办公等关键领域时，这种 「出错」 将可能导致严重后果。他特别指出，一旦智能体具备了操纵各种工具的能力，其错误判断的危害和影响将成倍放大。

核心风险二: 大模型降低攻击门槛，人人皆可 「注入攻击」

周鸿祎提出的第二个风险是，大模型极大地降低了网络攻击的门槛。他指出，大模型使得非编程专业人员也能通过简单的自然语言交互来编写程序，这同时也意味着攻击大模型的门槛也随之降低。通过精心构造的指令，攻击者可以诱导大模型泄露企业机密文件，这种现象被称为 「注入攻击」。周鸿祎形象地表示，未来甚至一个不具备编程知识的前台员工，都可能因为不满而对公司的大模型和智能体发动攻击。

核心风险三: 国家级高级威胁攻击的智能化升级

从更宏观的未来视角来看，周鸿祎指出，大模型将使国家级高级威胁攻击变得更加普遍和复杂。过去，针对我国的网络黑客数量相对较少，但现在，黑客正尝试将自身的能力和经验嵌入大模型，把自己打造成 「黑客智能体」。在拥有足够算力支持的情况下，一个黑客可以同时操纵数十甚至数百个智能体，这将彻底颠覆传统的网络攻防格局，使网络安全从 「人与人」 的对抗，转变为 「人与算法、人与机器、人与算力」 的对抗，因为机器人数字黑客只需要算力，不需要休息。

360 的应对策略:「以算法对抗算法」

面对这些严峻挑战，周鸿祎表示，360 已着手采取两项关键措施来应对:

首先，360 正在积极打造智能体安全专家。这些专家能够帮助企业在面对攻击时，实现实时检测和实时防御，从而真正做到 「以算法对抗算法」。

其次，针对大模型的安全性和易受攻击性，360 开发了专门的**「大模型卫士」**。这是一款专业的大模型和智能体，其主要功能是监控发送给大模型的指令，并评估大模型输出内容的合理性和准确性。此外，结合强大的搜索能力和企业知识库，该卫士还能最大限度地降低大模型的 「幻觉」 问题。