破解大模型安全难题，360推出大模型安全能力框架

在数字化进程中，大型语言模型作为新型生产力的象征，已成为新一波工业革命的关键驱动力。然而，随之而来的安全问题也日益显现，迫切需要创新的安全策略、系统化的安全框架和解决方案来支持。360数字安全集团在3月20日的发布会上推出了大语言模型安全防护方案，展示了他们在该领域的实践成果和安全框架。

首先，针对大模型安全的新挑战，360提出了四大安全原则：可靠、可信、向善和可控，以全面保障大模型的安全性。他们设计了一套核心战略，包括建立网络与数据安全与模型自身的双轮驱动体系，强调内容安全，并通过小模型技术保护大模型安全。此外，360还构建了大模型安全实战评估体系和持续治理体系。

其次，360推出的大模型安全能力体系框架（AISF）分为传统安全能力和大模型原生安全能力两部分。他们的“双轮驱动”解决方案结合了360安全云的全面防护和大模型原生安全能力增强包，以解决内容可信、合规和模型控制的问题，并通过专门的安全评估系统进行实战检验。

360已将这些解决方案应用于金融、政务、税务、医疗等多个行业，以其实战效果验证了大模型安全防护的有效性。通过这种方式，360正在引领大模型安全实践，帮助企业顺利进行数字化转型和智能化改革。

本文来源： 智东西【阅读原文】